Wie bindest du bisher dein Video ein?
Ich denke, mit window.open öffnet man zwar ein Fenster, der Inhalt ist doch aber eine weitere HTML-Datei. In dieser kann man mit <embed src="name.avi"> das Video einbinden.
Welche Parameter man window.open mitgeben kann, kannst du hier nachlesen:
http://www.mediaevent.de/javascript/test-open-window.html