Hallo,
Wenn ich ein MP4 Video auf meiner Website einbinde, dann können Firefox und Chrome das Video direkt abspielen. Der Internet Explorer 11 dagegen fragt nach, ob ich das Video öffnen, speichern oder abbrechen möchte. Wenn ich dann auf öffnen klicke, öffnet sich bei mir der VLC Player.

Kann man irgendwie verhindern, dass der IE 11 fragt, was mit dem Video gemacht werden soll, und es direkt im Browser abspielen (wie bei den anderen genannten Browsern)? Der Edge Browser kann das ja schließlich auch.

Hm vielleicht noch als Ergänzung: Das Video auf meiner Website ist nicht "embedded" sondern wird per URL aufgerufen und in einem neuen Tab geöffnet.

Das ist eine Einstellungssache des jeweiligen Browsers. Wenn du sichergehen möchtest, dass das Video im Browser abgespielt wird, nimm den video-Tag:
https://jsfiddle.net/zj2w9edt/1/
Der wird auch sehr gut unterstützt: Can I use...