Касаемо линуха, вы можете попробовать проверить работоспособность сравнительно нового порта Avisynth (Avxsynth) под Linux (был ещё некий Avisynth 3.0, но говорят так себе) — как он будет себя вести с MVTools 1/2.
Ещё я встретил такую штуку как GstAVSynth для враппер связки с GStreamer, но не знаю насколько работоспособно.
Вот пример народ как-то выводит вывод Avxsynth через MPlayer http://www.youtube.com/watch?v=DdaQeMcE0UM
А разработчикам совет:
Не стоит завязываться на на чисто инфраструктуре VLC, ибо это явный vendor lock-in, в линуксе и без того плохо с мультимедией из-за этой тройки говна в виде VLC, MPlayer и Xine, где каждый тянет одеяло на себя, в лице своих несовместимых плагинов и игнорирования GStream.
Стоит ориентироваться под GStreamer если через чисто Avxsynth не получится, это нечто похожее на DirectShow, причём он работает даже в виндах (ну его можно использовать в своих программах в среде Windows). К сожалению почему-то он так пока и не стал стандартом в мире линукса, хотя имеет за собой поддержку крупных корпораций и работать с ним вроде как проще чем с DirectShow.