Avisynth для DosBox?

Можно, но через несколько этапов.

0. создание виртуального монитора, и открытие на нем окна с досбоксом.*
1. захват этого экрана через софт создающий виртуальные вебкамеры
2. открытие потока виртуального девайса в ависинт через плагин VideoInputSource
3. обработка в ависинте дропфиксом и шумодавами.
4. открытие avs файла видео-плеером на основном мониторе. (напр ffplay.exe -fflags nobuffer -i "input.avs")

В результате этих махинаций, получите всё, что хотите, но с задержкой 3 и более секунд + огромная нагрузка на CPU.
Если Вас, это устроить, могу подсказать как убрать расинхрон звука с видео.

*Нулевой этап можно заменить на подключение второго провода к монитору (напр. VGA) и переключение режимов на мониторе, тем самым немного снизить нагрузку с CPU по виртуализации.

Хз, manycam напр. но по мне так, они все неоправданно много жрут ресурсов

кстати можно обойтись и без VideoInputSource и ручного создания avs файла.
Сейчас что potplayer что  MPC-HC умеют открывать поток с вебки, и отправлять его на  ffdshow raw video filter

В счлучаее с potlayer, он еще умеет делать захват, причем в разных режимах: DGI, DirectDraw, DX8-11, OpenGL, DXGI
но вот если еще и в ffdshow raw video filter при этом делать, то проходит как-то через раз, а то и десять раз.
но зато такой способ самый 'простой' (если бы не "через раз") и менее прожорливый.

Экран с которого идет захват в VLC нужно сделать основным.

Кстати, а ведь неплохой способ, с учетом нулевого кеша, разницы не чувствуется, можно спокойно играть даже в гоночки.

Главное на мониторе с которого идёт захват, игрушки запускать в оконном режиме и выставлять соответствующее разрешение экрана, а заодно и сворачивающийся пуск, чтоб глаза не мозолил.
И еще плохо, что курсор мыши не пишет... но это мелочи в сравнении с таким полученным откликом!

ну тогда вообще красота (для тех у кого PRO версия ... )