Pues creo que vamos por el buen camino; al menos sabemos que el hardware está bien, porque el video emitido ( la pantalla del bluray) lo ves en el ordenador. Así que probablemente el error está en el programa ( el AVS Video Editor).
Lo primero habría que intentar ver - e incluso oír! - en el ordenador lo emitido por el bluray. ¿Has probado con el Windows Media Player? Es el reproductor que viene en las distribuciones de Windows.
Un reproductor muy recomendable, y ligerito, es el Media Player Classic, que lo puedes descargar
aquí. Con éste deberías ver lo que se está capturando del bluray.
El próximo paso será grabar lo que se está capturando. Para menesteres de grabación, codificación, etc.. yo uso el
VLC, una especie de navaja suiza de edición de video, pero es quizás un pelín geek.
Pero prueba primero a ver si consigues ver lo del bluray en el ordenador con los programas que te digo y luego continuamos.