oi julia tudo bém? esse problema ocorre no debian, porque o gmplayer (que é o mplayer em modo gráfico) não está com o video_out selecionado pra alguma opção padrão de saida de video. pra resolver esse problema em definitivo, você segue os seguintes passos:
1- fecha a janela onde aparece o erro -> Error opening/initializing the selected video_out (-vo) device."
2- clica com o botão direito na janela grande do mplayer e escolhe a opção: "Preferences" (vai abrir uma janela com varias abas).
3- Escolha a aba que tem escrito: "Video"
4- Em "Available drivers" marque: x11 X11(XImage/Shm)
5- Em seguida clique na aba "Audio" e marque a seguinte opção em Available Drivers: alsa ALSA-0.9.x-1.x audio output
6- Depois clique em ok e feche o gmaplyer e em seguida tente ver seu video denovo.
OBS: a opção de ir na aba Audio é necessária pra que o mplayer use o dispositivo de saida de som correto.
Tenho certeza que vai funcionar certinho. qualquer coisa, posta aqui. =)