Eu não uso Amsn, mas tem muitas perguntas idênticas à sua por vários fóruns sobre Linux.
No geral, a resposta recorrente é:
A Microsoft altera com frequência o protocolo utilizado pelas chamadas de áudio/vídeo. Com esta alteração, mais o fato de que o Msn é um programa proprietário, fica difícil criar/modificar/atualizar uma versão Livre que utilize este protocolo.
Uma solução seria o IMO:
https://imo.im/
Tem uma dica sobre ele, aqui:
http://www.vivaolinux.com.br/dica/IMO-Messenger-com-suporte-a-webcam-no-Linux
Eu não utilizei ele, mas não custa tentar.
Boa sorte!