Bom, eu estava com um problema no Ubuntu 11.04 que estava me deixando perplexo. Todas as vezes que eu abria um filme em formato RMVB, por exemplo, o sistema fazia logout (ou logoff). Isso acontecia com vários players, entre eles o VLC e o SMplayer. Felizmente consegui sanar este problema. É bem simples, e pelo que pude constatar através de pesquisas, é um problema bastante comum. Para resolver, basta fazer o seguinte:

No VLC, vá em:

Inglês:
Tools --> Preferences --> Video --> e desmarque o checkbox: Accelerated Video Output

Português:
Ferramentas --> Preferências --> Vídeo --> e desmarque o checkbox: Saída de Vídeo com Aceleração (Sobreposição)

depois salve.

No SMplayer, vá em:

Inglês:
Options --> Preferences--> Video --> Output Driver --> selecione: x11(slow)

Português:
Opções --> Preferências --> Vídeo --> Output Driver --> selecione: x11(slow)

e dê OK.

É isso.