Bom thiago a primeira coisa se o driver do sistema Drivers do hardware, não funcionou é instalar a ultima versão deste...
Há para isso 2 métodos. Pelo envy
Aplicações -> Acessórios -> Terminal
sudo apt-get install envyng-core
sudo envyng -t
siga os passos que ele instalará os pacotes e fará as configurações automáticas
O de modo manual.
siga o tutorial abaixo para isso:
http://wiki.cchtml.com/index.php/Ubuntu_Jaunty_Installation_Guide#Installing_the_drivers_manually
Depois de instalado e estando corretamente em funcionamento para ativar o compiz, basta ir:
Sistema -> Preferências -> Aparências -> Aba efeitos -> escolher entre normal ou extra.
Isso ativará uma lista pré definida de efeitos, como cubo efeitos de janelas..
se quiser editar os efeitos do compiz vc deve instalar o programa de configuração dele.
Sobre o dock há várias opções no linux, as mais completas estão no link abaixo:
Cairo-dock
http://www.vivaolinux.com.br/artigo/CairoDock-Seu-desktop-Linux-com-cara-de-MAC/
ou o avant-window-navigator
sudo apt-get install avant-window-navigator