Eu acho que você está falando do Compiz Fusion não é ????
O primeiro passo é ter a sua placa 3D instalada corretamente, as 2 que tem melhor suporte no linux são: Nvidia e ATI. Aqui no VOL tem um monte de artigos falando à respeito de como configurar sua placa no linux.
Segue uma dica relativamente nova (de 2008). Leia antes os questionamentos logo abaixo, parece que o pessoal não teve muita sorte ou não soube fazer direito. Vale lembrar também, que talvez o seu repositório seja mais novo.