Desempenho
A comparação de desempenho das arquitetura citadas, normalmente é 
feita com o um teste da aplicação LINPACK, esta é constituída por 
um conjunto de rotinas na linguagem Fortran que analisam e resolvem 
equações lineares, que são amplamente utilizadas na resolução de 
problemas computacionais reais. O teste é simples, fácil de usar, 
e é um bom indicador da capacidade de um sistema de resolver problemas 
de computação numérica.
    
Relação custo x benefício
Como a principal motivação do uso de máquinas paralelas é a 
obtenção de desempenho, uma comparação dos modelos baseada na 
relação entre seu custo e o beneficio resultante acaba se 
transformando em uma relação entre o custo e o desempenho obtido.
Mesmo com as dificuldades de se comparar o desempenho entre os modelos, 
no caso da relação custo/desempenho, é muito clara a vantagem dos 
agregados (COW) em relação aos outros modelos. A combinação de 
baixo custo de aquisição e manutenção desses sistemas, por causa da 
utilização de componentes de prateleira, aliado as opções de redes de 
baixa latência, o que aproxima o desempenho a níveis de MPPs, vem 
aumentando o interesse por essas máquinas nos últimos anos.
    
Escalabilidade
A utilização de barramentos para a interligação de processadores e a 
implementação de uma memória centralizada, como é normalmente o 
caso em PVPs e SMPs, tende a comprometer a escalabilidade desses 
sistemas. Entretanto, os MPPs, COWs e DSMs, por utilizarem na 
maioria dos casos, redes estáticas com topologias regulares como 
anéis e malhas, e implementarem a memória do sistema de forma 
distribuída, são modelos que resultam normalmente na construção de 
máquinas com boa escalabilidade.
    
Imagem única
O conceito de imagem única (SSI - Single System Image) refere-se a 
forma como o usuário percebe a máquina paralela como um todo. Os 
modelos baseados em multiprocessadores como os SMPs e PVPs estão 
mais próximos dessa visão única, enquanto os modelos baseados em 
multicomputadores estão mais distantes.
 
Espero ter contribuído para elucidar duvidas sobre o assunto!
Dúvidas, críticas e sugestões.
Moises Omena - projetocluster@yahoo.com.br
http://www.geocities.com/projetocluster
   
OBS: Todo conteúdo deste, teve como base principal de referencia o livro:
Arquiteturas Paralelas - César A. F. Rose, Philippe O. A. Navaux 
(recomendo fortemente sua leitura aos que se interessam pelo assunto)
Referências também foram retiradas do artigo de Thais Aline Cerioni 
e a visão da IBM sobre supercomputação, disponível em: