Vejamos o que dizem os dicionários e os vocabulários mais recentes:
Dicionário da Língua Portuguesa e Grande Dicionário da Língua Portuguesa, ambos da Porto Editora: compacidade;
Dicionário online da Priberam: compacidade (à pesquisa por compacticidade remete para o vocabulário FLIP);
Dicionário Houaiss: compacidade, registado desde 1851. Considera a palavra como derivado irregular de compact-, sob o modelo francês opacité — opacidade); por sua vez no antepositivo compact-, indica compacité e também compacticidade;
Vocabulário da Porto Editora: regista as três possibilidades: compacidade, compactidade e compacticidade;
Vocabulário do ILTEC (Instituto de Linguística Teórica e Computacional): compacidade e compactidade;
VOLP da Academia Brasileira de Letras: compacidade e compacticidade.
Poderemos verificar que, segundo os documentos consultados, a única palavra que é consensual é compacidade. Além disso, esta é também, de longe, a forma mais utilizada em páginas em linha, quer em pesquisa Web, quer em língua portuguesa, quer em Portugal. Indico os resultados da pesquisa em língua portuguesa, feita a 17-7-2010: compacidade 4140: compacticidade 266; compactidade 44.
O termo compactidade registado no Vocabulário da Língua Portuguesa de Rebelo Gonçalves seria a forma adequada de formação da palavra: compact(o) — compactidade, como opac(o) — opacidade, ou seja: radical da palavra + vogal de ligação + sufixo -dade. Parece que o uso não consagra essa forma como preferencial, elegendo compacidade.