Tendo em conta que nem “prototipicidade” nem “prototipicalidade” existem em português, e na necessidade de traduzir o conceito de prototypicality, eu escolheria o primeiro desses dois neologismos: “prototipicidade”.
A lógica é a seguinte: a base, tanto no inglês como em português, é o substantivo protótipo (prototype). O adjectivo dele derivado é prototípico (prototypical), que está atestado em português. Portanto, quando pretendemos referir-nos à qualidade daquilo que é relativo ao protótipo, ou seja, daquilo que é prototípico, devemos associar-lhe o sufixo nominal -(i)dade (presente noutros nomes derivados de adjectivos, como interioridade, objectividade, luminosidade, etc.). Assim, da junção entre prototípic(o) + -(i)dade resulta prototipicidade.
A outra possibilidade, “prototipicalidade”, parece-me menos válida, porque, sendo uma adaptação mais literal do inglês prototypicality, não se revela tão bem formada: se não existe em português o adjectivo “prototipical”, não creio ser legítimo formar, a partir dele, o nome terminado em -(i)dade.