As duas palavras estão corretas.
A primeira tem registo no Dicionário Aulete, nas seguinte aceções:
«s. f. || qualidade, estado de primitivo: A mesma primitividade, avara de costumes. ( Fialho , Gatos , IV, p. 255.) O rei conhece-os, sabe-lhes os méritos guerreiros e a rude primitividade quase bárbara. (Augusto Casimiro, Lisboa Mourisca, p. 81.) F. Primitivo.»
A segunda, primitivabilidade, é termo especializado das ciências matemáticas que deriva de um termo da mesma área, primitivável, por sua vez formado por sufixação com base em primitiva, «função cuja derivada reproduz a função original; antiderivada» (Infopédia).
No entanto, não se encontrou indicação de que primitividade e primitivabilidade funcionem como sinónimos no campo da matemática.