É uma palavra que vem diretamente do latim principium, um adjetivo que se tornou substantivo.
Por sua vez, principium é palavra que, em latim, terá origem em princeps, «o primeiro, o chefe, o principal», vocábulo evoluiu para príncipe em português e que resulta do composto primocaps, formado por primus, «primeiro», e a raiz cap- do verbo também latino capere – ou seja, princeps é literalmente «o primeiro a tomar, a agarrar (alguma coisa)».
Fontes: Dicionário Houaiss e dicionário da Academia das Ciências de Lisboa.