A forma preferível é, no Brasil, quinta-essência, e, em Portugal, as obras consultadas contemplam apenas esta grafia.
Quinta-essência é, como termo da filosofia, «em Aristóteles (384 a. C.-322 a. C.), o elemento etéreo que compõe as esferas celestes, distinto em sua quase imaterialidade das quatro propriedades naturais (terra, água, fogo e ar) que constituem os corpos densos no mundo sublunar; éter»; por extensão de sentido, e em ocultismo, é «na alquimia renascentista, esp[ecialmente] em Paracelso (1493-1541), elemento de caráter puro, dominante e essencial, extraível das substâncias que compõem os seres vivos ou minerais, e buscado em função de seus poderes curativos e miraculosos». Ainda por extensão de sentido, significa «o essencial, o mais puro, o melhor ou o principal de alguma coisa» ou «o que há de mais refinado, de mais precioso».
De qualquer modo, o novo Acordo Ortográfico opta, naturalmente, por quinta-essência, como se pode ver no Portal da Língua Portuguesa.