A coexistência de duas grafias é explicada por duas regras ortográficas distintas (Base XV: Do hífen em compostos, locuções e encadeamentos vocabulares):

1.ª Não se usa hífen nas palavras compostas que contêm um elemento de ligação: fim de semana, mão de obra, caminho de ferro, lua de mel, etc.

Assim, a palavra composta barriga de freira (nome de doce) é regida por esta primeira regra.

2.ª Usa-se hífen nas palavras compostas que designam espécies na área da botânica e da zoologia, ligadas ou não por preposição: couve-flor, abóbora-menina, brincos-de-princesa, estrela-do-mar, etc.

Assim, a palavra composta barriga-de-freira (nome de planta) é regida por esta segunda regra.