Ambos os adjectivos estão bem formados e dicionarizados. Ambos significam "relativo ou pertencente aos dentes". Dental vem de dente + sufixo -al; dentário do latim "dentarîu-" (com significado idêntico).
O primeiro registo conhecido de dental, segundo o estudioso brasileiro Antônio Geraldo da Cunha (Dicionário Etimológico), ocorreu na 5.ª edição do Dicionário de Morais (1844), que também registou pela primeira vez dentista e dentadura. Dentário entrou na edição seguinte, em 1858. Dentudo remonta ao século XIV e desdentado ao século XVI.
Recordo que dental, como substantivo, é dente de arado. E, como adjectivo, em linguística, qualifica as consoantes que se articulam com o apoio da língua nos dentes incisivos superiores.