As formas corretas são como você escreveu: alfa-tocoferol e beta-hidroxi-beta-metilbutirato. Esses nomes são próprios da área da química e, como tais, pertencem a um léxico especializado.

Não há, no Acordo Ortográfico (AO), regras específicas que justifiquem as hifenizações nessas palavras. Acontece que o AO não trata de todas as possibilidades comunicativas da língua, mas sim de uma espécie de “lugar-comum” da língua: o léxico comum. Há um conjunto de palavras que esperamos que todo falante da língua conheça, e faz parte, inclusive, da definição que damos para “proficiência” no português. Por exemplo, palavras como também, aqui, lá, quem parecem fazer parte desse terreno compartilhado na língua.
Contudo, por vezes, algumas convenções linguísticas são definidas internacionalmente, como acordo entre pesquisadores. No caso das nomenclaturas de compostos na Química, o principal documento norteador são as normas e convenções da IUPAC (sigla do inglês para União Internacional de Química Pura e Aplicada). Um dos compêndios de nomenclatura química pode ser encontrado no site da IUPAC¹.

Em uma apostila didática da Universidade Federal do Rio Grande do Norte², no Brasil, encontra-se a seguinte regra:

➢ d) Hifens são usados para separar: (i) conjuntos de indicadores de localização de palavras ou partes dos nomes (ou seja, números de letras); (ii) indicadores de localização adjacentes que se referem a partes diferentes dos nomes (geralmente inserindo parênteses); (iii) as duas partes de um sítio de fusão na nomenclatura de anéis fundidos; (iv) descritores estereoquímicos dos nomes; (v) partes de um nome complexo (para simplificação). (p. 4)

Nos nomes em apreço, alfa é um descritor estereoquímico; beta é um indicador de localização. Isso justifica o emprego dos hífenes, não pelo acordo ortográfico em si, mas sim por uma convenção técnico-científica internacional.

Referências:

¹     “IUPAC Compendium of Chemical Terminology,” IUPAC, [Online]. Available: https://old.iupac.org/publications/compendium/index.html.
²     F. d. E. S. Gomes, A. P. A. d. Santos, E. d. O. Lima Filho, L. d. S. Rodrigues e P. F. A. C. d. Queiroz, Nomenclatura Básica de Compostos Orgânicos pelas Regras da IUPAC, Natal, 2015.