Em ambas as frases ocorre um complemento de nome, pelas razões que passamos a explanar.
A classe do nome/substantivo integra nomes autónomos e nomes dependentes1. Os primeiros denotam entidades que se identificam autonomamente. Já os segundos, para denotarem uma realidade, têm necessidade de outras expressões que lhes completem o sentido. Este facto distingue os nomes destacados em (1) e (2):
(1) «O cão é ainda pequeno.» (cão, nome autónomo que não necessita de nenhuma outra expressão para denotar a realidade)
(2) «A participação da associação foi benéfica.» (participação, nome dependente que tem necessidade de um complemento para denotar a realidade)
É sabido que os complemento de nome podem ser omitidos, o que traz alguma vagueza ou genericidade ao nome (3), mas, nalguns casos, a sua omissão pode impedir a interpretação da entidade denotada (como pode acontecer em (2a), sem outro contexto que concretize a frase):
(3) «A participação é sempre benéfica.»
(2a) «??A participação foi benéfica.»
No caso do nome medo, consideramos que este é dependente, ou seja, denota uma situação através da relação com o seu complemento: “medo de alguém/de alguma coisa”.
Nas frases apresentadas pela consulente encontramos, de facto, estruturas distintas. Na primeira frase,
(4) «O medo do professor chamou a atenção de seus alunos.»
O sintagma nominal, “o medo do professor” corresponde à nominalização da frase «o professor tem medo»2. Na segunda frase,
(5) «A filha sentia medo do pai.»
a expressão «medo do pai» não corresponde a uma frase, como no caso anterior, mas sim a um sintagma nominal onde o nome medo está acompanhado pelo seu complemento nominal.
Todavia, em ambos os casos, estamos perante um nome, medo, acompanhado por um complemento de nome, «do professor» ou «do pai».
(?? - símbolo de frase de aceitação duvidosa)
1. Cf. Raposo et al.(orgs.), Gramática do Português. Lisboa: Fundação Calouste Gulbenkian, 2013. pp. 742 e ss.
2. [Atualização em 2/11/2018] Nas gramáticas brasileiras, a designação utilizada é complemento nominal. Este conceito pode, para alguns gramáticos brasileiros, possuir um conceito mais restrito do que o apresentado na resposta. Assim, segundo Antônio Suárez Abreu, o complemento nominal tem lugar com grupos preposicionais que se associam ao nome indicando o alvo ou ponto no qual incide a ação do nome e que corresponde a um dos seguintes argumentos: objeto afetado, paciente, resultativo, objetivo, causa, dativo e locativo. Nas situações não abrangidas por esta tipologia, considera-se que o grupo preposicional tem a função de adjunto adnominal (cf. Abreu, S.A., Gramática mínima: para o domínio da língua padrão. SP, Ateliê Editorial, 2003, p. 114-115) .