O tema em apreço não é fácil, porque envolve vários critérios para a distinção de complementos e modificadores nominais. De qualquer modo, parece-me que o critério mais simples e seguro será considerar que selecionam um complemento (isto é, que têm um argumento)1 os substantivos que têm correspondência semântica e morfológica com verbos (p. ex., oferecer/oferta, ou realizar/realização, ou ainda pescar/pesca)2. Logo, «de livros», «baleeira» (equivalente a «da baleia») e «do filme» são complementos nominais em, respetivamente, «oferta de livros», «pesca baleeira» (ou «pesca da baleia») e «a realização do filme». Em todos os outros casos, temos modificadores, porque nem os substantivos modificados mantêm relação com verbos nem as expressões que os especificam são argumentos: «o rapaz de barba», «flores frescas e coloridas», «a camisola azul».
1 Em análise sintática e semântica, argumento significa, «na oração, cada um dos termos requeridos por uma palavra que exerce predicação, em relação com sua função sintática (p. ex., para o verbo dar em "Carlos deu o livro a Maria" há três argumentos: um agente [sujeito], um tema [objeto direto] e um alvo [objeto indireto]: chorar em "Marta chorou" requer apenas um argumento: um agente [sujeito])» Nomes e adjetivos também podem selecionar argumentos: «a construção [da casa]», «(estar) desejosa [de doces]» (Dicionário Houaiss, 2001).
2 Para outro tipo de nomes que também selecionam complementos, consultar O complemento e o modificador restritivo do nome.