Estamos em terreno movediço. Saiba que há defensores tanto de uma como da outra forma. Não querendo sacudir a água do capote, Ciberdúvidas vai deixar que seja o prezado consulente a decidir de que lado da barricada quererá ficar. Seguindo a regra do plural das palavras compostas por dois substantivos (como é o caso), teríamos a forma Estados-nações, com ambos os elementos no plural. Porém, se considerarmos que o segundo termo da composição (nação) é um substantivo que funciona como determinante específico do primeiro, com acontece em Estado-providência, já seria Estados-nação a levar a melhor, da mesma forma que dizemos Estados-providência.
Lamentavelmente, não domino o significado sociológico ou político do vocábulo para poder tomar partido, mas parece-me que se trata de um Estado (país soberano, com estruturas próprias e politicamente organizado) constituído por uma nação (conjunto de indivíduos ligados pela mesma língua e por tradições, interesses e aspirações comuns; povo), como Portugal, ao contrário de Espanha, por exemplo, que já será um país formado por diversas nações (País Basco, Catalunha, etc.). Será isso? Nesta acepção, de um Estado que é uma nação, eu alinharia pelos que defendem Estados-nações.
Outra área crítica que atinge esta questão diz respeito à maiúscula inicial. Sabemos que a palavra estado, na sua acepção política, se grafa com inicial maiúscula, por mera convenção gráfica destinada a desfazer ambiguidades. O substantivo nação, por norma, não merecerá tal procedimento. Assim, quando adjectivamos um substantivo (como Estado) com outro substantivo (como nação), não vejo necessidade de empregar maiúscula no segundo elemento, tal como não empregaria se utilizasse um verdadeiro adjectivo, como, por exemplo, na locução «um Estado antigo».