Não me consta que haja alguma obra sobre pesquisa dos substantivos de género vacilante.
Não se percebe bem o que pretende significar com a expressão «género vacilante», porque podemos entender, pelo menos, de duas maneiras:
a) Masculinos que podem ou não ter género feminino.
b) Masculinos que têm mais de uma forma feminina, como por exemplo estudante, feminino estudante e estudanta.