São vários os dicionários que coincidem ao considerar que a palavra badagaio tem origem obscura. No entanto, o Dicionário Houaiss é um pouco mais eloquente: «origem controversa; pode ser criação fônica com fim expressivo ou alteração fônica ligada a vágado». Vágado, palavra pouco usada, que significa «vertigem», parece ter origem no castelhano antigo váguido, talvez um derivado de vago, no sentido de «vazio» (cf. Dicionário Houaiss) ou de vaguear (cf. Dicionário da Real Academia Espanhola).
Como se indica na pergunta, badagaio ocorre na expressão da gíria «ter um badagaio», mas é muito frequente em associação com dar («deu-lhe o badagaio»), num caso e noutro com o significado de «desmaiar» e «morrer». São expressões equivalentes «ter um chilique» e «ter um fanico» (cf. António Nogueira Santos, Novos Dicionários de Expressões Idiomáticas, Lisboa, Edições João Sá da Costa, 2006).