Deve escrever-se «mau humor», sem hífen.
Os compostos de substantivo e adjetivo são hifenizados em função de um critério subjetivo, segundo o qual são compostos e levam hífen aquelas expressões que encerrem um significado próprio, não redutível aos das palavras constituintes. Sucede que o critério se aplica com variações, ficando muitas vezes entregue à tradição dicionarística, o que significa que há muitas locuções que poderiam ser hifenizadas e não são. Por exemplo, mau-olhado tem hífen, mas «mau gosto» não o inclui. Tal é o caso, também, de «mau humor».
Sendo assim, tendo em conta as fontes consultadas, verifica-se que a expressão «mau humor» não tem entrada lexicográfica, mas pode fazer parte de um artigo de dicionário, como subentrada. É o que acontece no dicionário da Academia das Ciências de Lisboa, que regista «mau humor» no verbete que corresponde a mau e define a expressão como «estado de quem está agressivo ou irritado», juntando-lhe uma abonação de Júlio Dinis: «Ontem separámo-nos de tão mau humor que hoje acordei com remorsos.» (A Morgadinha dos Canaviais, Porto, Livraria Lello Lta., 1932, pág. 375).