As expressões corretas são deve-haver e «deve e haver» (ou «o deve e o haver», com artigo definido).
O dicionário da Academia das Ciências de Lisboa (ACL) regista deve-haver como o mesmo que «o deve e o haver» ou «o débito e o crédito». A palavra composta tem registo, pelo menos, desde 1940, quando a ACL publicou o Vocabulário Ortográfico da Língua Portuguesa, antes, portanto, do Acordo Ortográfico de 1945.
Refira-se ainda que, separadamente, deve e haver, que são em geral formas verbais, têm também registo como nomes comuns:
deve: no âmbito da contabilidade, «débito ou despesa (de uma firma) escriturada no livro razão» e «coluna desse livro na qual são registradas as despesas»; e, no campo lúdico, «modalidade do jogo de pião (praticada em Trá-os-Montes)» (Dicionário Houaiss).
haver: «a parte de uma conta ou de uma escrituração comercial que indica o que se tem a receber; crédito» (ibidem).