Ambas as palavras estão corretas. Na linguagem corrente, anulação parece a palavra mais acessível: «anulação do contrato/casamento/matrícula». No entanto, é também frequente trocar anulação por anulamento, sem que a substituição seja vista como incorreção. Pode até acontecer que os dois vocábulos ocorram no mesmo texto:

(1) «Em comunicado, as comissões de utentes adiantam que enviaram uma carta ao primeiro-ministro, António Costa, a perguntar que medidas vai o Governo tomar quanto ao transporte fluvial depois do anúncio pelo executivo, ao Jornal de Negócios, da anulação do concurso» ("Anulado concurso para novos barcos da Transtejo. Utentes exigem explicações", TSF, 18/12/2019).

(2) «A previsão foi confirmada à TSF pela empresa adiantando ainda que "das cinco candidaturas apresentadas, apenas uma" cumpria os requisitos técnicos, o que levou ao anulamento do concurso» (idem, ibidem).

Considerando que os dicionários remetem anulamento para anulação, pode considerar-se que esta última é a palavra de uso preferencial em registos não especializados. Já na linguagem técnica e científica, caberá a cada área fixar uma opção, como acontece com o caso referido pelo consulente: «lei do anulamento do produto»