Veja o artigo Ordenação alfabética, no capítulo Correio de Ciberdúvidas, elaborado pela minha colega consultora dra. Ana Martins. Nele estão indicadas algumas normas sobre o assunto.
Na análise de dicionários brasileiros, como única segunda variante significativa na ortografia da língua, não encontrei diferenças na ordenação alfabética.
O hífen é ignorado na ordenação alfabética em palavras compostas, considerando-se os dois elementos fundidos.
Idem quanto ao trema, na ordenação.
No caso do apóstrofo (ou dos espaços), as palavras são tratadas independentemente, mas na ordenação alfabética o apóstrofo (ou o espaço) deve ser ignorado.
Nas regras internacionais, se duas palavras diferem só no acento numa das letras, a palavra com acento vem depois.
É preciso cuidado com os processadores de texto, pois alguns dão prioridade a sinais auxiliares como parênteses, aspas e, entre conjuntos de palavras independentes, ordenam pelas primeiras palavras independentes (ex.: «de um» pode incorre{#c|}tamente anteceder «dei»).