No caso particular aqui apresentado, deve optar-se pelo uso de minúscula em início de cada alínea e pelo ponto no final de cada opção.
A questão colocada está relacionada com a pontuação a utilizar com listas. A situação apresentada pela consulente diz respeito a um caso particular de listas: aquelas em que estamos perante uma escolha múltipla que completa uma frase iniciada no enunciado principal. Assim sendo, visto que cada alínea apresenta uma possibilidade de continuação e conclusão do início de frase geral, em cada alínea deve optar-se por início com minúscula, finalizando com ponto, uma vez que corresponde a uma possibilidade de conclusão de frase, tal como se exemplifica em (1), retomando o exemplo apresentado:
(1) As montanhas eram explicadas por Suess, como resultado da...
a) expansão da Terra.
b) contração da Terra.
c) deriva dos continentes.
Se a lista fosse composta por frases independentes1, usar-se-ia a maiúscula no início de cada alínea e o ponto no seu final, como em (2):
(2) Assinala a opção correta.
a) As montanhas formam apenas a partir de erupções vulcânicas.
b) As montanhas são formas de relevo elevadas, com encostas íngremes e podem formar cordilheiras.
c) As montanhas são áreas planas e baixas, geralmente próximas aos rios.
Questões relacionadas com a pontuação podem ser esclarecidas em gramáticas, prontuários ou, claro, junto do Ciberdúvidas da Língua Portuguesa, que terá muito prazer em ajudar a esclarecer futuras dúvidas.
Disponha sempre!
1. Para outras situações, consulte-se os Textos relacionados.