Não se usa "herba", apenas se emprega erva.
Quando se trata de palavras cultas ou eruditas relacionadas com a raiz de erva, recorre-se geralmente à forma que tal raiz tinha em latim clássico – daí herb- –, embora também seja possível empregar palavras com a forma radical portuguesa, que é erv-. Esta situação explica a existência de formas duplas em variação como herbário e ervário («coleção de plantas dessecadas»), ou herbanário e ervanário («loja onde se vendem plantas medicinais»). Contudo, quando se trata de designar a planta, usa-se apenas o nome tradicional erva, que evoluiu do latim vulgar herba (cf. Dicionário Houaiss), isto é, que se fixou em português por via popular.
Relembre-se que a expressão «via popular» (cf. Nomenclatura Gramatical Portugal, 1967) se refere ao processo geralmente lento de transmissão e evolução das palavras do latim vulgar ao português, do fim da Antiguidade à Idade Média, de acordo com um conjunto de mudanças regulares: por exemplo, o latim PLANU- deu chão, sobretudo pela passagem de PL- a ch- (palatalização) e por queda do -N- intervocálico. O termo «via erudita» (cf. idem) aplica-se ao aportuguesamento de palavras do latim clássico (às vezes, também do latim eclesiástico), as quais foram introduzidas em número elevado sobretudo nos séculos XVI a XVIII por ação de eruditos e escritores; este foi o tipo de transmissão que levou de PLANUS, -A, -UM a plano e plana. Chão e plano são, portanto, palavras que representam resultados diferentes de um mesmo étimo – e diz-se que são palavras divergentes.
* Dicionário Terminológico: «Étimo palavra da qual deriva, diacronicamente [=historicamente], outra.»