A palavra herbário chega-nos directamente «do lat[im] herbarĭu-». Trata-se de «colecção de plantas secas organizadas e classificadas, geralmente para estudo e pesquisa científica; ervário» ou «compartimento onde se guardam estas colecções». Do mesmo modo, também as palavras aquário e armário provêm, respectivamente, «do lat[im] aquarĭu-» e «do lat[im] armarĭu-».
Já a palavra ervário, que o Dicionário da Língua Portuguesa 2008, da Porto Editora, considera variante não preferível de herbário, é derivada, pois tem origem na palavra erva, a que se juntou o sufixo -ário.