O Dicionário Eletrônico Houaiss diz que a palavra frota, na área da marinha, é «conjunto de navios de guerra ou de navios cujo fim específico se designa (frota mercante, frota pesqueira etc.)»; por extensão de sentido, trata-se de «conjunto de quaisquer veículos, em geral pertencentes a uma mesma pessoa física ou jurídica: f[rota] de ônibus e f[rota] de caminhões». Informalmente, ainda é «grande número, grande quantidade de pessoas ou coisas; chusma». O vocábulo frota vem do «fr[ancês] flotte (c1140), "reunião de navios de guerra ou de comércio", do nórd[ico] ant[igo] floti "id."; f[orma] hist[órica] sXIV flota».
Quanto a esquadra, como termo da marinha, é «o número total de navios de guerra de um país» ou «conjunto de navios de guerra, de porte considerável, que compõem uma força, ger. sob comando de oficial-general [Outrora dividia-se em três esquadrões: o de vante, comandado pelo almirante, que tb. comandava toda a esquadra; o do centro, comandado pelo vice-almirante; e o de ré, comandado pelo contra-almirante]»; na área militar, trata-se de «seção de uma companhia de infantaria». É ainda «posto policial» e, na área de armamento, «dispositivo us. pelos artilheiros para graduar as peças». A palavra vem do «it[aliano] squadra (a1540), "menor unidade orgânica das armas do exército, com exceção da artilharia, comandada por um sargento", der[ivado] do v[erbo] squadrare "regular com esquadro; reduzir a seções esquadradas"».
Em relação a esquadrilha, trata-se, como termo de marinha, de «esquadra constituída de pequenas embarcações de guerra (fragatas, corvetas etc.); flotilha» e, como palavra da área da aeronáutica, de «grupo de até quatro aeronaves que realizam uma operação»; etimologicamente, vem do «cast[elhano] escuadrilla "id."; c[om]p[are (com)] fr[ancês] escadrille (sXVI) "tropa", t[am]b[ém] empr[és]t[imo] ao esp[anhol]».
O Aulete Digital define praticamente da mesma forma as palavras frota, esquadra e esquadrilha.
Já o Dicionário da Língua Portuguesa 2008, da Porto Editora, considera frota o «conjunto de navios de guerra ou navios mercantes; armada» ou o «grupo de navios mercantes que pertencem a um país ou uma empresa ou que são da mesma espécie». Quanto a esquadra, também considera, no que diz respeito a navios, que é «conjunto de navios de guerra»; e esquadrilha é definida como «pequena esquadra de navios de guerra ou de aviões».
Perante tudo isto, parece-me que o vocábulo mais adequado a colectivo de navios é frota.
