Vejamos, então, as duas traduções de "Behavioural Ecology":

1. Ecologia do comportamento.
2. Ecologia comportamental.

Em 1. a ideia de comportamento apresenta-se de feição mais nítida, mais vigorosa do que em 2.

Note-se que, por motivo idêntico, não dizemos "engenharia ambiental" mas engenharia do ambiente".

Pela mesma razão, não é nosso hábito dizermos "o estudo matemático", mas "o estudo da matemática".

Conclusão: é preferível ecologia do comportamento.