«Ou antes» constitui uma locução, cujo significado é «mais precisamente; ou melhor» (Dicionário Houaiss).
Por ser uma locução com significado próprio, não deve ter os seus elementos separados por vírgula, como são exemplo, também, as locuções «ou seja» e «isto é». Assim, o correto será destacá-la com uma vírgula à esquerda e outra à direita:
(1) «A psiquiatria, ou antes, a psicanálise...»;
(2) «É essa a nossa, ou antes, a minha hipótese...»;
(3) «Tudo isso será o passado, ou antes, já é o passado».
Repare-se que, no dicionário em referência, a locução surge entre vírgulas – «viajaram para Goiás, ou antes, para Anápolis». De facto, e de acordo com Bechara, na Moderna Gramática Portuguesa (pág. 519), uma partícula ou locução de explicação (como aqui é o caso), correção, continuação, conclusão e concessão, deve surgir entre vírgulas.