Ambas as frases estão correctas, dependendo só do sentido delas.
Se a ideia é dizer que o rapaz não foi para casa nem cambaleando, nem em braços, nem amparado, mas «direito como um fuso», admite-se esse de pé.
Caso pretenda referir o meio como o rapaz foi para casa, então, é, claramente, a segunda formulação. Ou seja:
«O rapaz foi a pé para casa».

Outras expressões correntes com o vocábulo pé antecedido de preposição:

«Hoje pus-me a pé muito cedo.»
«Pôr (ou ficar com) os cabelos em pé.»
«Deixámo-nos para ali ficar, em pé, na conversa.»
«Vimos o espectáculo todo de pé.»
«Pôs-se de pé para que o ouvissem melhor.»
«Mantive de pé a minha proposta.»
«Pusemos de pé uma obra para o futuro,»
«Quero saber em que pé estão as coisas.»