O uso correcto é “por exemplo”, uma vez que se trata de uma locução adverbial invariável. Uma locução adverbial é um conjunto de duas ou mais palavras que funciona como um advérbio e se forma pela associação de uma preposição com um nome, um adjectivo ou um advérbio (sendo, neste caso, formada por uma preposição e um nome). Esta locução adverbial é invariável, na medida em que se trata de uma construção fixa que não poderá apresentar flexão de número para plural, independentemente da quantidade e do número (singular ou plural) de exemplos que enumere.