É de facto muito difícil sabê-lo, a etimologia é quase em 100% o que comanda tais distinções, geralmente ocasionadas pela evolução da Língua, quase sempre a partir do latim, segundo regras próprias da nossa gramática histórica. No caso de palavras de origem árabe é o x que aparece sempre, como em xarope ou enxofre (esta por acaso já vinha do latim, e o s de sulfure- tinha evolucionado). Até bastante tarde (e ainda hoje dialectalmente) o ch valia de tch, ao passo que o x nunca tinha (nem tem) este valor. O ch pode representar o qui dos Gregos (um k aspirado), mas também pode revelar em latim fl- (em chama), cl- (em chamar) ou pl- (pluvia- deu chuiva e chuva). O j quase sempre é a evolução do i semivocálico latino, mas pode ter outras origens (basiu- deu beijo e caseu-, queijo).

O melhor é mesmo estudar a gramática histórica portuguesa, por exemplo a de José Joaquim Nunes!