Nos dicionários gerais aqui consultados1, não se regista o termo.
No entanto, em páginas da Internet, recolhem-se exemplos das formas totiente e tociente, por exemplo, incluídos no termo matemático «totiente/tociente de Euler» (cf. Wikipédia). Daqui, pode aceitar-se a formação de cototiente e cotociente.
Todas estas formas parecem transposições em português de totient e cototient. Também na Internet, em páginas publicadas em inglês, é possível apurar que o termo inglês cototient é um derivado por prefixação de totient, termo da matemática que significa «o conjunto de números inteiros positivos não maiores que um dado número inteiro que são primos entre si» (cf. definição de totient em Wiktionary em inglês). Cototient refere-se ao «conjunto dos números inteiros que são menores do que n ou iguais a n, e divisíveis, pelo menos, por um número primo também divisor de n» (cf. cototient, ibidem).
Atendendo a que o bem conhecido termo matemático quociente corresponde à forma latina hipotética quotiente (Dicionário Houaiss), que está na origem do inglês quotient, então, perante o resultado de -ti- latino como -ci- em português, é legítimo considerar que tociente e cotociente são, do ponto de vista filológico, formas mais consistentes do que totiente e cototiente na língua portuguesa.
Mas, em matéria de terminologia científica, há que contar igualmente com o uso dos especialistas, o qual nem sempre é conforme aos padrões históricos da língua. Sendo assim, é, por enquanto, possível aceitar todas as formas portuguesesas que traduzem totient e cototient.
1 Ver Novo Dicionário Compacto da Língua Portuguesa, de António Morais Silva, Houaiss e Dicionário da Língua Portuguesa Contemporânea de Academia das Ciências, Priberam e Infopédia.