«A IA generativa pode ter consequências insuspeitadas em muitos outros âmbitos além da linguagem.»
O investigador Ezequiel López estava há pouco tempo num encontro académico e ficou surpreendido ao ouvir a insistência dos oradores no uso de algumas palavras, como delve, que significa «mergulhar, embrenhar-se, aprofundar» em inglês. Outro investigador do Instituto Max Planck para o Desenvolvimento Humano (Berlim) teve uma sensação semelhante: havia algumas palavras que, de repente, se repetiam nas apresentações e que antes mal se ouviam. Já havia alguma investigação sobre como palavras curiosas se tinham infiltrado repetidamente em artigos científicos, frases ou parágrafos escritos pelo ChatGPT ou outros sistemas de inteligência artificial. Seria possível que agora os humanos estivessem já a repetir oralmente palavras popularizadas pelas máquinas? Os referidos investigadores decidiram analisar a questão. O primeiro desafio foi encontrar suficientes comunicações recentes. Recolheram cerca de 300 000 vídeos de conferências académicas e criaram um modelo para verificar a frequência de aparecimento de algumas palavras ao longo dos últimos anos: «A nossa pergunta é se é possível haver um efeito de adoção e transmissão cultural, através do qual as máquinas estão a mudar a nossa cultura e que depois se propaga», diz López.
A resposta é sim. Em 2022, detetaram um ponto de inflexão em palavras em inglês que antes se ouviam pouco, como delve («aprofundar»), meticulous («meticuloso»), realm («reino, domínio») ou adept («ser hábil em algo»). Iyad Rahwan, professor do Instituto Max Planck e coautor da investigação, afirma: «É surrealista. Criámos uma máquina que pode falar, que aprendeu a fazê-lo connosco, com a nossa cultura. E agora estamos a aprender com a máquina. É a primeira vez na história que uma tecnologia humana nos pode ensinar coisas de maneira tão explícita.»
Não é assim tão estranho que os seres humanos repitam palavras novas que acabaram de aprender. Para mais, se forem falantes não nativos, como se verifica numa parte importante da amostra neste caso. «Não acredito que seja motivo de alarme porque, no fundo, está a democratizar a competência de comunicação. Se és japonês e és líder mundial na tua área científica, mas se falas em inglês numa conferência e pareces um americano do jardim de infância, geram-se também alguns preconceitos sobre a tua autoridade», defende López.
O ChatGPT permite que estes falantes não nativos captem melhor os matizes e incorporem palavras que antes não usavam. «Se não és nativo em inglês e amanhã vais ao cinema e há uma palavra nova que te surpreende, é provável que a adotes também, como acontece com wiggle room (margem de manobra) em Oppenheimer, ou com lockdown durante a pandemia», afirma López. Mas há uma ressalva, aponta este investigador. É singular que as palavras adotadas nessas conferências académicas não sejam substantivos que ajudam a descrever algo com mais precisão, mas, sim, palavras instrumentais como verbos ou adjetivos.
Há duas consequências curiosas desta adoção. Primeiro, desde que se tornou evidente no mundo académico que essas palavras são criações do ChatGPT, elas tornaram-se pouco recomendáveis: usá-las pode passar a ser malvisto. «Já ando a ver isso no meu próprio laboratório. Sempre que alguém usa aprofundar, todos o percebem de imediato e gozam com ele. Tornou-se uma palavra tabu para nós», diz Rahwan.
A segunda consequência pode ser pior. O que aconteceria se, em vez de nos fazer adotar palavras de maneira aleatória, essas máquinas conseguissem incutir em nós palavras mais conotadas? «Por um lado, o que encontramos é bastante inofensivo. Mas isso mostra o enorme poder da IA e das poucas empresas que a controlam. O ChatGPT é capaz de ter conversas simultâneas com mil milhões de pessoas. Isso confere um poder considerável para influenciar como vemos e descrevemos o mundo», afirma Rahwan. Uma máquina como esta poderia determinar a forma como as pessoas falam sobre guerras, como as da Ucrânia ou do Médio Oriente, ou como descrevem pessoas de uma determinada raça ou aplicam uma visão tendenciosa a eventos históricos.
De momento, devido à sua adoção global, o inglês é a língua em que é mais fácil detetar essas mudanças. Mas acontecerá isto também em espanhol? «Interroguei-me sobre isso. Suponho que algo semelhante acontecerá, mas a maior parte da ciência e tecnologia é em inglês», diz López.
Também afeta a inteligência coletiva
A IA generativa pode ter consequências insuspeitadas em muitos outros âmbitos além da linguagem. Numa outra investigação publicada na Nature Human Behaviour, López e os seus coautores descobriram que a inteligência coletiva, tal como a entendemos, está em perigo se começarmos a usar a IA de forma massificada. Páginas de código colaborativo como o GitHub ou o Stack Overflow perderão o seu papel, se cada programador empregar um bot para gerar código. Já não haverá necessidade de consultar o que outros colegas fizeram antes, nem de melhorar ou comentar.
Para Jason Burton, professor da Universidade de Negócios de Copenhaga e coautor do artigo aqui em referência, «os modelos de linguagem não significam o fim do GitHub ou do Stack Overflow. Mas já estão a mudar como as pessoas contribuem e se relacionam com estas plataformas. Se as pessoas recorrerem ao ChatGPT em vez de procurar informações em fóruns públicos, é provável que continuemos a ver uma diminuição da atividade nessas plataformas, porque os possíveis colaboradores já não terão a sua audiência.»
A programação é apenas uma possível vítima da IA. A Wikipédia e os seus escritores também passam a ser simples revisores se tudo o que é escrito for gerado por um bot. Mesmo a educação é algo que precisaria de ser revisto, segundo López: «Imaginemos que, no sistema educativo atual, professores e alunos começam a apoiar-se cada vez mais nessas tecnologias; uns para elaborar perguntas e outros para buscar as respostas. Em algum momento, será necessário repensar qual deve ser a função desses sistemas e qual seria o nosso novo papel eficiente em convivência com eles. Sobretudo para que a educação não acabe por consistir em alunos e professores fingirem mutuamente e representarem, durante oito horas por dia, uma peça de teatro.»
