O desalinhamento (misalignment) da Inteligência Artificial
A Inteligência Artificial (IA) está não só a mudar o mundo tal como o conhecemos como também a trazer dinamismo às línguas naturais. Falamos hoje de neologismos semânticos, ou seja, de casos em que uma dada palavra, já existente na língua, adquire novos significados sem que a sua forma mude. Por várias razões (que nem sempre são de natureza linguística), a palavra absorve novos significados que permitem designar novas realidades. Assistimos a muitos desses fenómenos na sequência do desenvolvimento da informática. Recordemos, apenas a título de exemplo, a forma como a palavra rato (por influência do original inglês mouse) passou a designar o objeto periférico que serve para mexer um ponteiro no ecrã dos nossos computadores.
Atualmente, observamos fenómenos desta natureza associados à expansão da IA. Todos já lemos, ouvimos e até utilizámos termos como alucinar, algoritmo, agente, aprendizagem automática, chatbot, prompt, deepfake, janela (de contexto), entre outros. Alguns dos termos em língua inglesa estão a penetrar na língua portuguesa na forma de neologismos formais, já ajustados à estrutura fonético-fonológica da língua, como é o caso de prompt, que originou o verbo neológico promptar (ainda sem verbete dicionarístico).
Atentemos, em particular, no processo associado à palavra misalignment, que recentemente tem sido usado com alguma frequência na imprensa nacional e internacional. Em língua inglesa, o vocábulo deriva do nome alignment, pela junção do prefixo de valor negativo mis-. Este refere a ciência de ensinar à IA a desenvolver ações que se encontram em linha com as opções humanas, a sua ética e a sua avaliação. Quando a IA começa a agir de forma autónoma, tomando decisões inseguras ou ignorando as determinações humanas, usa-se o termo misalignment para descrever o seu comportamento. Embora em português não tenhamos ainda uma tradução estabilizada, poderemos adotar os termos alinhamento e desalinhamento como equivalentes das expressões anglófonas, um uso que já vamos observando nalguns artigos da comunicação social ou em textos da especialidade.
Recorde-se que a questão do desalinhamento da IA saltou para os títulos dos jornais após Jacob Coxon, investigador da Anthropic e antigo trabalhador da OpenAI, ter vindo afirmar que estas duas empresas estavam a construir «sistemas sobre-humanos» que poderiam vir a adquirir um poder real no nosso mundo – um conjunto de declarações que se alinharam com relatos prévios sobre a atuação de bots em desafio a instruções humanas, realizando ciberataques, entre outros comportamentos questionáveis (que poderão, por exemplo, ser lidos neste artigo do New York Times). O desalinhamento parece, deste modo, ser efetivo. Falta saber até onde poderá ir e que consequências poderá implicar.
