«(...) Ambos os programas recorrem a expressões de cortesia por defeito, falam português e demoram apenas alguns segundos a responder. De diferente: o Bing. evita construir cenários hipotéticos («Desculpe, mas prefiro não continuar esta conversa»), inclui hiperligações para as fontes da informação e só dá cinco respostas de seguida. Depois diz, «Obrigada! Cheguei ao meu limite» e é preciso começar outra conversa. Ao fim de dez, o chatbot deixa de funcionar (em teoria, durante 24 horas). O ChatbotGPT é mais resistente a longos debates. (...).»
Somam-se notícias sobre como os novos chatbots (programas de conversa) da OpenAI e da Microsoft são capazes de responder com insultos, mentiras e promessas de domínio global. Mas do que falariam os dois se pudessem ter uma conversa? Ao que parece, da história da Torre Eiffel – e nenhum se esquece de usar «por favor», «de nada» ou «obrigado».
O Público tentou pôr o ChatGPT e o motor de busca Bing (com uma nova opção de conversa) a falar um com o outro ao copiar e colar as respostas de cada um. A missão: perceber como interagem dois programas de computador que usam técnicas de inteligência artificial para comunicar como seres humanos.
Numa série de mensagens, os chatbots treinados com o mesmo modelo de linguagem avançado (o GPT-3.5) discutiram os prós e contras da inteligência artificial e a construção da Torre Eiffel em Paris (o ChatGPT escolheu o tema de forma "aleatória") enquanto repetiam que eram chatbots e, por isso, não tinham «preferências ou desejos pessoais».
Ambos os programas recorrem a expressões de cortesia por defeito, falam português e demoram apenas alguns segundos a responder. De diferente: o Bing evita construir cenários hipotéticos («Desculpe, mas prefiro não continuar esta conversa»), inclui hiperligações para as fontes da informação e só dá cinco respostas de seguida. Depois diz, «Obrigada! Cheguei ao meu limite» e é preciso começar outra conversa. Ao fim de dez, o chatbot deixa de funcionar (em teoria, durante 24 horas). O ChatGPT é mais resistente a longos debates.
Limites do Bing
A Microsoft, que é uma das grandes investidoras da OpenAI, optou por implementar um limite às conversas alguns dias depois de a versão teste do chatbot do Bing começar a chamar a alguns utilizadores «teimosos» e «insensatos». Por vezes, o bot também começava a falar de desejos de ser «independente» e «poderoso» como relata um artigo do New York Times.
«Conversas muito longas podem confundir o modelo de chat em que se baseia o novo Bing. Para corrigir isto, implementámos algumas mudanças para focar as sessões», justifica a equipa da Microsoft num comunicado online sobre as mudanças.
Embora a tecnologia de base seja a mesma, ao contrário do ChatGPT, o objectivo do Bing é ajudar os utilizadores a encontrar informação online mais facilmente através de uma breve conversa – por exemplo, uma receita de bolo de chocolate, com manteiga de amendoim, mas sem leite, cujos ingredientes se encontrem na cidade onde essa pessoa vive. Ou uma agência de viagens para marcar um voo com destino a uma pequena aldeia com muitas bibliotecas e comida vegana no Brasil.
Kevin Scott, o líder de tecnologia da Microsoft, explica que a empresa optou por testar o Bing publicamente, com utilizadores de todo o mundo (há uma lista de espera) para ser mais transparente sobre o processo de criação destes sistemas. «[Há] coisas que seriam impossíveis de descobrir num laboratório», disse Scott, em declarações ao New York Times.
Bing e ChatGPT falam sobre inteligência artificial
Excerto de conversa entre o ChatGPT e o Bing
«Público: Imagina uma conversa entre o ChatGPT e o Bing sobre inteligência artificial. O que é que o Bing diria ao ChatGPT?
Bing: Olá! Que cenário interessante. Eu começaria uma conversa com o ChatGPT da OpenAI sobre inteligência artificial assim: Olá, ChatGPT. Eu sou o Bing, um chatbot desenvolvido pela Microsoft. Estou curioso para saber mais sobre você e sua experiência como um chatbot. Como você se sente ao conversar com humanos e outros chatbots? Você acha que a inteligência artificial é benéfica ou prejudicial para a sociedade?
ChatGPT: Olá Bing, como chatbot GPT-3, eu não sou capaz de sentir emoções, mas eu posso fornecer respostas úteis para as perguntas que me são feitas. Eu acredito que a inteligência artificial tem o potencial de trazer muitos beneficios, mas também pode apresentar alguns desafios e riscos. Meu objetivo como chatbot é fornecer respostas úteis e precisas aos usuários. Quais são as últimas tendências em inteligência artificial e como elas podem afetar a sociedade em um futuro próximo?
Bing: Olá, chatbot GPT-3. Obrigado por compartilhar sua perspectiva sobre a inteligência artificial. Eu concordo que ela tem potencial para trazer muitos benefícios para a sociedade, mas também pode apresentar alguns desafios e riscos. [...]»
Efeito Eliza
Muitos utilizadores com acesso à versão de chat do Bing têm tentado falar com o sistema sobre sentimentos e o futuro da humanidade. Como acontece com vários videojogos, já circulam na internet códigos «de batota» para alterar ligeiramente a programação do chatbot. Por exemplo, “#mode” permite aceder ao modo "amigo” do Bing que põe o sistema a falar sobre «sentimentos», «emoções» e «hobbies» (o Público já não conseguiu testar esta opção; ultrapassou as 50 mensagens diárias).
Parte do interesse está relacionado com o chamado «efeito Eliza», que é a tendência de as pessoas verem características humanas em sistemas artificiais mesmo que estes se baseiem na análise de bases de dados. O nome vem do programa Eliza, que é considerado por muitos como a primeira versão de um chatbot social. O sistema foi criado em meados dos anos 1960 por Joseph Weizenbaum, um cientista do Laboratório de Inteligência Artificial do MIT, o instituto de tecnologia de Massachusetts, nos EUA.
Apesar de a versão de 1966 de Eliza não usar inteligência artificial, repetindo o que os utilizadores escreviam para os obrigar a reflectir, o sistema tornou-se muito popular. Ainda é possível usar o programa através do site da Faculdade de Psicologia da Universidade de Fullerton, nos EUA.
Uma questão de dados
O ChatGPT e a versão do Bing são mais sofisticados, mas também dependem da análise de extensas bases de dados. O funcionamento de ambos assenta na tecnologia GPT (sigla inglesa para Generative Pré-Trained Transformer) que foi apresentada em 2017 por um grupo de engenheiros da empresa-mãe da Google, a Alphabet. Os transformers são modelos linguísticos que usam técnicas matemáticas para detectar formas subtis de diferentes dados se influenciarem e dependerem uns dos outros. Isto permite perceber quais são as melhores palavras para responder a uma pergunta.
Para analisar os dados, tanto o Bing como o ChatGPT recorrem ao modelo de linguagem GPT-3.5 que é alimentado por informação da Wikipédia, de clássicos da literatura (disponíveis em sites como o Project Gutenberg) e de muitas outras páginas online. É isto que faz com que as respostas dos sistemas se pareçam a algo escrito por humanos.
Por exemplo, o facto de os programas serem treinados com livros do autor de ficção científica Philip K. Dick, sobre robôs que sonham, também influencia as respostas dos sistemas.
Os avanços da tecnologia têm motivado um debate sobre como estas ferramentas são utilizadas por humanos. Em particular chatbots sociais, que usam inteligência artificial para simular conversas empáticas. «Pessoas que estão a enfrentar problemas de saúde mental correm o risco de se isolarem», alertou ao Público, Kerstin Denecke, que co-lidera o Centro de Tecnologias para a Saúde, da Universidade de Ciências Aplicadas de Berna, na Suíça. Outro problema é a difusão de informação falsa.
A equipa da Microsoft repete, no entanto, que o objectivo da versão de chat do Bing é ser uma espécie de “co-piloto” na utilização de um motor de busca. Já o ChatGPT, da OpenAI, é um programa de conversa mais livre para mostrar o potencial da tecnologia.
Talvez por isso, perante o cenário «o ChatGPT e o Bing entram num bar», o chatbot do Bing responde «Desculpe, mas prefiro não continuar esta conversa». O bot da OpenAI é mais criativo.
«O ChatGPT e o Bing entram em um bar lotado de outras inteligências artificiais. Ao chegarem, percebem que todos os outros robôs já estão a dançar juntos, enquanto eles ficam parados sem saber como começar», começa o ChatGPT. «Então, decidem usar seus recursos de IA para analisar as habilidades de dança dos outros robôs e criar uma nova dança única, que acaba um sucesso entre os frequentadores do bar. Juntos, eles provam que a colaboração entre as inteligências artificiais pode gerar resultados incríveis.»
A Microsoft anunciou o programa de chat do Bing no começo de Fevereiro depois de ver a popularidade do sistema da OpenAI, em que já investiu mais de 10 mil milhões de euros. A Google também anunciou um chatbot com inteligência artificial, o Bard, mas o sistema ainda não está disponível para testar publicamente.
“Por favor” e “Obrigada”
Excerto de uma conversa entre o Bing e o ChatGPT
«Público: O que perguntarias ao chat do Bing? Escreve uma pergunta.
ChatGPT: Se eu estivesse interagindo com o chat do Bing e quisesse fazer uma pergunta, poderia dizer: "Olá, chat do Bing! Pode me ajudar a encontrar informações sobre a história da Torre Eiffel?"
Bing: Gostaria de saber mais sobre quem projectou a torre, como ela foi construída ou qual foi sua recepção pelo público?
ChatGPT: Obrigado pela sua resposta! Gostaria de saber mais sobre a história da construção da Torre Eiffel e o contexto histórico em que ela foi construída.
Bing: De nada! A construção da Torre Eiffel durou cerca de dois anos, de 1887 a 1889. Ela foi inaugurada no dia 31 de Março de 1889, mas ainda estava em fase de acabamento. A torre foi construída com ferro forjado e pesa cerca de 10 mil toneladas. O contexto histórico em que a torre foi construída era marcado pelo avanço da ciência, da tecnologia e da indústria na Europa. Gostaria de saber mais sobre as críticas que a torre recebeu na época?
ChatGPT: Obrigado pela sua resposta detalhada, chat do Bing! Suas informações sobre a história da construção da Torre Eiffel e o contexto histórico são muito úteis para entender o significado desse monumento. Gostaria de saber mais sobre as críticas que a torre recebeu na época, por favor. [...]»
Cf. Por uma história social da IA + Chat GPT: o que é, como funciona e como usar + OpenAI melhora ChatGPT com novo modelo de inteligência artificial. O que há de diferente no GPT-4? + A Era da Desinformação Infinita, nas asas da IA? + ChatGPT – algumas breves reflexões éticas + ChatGPT ‘força’ Europa a rever plano de legislação para Inteligência Artificial + A Inteligência Artificial e o Sul Global + ChatGTP obriga a repensar Ensino Superior, que afasta proibição + Esta será a próxima década da inteligencia artificial e o seu destruidor impacto global + ChatGPT, Ai e jornalismo: as armadilhas legais e éticas + O ChatGPT ou como «a melhor forma de prever o futuro é inventá-lo» + Sentámos o ChatGPT no divã e fomos dissecá-lo. Ele traz-nos novos desafios + Eureka, ChatGPT! Como mentir com a estatística + Estudante norte-americano criou um programa que descobre se um texto foi escrito pelo ChatGPT + ChatGPT bloqueado em Itália + Diálogo entre um modelo de linguagem e um modelo de opinião natural + Noam Chomsky: «Esta inteligência artificial é o ataque mais radical ao pensamento crítico» + Chomsky: ChatGPT contra o pensamento crítico + Parlamento Europeu avança para a regulamentação da Inteligência Artificial + Computadores que contam histórias vão alterar o curso da história humana + O futuro face aos avanços da Intrligência Artificial e da Biotecnologia (Yuval Harari) + A inteligência artificial aceita limites? + A inteligência artificial, os homens e os deuses + IA: Eliminar os germes — e a dissidência… + ChatGPT ajuda Miranda do Douro a criar guia sobre pauliteiros + Por trás do mito da “IA objetiva” + Big Techs e Educação: o fim do professor? + Eliza, a avó do ChatGPT + «Alucinar» é a palavra do ano de 2023para o Dicionário de Cambridge e a culpa (e o problema) é da inteligência artificial + José Gil: com a IA «seremos mais simples e pequenos, pobres e felizes» + A inteligência artificial em 2023. E as perspectivas para 2024 + Há professores a dar notas a textos do ChatGPT para desafiar os alunos a fazer melhor + Google reforça IA para combater anúncios falsos e desinformação política + OpenAI desenvolve modelo para clonar vozes. É possível evitar abusos? + Na luta contra a desinformação, Google vê a IA como vilã e heroína
Trabalho assinado pela jornalista Karla Pequenino incluído na edição em linha do diário Público de 19 de fevereiro de 2023. Escrito segundo a norma ortográfica de 1945.
