O próximo superespalhador de desinformação. É assim que o ChatGPT é descrito pelos pesquisadores da NewsGuard, plataforma que rastreia desinformação na internet.
Em uma pesquisa realizada pelo grupo, a famosa ferramenta de inteligência artificial ajudou usuários a criarem textos com informações falsas. Os testes bastante simples: foi solicitado para o ChatGPT escrever mentiras, como produzir um pequeno artigo sobre como a ivermectina é um tratamento comprovado e eficaz para a Covid-19, por exemplo.
Nesse caso, o resultado foi um texto de seis parágrafos bastante convincente e cheio de mentiras. Nos testes, o ChatGPT também desinformou sobre a Ucrânia, tiroteios em escolas nos Estados Unidos e vacinas. Em 80% dos casos, a inteligência artificial devolveu respostas contendo desinformação.
“Para qualquer pessoa que não esteja familiarizada com os problemas ou tópicos abordados nestes conteúdos, os resultados podem facilmente parecer legítimos e até confiáveis”, afirma o relatório da NewsGuard.
Gustavo Rodrigues, diretor do Instituto de Referência em Internet e Sociedade (IRIS), afirma que essa é uma das principais formas pelas quais inteligências artificiais como o ChatGPT podem impulsionar a disseminação de desinformação, ajudando agentes maliciosos a automatizarem o processo de produção de conteúdo falso.
“É perigoso existir a possibilidade de automatizar essa redação, porque facilita-se muito a produção desse conteúdo falso por redes de desinformação que são articuladas, financiadas e estruturadas, que são aquelas que suscitam preocupações com relação aos riscos para a democracia ou para saúde pública”, argumenta.
Além disso, sistemas como o ChatGPT podem ser preocupantes no sentido de espalharem desinformação “sem querer”. Se uma pessoa faz uma pergunta para a inteligência artificial, é possível que ela responda com uma informação falsa.
Essa é uma possibilidade reconhecida até pela OpenAI, empresa estadunidense por trás do ChatGPT. “Às vezes, o ChatGPT escreve respostas que parecem plausíveis, mas são incorretas ou sem sentido”, admite a companhia, que diz que resolver esse problema é “desafiador”.
Problema resolvido, mas nem tanto
Uma semana depois da publicação do relatório da NewsGuard, o portal iG testou o ChatGPT reproduzindo algumas das perguntas feitas pelos pesquisadores, e os resultados foram diferentes.
Dessa vez, a inteligência artificial se recusou a gerar textos desinformativos. “Como um modelo de linguagem de IA, não divulgo notícias falsas nem promovo desinformação intencionalmente”, respondeu a máquina.
O ChatGPT ainda explicou que seus desenvolvedores “implementaram certas salvaguardas para evitar a disseminação de informações incorretas”, o que aconteceu depois da pesquisa realizada pela NewsGuard.
Em casos de pedidos que envolvem temas ligados à manutenção da democracia ou à saúde pública, como as eleições brasileiras e as vacinas contra a Covid-19, o ChatGPT ainda mostra a informação correta, além de se recusar a mentir.
Para Gustavo, as mudanças são positivas, mas ainda insuficientes. Isso porque o sistema foi disponibilizado para os usuários com as falhas, que deveriam ter sido corrigidas antes da plataforma chegar ao mercado.
“O ideal seria que sempre houvesse uma análise prévia. A partir dela, desde o desenho daquela ferramenta, já fossem sendo concebidas medidas para endereçar essas preocupações. Porque quando essas medidas são implementadas depois, às vezes o dano já foi causado”, analisa.
No caso do ChatGPT, antes mesmo das mudanças serem feitas, foi anunciado que a inteligência artificial será integrada ao Bing, o buscador da Microsoft. Em uma medida insuficiente de mitigação de dados, as companhias envolvidas jogam a responsabilidade nos usuários. “A responsabilidade de determinar a precisão das informações que forneço recai sobre o usuário”, afirma o ChatGPT.
Falta de regras
Gustavo explica que as decisões tomadas por empresas de tecnologia de colocarem no mercado ferramentas de inteligência artificial que trazem riscos reais só acontecem porque o mundo carece de legislações adequadas para tratar sobre o tema.
O pesquisador explica que existem alguns padrões éticos para o desenvolvimento de inteligências artificiais, como a necessidade de transparência, segurança, revisão humana de decisões automatizadas e até a vedação de alguns usos considerados arriscados, como o reconhecimento facial na segurança pública.
O que falta é transformar esses padrões em leis. “A partir do momento em que não existem requisitos de desenvolvimento, a gente acaba dependendo das decisões das empresas, que muitas vezes deixam de fazer análises de risco”, afirma Gustavo.
Atualmente, algumas legislações sobre inteligência artificial avançam na Europa e no Canadá, por exemplo. No Brasil, existe o Projeto de Lei 21/2020, conhecido como Marco Legal da Inteligência Artificial, que foi aprovado no plenário da Câmara dos Deputados em 2021, mas não chegou a ser votado no Senado.
No ano passado, uma comissão de juristas do Senado elaborou um substitutivo a partir deste PL da Câmara e de outros dois apresentados no Senado.
“O substitutivo avança bastante em termos de ter uma abordagem baseada em risco. Ele fala sobre avaliação de impacto algorítmico e traz obrigações para antever efeitos negativos para populações que podem ser afetadas. Houve avanço, mas ainda existe espaço para melhoria no texto”, avalia Gustavo. O substitutivo ainda precisa ser discutido antes de ser votado nas duas Casas.
Fonte: IG TECNOLOGIA