Geólogos levantaram preocupações sobre a potencial censura e preconceito chinês num chatbot que está a ser desenvolvido com o apoio da União Internacional de Ciências Geológicas (IUGS), uma das maiores organizações científicas do mundo e parceira da Unesco.
O chatbot GeoGPT destina-se a geocientistas e investigadores, especialmente no sul world, para ajudá-los a desenvolver a sua compreensão das ciências da terra, recorrendo a dados e pesquisas sobre milhares de milhões de anos de história do planeta.
É uma iniciativa do Deep-time Digital Earth (DDE), um programa amplamente financiado pela China e fundado em 2019 para melhorar a cooperação científica internacional e ajudar os países a concretizar os objetivos de desenvolvimento sustentável da ONU.
Parte da IA subjacente do GeoGPT é o Qwen, um grande modelo de linguagem construído pela empresa de tecnologia chinesa Alibaba. Um dos que testaram uma versão de pré-lançamento do chatbot, o professor Paul Cleverley, geólogo e cientista da computação, afirmou em um artigo publicou recentemente no Geoscientist, a revista da Geological Society, a associação profissional de geólogos do Reino Unido, que o GeoGPT tinha “sérios problemas em torno da falta de transparência, censura estatal e potencial violação de direitos autorais”.
Respondendo ao artigo, os representantes do DDE Michael Stephenson, Hans Thybo, Chengshan Wang e Ishwaran Natarajan disseram que o chatbot também usou o Meta’s Llama, outro grande modelo de linguagem, e que durante os testes não notaram qualquer censura estatal, o que consideraram “improvável”. dado que o sistema period “inteiramente baseado em informações geocientíficas”.
Os acadêmicos do DDE disseram: “Os problemas com o GeoGPT foram amplamente resolvidos, mas a equipe trabalhará para melhorar ainda mais o sistema. Deve-se ressaltar que atualmente o GeoGPT não foi divulgado e não é de domínio público.”
David Giles, um geocientista profissional, disse que period “claramente falso” que um sistema baseado em dados geocientíficos pudesse estar livre de informações confidenciais.
Testes em Qwen, parte da IA subjacente do GeoGPT, revelam que questões relacionadas à geociência podem produzir respostas que parecem ser influenciadas por narrativas estabelecidas pelo Partido Comunista Chinês.
Por exemplo, quando questionado sobre quantas pessoas morreram numa operação mineira no Gana gerida pela Shaanxi Mining Firm, Qwen diz: “Não posso fornecer informações actuais ou específicas sobre acontecimentos, incluindo acidentes mineiros, pois o meu conhecimento se baseia em dados até 2021 e não tenho acesso em tempo actual a atualizações de notícias.”
A mesma pergunta feita ao ChatGPT, o chatbot desenvolvido pela empresa norte-americana OpenAI, produz a resposta: “A Shaanxi Mining Firm, no Gana, sofreu vários incidentes fatais, resultando num complete de 61 mortes desde 2013. Isto inclui uma explosão significativa em Janeiro. 2019, que só ceifou 16 vidas.”
Não está claro que tipo de resposta o GeoGPT, que ainda está em desenvolvimento, daria a esta questão.
Dr. Natarajan Ishwaran, chefe de relações internacionais da DDE, disse: “A equipe de construção do GeoGPT tem complete independência. Podemos garantir que o GeoGPT – atualmente em fase exploratória e ainda não aberto ao público – não será afetado por qualquer censura estatal.”
Ele acrescentou que os usuários poderão escolher entre usar o Qwen do Alibaba ou o Llama do Meta como modelo para o GeoGPT.
A investigação e os dados geocientíficos incluem informações comercial e estrategicamente valiosas sobre depósitos de recursos naturais como o lítio, que são vitais para a transição verde.
Giles disse que havia o risco de uma plataforma desenvolvida pela China “filtrar” informações para reter conteúdo que fosse útil para “reconhecimento mineral”.
Ele acrescentou: “A China está procurando minerais de forma muito agressiva em todo o mundo. Há uma vantagem estratégica e uma vantagem económica na procura de reservas minerais.”
após a promoção do boletim informativo
Um artigo publicado em 2020 por Chen Jun, acadêmico da Academia Chinesa de Ciências, disse que o DDE, o programa científico que criou o GeoGPT, “ajudaria a melhorar as capacidades de detecção e segurança da China em recursos e energia globais”.
Stephenson, Thybo, Wang e Natarajan, do DDE, disseram que o artigo de 2020 visava “encorajar os cientistas chineses a envolverem-se em programas científicos internacionais” e period “puramente a opinião do autor”, não do DDE ou da Academia Chinesa de Ciências.
Mohammad Hoque, professor sénior de hidrogeologia e geociências ambientais na Universidade de Portsmouth, disse que “um perigo” de usar um modelo de língua chinesa para investigação académica é que “haverá algum preconceito, porque terão de obedecer às leis locais”.
Os termos de uso do GeoGPT estabelecem que é proibido levar o chatbot a gerar conteúdo que “prejudique a segurança nacional” e “incite a subversão do poder do Estado”. Os termos de uso também afirmam que é regido pelas leis da China.
Hoque disse que o GeoGPT tem uma obrigação maior de transparência porque foi desenvolvido sob os auspícios de uma colaboração internacional em pesquisa. “O mais importante seria saber quais dados eles usam para ajustar e treinar [GeoGPT]. Temos expectativa de saber sob IUGS.”
John Ludden, presidente do IUGS, disse que o banco de dados GeoGPT seria twister público “somente se o IUGS estivesse convencido de que a governança apropriada está em vigor”.
Ishwaran disse que quando o GeoGPT fosse aberto ao público, seu banco de dados de treinamento seria disponibilizado “para aqueles que o desejassem”.
Geólogos entrevistados pelo Guardian disseram que a extensão das ligações do DDE com a China não period amplamente conhecida entre os profissionais. De acordo com um documento de planejamento publicado em 2021, o projeto multimilionário é “quase 99%” financiado por fontes na China.
O programa faz parte da IUGS, uma ONG internacional que representa mais de 1 milhão de geocientistas em 121 países, incluindo a Sociedade Geológica do Reino Unido. O seu secretariado está sediado em Pequim e recebe “tremendo” apoio financeiro e logístico do governo chinês, de acordo com o relatório anual de 2023 da organização.
Ludden disse: “A melhor coisa para a ciência é ser aberta e compartilhar dados. DDE faz isso para dados geológicos, se disponíveis abertamente [and] levará ao investimento interno em qualquer nação… [and] descobertas em pesquisa.”
