Preocupações sobre censura e viés chinês chatbot de geociências

Geólogos levantaram preocupações sobre a possível censura e viés chinês 🤑 um chatbot desenvolvimento com o apoio da União Internacional de Ciências Geológicas (IUGS), uma das maiores organizações científicas do 🤑 mundo e parceira da Unesco.

O GeoGPT é direcionado a geocientistas e pesquisadores, especialmente no sul global, para ajudá-los a desenvolver 🤑 sua compreensão das ciências da terra através de grandes volumes de dados e pesquisas sobre bilhões de anos de história 🤑 do planeta.

Este é um projeto do Deep-time Digital Earth (DDE), um programa fundado 2024, grande parte financiado pela 🤑 China, paraenhancer a cooperação científica internacional e ajudar os países a alcançar os objetivos de desenvolvimento sustentável das Nações Unidas.

Preocupações 🤑 com transparência, censura e possível infração de direitos autorais

Uma parte do AI subjacente do GeoGPT é o Qwen, um grande 🤑 modelo de linguagem construído pela empresa chinesa de tecnologia Alibaba. Um dos que testaram uma versão prévia do chatbot, o 🤑 prof. Paul Cleverley, geólogo e cientista de computação, alegou um artigo recentemente publicado no Geoscientist, a revista da Sociedade 🤑 Geológica do Reino Unido, aprofissional associada de geólogos, que o GeoGPT apresentava "questões sérias torno da falta de transparência, 🤑 censura estatal e possível infração de direitos autorais".

Resposta da DDE: falta de censura e problemas resolvidos

Representantes do DDE, incluindo Michael 🤑 Stephenson, Hans Thybo, Chengshan Wang e Ishwaran Natarajan, responderam ao artigo afirmando que o chatbot também usava o Llama, outro 🤑 grande modelo de linguagem da Meta, e que durante os testes não notaram censura estatal, o que eles consideraram "improvável", 🤑 uma vez que o sistema é "totalmente baseado informações de ciências da terra".

Os acadêmicos do DDE disseram: "Os problemas 🤑 com o GeoGPT foram essencialmente resolvidos, mas a equipe continuará trabalhando para aprimorar o sistema ainda mais. Deve ser enfatizado 🤑 que, atualmente, o GeoGPT ainda não foi lançado e não está disponível publicamente."