Plano de OpenAI se tornar uma empresa lucrativa pode encorajar cortes de esquina segurança, alerta um denunciante

William Saunders, 💸 um ex-engenheiro de pesquisa da OpenAI, disse à Guardian que está preocupado com relatos de que o desenvolvedor do ChatGPT 💸 está se preparando para mudar sua estrutura corporativa e não será mais controlado por seu conselho sem fins lucrativos.

Saunders, que 💸 levantou suas preocupações testemunho ao Senado dos EUA este mês, disse que também está preocupado com relatos de que 💸 o chefe executivo da OpenAI, Sam Altman, poderá ter uma participação na empresa reestruturada.

Mais incêntivo para corrida e cortes de 💸 esquina

"Estou mais preocupado com o que isso significa para a governança de decisões de segurança na OpenAI. Se o conselho 💸 sem fins lucrativos não estiver mais a cargo dessas decisões e Sam Altman tiver uma participação significativa, isso criará mais 💸 incêntivo para corrida e cortes de esquina."

A OpenAI foi fundada como uma entidade sem fins lucrativos e sua carta se 💸 compromete a construir inteligência artificial geral (AGI) – que ela descreve como "sistemas que são geralmente mais inteligentes do que 💸 humanos" – que beneficie "toda a humanidade". No entanto, o potencial poder de um sistema AGI tem alarmado especialistas e 💸 praticantes, incluindo Saunders, ante o medo de que a corrida competitiva para construir tal tecnologia possa levar a que as 💸 preocupações com a segurança sejam superadas.

Perda de fé na OpenAI

Saunders disse testemunho escrito ao Senado que deixou a empresa 💸 porque "perdeu a fé" de que a OpenAI faria decisões responsáveis sobre AGI. Saunders era membro da equipe de superalinhamento 💸 da OpenAI, um grupo agora dissolvido encarregado de garantir que sistemas de IA poderosos adiram aos valores e objetivos humanos.

Prioridade 💸 à sociedade

Saunders disse que uma mudança para uma entidade lucrativa pode minar os objetivos da estrutura atual, na qual a 💸 OpenAI tem uma entidade lucrativa que limita as retornos a investidores e empregados. Toda a renda gerada acima dessa capa 💸 é devolvida ao sem fins lucrativos "para o benefício da humanidade".

Saunders disse que uma entidade puramente lucrativa pode não distribuir 💸 seus rendimentos de volta à sociedade se, por exemplo, ela desenvolver tecnologia que torna um grande número de empregos obsoletos.

"A 💸 OpenAI deveria permitir apenas lucros limitados para investidores e empregados e dar o resto ao sem fins lucrativos. Então, se 💸 a OpenAI fizesse tecnologia de IA que causasse grande escala de desemprego, eles não estariam simplesmente faturando os lucros e 💸 darão de volta à sociedade. Mudar para uma entidade lucrativa sugere que isso não é mais uma prioridade."

A OpenAI foi 💸 contatada para comentários. Sua carta estatal diz que a empresa está "comprometida fazer a pesquisa necessária para tornar a 💸 AGI segura" e recentemente tornou seu comitê de segurança e segurança uma entidade independente, o que também envolveu Altman renunciando 💸 como um de seus membros.