Tecnologia: Max Tegmark alerta sobre o risco existencial à humanidade imposto pela Inteligência Artificial

Max Tegmark, cientista e ativista Inteligência 1️⃣ Artificial (IA), advertiu que as grandes tecnológicas desviaram a atenção do mundo do risco existencial à humanidade que a IA 1️⃣ ainda representa. Em entrevista à Guardian no AI Summit Seul, Coreia do Sul, Tegmark disse que a mudança de 1️⃣ ênfase da extinção da vida para uma noção mais ampla de risco de segurança da IA poderia resultar um 1️⃣ atraso inaceitável na imposição de regulamentações rigorosas aos criadores dos programas mais poderosos.

Preocupação com a IA fora de controle

Tegmark compara 1️⃣ a situação atual com a construção da primeira reator nuclear autossustentável 1942, sob um campo de futebol de Chicago. 1️⃣ Quando os principais físicos da época souberam disso, ficaram alarmados, pois perceberam que a maior barreira para a construção de 1️⃣ uma bomba atômica havia sido ultrapassada. E, de fato, foi apenas três anos depois, com o teste Trinity 1945.

"Modelos 1️⃣ de IA que podem passar no teste de Turing [em que alguém não consegue dizer uma conversa se está 1️⃣ falando com um ser humano ou uma máquina] são o mesmo aviso para o tipo de IA sobre a qual 1️⃣ você pode perder o controle. Por isso, você tem pessoas como Geoffrey Hinton e Yoshua Bengio - e até mesmo 1️⃣ muitos CEOs de tecnologia, pelo menos particular - ficando alarmados agora."

Liderança regulação de IA

O instituto sem fins lucrativos 1️⃣ de Tegmark, o Future of Life Institute, liderou o apelo por uma pausa de seis meses pesquisas avançadas 1️⃣ IA no ano passado, devido a esses medos. O lançamento do modelo GPT-4 da OpenAI março desse ano foi 1️⃣ o "canário na mina de carvão", segundo ele, e provou que o risco estava muito perto.

Apesar de milhares de assinaturas, 1️⃣ incluindo especialistas como Hinton e Bengio, dois dos três "padrinhos" da IA que pioneiram a abordagem de aprendizado de máquina 1️⃣ que sustenta o campo hoje, nenhuma pausa foi acordada.

Em vez disso, os fóruns de AI, como o de Seul, vêm 1️⃣ liderando o campo emergente da regulação de IA. "Nós queríamos que a carta legitimasse a conversa, e ficamos muito satisfeitos 1️⃣ com o resultado. Uma vez que as pessoas viram que as pessoas como Bengio estão preocupadas, elas acharam que estava 1️⃣ OK se preocuparem também".

"Mas agora, precisamos passar de apenas falar sobre isso para realmente fazer algo a respeito."