Um assistente de IA com "inteligência emocional" está sendo testado e levanta preocupações

Estou à mesa da cozinha à noite de 🛡 quarta-feira, franzindo o sobrolho enquanto insiro todo o ânimo que consigo três palavras: "Eu te amo."

Os vizinhos podem supor 🛡 que estou envolvido uma chamada melodramática com um ex-parceiro ou algum tipo de exercício de atuação, mas estou 🛡 realmente testando os limites de uma demonstração da Hume, uma startup de Nova Iorque que afirma ter desenvolvido "a primeira 🛡 IA de voz com inteligência emocional do mundo".

De acordo com o CEO e cientista-chefe da Hume, Alan Cowen, a empresa 🛡 treina um grande modelo de linguagem que também entende o tom de voz. "O que isso permite... é ser capaz 🛡 de prever como um determinado enunciado ou frase evocará padrões de emoção."

Em outras palavras, a Hume afirma reconhecer a emoção 🛡 nas nossas vozes (e outra versão não pública, nas nossas expressões faciais) e responder empaticamente.

Impulsionado pelo lançamento da Open 🛡 AI do novo GPT4o mais "emotivo" maio, a chamada "IA emocional" está cada vez mais sendo grande negócio.

A Hume 🛡 arrecadou R$50 milhões sua segunda rodada de financiamento março

, e o valor do setor tem sido previsto 🛡 mais de R$50 bilhões este ano.

Mas o prof. Andrew McStay, diretor do Laboratório de IA Emocional da Universidade de Bangor, 🛡 sugere que tais previsões são sem sentido.

"A emoção é uma dimensão fundamental da vida humana, de modo que, se você 🛡 conseguir compreender, aferir e reagir à emoção de maneira natural, isso terá implicações que irão além de R$50 bilhões," ele 🛡 diz.

As possíveis aplicações variam de jogos melhores e helplines menos frustrantes a vigilância orwelliana e manipulação massa da emoção. 🛡 Mas é mesmo possível para a IA ler com precisão as nossas emoções, e, se alguma forma dessa tecnologia estiver 🛡 caminho de qualquer forma, como devemos lidar com isso?