No Responsabilidade pela Conteúdo: A História da Seção 230 da Lei de Telecomunicações dos EUA

No início e meados dos anos 🍉 90, quando a internet ainda estava sua infância e o mundo online estava buliçoso com blogs, um problema preocupante 🍉 pairava. Se você fosse um ISP que hospedava blogs e um deles continha materiais ilegais ou difamatórios, você poderia ser 🍉 mantido legalmente responsável e processado até a falência. Temendo que isso ralantizasse dramaticamente a expansão de uma tecnologia vital, dois 🍉 legisladores dos EUA, Chris Cox e Ron Wyden, inseriram 26 palavras na Lei de Decência da Comunicação de 1996, que 🍉 mais tarde se tornou a seção 230 da Lei de Telecomunicações do mesmo ano. As palavras questão eram: "Nenhum 🍉 provedor ou usuário de um serviço informático interativo será tratado como editor ou falante de quaisquer informações fornecidas por outro 🍉 provedor de conteúdo de informações". As implicações foram profundas: a partir de agora, não seria mais responsável pelo conteúdo publicado 🍉 sua plataforma.

O resultado foi o aumento exponencial do conteúdo gerado pelo usuário na internet. O problema era que alguns 🍉 deste conteúdo era vileza, difamatório ou simplesmente horroroso. Mesmo que fosse, entretanto, o provedor de hospedagem não seria responsável por 🍉 isso. Em determinados momentos, algum desses conteúdos causou indignação pública a tal ponto de se tornar um problema de relações 🍉 públicas para as plataformas que o hospedavam, e elas começaram a se envolver "moderação".

A Moderação Tem Dois Problemas

A primeira 🍉 é que ela é muito cara devido à escala do problema: 2.500 novos

---

s enviados a cada minuto no YouTube, 🍉 por exemplo; 1,3 bilhões de

s são compartilhadas no Instagram todos os dias. Outro problema é a forma como a 🍉 sujeita mais suja do trabalho de moderação é frequentemente externalizada para pessoas países desenvolvimento, que são traumatizadas ao 🍉 ter que assistir a

---

s de crueldade indizível – por míseros. Os custos de manter os feeds de mídia social 🍉 do ocidente relativamente limpos são, assim, suportados pelos pobres do sul global.

As plataformas sabem disso, é claro, mas, recentemente, elas 🍉 vêm apresentando o que acreditam ser uma idéia melhor – moderação pela Inteligência Artificial vez de humanos: conteúdo vil 🍉 é detectado e excluído por máquinas inflexíveis e sem desculpas. O que há de errado?

Máquinas x Humanos

Existem duas maneiras de 🍉 responder a isso. Uma é pela observação de HL Mencken de que "Para cada problema complexo, há uma resposta que 🍉 é clara, simples e errada". Outra é perguntando a um cibernética. A cibernética é o estudo de como os sistemas 🍉 usam informações, feedback e controle para regular a si mesmos e alcançar resultados desejados. É um campo que foi fundado 🍉 1948 pelo grande matemático Norbert Wiener como o estudo científico de "controle e comunicação no animal e na máquina" 🍉 e floresceu nos anos 50 e 60 uma nova maneira de pensar sobre as máquinas humanas que chamamos de 🍉 organizações.

Uma das grandes quebras no campo foi feita por um psicólogo britânico, W Ross Ashby. Ele estava interessado como 🍉 os sistemas de feedback podem alcançar estabilidade e veio com o que se tornou conhecido como "a lei da variedade 🍉 adequada" – a ideia de que um sistema deve ter um número de estados que seu mecanismo de controle pode 🍉 atingir (sua variedade) maior ou igual ao número de estados do sistema sendo controlado. Nas décadas de 1960, isso foi 🍉 reformatado como a noção de que uma organização deve ser capaz de lidar com a complexidade dinâmica de seu ambiente 🍉 a fim de ser viável.

Isso soa teórico, não é? Mas com a chegada da internet e, especialmente, do web e 🍉 mídia social, a lei de Ashby adquiriu uma relevância sombria. Se você for a Meta (anteriormente Facebook), por exemplo, e 🍉 tiver milhões de usuários jogando coisas – algumas delas mal – nos seus servidores a cada milissegundo, então você tem 🍉 o que Ashby chamaria de problema de gerenciamento de variedade.

Há realmente apenas duas maneiras de lidar com isso (a menos 🍉 que você seja Elon Musk, que decidiu não tentar). Uma é esfriar o suprimento. Mas se você fizer isso, desfigurará 🍉 seu modelo de negócios – que é ter todas as pessoas sua plataforma – e também será acusado de 🍉 "censura" na terra do primeiro amendamento. O outro é ampliar sua capacidade interna de enfrentar o torrente – o que 🍉 é "moderação". Mas o desafio é tão grande que mesmo se a Meta empregasse meio milhão de moderadores humanos, não 🍉 seria capaz de enfrentá-lo. Mesmo assim, a Seção 230 ainda o isentaria da lei do país. Derrotar a lei de 🍉 Ashby, no entanto, pode provar ser uma tarefa muito mais dura, mesmo para a IA.

Fique atento.

O que eu estou lendo

• Realidades Artificiais
  AI Não É Inútil. Mas Vale a Pena? É uma avaliação perspicaz da estratégia de 🍉 "inovação a qualquer custo" do Vale do Silício por Molly White.
• Sim, nós Kant
  O ensaio bom de Kant e o Caso 🍉 da Paz da política filosófica Lea Ypi no Financial Times.
• Trabalho progresso
  Um ensaio perspicaz sobre os benefícios dos sindicatos por 🍉 Neil Bierbaum seu blog Substack: Para Balanço entre Trabalho e Vida, Olhe para os Sindicatos!