No Responsabilidade pela Conteúdo: A História da Seção 230 da Lei de Telecomunicações dos EUA

No início e meados dos anos 💻 90, quando a internet ainda estava sua infância e o mundo online estava buliçoso com blogs, um problema preocupante 💻 pairava. Se você fosse um ISP que hospedava blogs e um deles continha materiais ilegais ou difamatórios, você poderia ser 💻 mantido legalmente responsável e processado até a falência. Temendo que isso ralantizasse dramaticamente a expansão de uma tecnologia vital, dois 💻 legisladores dos EUA, Chris Cox e Ron Wyden, inseriram 26 palavras na Lei de Decência da Comunicação de 1996, que 💻 mais tarde se tornou a seção 230 da Lei de Telecomunicações do mesmo ano. As palavras questão eram: "Nenhum 💻 provedor ou usuário de um serviço informático interativo será tratado como editor ou falante de quaisquer informações fornecidas por outro 💻 provedor de conteúdo de informações". As implicações foram profundas: a partir de agora, não seria mais responsável pelo conteúdo publicado 💻 sua plataforma.

O resultado foi o aumento exponencial do conteúdo gerado pelo usuário na internet. O problema era que alguns 💻 deste conteúdo era vileza, difamatório ou simplesmente horroroso. Mesmo que fosse, entretanto, o provedor de hospedagem não seria responsável por 💻 isso. Em determinados momentos, algum desses conteúdos causou indignação pública a tal ponto de se tornar um problema de relações 💻 públicas para as plataformas que o hospedavam, e elas começaram a se envolver "moderação".

A Moderação Tem Dois Problemas

A primeira 💻 é que ela é muito cara devido à escala do problema: 2.500 novos

---

s enviados a cada minuto no YouTube, 💻 por exemplo; 1,3 bilhões de

s são compartilhadas no Instagram todos os dias. Outro problema é a forma como a 💻 sujeita mais suja do trabalho de moderação é frequentemente externalizada para pessoas países desenvolvimento, que são traumatizadas ao 💻 ter que assistir a

---

s de crueldade indizível – por míseros. Os custos de manter os feeds de mídia social 💻 do ocidente relativamente limpos são, assim, suportados pelos pobres do sul global.

As plataformas sabem disso, é claro, mas, recentemente, elas 💻 vêm apresentando o que acreditam ser uma idéia melhor – moderação pela Inteligência Artificial vez de humanos: conteúdo vil 💻 é detectado e excluído por máquinas inflexíveis e sem desculpas. O que há de errado?

Máquinas x Humanos

Existem duas maneiras de 💻 responder a isso. Uma é pela observação de HL Mencken de que "Para cada problema complexo, há uma resposta que 💻 é clara, simples e errada". Outra é perguntando a um cibernética. A cibernética é o estudo de como os sistemas 💻 usam informações, feedback e controle para regular a si mesmos e alcançar resultados desejados. É um campo que foi fundado 💻 1948 pelo grande matemático Norbert Wiener como o estudo científico de "controle e comunicação no animal e na máquina" 💻 e floresceu nos anos 50 e 60 uma nova maneira de pensar sobre as máquinas humanas que chamamos de 💻 organizações.

Uma das grandes quebras no campo foi feita por um psicólogo britânico, W Ross Ashby. Ele estava interessado como 💻 os sistemas de feedback podem alcançar estabilidade e veio com o que se tornou conhecido como "a lei da variedade 💻 adequada" – a ideia de que um sistema deve ter um número de estados que seu mecanismo de controle pode 💻 atingir (sua variedade) maior ou igual ao número de estados do sistema sendo controlado. Nas décadas de 1960, isso foi 💻 reformatado como a noção de que uma organização deve ser capaz de lidar com a complexidade dinâmica de seu ambiente 💻 a fim de ser viável.

Isso soa teórico, não é? Mas com a chegada da internet e, especialmente, do web e 💻 mídia social, a lei de Ashby adquiriu uma relevância sombria. Se você for a Meta (anteriormente Facebook), por exemplo, e 💻 tiver milhões de usuários jogando coisas – algumas delas mal – nos seus servidores a cada milissegundo, então você tem 💻 o que Ashby chamaria de problema de gerenciamento de variedade.

Há realmente apenas duas maneiras de lidar com isso (a menos 💻 que você seja Elon Musk, que decidiu não tentar). Uma é esfriar o suprimento. Mas se você fizer isso, desfigurará 💻 seu modelo de negócios – que é ter todas as pessoas sua plataforma – e também será acusado de 💻 "censura" na terra do primeiro amendamento. O outro é ampliar sua capacidade interna de enfrentar o torrente – o que 💻 é "moderação". Mas o desafio é tão grande que mesmo se a Meta empregasse meio milhão de moderadores humanos, não 💻 seria capaz de enfrentá-lo. Mesmo assim, a Seção 230 ainda o isentaria da lei do país. Derrotar a lei de 💻 Ashby, no entanto, pode provar ser uma tarefa muito mais dura, mesmo para a IA.

Fique atento.

O que eu estou lendo

• Realidades Artificiais
  AI Não É Inútil. Mas Vale a Pena? É uma avaliação perspicaz da estratégia de 💻 "inovação a qualquer custo" do Vale do Silício por Molly White.
• Sim, nós Kant
  O ensaio bom de Kant e o Caso 💻 da Paz da política filosófica Lea Ypi no Financial Times.
• Trabalho progresso
  Um ensaio perspicaz sobre os benefícios dos sindicatos por 💻 Neil Bierbaum seu blog Substack: Para Balanço entre Trabalho e Vida, Olhe para os Sindicatos!