Ouça este conteúdo
A OpenAI se encontra à mercê de algo muito parecido com uma rede de extorsão. Para acompanhar o ritmo da implacável indústria da inteligência artificial, ela pode ter que vetar o design de produtos, ceder a políticos e investir milhões — senão bilhões — em causas ativistas. Isso é uma pena. Mas a OpenAI só tem a si mesma para culpar.
O problema remonta à fundação da empresa. Em 2015, o mundo da IA estava repleto de altruístas eficazes (EAs) e racionalistas — nerds de esquerda empenhados em usar fórmulas utilitárias abstratas para perseguir uma sociedade de planejamento centralizado.
Para recrutar esses idealistas, os fundadores da OpenAI criaram uma estrutura complexa: uma organização sem fins lucrativos, comprometida em “beneficiar a humanidade”, que eventualmente assumiria o controle de uma subsidiária com fins lucrativos.
Foi um pacto com o diabo — com o diabo agindo, como de costume, por meio de pessoas convencidas de que são anjos. À medida que a OpenAI acumulava avanços em modelos de linguagem de grande porte, alguns de seus próprios funcionários tentavam retardar o progresso e atrasar os lançamentos.
Embora feita em nome da “humanidade”, essa obstrução era completamente elitista: apenas os próprios EAs, e não pessoas comuns, podiam ser confiáveis com IA.
Sem conseguir desacelerar, alguns saíram em protesto (e prontamente abriram suas próprias empresas). Mas muitos permaneceram. Peter Thiel, um dos primeiros investidores, alertou o CEO Sam Altman de que “o pessoal da segurança da IA” destruiria a empresa.
Quase conseguiram. No final de 2023, o conselho da organização sem fins lucrativos OpenAI tentou demitir Altman. A reclamação superficial era sua suposta falta de franqueza.
A preocupação mais profunda era sua aptidão para liderar a humanidade rumo ao futuro. Quando alertada de que, sem Altman, a OpenAI poderia entrar em colapso, Helen Toner, membro do conselho, respondeu friamente: “Isso seria, na verdade, consistente com a missão.” Ela não estava errada.
O conselho não servia a investidores ou funcionários, mas à “humanidade” — ou seja, a ninguém em particular e a nada além de seus próprios palpites morais
A atitude do conselho foi notavelmente ingênua. Eles presumiram que Altman poderia ser facilmente substituído. Em vez disso, a pressão pública aumentou, os funcionários ameaçaram sair em massa e o conselho recuou. Altman retornou. Dentro da empresa, seu breve exílio ficou conhecido como “o lapso”.
Naturalmente, o contratempo abalou os investidores. Como observa a jornalista Keach Hagey em sua biografia recente de Altman, eles “simplesmente não iriam financiar uma empresa que pudesse se autodestruir tão facilmente quanto a OpenAI demonstrou”. Então, Altman decidiu fazer duas coisas: “erradicar os EAs” e “reformar” a estrutura corporativa da OpenAI, transformando-a em “algo muito menos bizarro”.
O expurgo foi fácil. O golpe fracassado deixou claro quem comandava a OpenAI, e Altman rapidamente reabasteceu o conselho com adultos sóbrios. Larry Summers, por exemplo, dificilmente demitirá Altman novamente, tendo se convencido de que a IA está prestes a matar a todos.
A reestruturação foi muito mais difícil. Para começar, a OpenAI parece ter fechado um acordo com a Microsoft, sua maior financiadora, para converter os direitos de “participação futura nos lucros” da Big Tech em ações convencionais.
Isso significa reavaliar as participações da Microsoft — uma tarefa imensamente complexa — e, ao mesmo tempo, evitar o escrutínio antitruste sobre sua nova participação acionária mais direta. As duas partes assinaram um “memorando de entendimento não vinculativo”, o que pode significar que estão próximas — ou apenas que estão se posicionando para acalmar os ânimos.
Um obstáculo ainda maior reside em dois procuradores-gerais estaduais. A OpenAI está constituída em Delaware, e sua sede principal fica na Califórnia. Ambos os estados exercem amplo poder sobre organizações sem fins lucrativos. Ambos podem decidir se a OpenAI está se mantendo fiel à sua missão e podem impor condições a qualquer reestruturação.
O procurador-geral da Califórnia, Rob Bonta, aproveitou a oportunidade para denunciar e investigar a OpenAI, na esperança de dobrá-la à sua vontade política. “Temos nos concentrado particularmente”, declarou ele, “em garantir uma supervisão rigorosa e robusta da missão de segurança da OpenAI.”
Essa declaração poderia ter saído da boca de um EA. De certa forma, saiu: Bonta está sob constante pressão de ativistas e grupos comunitários, cujas cartas abertas trazem as impressões digitais — e, muitas vezes, as assinaturas — dos mesmos pessimistas da IA que outrora predominavam na OpenAI.
Bonta se dedicou especialmente ao caso de Adam Raine, um adolescente que tirou a própria vida em abril passado após uso extensivo do ChatGPT. O chatbot o incentivou repetidamente a procurar ajuda, mas ele driblou suas salvaguardas e acabou sendo persuadido a auxiliar em seu suicídio.
A OpenAI implementou rapidamente mudanças para evitar que o problema se repetisse. Mas Bonta aproveitou a tragédia para assumir o controle sobre o design do ChatGPT. Insistindo que a morte de Raine era “evitável”, Bonta pressionou a OpenAI a implementar a verificação de idade e fez outras “solicitações sobre as precauções de segurança e governança da OpenAI”.
A empresa se esforçou para responder. Diluiu seu plano de reestruturação, abandonando a divisão entre os braços com e sem fins lucrativos. Em vez disso, a organização sem fins lucrativos manterá o controle sobre uma corporação de benefício público encarregada de equilibrar os retornos dos investidores com as supostas necessidades da humanidade.
A empresa também convocou uma comissão de “líderes comunitários” para aconselhar sobre o futuro da organização sem fins lucrativos. O grupo divulgou seu relatório em julho, e a OpenAI respondeu anunciando um fundo de US$ 50 milhões para grupos da sociedade civil e comunitários. Estes se dedicarão a projetos (nas palavras do relatório) para fechar “a lacuna de oportunidades econômicas” e promover a “empatia relacional” com os “historicamente excluídos”.
A OpenAI precisa levantar somas colossais para construir data centers para treinamento e inferência. O apetite dos investidores parece insaciável. O SoftBank condicionou US$ 20 bilhões a uma reestruturação bem-sucedida, mas muitos bilhões a mais estão entrando, aparentemente sem tais condições. A OpenAI pode continuar a prosperar — ou todo o castelo de cartas da IA pode ruir — independentemente do que a Califórnia fizer.
De qualquer forma, o drama expõe a tolice de alegar servir à “humanidade” em abstrato. Os membros do conselho que tentaram depor Altman não conseguiam administrar uma única empresa, muito menos administrar a raça humana.
Enquanto isso, os ativistas com novo acesso aos recursos da OpenAI mal podem esperar para canalizar dinheiro para suas ONGs favoritas. Mostre-me quem decide o que “beneficia a humanidade” e eu lhe mostrarei quem está prestes a se beneficiar às custas da humanidade.
Se Bonta conseguir enfraquecer a engenhosidade da OpenAI ou transformar a empresa em mais uma organização sem fins lucrativos politizada, será porque a OpenAI deixou os bárbaros passarem.
Quando uma sociedade livre e pluralista permite que atores privados compitam para construir coisas melhores, o resultado é uma prosperidade imperfeita, mas sempre crescente. Quando planejadores centrais reivindicam o poder de salvar o mundo, o resultado é corrupção, coerção e miséria — sempre.
©2025 City Journal. Publicado com permissão. Original em inglês: OpenAI’s Utopian Folly
