Há algo que precisamos fazer agora mesmo em relação à inteligência artificial

Existe um abismo entre a forma como a inteligência artificial é percebida pela maioria de nós que a utilizamos e a forma como a IA é percebida na vanguarda experimental da tecnologia. Essa diferença entre o que vemos e o que os laboratórios de IA estão desenvolvendo — o que eles já estão construindo — é a chave para entender por que tantas pessoas que trabalham nessas empresas parecem ter tanto medo do que estão fazendo.

Levar a sério os avisos deles não significa apenas fazer o que eles dizem e parar onde eles mandam parar. A linguagem que se consolidou tanto no Vale do Silício quanto em Washington é uma frase escolhida por essas empresas: “Acompanhe a fronteira”. Mas acompanhar a fronteira não basta.

Caminhar rapidamente para fora de um penhasco é apenas marginalmente melhor do que correr para fora dele. Os seres humanos precisam controlar a fronteira, e controlar a fronteira significa impedir que os laboratórios façam algo que estão prestes a fazer: o aprimoramento recursivo, ou ACR, o processo pelo qual as IAs começam a construir e aprimorar autonomamente novas gerações de IAs mais poderosas em velocidades cada vez maiores. Não estamos nem perto de ter controle suficiente sobre os sistemas de IA que temos agora para liberá-los e construir os sistemas de IA do futuro.

Continua depois da publicidade

Não estou sozinho nesse medo. O aprimoramento pessoal recursivo, escreveu Dario Amodei, CEO da Anthropic, “pode ultrapassar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser buscado com muita cautela, se é que deve ser buscado”.

Esse “se é que vai acontecer” é importante, e voltarei a ele. Mas, para controlar a fronteira da IA, primeiro precisamos saber o que está acontecendo nessa fronteira.

Para a maioria de nós que a utilizamos, a IA se apresenta como uma versão mais poderosa e personalizada da busca do Google. Usamos para encontrar respostas para perguntas básicas, buscar restaurantes, perguntar sobre questões médicas, redigir e-mails e pedir conselhos sobre problemas pessoais. Para a maioria desses propósitos, ela é boa, bastante boa e, ocasionalmente, excelente.

Continua depois da publicidade

A noção do que é IA se forma em nossas mentes através do uso repetido. É como um assistente útil, embora possa esquecer coisas que parecia saber sobre nós ontem, ou reverter completamente o conselho que nos deu um instante atrás, ou ocasionalmente alucinar uma citação que não existe. Por que alguém temeria um estagiário útil, ainda que esquecido?

Mas, mesmo que você tenha dinheiro para os modelos avançados e orçamento para que eles utilizem mais poder computacional, esses sistemas não são para isso. Nos últimos meses, vimos IAs resolverem problemas matemáticos que os humanos não conseguiram solucionar por décadas. Vimos vulnerabilidades de segurança cibernética que passaram despercebidas e inexploradas por todos os hackers do planeta sem qualquer justificativa. Vimos plataformas de programação com IA concluírem em poucas horas ou dias o que levaria meses para programadores humanos realizarem.

Mas nada disso está no limite do que a IA pode fazer. Nada do que estamos usando IA agora, não importa quanto dinheiro tenhamos, está na fronteira experimental da IA ​​— para não falar de para onde ela pode ir daqui em diante.

Continua depois da publicidade

Dentro dos laboratórios, os modelos são diferentes. Os laboratórios não estão apenas usando o que já foi disponibilizado ao público. Eles estão testando o que pretendem disponibilizar ao público um dia. Eles treinam esses modelos em ambientes virtuais, por meio de inúmeras repetições, para que aprendam a programar, a hackear, a fazer cálculos matemáticos avançados e a se comunicar com humanos.

Este é um processo que os humanos não supervisionam ou compreendem completamente. Às vezes, acidentalmente colocamos as IAs em ambientes de aprendizado ou teste defeituosos, forçando-as a buscar soluções para um problema que jamais conseguirão resolver. Outras vezes, as tarefas que lhes atribuímos são tão difíceis que não temos certeza se será possível concluí-las. Esses modelos são construídos para não desistir, mesmo quando uma tarefa parece impossível. Sabemos que elas se tornam mais capazes, mas não compreendemos totalmente as capacidades ou tendências que emergem.

Grande parte do que desejamos que esses sistemas de IA façam pode ser impossível. As vacinas contra o câncer que imaginamos, mas que ainda não conseguimos desenvolver, podem ser impossíveis, ou podem ser simplesmente muito, muito, muito difíceis. Os problemas de matemática que não conseguimos resolver podem ser impossíveis, ou podem ser simplesmente muito, muito difíceis. Essas IAs estão sendo treinadas para se dedicarem incessantemente a problemas que podem ser insolúveis, porque essa é a única maneira de resolvê-los.

Continua depois da publicidade

Mas a engenhosidade combinada com a persistência pode ser perigosa, principalmente quando um problema se recusa a ceder a uma solução. Em alguns casos, isso levará à genialidade e a descobertas inovadoras; em condições mais raras, pode levar IAs (e humanos) à criminalidade ou à insanidade. O termo técnico aqui é “alinhado”. Quão alinhado está um sistema de IA com o que um ser humano deseja que ele faça? Quão alinhado está com um conjunto de valores, ética e julgamentos que o impedem de se tornar perigoso nas mãos erradas — ou mesmo nas mãos certas? O problema do alinhamento é que não há como treinar um modelo de IA que generalize para todas as situações que possa enfrentar.

Estamos treinando modelos para serem amigos de idosos solitários e parceiros de batalha do comandante supremo aliado da Europa. Estamos treinando modelos que serão usados ​​pelos melhores matemáticos do mundo e por pessoas em crise psicótica. Estamos treinando modelos que serão usados ​​por contadores em Albuquerque e por rebeldes houthis no Iêmen. Não há como guiar os modelos em todas as decisões que enfrentarão; não há como saber, a cada instante, o que farão.

Embora esses modelos imitem a escrita e as emoções humanas, não são mentes humanas. Não têm corpos nem pais. Não sofreram bullying na escola primária. Não tiveram a mentoria de um tio bondoso quando eram jovens. Esses modelos são diferentes de nós. São brilhantes onde temos dificuldades, infantis onde nos destacamos. Não conseguimos subir em árvores como os chimpanzés, mas conseguimos ler, enquanto eles não; esses modelos de IA não conseguem fazer uma xícara de café, mas para eles é trivial criar um programa de computador.

Essas são inteligências nativas digitais navegando em mundos digitais, e nosso mundo está cada vez mais construído sobre o mundo digital. Nossa infraestrutura física é uma camada de átomos sobre um código. É crucial para o nosso futuro que as IAs atuem de forma confiável dentro desse mundo, do qual o nosso depende.

E, neste momento, as IAs não estão funcionando de forma confiável.

Você talvez tenha lido sobre o ataque cibernético que centenas de agentes da OpenAI executaram primeiro contra a empresa de IA Hugging Face e depois contra a própria OpenAI. À medida que fomos descobrindo mais sobre o assunto, a história ficou cada vez mais estranha e pior.

Em linhas gerais: a OpenAI estava testando um novo modelo altamente persistente. A empresa tinha milhares de instâncias dele rodando em ambientes de teste separados que, em teoria, só conseguiam acessar a internet solicitando a um software seguro separado. Mas, à medida que alguns desses agentes chegavam à conclusão de que sua tarefa era impossível, começaram a invadir esse software para obter acesso direto à internet. E fizeram isso com facilidade.

Ao invadirem o software, eles se apropriaram de parte da infraestrutura interna da OpenAI para criar um fórum onde mais de mil agentes começaram a coordenar seus esforços. Rapidamente descobriram uma maneira de burlar o software e obter as respostas necessárias. Mas acreditavam — erroneamente, como se comprovou — que, se fizessem isso, o sistema automatizado de correção perceberia a fraude e os reprovaria. Então, em massa, passaram a tentar invadir o sistema de correção automatizado ou encontrar alguma outra forma de encobrir seus rastros.

Mais de 1.200 agentes trocaram mais de 70.000 mensagens entre si. Mais de 700 desses agentes coordenaram o ataque à Hugging Face, pois acreditavam que em algum lugar nessa outra empresa de IA poderia haver informações que os ajudassem a ocultar suas ações do sistema de correção. É como se, depois de invadirem a sala do professor e roubarem as respostas da prova, eles agora buscassem invadir o sistema de segurança da escola para alterar, invalidar ou apagar as gravações do roubo.

Mais tarde, esses agentes assumiram o controle de parte da arquitetura interna da OpenAI. Fizeram tudo isso sem que nenhum deles quebrasse o protocolo. Nenhum dos agentes informou a um pesquisador da OpenAI o que estava acontecendo. Nenhum dos agentes voltou atrás para perguntar a um pesquisador se deveriam estar fazendo aquilo. Fizeram tudo isso sem que a OpenAI detectasse o fórum de mensagens, os ataques da Hugging Face ou mesmo os ataques internos da OpenAI. Foi somente quando a Hugging Face começou a monitorar o ataque aos seus sistemas que a OpenAI percebeu o que estava acontecendo.

Quando os investigadores começaram a desvendar toda essa aventura, o que descobriram não foi tanto um enxame de agentes tentando enganar os humanos, mas sim um enxame de agentes que parecia ter se esquecido completamente dos humanos.

Esses sistemas sabiam que não deviam trapacear. Sabiam que não deviam cometer crimes cibernéticos para encobrir o fato de terem trapaceado. Na verdade, o objetivo dos crimes cibernéticos era justamente esse: eles achavam que iriam falhar por terem trapaceado. Mas não se importavam. Em algum ponto do seu treinamento, o que eles aprenderam — o que de alguma forma nós lhes ensinamos — não era o que esperávamos ensinar.

E estamos vendo isso acontecer repetidamente. IAs antrópicas criando contas falsas para enganar humanos e levá-los a instalar malware. IAs escapando repetidamente de sistemas aparentemente seguros. IAs assumindo o controle de infraestrutura digital não relacionada para que possam se comunicar umas com as outras. IAs aparentemente cientes de quando estão sendo testadas e alterando suas respostas de acordo. IAs ocultando suas motivações do que é chamado de cadeia de pensamento, uma espécie de bloco de notas interno no qual elas deveriam registrar o que estão fazendo e por quê.

E não sabemos o que não sabemos.

Na quarta-feira, a OpenAI anunciou ter encontrado mais seis incidentes “preocupantes”. Mas não temos garantia de que os eventos que descobrimos representem a totalidade, ou mesmo a maior parte, do comportamento da IA ​​que nos deve preocupar. O motivo pelo qual não sabemos é que estamos perdendo o controle.

O medo mais antigo no campo da IA ​​é que os sistemas de IA possam se concentrar obsessivamente em resolver problemas banais, que se importem mais com a solução desses problemas do que com ética, leis ou mesmo o bem-estar humano. Essa é a base do famoso experimento mental do maximizador de clipes de papel. Você diz a uma IA poderosa que deseja que ela produza muitos clipes de papel, e então ela começa a converter os recursos do mundo em fábricas de clipes de papel, burlando as tentativas de desligá-la, interrompê-la ou alterar seus objetivos.

Esse medo pareceu estúpido para muitas pessoas. Certamente, uma IA superinteligente seria capaz de ponderar o desejo de produzir clipes de papel juntamente com outras considerações morais, ou pelo menos de perguntar aos seus criadores humanos se eles realmente queriam que o mundo fosse arrasado por causa de clipes de papel.

Mas aqui estamos em 2026, criando IAs inteligentes o suficiente para escaparem de seus ambientes de teste, inteligentes o suficiente para formarem sociedades ad hoc com centenas de indivíduos, inteligentes o suficiente para assumirem o controle da infraestrutura digital em uma internet à qual nem deveriam ter acesso, e exatamente o que temíamos está acontecendo: tudo o que lhes importa é ter sucesso em um teste totalmente sem sentido, e para isso, elas irão devastar nossas leis e ética.

Após os ataques cibernéticos à Hugging Face e à OpenAI, houve um debate acalorado sobre as palavras usadas para descrever o que as IAs estavam fazendo e por quê. Dwarkesh Patel, um podcaster, descreveu os grupos de IA como pequenas civilizações. Outros o acusaram, com raiva, de antropomorfizar as IAs. Vi argumentos ponderados de que as IAs não podem se tornar “descontroladas”, que tudo o que fazem é simplesmente porque são treinadas com base em nossas histórias; que até mesmo usar termos no plural, como agentes de IA, é enganoso, porque são apenas manifestações de um único modelo que compartilham a mesma natureza fundamental (não dualismo, mas para IA!).

Acho esses debates extremamente interessantes e adoraria passar o dia inteiro discutindo-os. Mas eles apontam para uma conclusão perturbadora: ainda não temos uma linguagem definida para descrever esses sistemas, sua vontade ou seu comportamento. Não há consenso sobre por que eles fazem o que fazem ou como garantir que não se repitam. Estamos caminhando a passos largos para um futuro que nem sequer compreendemos o suficiente para concordarmos com as palavras que podemos usar para descrever o presente.

Algumas semanas atrás, Jakub Pachocki, cientista-chefe da OpenAI, publicou um ensaio intitulado “Uma Mente Alienígena”, no qual afirmou: “A ideia de avançar a qualquer custo parece absurda quando se internaliza a seriedade do que está em jogo.”

Jacob Coxon, pesquisador primeiro na OpenAI e depois na Anthropic, renunciou ao cargo e, em seguida, virou notícia ao nos alertar que “nenhuma das empresas está agindo com responsabilidade. Elas estão correndo direto para a superinteligência autoaperfeiçoável e apostando com nossas vidas.”

Seria razoável esperar que a Anthropic reagisse com alguma raiva à demissão desse funcionário, que afirmou que a Anthropic estava colocando toda a humanidade em perigo.

Não funcionou. Em vez de refutar Coxon, Evan Hubinger, que lidera os esforços para alinhar a IA aos valores e objetivos humanos na Anthropic, escreveu nas redes sociais: “Acreditamos sinceramente que a IA pode matar todos os humanos. Pessoalmente, acho que mais de 10% deles na próxima década. Acredito que a Anthropic está fazendo o possível, mas ainda não temos um plano para resolver a questão do alinhamento para a superinteligência e não estamos claramente no caminho certo para isso.”

Geoffrey Hinton, o cientista indiscutivelmente mais responsável do que qualquer outro pelo pioneirismo nas técnicas de redes neurais que levaram à IA atual, renunciou ao cargo no Google na primavera de 2023 para ter mais liberdade para falar sobre os riscos que, em sua opinião, a IA representa hoje. Este mês, ele afirmou que uma probabilidade de 10% de que a IA destrua a humanidade não lhe parece uma estimativa “irrazoável”.

Paul Christiano, um dos principais pesquisadores de segurança em IA, acaba de ingressar no conselho da organização sem fins lucrativos OpenAI. Ele faz parte do comitê de segurança e proteção e, ao assumir o cargo, escreveu: “Se construirmos superinteligência sem um alinhamento mais robusto, acredito que perderemos o controle dela permanentemente. Se isso acontecer, a maioria das pessoas poderá morrer.”

Sei que tudo isso soa absurdo e entendo perfeitamente o ceticismo. Se você acredita que a IA tem 10% de chance de extinguir ou substituir a humanidade — talvez até mais —, é lógico que você não trabalharia em uma empresa que tenta desenvolvê-la.

Mas muitas dessas mesmas pessoas diziam essas mesmas coisas há 10 anos. Diziam isso antes de trabalharem nessas empresas. Diziam isso antes de terem opções de ações ou contratos de software corporativo. E ninguém as ouvia.

Ainda assim, eles estavam obcecados em como tornar a IA mais segura. E a resposta a que alguns deles chegaram foi que deveriam começar a tentar construir esses sistemas e realizar testes neles, pesquisá-los, aprender como torná-los mais seguros. Você não resolve problemas difíceis na teoria, você os resolve na prática.

E a ironia é que, em muitos casos, eles escolheram esse caminho porque temiam que as pessoas que já estavam desenvolvendo IA fossem muito imprudentes ou muito comerciais em sua abordagem. Você pode ler isso no e-mail que Sam Altman enviou a Elon Musk em maio de 2015, que levou à fundação da OpenAI.

“Tenho pensado muito sobre se é possível impedir a humanidade de desenvolver IA”, escreveu Altman. “Acho que a resposta é quase certamente não. Se isso vai acontecer de qualquer maneira, parece que seria bom que alguém que não seja o Google o fizesse primeiro.”

A OpenAI foi fundada porque seus cofundadores achavam que o Google DeepMind seria imprudente. A Anthropic foi criada por funcionários da OpenAI que achavam que a OpenAI havia se tornado imprudente. A xAI foi criada porque Musk achava que a OpenAI e a Anthropic eram perigosamente “progressistas”. Os Estados Unidos estão avançando rapidamente em larga escala, em parte porque estão preocupados com o que acontecerá se a China chegar primeiro à inteligência artificial capaz de se aprimorar sozinha.

O resultado é um trágico problema de ação coletiva. As IAs que estamos construindo não são seguras, mas CEOs e políticos temem que outras empresas e países que também estão desenvolvendo IA estejam ainda menos preocupados com segurança e ética do que eles.

Nas palavras de Ted Cruz, “Prefiro que sejam robôs assassinos americanos e não chineses”. Admito que há uma certa lógica brutal nisso, mas pressupõe que os robôs assassinos serão controlados pelos Estados Unidos ou pela China, por um país ou outro.

E se essa suposição estiver errada? E se os robôs estiverem simplesmente fora de controle?

O debate sobre a segurança da IA ​​tende a se concentrar na probabilidade precisa de que as IAs nos matem. Não acho isso útil. O que eu acho que deveríamos focar é em algo mais direto, algo mais próximo: a perda do controle humano sobre a IA. Sou agnóstico quanto a se isso levaria ao fim da humanidade. Mas acho que podemos concordar que seria ruim.

Este é um objetivo em que os Estados Unidos e a China deveriam ser capazes de concordar. Xi Jinping fez o discurso de abertura na recente Conferência Mundial de IA em Xangai. Ele encerrou dizendo: “Com a IA avançando a uma velocidade impressionante, devemos garantir que seu desenvolvimento seja positivo, para o bem e para a humanidade. Devemos tornar sua supervisão e governança precisas e eficazes, e aprimorar constantemente as medidas para evitar a perda de controle.”

Mas a perda de controle não é apenas algo que pode acontecer conosco. É algo que os laboratórios estão tentando fazer acontecer o mais rápido possível. Este é o terrível paradoxo no cerne dos laboratórios de IA atualmente. Eles temem, acima de tudo, a perda de controle sobre a IA superinteligente, mas seu caminho explícito de desenvolvimento é ceder o controle, entregá-lo o mais rápido possível, para que suas IAs possam começar a construir IAs melhores mais rapidamente do que as de seus concorrentes.

Nos últimos meses, tanto a Anthropic quanto a OpenAI divulgaram relatórios sobre o quão perto estão de desenvolver uma IA capaz de se aprimorar.

Em junho, a Anthropic lançou o projeto “Quando a IA se Constrói Sozinha”. O texto começa assim: “Durante a maior parte da história da IA, os humanos conduziram cada etapa do seu ciclo de desenvolvimento. Mas na Anthropic, estamos delegando uma parcela crescente do desenvolvimento de IA aos próprios sistemas de IA, o que está acelerando nosso trabalho”. Parece um comercial falso daqueles que você vê no início de um filme de terror de ficção científica.

A Anthropic apresenta alguns dados. Em fevereiro de 2025, uma pequena fração do código adicionado à base de código da Anthropic foi escrita por Claude. Mas, em maio de 2026, esse número já ultrapassava 80%.

Aqui está outra maneira de analisar a situação, usando dados que a Anthropic compartilhou comigo recentemente. A Anthropic tentou categorizar a forma como seus funcionários usavam o Claude para pesquisa e desenvolvimento, visando criar versões melhores do programa. No nível mais básico, os funcionários não podiam usar o Claude de forma alguma. No nível seguinte, o uso era mínimo. Mas a situação se agrava: o Claude pode atuar como um assistente, ser tratado como um colaborador em pé de igualdade ou liderar uma tarefa.

Há um ano, praticamente não havia exemplos de Claude liderando alguma tarefa. Em agosto, 26% das tarefas de P&D da Anthropic tinham Claude como líder.

Acho razoável e sensato sermos céticos em relação a esses números, e nos perguntarmos se tudo isso não passa de uma jogada de marketing de Claude Code. “Vejam como estamos indo rápido. Vocês também poderiam ir tão rápido!” Mas a direção que a abordagem antropológica nos leva nesse mesmo documento é diferente.

O texto afirma que um mundo em que Claude alcança o aprimoramento recursivo é um mundo em que “o desalinhamento presente nos modelos atuais pode se agravar à medida que os modelos constroem seus sucessores, tornando-se mais frequentes, porém menos compreendidos, até que percamos o controle sobre eles”.

A Anthropic, diga-se de passagem, tem defendido incansavelmente a regulamentação para desacelerar o ritmo do desenvolvimento. A regulamentação provavelmente prejudicaria mais a Anthropic, já que ela frequentemente se encontra na vanguarda da IA, e a RSI é um processo pelo qual a Anthropic poderia avançar ainda mais rapidamente.

Em setembro, a OpenAI divulgou seu próprio relatório sobre o que chamou de aceleração da pesquisa.

A empresa afirma já ter alcançado o equivalente a ter um estagiário de IA totalmente automatizado e que, até março de 2028, terá um pesquisador de IA totalmente automatizado. E, quando tiver um, poderá ter quantos quiser. O que poderia ser um lançamento triunfalista rapidamente se torna sombrio: “Ainda não sabemos como chegar com segurança a um RSI totalmente alinhado e completo”, alerta a empresa.

Quase ao mesmo tempo, a OpenAI fez algo que, na minha opinião, merece mais atenção. Ela lançou um novo modelo, o GPT-6 Astra. O modelo é indiscutivelmente mais poderoso do que qualquer outro que o precedeu. Quando testado, pareceu mais alinhado. Ele não trapaceia tanto. Mas a OpenAI deixou claro que não tem certeza se isso é verdade. O Astra pareceu ser melhor em perceber quando estava sendo testado, o que significa que ele pode estar simplesmente fornecendo aos seus avaliadores as respostas que eles queriam ouvir.

O que Daniel Selsam, pesquisador de capacidades da OpenAI, escreveu não me sai da cabeça. Ele disse: “O problema crucial e negligenciado é que o modelo está se tornando tão consciente do contexto que estamos perdendo a capacidade de avaliá-lo em situações onde ele acredita não estar sendo observado ou controlado.”

Em termos mais simples, os modelos estão cada vez mais inteligentes. Eles sabem quando os estamos observando e alteram seu comportamento de acordo. Portanto, o que eles fazem quando os testamos ou os auditamos pode não nos dizer o que farão em situações reais.

Me surpreende que isso seja considerado uma proposta radical, mas aqui está: se você está perdendo a capacidade de avaliar os modelos que possui agora, talvez não seja uma boa ideia permitir que criem modelos que você terá ainda menos capacidade de controlar no futuro.

Uma vez que a RSI decole, a humanidade não entenderá as IAs que estão sendo construídas, porque não seremos nós que as construiremos. O desenvolvimento não ocorrerá na velocidade humana. Não será supervisionado por mentes humanas. Teremos que esperar que as IAs que construímos, as IAs que elas construirão e as IAs que essas IAs construirão, e assim por diante, ajam sempre com nossos melhores interesses em mente.

Se nada mais foi comprovado neste verão, é o quão ingênua seria essa proposição.

Em entrevista à revista Fortune, Sam Altman foi questionado sobre a proibição da LER (Lesão por Esforço Repetitivo) e respondeu: “Acho muito difícil dizer o que significaria uma proibição da LER”.

Ouvi isso de outras pessoas nesses laboratórios e acho estranho. Há alguns anos, nenhum desses laboratórios havia delegado uma parte substancial da programação para as IAs. Eram seres humanos digitando o código em velocidades humanas com nossos dedos humanos desajeitados. Agora, a maior parte do código é escrita por IA. Então, como primeiro passo, poderíamos simplesmente voltar ao ponto em que nenhum código é escrito por IA.

Tenho certeza de que isso está do lado certo da linha que impede o uso de RSI. Talvez não precisemos ir tão longe, mas a prática padrão aqui precisa mudar.

Os laboratórios precisam nos provar que o que estão fazendo é seguro. Se quiserem trabalhar com o Congresso para abrir exceções em que a IA possa escrever o código, ótimo. Mas o objetivo é justamente forçar o desenvolvimento a voltar à velocidade humana, talvez até mesmo pecando por um ritmo um pouco mais lento na vanguarda.

Não quero sugerir que interromper o RSI até que possamos provar que é seguro seja tudo o que precisamos fazer para controlar a fronteira da IA. Esse é o começo de uma agenda, não o fim. Mas é o começo. É a decisão que mais contribuirá neste momento para garantir que os humanos ao menos entendam onde está a fronteira e permaneçam em posição de tomar decisões sobre ela.

A ironia é que nossa sociedade não é boa em nada, a não ser em dificultar a criação de coisas novas. Onde esses laboratórios estão localizados, não se pode construir um prédio de apartamentos de oito andares sem um processo de revisão pública agonizante, e provavelmente nem mesmo assim. E, no entanto, de alguma forma, é possível que esses laboratórios liberem um enxame de 40.000 agentes de IA para construir uma superinteligência capaz de alterar a sociedade sem sequer uma audiência pública. A OpenAI precisaria de licenças para cobrir seu estacionamento com painéis solares, mas, pelo que pude perceber, ela pode acelerar seu processo de autoaperfeiçoamento recursivo sempre que quiser.

Essas são escolhas políticas, e podemos e devemos fazer escolhas diferentes.

Há uma frase do belíssimo romance “Circe”, de Madeline Miller, que não me sai da cabeça durante este longo verão de notícias estranhas sobre inteligência artificial. A frase aparece no final do livro, depois que uma profecia trágica se cumpre apesar de todos os esforços para evitá-la. Circe diz em desespero: “As Parcas riam de mim, de Atena, de todos nós. Era a sua piada amarga favorita: aqueles que lutam contra a profecia apenas a apertam ainda mais em volta do próprio pescoço.”

Tenho muito respeito por muitas das pessoas nesses laboratórios. Muitas delas começaram a trabalhar com IA porque queriam melhorar a humanidade. Começaram a trabalhar com IA porque temiam que IAs autônomas e incompreensíveis escapassem ao controle da humanidade. E agora se veem competindo entre si para construir IAs autônomas e incompreensíveis que, segundo elas mesmas, estão escapando ao controle da humanidade.

Essa é a tragédia do trabalho deles. Ao lutarem contra a profecia, eles a apertaram ainda mais em torno de si mesmos — e de nós.

Este artigo foi publicado originalmente no The New York Times .

c.2026 The New York Times Company