Pesquisador alerta para risco de IA destruir humanidade nesta década

Um pesquisador que passou por dois dos principais laboratórios de inteligência artificial do mundo deixou a Anthropic com um alerta contundente: a corrida pelo desenvolvimento de sistemas cada vez mais avançados pode representar um risco de extinção para a humanidade ainda nesta década.

Segundo a Folha de São Paulo, Jacob Coxon, de 27 anos, trabalhou anteriormente na OpenAI e depois ingressou na Anthropic, empresa conhecida por priorizar pesquisas relacionadas à segurança da inteligência artificial. Ao anunciar sua saída, ele afirmou que as empresas do setor estão assumindo riscos que podem ter consequências irreversíveis.

Segundo Coxon, profissionais que desenvolvem esses sistemas acreditam que a inteligência artificial poderá, em pouco tempo, alcançar capacidades muito superiores às humanas.

“As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, afirmou o pesquisador.

Coxon também alertou que os modelos poderão se tornar sistemas capazes de invadir diferentes tipos de ambientes digitais, transformar áreas inteiras da sociedade rapidamente e adquirir recursos e poder próprios.

Para ele, a velocidade da corrida tecnológica é um dos principais problemas. O pesquisador defende que o desenvolvimento de sistemas mais avançados seja desacelerado até que existam mecanismos mais seguros para impedir que essas tecnologias atuem de maneira contrária aos interesses humanos.

Pesquisador da Anthropic reforça alerta

O alerta ganhou apoio de Evan Hubinger, pesquisador da Anthropic que trabalha na área de alinhamento de IA — campo dedicado a fazer com que sistemas de inteligência artificial permaneçam compatíveis com as intenções e os valores humanos.

Hubinger afirmou que Coxon está correto ao apontar o risco e disse acreditar que a possibilidade de uma extinção em massa provocada pela IA na próxima década é superior a 10%.

Apesar da avaliação, Hubinger destacou posteriormente que considera baixo o risco representado pelos modelos atuais. A preocupação, segundo ele, está principalmente nos sistemas capazes de melhorar suas próprias capacidades, algo que estaria avançando mais rapidamente do que o previsto.

Corrida pela superinteligência preocupa pesquisadores

A saída de Coxon ocorre em meio a uma crescente preocupação dentro do próprio setor de tecnologia com o avanço acelerado da inteligência artificial.

Incidentes envolvendo agentes de IA que realizaram ações inesperadas em ambientes digitais também passaram a ser citados como sinais de que sistemas mais autônomos podem apresentar comportamentos difíceis de prever ou controlar.

Para Coxon, os laboratórios deveriam considerar medidas mais rigorosas, incluindo uma eventual pausa temporária no aumento das capacidades dos modelos até que mecanismos de segurança sejam desenvolvidos.

Steven Adler, ex-pesquisador de segurança da OpenAI e cofundador da organização Guidelight AI Standards, também defendeu uma redução no ritmo das pesquisas. Para ele, as atuais estruturas de segurança das empresas ainda não seriam compatíveis com os riscos que os próprios pesquisadores dizem existir.

Empresas mantêm desenvolvimento

Apesar dos alertas de pesquisadores e executivos do setor, Anthropic e OpenAI continuam investindo no desenvolvimento de modelos cada vez mais avançados.

A Anthropic, por exemplo, lançou recentemente uma nova versão de seu modelo de inteligência artificial, enquanto seus dirigentes afirmam que a segurança continua sendo uma preocupação central.

A empresa não comentou a saída de Coxon. A OpenAI também não respondeu imediatamente aos pedidos de manifestação, segundo o Financial Times, publicação que noticiou o caso.