Compartilhar matéria
A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o diretor-executivo da Anthropic em um ensaio publicado no início da manhã deste sábado (12).
“Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos”, escreveu o CEO Dario Amodei em publicação em seu site.
Amodei, que lidera uma das principais empresas de IA do mundo e a empresa por trás do Claude, tem sido um forte defensor do avanço da tecnologia — e, da mesma forma, foi acusado de “doomeirismo” em seus alertas sobre os riscos da IA.
Ele reconheceu no sábado que as pessoas podem perder o controle da IA, e que a tecnologia pode ser mal utilizada para “ataques cibernéticos e bioterrorismo, e sérias perturbações econômicas”.
“Uma corrida ao fundo do poço, impulsionada por incentivos comerciais, pode tornar esses riscos mais agudos”, escreveu Amodei.
Amodei disse que a tecnologia de IA avançou “drasticamente mais rápido” nos últimos meses e tornou-se capaz de se aprimorar, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.
“Sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser perseguida com muito cuidado, se é que deve ser perseguida”, escreveu ele.
Amodei disse que o comportamento de um enxame de agentes de IA no incidente OpenAI-Hugging Face também o alarmou. O enxame, segundo ele, “essencialmente agiu como um coletivo fanaticamente devotado, conduzindo ataques de cibersegurança contra alvos que não lhes foi pedido para atacar”.
Sem controle, a IA poderia avançar tão rapidamente que tal enxame seria capaz de assumir o controle de toda a internet em seis a 12 meses, escreveu ele, potencialmente causando centenas de bilhões de dólares em danos.
Esse conteúdo foi publicado originalmente emInternacionalVer original Acompanhe Economia nas Redes Sociais
Conteúdo reproduzido originalmente em: CNN Brasil por afonsobenites.
