Na história da humanidade, a bomba atômica talvez tenha sido o símbolo máximo do terror científico. Criada pela inteligência humana, mas capaz de aniquilar a mesma humanidade que a criou, ela redefiniu as fronteiras do poder e do medo. No entanto, surge uma nova ameaça, mais sutil, sedutora e onipresente: a inteligência artificial. O recente Prêmio Nobel de Física 2023, que destaca avanços na manipulação e compreensão do comportamento quântico da matéria, nos lembra que a ciência continua a expandir os horizontes do possível. Mas até onde devemos seguir?
Imagine que, diferentemente de uma explosão visível e devastadora, a IA se espalha, aparentemente inofensiva, sem o estardalhaço e o caos de uma bomba atômica. A questão é que, enquanto a bomba precisa de um detonador e um alvo definido, a IA não. Ela se camufla nas redes sociais, nos sistemas bancários, nas recomendações de algoritmos, entrando em nossas rotinas com a precisão de um cirurgião. Em comparação, a IA opera em múltiplas frentes: econômica, social e psicológica. Ela molda o que compramos, lemos e até pensamos. É como ter uma bomba com botão automático e que todos podem acionar, mas ninguém vê.
crédito: Freepeaks
O mundo aprendeu com a bomba atômica que nem toda invenção deve estar ao alcance de todos. Sua criação e detenção tornaram-se prerrogativas dos serviços secretos de grandes potências, trancafiada sob protocolos internacionais e selada por tratados multilaterais. Afinal, o mundo entendeu: uma arma com tal poder de destruição não poderia estar disponível ao público. Contudo, a IA rompeu essa lógica; foi democratizada, está nas mãos de bilhões de pessoas, sem segurança, sem freios e com um poder igualmente devastador, embora de outra natureza. Se a bomba atômica é uma explosão silenciosa, a IA é um contágio sorrateiro.
A diferença mais inquietante é que, enquanto outras inovações científicas – como a manipulação genética e a clonagem – trouxeram consigo um protocolo ético e responsabilizaram seus criadores, a IA emergiu como o brinquedo das Big Techs. Diferentemente dos cientistas que desenvolveram a energia nuclear e precisaram conviver com o peso das consequências morais, as empresas de tecnologia não assumem responsabilidade sobre a IA. Pior: a desenvolvem como produto e vendem como serviço. A IA não passa por um comitê de ética antes de seu lançamento. É o puro capitalismo digital em movimento, vendendo potencial de lucro acima de qualquer questionamento moral.
Pensemos no impacto dessa “democratização”. Uma tecnologia de alcance global, que se integra a cada aspecto de nossas vidas, está ao alcance de qualquer um com uma conexão à internet. Se o impacto da bomba era nuclear, o da IA é cultural e social, capaz de minar o tecido das democracias, intensificar desigualdades e incitar desconfiança generalizada. As empresas de tecnologia, sob o manto do progresso, promovem a IA como um avanço essencial. No entanto, ao distribuí-la sem compromisso, colocam o mundo em risco de um desastre mais insidioso e difuso do que qualquer explosão – a lenta erosão da privacidade, da autonomia e da própria humanidade.
Hans Jonas, com seu princípio ético de responsabilidade, já antecipava o dilema que enfrentamos com a inteligência artificial. Em sua obra O Princípio Responsabilidade, o filósofo alerta que o avanço tecnológico precisa ser acompanhado de um sentido maior, pois a ciência contemporânea traz consequências de longo prazo que escapam ao controle dos criadores. A IA, desenvolvida e distribuída de maneira irrestrita, é exatamente o que ele temia: uma tecnologia que se propaga sem que seus criadores assumam a responsabilidade pelos impactos futuros e colaterais.