A Meta, responsável pelas redes sociais Facebook, Instagram e Threads, anunciou nesta terça-feira (6) que vai rotular imagens geradas por inteligência artificial publicadas nas plataformas da empresa. Conforme o presidente de assuntos globais da companhia, Nick Clegg, o objetivo da iniciativa é diminuir o poder de pessoas e organizações que desejam enganar os usuários. As imagens realistas criadas através da ferramenta de IA da Meta já podem ser verificadas, mas nos próximos meses a regra será estendida para conteúdo criados com serviços externos. A seguir, confira mais detalhes sobre a novidade.
Em comunicado, a Meta informou que não é contra o uso da inteligência artificial para criação de conteúdos, mas que é necessário garantir mais transparência para todos os usuários. A companhia destaca que, a medida que a diferença entre o conteúdo humano e artificial tem se tornado confusa, usuários demandam saber onde está a fronteira entre o real e o falso.
“Muitas vezes, as pessoas se deparam pela primeira vez com conteúdos gerados por inteligência artificial, e os nossos usuários nos disseram que apreciam a transparência em torno dessa nova tecnologia”, afirmou Nick Clegg.
A partir desse ideal, a empresa afirmou que planeja estabelecer a diferenciação aplicando o rótulo “Criadas com IA” em todas as imagens geradas utilizando ferramentas de inteligência artificial.
As imagens feitas pela inteligência artificial da empresa já contêm metadados e marca d’água invisível, que podem informar outras organizações que a imagem foi desenvolvida artificialmente. Agora, a empresa está desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados por outras empresas, como Google, OpenAI, Microsoft e Adobe. Os rótulos serão aplicados em todos os idiomas nos próximos meses nas três redes sociais.
Punições para quem não usar rótulo de IA
A Meta cogita criar punições para quem que não utilizar a ferramenta de divulgação e etiqueta quando publicar qualquer tipo de conteúdo que tenha sido criado ou alterado digitalmente.
“Exigiremos que as pessoas utilizem esta ferramenta de divulgação e etiqueta quando publicarem conteúdo orgânico com uma foto, vídeo e som realista que tenha sido criado ou alterado digitalmente, e poderemos aplicar penalidades se não o fizerem” informou a Meta em comunicado.
Caso seja determinado que o conteúdo de imagem, vídeo ou áudio criado e alterado digitalmente representa um risco elevado de enganar o público sobre uma questão importante, a Meta poderá adicionar um rótulo ainda mais proeminente, para que os usuários pessoas terem mais informações e contexto.
Utilização de IA em campanhas eleitorais
As deepfakes criadas com IA já são uma realidade no ciclo eleitoral presidencial dos Estados Unidos. A imprensa local já denunciou o chamadas automáticas com uma voz do atual presidente Joe Biden criada artificial que desencoraja os eleitores de comparecer às primárias. Apesar disso, Clegg minimizou as chances de o fenômeno invadir a plataforma da Meta em um ano eleitoral.
“Acho que é realmente improvável que você obtenha um vídeo ou áudio totalmente sintético, de importância política muito significativa, que não conseguimos identificar muito rapidamente”, comentou.
