Vilões da inteligência artificial: 5 ameaças da nova tecnologia

Em resposta ao TechTudo, a NVIDIA esclareceu que “a transparência é fundamental para que a IA seja amplamente aceita e compreendida,” e por essa razão, promove “o desenvolvimento de tecnologias que oferecem maior explicação sobre os processos e decisões tomadas por sistemas de IA. (…) Defendemos que todas as organizações devem trabalhar para desenvolver sistemas que permitam uma compreensão clara de como as decisões são feitas, sem sacrificar a complexidade dos modelos.”

Com um entendimento similar do ponto, a Intel inclusive desenvolve frameworks de IA explicável (explainable AI), que ajudam os usuários a entender os critérios por trás das decisões automatizadas, como explica Pietro. “As Intel Explainable AI Tools (…) são ferramentas que podem ser utilizados por meio de uma interface gráfica (…) ou como uma API leve (…) integrada diretamente a outros programas ou fluxos de trabalho de IA.” A empresa ainda acredita que a regulamentação apropriada da IA tenha um papel relevante no sentido da transparência, enquanto “um esforço colaborativo (…) para desenvolver e compartilhar abordagens holísticas, melhores práticas, ferramentas e metodologias”.

A inteligência artificial é uma ferramenta poderosa para promover avanços sociais, mas esse mesmo poder vira uma arma perigosa nas mãos de usuários mal-intencionados. A capacidade de gerar vídeos, imagens, e até reproduzir a voz de pessoas reais com linguagem natural, tornou os deepfakes cada vez mais comuns, especialmente para promover desinformação e atrair usuários para golpes e esquemas ilegais. Este é o ponto no qual uma regulamentação apropriada de uso da IA, seja mais urgente, no sentido de estabelecer ferramentas legais para lidar com atos criminosos praticados utilizando IA. Uma solução sugerida pelo professor da USP seria implementar nas novas ferramentas “algum tipo de assinatura digital” para identificar que um conteúdo foi gerado por IA.

Naturalmente, divulgar os dados do criador dos materiais sem autorização ou requerimento judicial pode incorrer em questões legais. Por outro lado, uma legislação adequada permitiria estabelecer que as assinaturas digitais de componentes de hardware, rastreáveis até por registros de compra, sejam inseridas nos metadados. Com isso, ao menos um dos campos de informações públicas poderia trazer marcadores abertos acusando se tratar de material gerado por IA. Dessa forma, mesmo sistemas automatizados em redes sociais conseguiriam acusar na publicação que aquele vídeo ou foto é produto de inteligência artificial, além se permitir identificar o criador quando necessário.

Enquanto isso não é incorporado, as próprias empresas estão investindo em ferramentas para auxiliar no combate ao uso indiscriminado de IA para gerar conteúdos maliciosos. Especificamente no caso da Intel, a empresa desenvolveu uma ferramenta “que pode detectar vídeos falsos com uma taxa de precisão de 96%”, o FakeCatcher. Segundo Pietro Colloca, a plataforma é um dos primeiros “detectores de deepfake em tempo real do mundo que retorna resultados em milissegundos”.

A automação por IA já substitui empregos humanos em muitos setores, principalmente em trabalhos que envolvem tarefas repetitivas. A ONU estima que até 40% dos empregos em todo o mundo podem ser afetados por essa transformação. Mesmo com o surgimento de novos postos de trabalho, a discrepância é imensa entre as habilidades exigidas pelos novos empregos e as competências da força de trabalho atual. Além disso, as limitações vão além da falta de letramento digital, e também envolvem questões sociais profundas. No entanto, mesmo o posicionamento do pesquisador da USP é relativamente otimista nesse sentido.

“Há um deslocamento, uma criação de muitos novos empregos, porque a economia se movimenta enormemente. Algumas pessoas vão, de fato, (…) ser movidas para outras posições, (…) outro emprego, uma outra posição dentro da mesma empresa. Mas no arco em que essas mudanças acontecem, quando a gente olha (…) a introdução da robótica nos anos 80, ela começou a se tornar relevante (…) na metade dos anos 90 e ainda hoje ela é pouco prevalente na maior parte das empresas. Ou seja, a velocidade, até pelo próprio custo da introdução dessas melhorias tecnológicas, acaba gerando um tempo usado para as pessoas que estavam trabalhando eventualmente se reciclarem, se aposentarem até e iniciar um novo ciclo tecnológico”, afirma o professor Marcos Barreto.

Do lado da indústria, tanto Intel quanto NVIDIA investem paralelamente em programas para capacitação e reciclagem de funcionários, não apenas em postos de trabalho que serão afetados pela IA, mas como um todo. Novamente, aqui temos um ponto que caberia ser incluído em um eventual marco legal da IA exigindo que empresas que adotarem as novas tecnologias precisam, de alguma forma, investir na reciclagem de suas equipes para garantir mobilidade de cargos e evitar demissões em massa.

Em uma análise do uso responsável da IA, o Fórum Econômico Mundial destaca que a segurança cibernética precisa ser uma prioridade desde a concepção dos sistemas. Erros em plataformas de IA podem ter consequências graves, desde o vazamento de dados pessoais até acidentes fatais envolvendo carros autônomos.

Pensando inicialmente na questão do tratamento de dados e treinamento dos modelos, para Marcos Barreto “há uma necessidade de ter algum nível de curadoria”, principalmente para lidar com as questões de direitos autorais. Contudo, o professor reconhece que, ainda que a preocupação nesse sentido tenha crescido com a chegada da IA, o problema é da internet como um todo.

“Essa questão acontece já há muitas décadas e a internet é basicamente sobre isso, o Google é basicamente sobre isso, não só o Google, não estou aqui falando mal de uma empresa, mas o fato é que das empresas que usam dados, é das que fazem isso há mais tempo, de uma forma mais incrível.”