A situação está a ficar quase impossível de controlar à escala global. O que fazer?
A declaração arrancou risos de muita gente. No Truth Social, Donald Trump lamentou que o Irão esteja a abusar da IA generativa e a utilizá-la como uma arma de desinformação. Mesmo sendo alguém que também gosta bastante desse tipo de tecnologia, ele acerta ao chamar atenção para o problema.
Desde o início do conflito, para quem acompanha pela internet, tornou-se muito difícil separar o que é real do que é fabricado. Quando já não conseguimos distinguir o verdadeiro do falso - e quando deixam de existir factos minimamente aceites por todos - a democracia fica, de facto, em risco.
E o perigo não para por aí. Numa nota informativa publicada recentemente, investigadores da Universidade Columbia apontam que a IA está a tornar-se, rapidamente, o caminho preferido para golpes financeiros. Segundo o estudo, as perdas associadas a essas fraudes somaram US$ 12,3 mil milhões em 2023. E a projeção é ainda mais alarmante: o total pode chegar a US$ 40 mil milhões em 2025, um sinal claro de urgência global.
Diante disso, o que pode ser feito? O Reino Unido e a União Europeia até já adotaram medidas, incluindo multas contra plataformas que não atuam com firmeza para conter a desinformação. Ainda assim, o consenso é que essa regulação, por si só, está longe de ser suficiente face à dimensão do desafio.
Soluções para combater desinformação e golpes por IA generativa
Em entrevista ao Financial Times, Anya Schiffrin - coautora do documento de orientação sobre golpes por deepfake ligados à IA e codiretora do programa de Política tecnológica e inovação na Escola de Assuntos Internacionais e Públicos da Universidade Columbia - apresenta alguns caminhos práticos.
Ela defende que empresas como a Meta deveriam fazer muito mais para travar anúncios fraudulentos na internet:
“Parece-nos evidente que a Meta tem total capacidade de fazer bem mais para impedir a circulação desses anúncios. Uma solução possível seria a verificação universal de anunciantes, mas a Meta hesita em investir nesse sistema.”
Schiffrin também considera positivas certas iniciativas nacionais recentes. Um exemplo citado é o da Irlanda, que passou a tratar como infração a publicação, a distribuição ou a divulgação de qualquer uso manipulado ou não autorizado da identidade de uma pessoa para diferentes finalidades - incluindo publicidade - sem o respetivo consentimento. Na avaliação dela, esse tipo de medida aponta na direção correta. Porém, para derrotar o problema de forma consistente, a cooperação transnacional é vista como indispensável.
Além das ações governamentais e da responsabilidade das plataformas, há espaço para medidas técnicas que tornem a fraude mais cara e menos escalável. Mecanismos como marcação de conteúdo (watermarking), padrões de proveniência e autenticação (por exemplo, metadados verificáveis e assinaturas digitais de origem) ajudam a indicar quando um conteúdo foi gerado ou alterado, e podem facilitar a vida de jornalistas, verificadores e do público ao rastrear a cadeia de criação e publicação.
Outro ponto pouco discutido é a necessidade de reforçar a educação midiática e a segurança básica do dia a dia. Aprender a confirmar fontes, desconfiar de “provas” em vídeo/áudio sem contexto e adotar hábitos como autenticação em dois fatores e palavras-código familiares para pedidos urgentes (por telefone ou mensagem) pode reduzir significativamente o impacto de ataques com deepfake e engenharia social.
O que cada pessoa pode fazer para evitar golpes por deepfake
Schiffrin também acredita que existe uma parte essencial da resposta no nível individual. Na prática, golpistas repetem padrões: eles pressionam a vítima com um senso de urgência, tentando provocar uma decisão impulsiva.
Se pararmos, respirarmos e evitarmos agir “no calor do momento”, muitas fraudes deixam de funcionar. Antes de pagar, clicar, enviar documentos ou transferir dinheiro, vale confirmar por outro canal (uma ligação direta, um site oficial, um contacto conhecido) e desconfiar de pedidos que exijam rapidez ou sigilo.
E você, já se deparou com manipulações geradas por IA? Conte nos comentários.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário