A maioria das pessoas não consegue identificar falsificações geradas por IA, as deepfakes — aqueles vídeos e imagens incrivelmente realistas, geralmente projetados para personificar pessoas. O estudo testou 2.000 consumidores do Reino Unido e dos EUA, expondo-os a uma série de conteúdo real e deepfake. Os resultados são alarmantes: apenas 0,1% dos participantes conseguiram distinguir com precisão o conteúdo real do falso em todos os estímulos que incluíam imagens e vídeos.
A pesquisa foi realizada pela iProov, fornecedora mundial de soluções científicas para verificação biométrica de identidade.
O professor Edgar Whitley, especialista em identidade digital da London School of Economics and Political Science acrescenta: “Especialistas em segurança vêm alertando sobre as ameaças representadas por deepfakes para indivíduos e organizações há algum tempo. Este estudo mostra que as organizações não podem mais confiar no julgamento humano para detectar deepfakes e devem buscar meios alternativos de autenticação dos usuários de seus sistemas e serviços.”
“Apenas 0,1% das pessoas conseguiram identificar com precisão os deepfakes, destacando o quão vulneráveis tanto as organizações quanto os consumidores são à ameaça de fraude de identidade na era dos deepfakes”, diz Andrew Bud, fundador e CEO da iProov.
“E mesmo quando as pessoas suspeitam de um deepfake, nossa pesquisa nos diz que a grande maioria das pessoas não toma nenhuma atitude. Os criminosos estão explorando a incapacidade dos consumidores de distinguir imagens reais de falsas, colocando nossas informações pessoais e segurança financeira em risco. Cabe às empresas de tecnologia proteger seus clientes implementando medidas de segurança robustas. Usar biometria facial com vivacidade fornece um fator de autenticação confiável e prioriza a segurança e o controle individual, garantindo que organizações e usuários possam acompanhar o ritmo e permanecer protegidos dessas ameaças em evolução.”
Principais conclusões:
- A detecção de deepfakes falha: Apenas 0,1% dos entrevistados identificaram corretamente todos os estímulos deepfakes e reais (por exemplo, imagens e vídeos) em um estudo em que os participantes foram preparados para procurar por deepfakes. Em cenários do mundo real, onde as pessoas estão menos cientes, a vulnerabilidade a deepfakes é provavelmente ainda maior.
- As gerações mais velhas são mais vulneráveis a deepfakes: o estudo descobriu que 30% das pessoas de 55 a 64 anos e 39% das pessoas com mais de 65 anos nunca tinham ouvido falar de deepfakes, destacando uma lacuna significativa de conhecimento e maior suscetibilidade a essa ameaça emergente nessa faixa etária.
- Desafio de vídeo: vídeos deepfake provaram ser mais desafiadores de identificar do que imagens deepfake, com participantes 36% menos propensos a identificar corretamente um vídeo sintético em comparação a uma imagem sintética. Essa vulnerabilidade levanta sérias preocupações sobre o potencial de fraude baseada em vídeo, como representação falsa em videochamadas ou em cenários onde a verificação de vídeo é usada para verificação de identidade.
- Deepfakes estão em todo lugar, mas são mal compreendidos: Embora a preocupação com deepfakes esteja aumentando, muitos continuam desconhecendo a tecnologia. Um em cada cinco consumidores (22%) nunca tinha ouvido falar de deepfakes antes do estudo.
- O excesso de confiança é galopante: apesar do seu desempenho ruim, as pessoas permaneceram excessivamente confiantes em suas habilidades de detecção de deepfake em mais de 60%, independentemente de suas respostas estarem corretas. Isso foi particularmente verdade em adultos jovens (18-34). Essa falsa sensação de segurança é uma preocupação significativa.
- A confiança sofre um golpe: as plataformas de mídia social são vistas como criadouros de deepfakes, com o Meta (49%) e o TikTok (47%) vistos como os locais mais prevalentes para deepfakes serem encontrados online. Isso, por sua vez, levou à redução da confiança nas informações e mídia online — 49% confiam menos nas mídias sociais depois de aprender sobre deepfakes. Apenas um em cada cinco denunciaria uma suspeita de deepfake às plataformas de mídia social.
- Deepfakes estão alimentando preocupação e desconfiança generalizadas, especialmente entre adultos mais velhos: três em cada quatro pessoas (74%) se preocupam com o impacto social dos deepfakes, com “notícias falsas” e desinformação sendo a principal preocupação (68%). Esse medo é particularmente pronunciado entre as gerações mais velhas, com até 82% das pessoas com mais de 55 anos expressando ansiedades sobre a disseminação de informações falsas.
- São necessários melhores mecanismos de conscientização e denúncia: menos de um terço das pessoas (29%) não toma nenhuma atitude ao se deparar com uma suspeita de deepfake, o que provavelmente ocorre porque 48% dizem não saber como denunciar deepfakes, enquanto um quarto não se importa se vir uma suspeita de deepfake.
- A maioria dos consumidores falha em verificar ativamente a autenticidade das informações on-line, aumentando sua vulnerabilidade a deepfakes: Apesar da crescente ameaça de desinformação, apenas um em cada quatro busca fontes alternativas de informação se suspeita de um deepfake. Apenas 11% das pessoas analisam criticamente a fonte e o contexto das informações para determinar se é um deepfake, o que significa que a vasta maioria é altamente suscetível a enganos e à disseminação de narrativas falsas.
A crescente ameaça dos deepfakes
Deepfakes representam uma ameaça avassaladora no cenário digital de hoje e evoluíram a uma taxa alarmante nos últimos 12 meses. O Relatório de Inteligência de Ameaças de 2024 da iProov destacou um aumento de 704% em trocas de rosto (um tipo de deepfake) sozinho. Sua capacidade de personificar indivíduos de forma convincente os torna uma ferramenta poderosa para criminosos cibernéticos obterem acesso não autorizado a contas e dados confidenciais. Deepfakes também podem ser usados para criar identidades sintéticas para fins fraudulentos, como abrir contas falsas ou solicitar empréstimos. Isso representa um desafio significativo à capacidade dos humanos de discernir a verdade da falsidade e tem implicações abrangentes para a segurança, confiança e disseminação de desinformação.
O que pode ser feito?
Com os deepfakes se tornando cada vez mais sofisticados, os humanos sozinhos não conseguem mais distinguir de forma confiável o real do falso e, em vez disso, precisam confiar na tecnologia para detectá-los. Para combater a crescente ameaça dos deepfakes, as organizações devem procurar adotar soluções que usem tecnologia biométrica avançada com detecção de vivacidade, que verifica se um indivíduo é a pessoa certa, uma pessoa real e está se autenticando agora . Essas soluções devem incluir detecção contínua de ameaças e melhoria contínua das medidas de segurança para ficar à frente das técnicas de deepfake em evolução. Também deve haver maior colaboração entre provedores de tecnologia, plataformas e formuladores de políticas para desenvolver soluções que mitiguem os riscos representados pelos deepfakes.
Faça o teste de detecção de falsificações geradas por IA
Acha que é imune ao engano do deepfake? Teste suas habilidades! O iProov criou um quiz online que desafia você a distinguir o real do falso. Faça o quiz e veja sua pontuação.
