A unidade de Friendly Hackers da Thales inventa um metamodelo para detectar imagens deepfake geradas por IA
MEUDON (França) 21/11/2024 –
Como parte do desafio organizado pela Agência de Inovação de Defesa (AID) da França para detectar imagens criadas pelas plataformas atuais de IA, as equipes da cortAIx, a aceleradora de IA da Thales, desenvolveram um metamodelo capaz de detectar deepfakes geradas por IA.
O metamodelo da Thales é baseado na agregação de modelos, cada um dos quais atribui uma pontuação de autenticidade a uma imagem para determinar se ela é real ou falsa.
O conteúdo de imagem, vídeo e áudio gerado artificialmente por IA está sendo cada vez mais usado para fins de desinformação, manipulação e fraude de identidade.
A inteligência artificial é o tema central da Semana Europeia de Cibernética deste ano, que ocorre de 19 a 21 de novembro em Rennes (França). Em um desafio organizado para coincidir com o evento pela Agência de Inovação de Defesa (AID) da França, as equipes da Thales desenvolveram com sucesso um metamodelo para detectar imagens geradas por IA. À medida que o uso de tecnologias de IA ganha força, e em um momento em que a desinformação está se tornando cada vez mais predominante nos meios de comunicação e impactando todos os setores da economia, o metamodelo de detecção de deepfake oferece uma maneira de combater a manipulação de imagens em uma grande variedade de casos de uso, como a luta contra a fraude de identidade.
Este comunicado de imprensa inclui multimédia. Veja o comunicado completo aqui: https://www.businesswire.com/news/home/20241120748438/pt/
(c)Thales
As imagens geradas por IA são criadas usando plataformas de IA, como Midjourney, Dall-E e Firefly. Alguns estudos previram que, dentro de alguns anos, o uso de deepfakes para roubo de identidade e fraude poderia causar enormes perdas financeiras. A Gartner estimou que cerca de 20% dos ataques cibernéticos em 2023 provavelmente incluíram conteúdo deepfake como parte de campanhas de desinformação e manipulação. Seu relatório1 destaca o uso cada vez maior de deepfakes em fraudes financeiras e ataques avançados de phishing.
“O metamodelo de detecção de deepfake da Thales aborda o problema de fraude de identidade e as técnicas de morphing”2, disse Christophe Meyer, especialista sênior em IA e CTO da cortAIx, a aceleradora de IA da Thales. “A agregação de vários métodos usando redes neurais, detecção de ruído e análise de frequência espacial nos ajuda a proteger melhor o número crescente de soluções que exigem verificações de identidade biométrica. Trata-se de um avanço tecnológico notável e uma prova da experiência da unidade de pesquisa em IA da Thales.”
O metamodelo da Thales usa técnicas de aprendizado de máquina, árvores de decisão e avaliações dos pontos fortes e fracos de cada modelo para analisar a autenticidade de uma imagem. Ele combina vários modelos, entre eles:
- O método CLIP (Contrastive Language-Image Pre-training) envolve a conexão de imagem e texto por meio do aprendizado de representações comuns. Para detectar deepfakes, o método CLIP analisa imagens e as compara com suas descrições textuais para identificar inconsistências e artefatos visuais.
- O método DNF (Diffusion Noise Feature) usa arquiteturas atuais de geração de imagens (chamadas de modelos de difusão) para detectar deepfakes. Os modelos de difusão são baseados em uma estimativa da quantidade de ruído a ser adicionada a uma imagem para causar uma “alucinação”, que cria conteúdo do nada, e essa estimativa pode ser usada para detectar se uma imagem foi gerada por IA.
- O método DCT (Discrete Cosine Transform) de detecção de deepfake analisa as frequências espaciais de uma imagem para detectar artefatos ocultos. Ao transformar uma imagem do domínio espacial (pixels) para o domínio da frequência, o DCT pode detectar anomalias sutis na estrutura da imagem, que ocorrem quando as deepfakes são geradas e geralmente são invisíveis a olho nu.
A equipe da Thales por trás da invenção faz parte da cortAIx, a aceleradora de IA do Grupo, que tem mais de 600 profissionais de pesquisa e engenharia de inteligência artificial, sendo que 150 estão no cluster de pesquisa e tecnologia de Saclay, ao sul de Paris, e trabalham em sistemas de missão crítica. A equipe de Friendly Hackers desenvolveu uma caixa de ferramentas chamada BattleBox para ajudar a avaliar a solidez dos sistemas baseados em inteligência artificial diante de ataques projetados para explorar as vulnerabilidades intrínsecas de diferentes modelos de IA (incluindo os modelos de linguagem de grande escala), como ataques adversários e tentativas de extrair informações confidenciais. Para combater esses ataques, a equipe desenvolve contramedidas avançadas, como desaprendizagem, aprendizagem federada, marca d’água de modelos e fortalecimento de modelos.
Em 2023, a Thales demonstrou sua experiência durante o desafio da CAID (Conferência sobre Inteligência Artificial para Defesa) organizado pela Agência de Compras de Defesa (DGA) da França, que consistia em encontrar dados de treinamento de IA mesmo depois de terem sido excluídos do sistema para proteger a confidencialidade.
Sobre a Thales
A Thales (Euronext Paris: HO) é uma líder mundial em tecnologias avançadas, especializada em três áreas de negócios: Defesa e Segurança, Aeronáutica e Espaço e Segurança Cibernética e Identidade Digital.
O Grupo desenvolve produtos e soluções que ajudam a fazer do mundo um lugar mais seguro, ecológico e inclusivo.
A Thales investe cerca de 4 bilhões de euros por ano em Pesquisa e Desenvolvimento, especialmente em áreas-chave de inovação, como IA, segurança cibernética, tecnologias quânticas, tecnologias de nuvem e 6G.
Com 81 mil funcionários em 68 países, O Grupo gerou vendas de €18,4 bilhões em 2023.
ACESSE
Developing AI systems we can all trust | Thales Group
1Relatório 2023 da Gartner sobre riscos emergentes de segurança cibernética.
2O morphing envolve a transformação gradual de um rosto em outro em fases sucessivas, modificando os traços visuais para criar uma imagem realista que combine elementos de ambos os rostos. O resultado final parece uma mistura das duas aparências originais.
O texto no idioma original deste anúncio é a versão oficial autorizada. As traduções são fornecidas apenas como uma facilidade e devem se referir ao texto no idioma original, que é a única versão do texto que tem efeito legal.
Ver a versão original em businesswire.com: https://www.businesswire.com/news/home/20241120748438/pt/
Contato:
Marion Bonnet
Gerente de RP da Thales
+33660384892
Fonte: BUSINESS WIRE