Une fraude en pleine mutation grâce à l’IA générative

Les fraudeurs disposent aujourd’hui de technologies autrefois réservées à des experts. Quelques clics suffisent pour générer :

• - des images truquées de produits “censés” être cassés,
• - des justificatifs falsifiés,
• - des identités synthétiques bien travaillées.

Comme l’explique TF1, des vendeurs particuliers voient désormais des litiges ouverts à partir de photos manipulées par IA, avec parfois un traitement automatisé qui se retourne… contre la victime honnête elle-même.

Un utilisateur interviewé raconte ainsi avoir perdu 180 € à cause d'une image générée par IA qui montrait un vinyle soi-disant brisé — un objet qui, de nature, ne se casse pas de cette manière. Le système automatisé de la plateforme a pourtant donné raison au fraudeur, illustrant la vulnérabilité des contrôles classiques.

Ce phénomène s’inscrit dans une tendance mondiale : la fraude aux images truquées explose, avec une croissance de 15 % des clichés falsifiés dans les réclamations depuis début 2025.

Trois grandes évolutions observées par Oneytrust

Chez Oneytrust, nos experts constatent trois transformations majeures :

1. Une fraude plus sophistiquée

L’IA générative permet de produire des images très réalistes, parfois impossibles à distinguer à l’œil nu. Des identités synthétiques ou des factures recréées pixel par pixel peuvent berner les systèmes traditionnels de vérification.

2. Une industrialisation des tentatives

Ce qui relevait autrefois d’un travail manuel devient automatisé. Les fraudeurs lancent désormais de vastes campagnes coordonnées, augmentant drastiquement le volume de tentatives détectées sur les sites e-commerce.
Cette industrialisation est confirmée par le reportage TF1, qui alerte sur des vagues d’escroqueries affectant potentiellement des millions de personnes. 

3. De nouveaux signaux faibles

Les méthodes classiques ne suffisent plus. Lorsque les preuves sont générées par IA, les comportements, les métadonnées et les incohérences contextuelles deviennent les nouveaux terrains d’analyse.

 AI: an essential tool for countering these new attacks

Face à des fraudeurs qui utilisent l’IA, les solutions de lutte contre la fraude doivent évoluer. C’est pour cela qu’Oneytrust a intégré des modèles d’intelligence artificielle avancés au cœur de ses technologies.

Nos systèmes permettent notamment de :

Repérer les incohérences comportementales et contextuelles

Fréquence des retours, historiques inhabituels, adresses ou appareils multiples : les patterns parlent.
Notre solution croise ces signaux pour identifier les abus bien avant qu’ils ne se répètent de manière visible. 

S’adapter en temps réel

Les méthodes de fraude changent chaque semaine. Nos modèles se recalibrent en continu pour suivre ces évolutions et bloquer les attaques émergentes.

Identifier les réseaux organisés

Grâce à l’analyse de la structure de la donnée, la corrélation des éléments d’identité, d’appareils et d’historique réseau, Oneytrust expose les groupes criminels organisés qui opèrent sous différentes identités ou comptes.

Ajuster la détection à vos process de retour

Oneytrust s’adapte finement aux politiques de retour et aux parcours internes de chaque enseigne, en intégrant leurs règles, leurs seuils et leurs spécificités opérationnelles.

Le véritable enjeu : préserver la confiance

Dans ce contexte, la question n’est plus seulement de bloquer la fraude.
Il s’agit de protéger la relation de confiance entre les marchands et leurs clients.

Un excès de suspicion peut dégrader l’expérience d’achat. Une trop grande permissivité peut encourager les abus et fragiliser les modèles économiques. L’équilibre est donc subtil — et l’IA joue un rôle crucial pour différencier avec précision :

• - les acheteurs honnêtes,
• - des fraudeurs opportunistes,
• - des réseaux criminels organisés.

Oneytrust s’engage à maintenir cet équilibre en combinant technologie de pointe et expertise humaine.

Fraude et IA : un défi immense… mais loin d’être insurmontable

L’intelligence artificielle a profondément transformé le paysage de la fraude au remboursement. Elle donne aux fraudeurs de nouveaux outils, mais elle renforce encore plus la capacité des entreprises à les détecter et les stopper.

Avec un investissement continu, des modèles de plus en plus performants et une collaboration renforcée de tout l’écosystème, ce combat est non seulement possible, mais gagnable.

La confiance est l’un des fondements du commerce en ligne. Ensemble, continuons à la protéger.

The post Refund fraud: when AI becomes a tool for fraudsters… appeared first on Oneytrust.

1. La nouvelle définition large d’un « système d’IA »

Le texte définit un système d’IA de manière très large comme un “système basé sur une machine, fonctionnant avec divers degrés d’autonomie, capable de s’adapter après déploiement et qui, pour des objectifs explicites ou implicites, déduit à partir des données comment générer des résultats (prédictions, contenu, recommandations, décisions) influençant des environnements physiques ou virtuels”.

Cette portée technologique large est complexe à décliner opérationnellement mais le marché s’accorde à considérer que cela englobe les approches sophistiquées comme l’apprentissage automatique (ML), les approches hybrides règles experts + machine learning, et l’optimisation avancée.

Avec la prolifération de l’usage de l’IA par les fraudeurs, les entreprises de confiance de lutte contre la fraude comme Oneytrust devront toujours davantage développer leur panoplie de solutions IA afin d’alimenter leurs moteurs de scoring, d’alerte comportementale ou d’analyse d’anomalies afin de rester à l’ère du temps et d’identifier des schémas de fraude de plus en plus sophistiqués.

2. Risques : où se situe la détection de fraude ?

L’AI Act classe certains usages « haut risque » (biométrie critique, emploi, éducation, accès à des services essentiels comme le crédit scoring, la tarification de l’assurance santé…). Ces systèmes sont autorisés mais doivent faire office d’un système de gestion des risques très poussé et d’une évaluation de leur conformité avant mise sur le marché.

Exception notable : l’IA utilisée pour détecter la fraude financière n’est pas automatiquement “haut risque”. Cela réduit la charge réglementaire directe, mais ne supprime pas les attentes de transparence, de qualité des données et de surveillance humaine que les établissements régulés répercutent contractuellement leurs filiales et fournisseurs (comme Oneytrust).

3. Quelles dates clés retenir ?

Les principales entrées en application des exigences de l’AI Act sont séquencées dans le temps. Voici les principales dates à retenir :

• - 2 février 2025: entrée en application des interdictions « risque inacceptable » + exigence d’AI literacy (sensibilisation/formation des personnels impliqués dans l’IA).
• - 2 août 2025: obligations pour modèles d’IA à usage général (GPAI) commencent à s’appliquer (IA générative).
• - 2 février 2026: deadline européenne pour certains actes d’exécution (plans de surveillance post‑marché).
• - 2 août 2026: obligations pour systèmes d’IA à haut risque.
• - Août 2027: application générale de l’ensemble des dispositions du règlement.

4. Pourquoi se préparer même sans être “à haut risque” ?

Les fraudeurs s’industrialisent avec l’IA. Deepfakes, faux documents générés, scripts automatisés d’attaque, automatisation du recours aux identités synthétiques : la fraude se scale. Les acteurs de la lutte contre la fraude doivent s’adapter aussi vite à ces nouvelles tendances.

Bien que la lutte contre la fraude ne soit pas considérée explicitement comme étant à haut risque, il est essentiel de garantir des solutions respectueuses des droits fondamentaux et de la vie privée des clients et utilisateurs finaux, que ce soit en respect du RGPD ou de l’AI Act. De plus, les attentes des partenaires régulés (principalement du secteur bancaire) sont de plus en plus fortes car ils sont soumis à des exigences sectorielles qui nécessitent traçabilité, une bonne documentation et une vigilance renforcée sur la qualité des données utilisées pour satisfaire leur superviseur.

5. La réponse Oneytrust

Oneytrust fournit des solutions de vérification d’identité et de détection de fraude pour e-commerçant, fintechs et banques, s’appuyant sur des solutions IA couplées à notre expertise humaine de la lutte contre la fraude depuis 25 ans pour détecter identités synthétiques, anomalies transactionnelles et signaux de risque en temps réel. Nous sommes membres du Groupe BPCE, ce qui nous pousse à des standards élevés de conformité et de gouvernance des modèles.¹

Tout comme avec le RGPD, nous n’avons pas attendu pour cultiver notre expertise sur l’AI Act et avons depuis plusieurs années sensibilisé et formé notre personnel à ces nouvelles problématiques de conformité. Contactez-nous si vous souhaitez en savoir plus sur la vision d’Oneytrust en matière de conformité et gestion des risques de l’IA !

The post AI Act and Fraud Prevention : why the market must prepare appeared first on Oneytrust.