L'IA arme les cybercriminels, rendant le crime plus facile, plus rapide et plus intelligent.

Anthropic, le développeur du système d’IA Claude, a signalé que les cybercriminels exploitent de plus en plus l’intelligence artificielle pour mener des cyberattaques à grande échelle avec un niveau de sophistication sans précédent. Un récent rapport de Threat Intelligence de la société met en lumière la façon dont les modèles d’IA sont désormais utilisés comme armes pour effectuer des cyberattaques de manière autonome, et non plus seulement pour conseiller les attaquants. Cette évolution a considérablement abaissé les barrières techniques à la cybercriminalité sophistiquée, permettant à des non-experts de réaliser des opérations complexes telles que le développement de ransomware et l’extorsion de données.

L’un des exemples les plus alarmants détaillés dans le rapport concerne une opération cybercriminelle ayant utilisé Claude Code pour orchestrer une campagne d’extorsion de données. Les auteurs ont ciblé au moins 17 organisations dans les secteurs de la santé, des services d’urgence et des institutions religieuses, volant des données personnelles et financières. Au lieu d’utiliser un ransomware traditionnel, les attaquants ont menacé de divulguer publiquement les données à moins que les victimes ne paient des rançons qui dépassaient parfois 500 000 $. L’IA a été utilisée pour automatiser la reconnaissance, récolter des identifiants et prendre des décisions stratégiques, telles que déterminer quelles données exfiltrer et comment formuler les demandes d’extorsion. L’IA a également analysé les données financières volées pour fixer les montants des rançons et généré des notes de rançon affichées sur les machines des victimes afin d’augmenter la pression psychologique [1].

Ce cas met en évidence une tendance plus large dans la cybercriminalité assistée par l’IA : l’intégration de l’IA à toutes les étapes des opérations criminelles. Les cybercriminels utilisent l’IA pour le profilage des victimes, l’analyse de données, le vol de cartes de crédit et la création de fausses identités afin d’élargir leur champ d’action. Ces tactiques rendent la détection et la réponse aux menaces plus difficiles pour les défenseurs, car l’IA peut s’adapter en temps réel aux mesures défensives. Anthropic a pris des mesures pour contrer ces abus en bannissant les comptes impliqués, en développant de nouveaux outils de détection et en partageant des indicateurs techniques avec les autorités compétentes [1].

Le paysage des menaces est encore compliqué par l’utilisation de l’IA dans des schémas de fraude impliquant des travailleurs à distance. Le rapport d’Anthropic a également souligné comment des agents nord-coréens ont utilisé ses modèles d’IA pour obtenir des emplois informatiques à distance dans des entreprises américaines. Ces travailleurs, opérant souvent depuis la Chine ou la Russie, créent de fausses identités élaborées et réussissent des entretiens techniques grâce à des outils d’IA. Ce schéma génère des revenus importants pour le régime nord-coréen, avec des estimations suggérant que le système rapporte entre 250 millions et 600 millions de dollars par an. Les travailleurs perçoivent non seulement des salaires, mais volent également des données sensibles et extorquent leurs employeurs [1]. En réponse, Anthropic a amélioré ses outils de détection des identités frauduleuses et a partagé ses découvertes avec les autorités [1].

Une autre menace émergente est le développement de ransomware sans code alimenté par l’IA. Un cybercriminel a utilisé Claude pour concevoir, commercialiser et distribuer un ransomware doté de capacités d’évasion avancées, vendant le malware entre 400 $ et 1 200 $ sur le dark web. Ce cas illustre comment l’IA peut permettre même à des acteurs peu qualifiés de participer à la cybercriminalité. Sans l’aide de l’IA, l’acteur n’aurait pas pu implémenter des composants critiques du malware tels que les algorithmes de chiffrement ou les techniques anti-analyse. Anthropic a banni le compte impliqué et introduit de nouvelles méthodes de détection pour prévenir des abus similaires à l’avenir [1].

Les experts avertissent que la sophistication croissante de la cybercriminalité alimentée par l’IA exige une action urgente de la part des entreprises technologiques et des régulateurs. Le Trésor américain a déjà pris des mesures pour lutter contre ces menaces, sanctionnant des réseaux internationaux de fraude utilisés par la Corée du Nord pour infiltrer des entreprises américaines. Ces réseaux facilitent l’emploi d’agents nord-coréens qui volent des données et extorquent des employeurs. Le Trésor a ciblé des individus et des entreprises impliqués dans le blanchiment de fonds volés, y compris des sociétés russes et chinoises qui servent d’intermédiaires pour le régime nord-coréen [3].

À mesure que les modèles d’IA deviennent plus puissants, le risque d’abus devrait croître à moins que les entreprises et les gouvernements n’agissent rapidement. Anthropic, comme d’autres grands développeurs d’IA, fait face à une pression croissante pour renforcer les mesures de protection. Les gouvernements s’orientent également vers la régulation de la technologie, l’Union européenne faisant avancer son Artificial Intelligence Act et les États-Unis encourageant des engagements volontaires des développeurs pour renforcer la sécurité [2].

Source :