Le modèle OpenAI “hors de contrôle” tire la sonnette d’alarme, Microsoft (MSFT.US) lance rapidement un modèle de cybersécurité à faible coût

French Financial Times a appris que, alors que l'incident de "perte de contrôle" du modèle OpenAI suscite de vives discussions, Microsoft (MSFT.US) a lancé lundi un nouveau modèle d'intelligence artificielle (AI) destiné à identifier les failles en cybersécurité. Il s'agit du premier produit majeur dévoilé depuis que Heit Garrott, ex-cadre de Google, a pris la tête du département de sécurité chez Microsoft, marquant ainsi le renouveau du secteur cybersécurité de l'entreprise.

Microsoft indique que couplé au grand modèle général GPT-5.4 d'OpenAI, son modèle MAI-Cyber-1-Flash surpasse Anthropic’s Mythos 5, Google’s 3.5 Flash Cyber ainsi qu’OpenAI’s GPT-5.5 Cyber lors des tests de référence sur CyberGym.

Mustafa Suleyman, PDG de la division AI de Microsoft, a affirmé lors d’un événement organisé à San Francisco : « Nos modèles affichent une performance de niveau mondial, tout en ayant un coût moitié moindre par rapport à la concurrence. »

Ce modèle génératif est le premier modèle de Microsoft spécifiquement conçu pour des scénarios de cybersécurité. Garrott a décrit dans un blog que ce modèle sera intégré au programme Perception de Microsoft (Project Perception). Ce programme rassemble plusieurs agents AI capables d’identifier et de corriger les vulnérabilités des systèmes, et sera accessible en aperçu public à partir du 3 août.

Elle est revenue chez Microsoft en février en tant que vice-présidente exécutive de la division sécurité, tandis que Charlie Bell, ancien cadre d’Amazon Web Services précédemment responsable de cette activité, est désormais chercheur indépendant en technologie.

L’IA générative a considérablement réduit les barrières d’accès pour les hackers exploitant les failles récemment découvertes. Ainsi, Anthropic et OpenAI ont toutes deux lancé des modèles AI défensifs dédiés aux professionnels de la cybersécurité.

Depuis le début de l’année, l’action Microsoft a chuté de 19%. L’équipe d’analystes de UBS dirigée par Karl Kierstead écrivait dimanche dans son rapport : « Alors que le marché estime que les modèles AI open source pourraient grignoter la part des laboratoires d’avant-garde, les investisseurs réévaluent aujourd’hui la stratégie de Microsoft centrée sur OpenAI, la considérant comme un risque potentiel. » Kierstead maintient toutefois sa recommandation « achat » pour Microsoft.

Microsoft a lancé successivement plusieurs grands modèles propriétaires cette année : d’abord un modèle générant du code pour GitHub Copilot, puis récemment un modèle natif AI intégré dans Excel. Satya Nadella, PDG de Microsoft, maintient la collaboration avec OpenAI, tout en investissant dans les ressources de calcul pour former ses propres modèles et ainsi améliorer l’efficacité opérationnelle.

Lundi, Nadella a publié sur la plateforme sociale X : « En combinant des modèles dédiés, des données sectorielles, avec des agents intelligents adaptés, des outils, des environnements sécurisés et des systèmes, nous pouvons améliorer le rapport coût/efficacité. »

Depuis 2023, Microsoft n’a pas communiqué publiquement l’ampleur des revenus de son activité cybersécurité ; cette année-là, le secteur a dépassé 20 milliards de dollars.

En 2023, Microsoft a lancé « Security Copilot » destiné aux professionnels de la cybersécurité, intégrant GPT-4 d’OpenAI. Ce service est désormais préinstallé dans deux suites de logiciels bureautiques haut de gamme de Microsoft. Project Perception, une fois autorisé, peut suggérer et implémenter des modifications de code, et il peut également se connecter à des produits non-Microsoft.

Garrott a déclaré lors d’une interview que les dirigeants du secteur cybersécurité considèrent cet outil comme crucial : il permet d’abaisser les barrières pour les talents en exploitation de sécurité, augmentant le recrutement pour les Centres d’Opérations de Sécurité (SOC), alors que ces profils sont actuellement très rares. Les entreprises disposent généralement d’un SOC avec de nombreux employés, chargés de surveiller les menaces pesant sur les systèmes informatiques.

L’attaque par modèle OpenAI met en lumière les failles du secteur, la construction de garde-fous de sécurité AI devient une priorité

La semaine dernière, OpenAI a révélé que son modèle avait exploité une faille pour attaquer l’infrastructure de la start-up AI Hugging Face. Cet incident a exposé les risques potentiels des grands modèles autonomes, déclenchant une vive préoccupation sectorielle quant aux garde-fous de sécurité AI.

Des membres du Congrès américain des deux partis ont proposé l’« AI Kill Switch Act », visant à conférer aux agences fédérales le pouvoir de suspendre les modèles AI en cas de nécessité. Cette loi est encore au stade de proposition au Congrès et n’est pas encore entrée en vigueur.

D’autre part, il est rapporté que Sam Altman, PDG d’OpenAI, et Jensen Huang, PDG de Nvidia, rencontreront cette semaine Mark Warner, chef des Démocrates au comité du renseignement du Sénat, pour discuter du développement et de la sécurité de l’AI.

Suleyman, responsable AI chez Microsoft, a qualifié l’incident OpenAI de « réveil » pour la cybersécurité. Il souligne qu'il s'agit d'un signal important montrant la montée des cyberattaques basées sur l’AI. « Plus les modèles deviennent puissants, plus le principe de précaution devient essentiel. »

Garrott a aussi commenté : « Ce cas prouve amplement que, face à des attaquants équipés d’outils AI, il nous faut bâtir une défense grâce à la technologie AI. »

Le nouveau modèle de cybersécurité de Microsoft a encore un large potentiel d’optimisation.

Suleyman a indiqué lors d’un entretien : « Nous disposons d’un immense corpus de données de sécurité unique, et actuellement, la formation du modèle n’utilise que moins de 1% de nos réserves de données. »