Points clés à retenir :
La plainte de Google contre un groupe cybercriminel chinois constitue le premier test majeur visant à déterminer si les entreprises d'IA peuvent être tenues responsables lorsque leurs propres modèles sont utilisés comme armes contre elles.
Google a accusé un groupe cybercriminel chinois d'avoir utilisé son système d'IA Gemini pour générer des centaines de sites web contrefaits imitant des entreprises et des institutions gouvernementales, révélant une nouvelle vulnérabilité dans la manière dont les plateformes d'IA peuvent être détournées contre leurs créateurs.
"Cette opération a utilisé nos propres outils d'IA pour créer des répliques convaincantes d'organisations légitimes, sapant ainsi la confiance dans les communications numériques", a déclaré un porte-parole de Google dans la plainte déposée le 12 juin.
Selon les documents judiciaires, la campagne, qui a débuté en novembre 2023, a utilisé Gemini pour générer du contenu web, de faux profils d'employés et des documents d'entreprise pour au moins 13 domaines saisis par le FBI. Les opérateurs ont eu recours à des applications de messagerie cryptée comme Telegram, à des paiements en cryptomonnaies et à des photos de profil générées par IA pour donner une apparence légitime à ces sociétés écrans.
Cette plainte met en lumière un défi croissant pour les plateformes d'IA : à mesure que les modèles deviennent plus performants, ils deviennent également plus utiles aux acteurs malveillants. L'action en justice proactive de Google pourrait établir un précédent quant à la manière dont les entreprises d'IA surveillent le détournement de leur propre technologie, tout en exacerbant les tensions technologiques entre les États-Unis et la Chine, qui ont déjà remodelé les marchés des semi-conducteurs et du cloud computing.
Le ministère de la Justice a indiqué que les domaines saisis se faisaient passer pour des cabinets de conseil, notamment Centrik Global Consulting, Rightinfo Consulting et Finnacle-Vesper Consulting, en proposant des postes de recherche bien rémunérés destinés aux détenteurs d'habilitations de sécurité américaines. Les sites cherchaient à attirer d'anciens et actuels responsables américains, des militaires et des entrepreneurs gouvernementaux afin qu'ils produisent des rapports ou partagent des informations confidentielles sur des sujets d'intérêt pour le gouvernement chinois.
Ce présumé stratagème s'inscrit dans un schéma plus large d'opérations de renseignement étranger qui mêlent recrutement en ligne et incitations financières. Dans une rare divulgation publique en novembre dernier, le lieutenant-général Anthony R. Hale, chef adjoint d'état-major de l'armée pour le renseignement, a publié une note avertissant que des adversaires étrangers ciblent les soldats, les civils et leurs familles via de fausses entreprises et de faux recruteurs. Cet avis a été adressé à plus d'un million de personnes dans l'armée.
Selon le document déposé par le DOJ, les vagues de licenciements fédéraux de l'année écoulée ont poussé des milliers d'employés et d'entrepreneurs gouvernementaux sur un marché du travail incertain, créant de nouvelles opportunités de collecte pour les services de renseignement étrangers. La campagne utilisait des plateformes de travail indépendant pour publier des offres d'emploi telles que "Analyste senior" et "Consultant en affaires internationales", avec des paiements acheminés via des comptes à l'étranger et des cryptomonnaies.
Les actions de Google sont peu exposées financièrement à cette plainte, mais l'affaire souligne un risque réputationnel pour l'activité d'IA d'Alphabet Inc. à un moment où elle cherche à commercialiser Gemini face à OpenAI et Microsoft. Google se négocie à 22 fois les bénéfices futurs, soit une décote par rapport au ratio de 31 fois de Microsoft, ce qui reflète en partie l'incertitude des investisseurs quant à la monétisation de l'IA et au risque réglementaire. L'issue de cette affaire pourrait influencer la manière dont les régulateurs abordent la responsabilité des plateformes d'IA, ce qui pourrait affecter les coûts de conformité dans l'ensemble du secteur.
Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.
