Le PDG d'Anthropic soutient les tests obligatoires de l'IA avec un engagement de 350 millions de dollars

Dario Amodei souhaite que les gouvernements bloquent les modèles d'IA dangereux avant qu'ils n'atteignent le public — et il injecte 350 millions de dollars dans cette initiative.

Dario Amodei, directeur général d'Anthropic, a proposé le 11 juin des tests obligatoires par des tiers pour les systèmes d'IA de pointe dépassant 10^25 FLOPs de calcul ou 500 millions de dollars de revenus liés à l'IA, avec une autorité gouvernementale pour bloquer le déploiement si les modèles présentent des risques catastrophiques dans quatre catégories.

« Les modèles d'IA de pointe, comme les avions, devraient être soumis à des tests techniques et à des audits, et leur publication devrait être bloquée ou annulée comme une menace pour la sécurité publique s'ils ne répondent pas à des normes élevées de sécurité », a déclaré Amodei dans un article de blog intitulé « Policy on the AI Exponential ».

Le cadre cible les risques liés à la cybersécurité, aux armes biologiques, à la perte de contrôle et à la recherche et développement automatisés. Anthropic s'est engagée à hauteur de 200 millions de dollars pour la recherche politique et 150 millions de dollars pour des bourses d'études afin de soutenir l'initiative, qui s'applique à toute entreprise atteignant les seuils de calcul ou de revenus — un groupe qui inclut OpenAI, Google DeepMind et Meta Platforms.

Cette proposition marque le cadre réglementaire le plus agressif soutenu par un grand PDG de l'IA et place Anthropic en opposition directe avec l'approche de tests volontaires de l'administration Trump. Le président Donald Trump a signé un décret le 2 juin donnant à la communauté du renseignement un rôle accru dans les tests de modèles, mais sans exiger d'approbation préalable avant le déploiement.

L'appel d'Amodei à une réglementation contraignante intervient alors que son propre modèle Claude Mythos Preview a démontré l'accélération de la menace. Anthropic a déclaré que Mythos a construit 16 exploits fonctionnels ciblant Firefox et Windows en quelques heures, dont huit exploits complets d'élévation de privilèges pour des vulnérabilités du noyau Windows en 18 heures. Le coût de création de ces exploits était de 15 700 dollars en crédits API, soit environ 2 000 dollars par chaîne.

« La contrainte liée aux N-days n'est plus que de quelques milliers de dollars et d'un accès API, ce qui élargit considérablement le nombre d'attaquants capables d'exploiter les N-days », a déclaré Anthropic dans un rapport distinct. L'entreprise a exhorté les organisations à passer des correctifs « N-day » aux correctifs « N-hour », avertissant que les systèmes de contrôle industriels, les dispositifs médicaux et les objets connectés sont confrontés à une exposition accrue à mesure que les coûts d'exploitation approchent de zéro.

Au-delà des tests de sécurité, Amodei a proposé des mesures économiques pour faire face aux éventuels déplacements de main-d'œuvre liés à l'IA, notamment des comptes de capital universels, une assurance salariale et des incitations à la rétention des employeurs. Le sénateur Bernie Sanders a proposé la semaine dernière une taxe de 50 % sur les offres d'actions des grandes entreprises d'IA, qui donnerait au gouvernement une participation votante, tandis que Trump a évoqué quelques jours plus tôt un partenariat de partage des bénéfices non spécifié avec les principales entreprises d'IA.

Amodei a également appelé à une réforme des institutions réglementaires pour accélérer l'innovation permise par l'IA, suggérant que la Food and Drug Administration pourrait approuver plus rapidement les médicaments découverts par l'IA grâce à des simulations d'essais cliniques et des groupes de contrôle synthétiques. Il a soutenu la poursuite de la coopération internationale entre les nations démocratiques sur la gouvernance de l'IA et a plaidé pour une interdiction du déploiement national de systèmes d'armes entièrement autonomes.

« Nous devons maintenant, au niveau mondial et collectif, activer un appareil politique lent et fragile pour faire face aux risques et aux opportunités qui vont se cumuler de manière étonnamment rapide à partir de maintenant », a écrit Amodei.

Le tarif moyen actuel des États-Unis sur les produits chinois s'élève à environ 19 % après l'escalade de mai 2025, selon le Peterson Institute for International Economics. La précédente augmentation de 10 % en septembre 2024 a réduit le commerce bilatéral de 63 milliards de dollars sur six mois, selon les données du Census Bureau — un précédent illustrant comment les frictions réglementaires peuvent remodeler les flux technologiques transfrontaliers si les exigences de test des modèles d'IA créent des barrières similaires.

Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.