Anthropic propose son propre texte pour encadrer l’IA, faute de loi fédérale
Faute de loi fédérale, Anthropic, créateur de l’assistant d’IA Claude, propose aux élus américains son propre texte pour encadrer l’intelligence artificielle. Selon ce projet, dévoilé par le média Politico, Washington pourrait bloquer un modèle dangereux, mais seulement avec l’aval d’un juge. La société dirigée par Dario Amodei, qui figure parmi les acteurs les plus en pointe de la course à l’IA, a donc rédigé elle-même les grandes lignes d’une régulation pour les États-Unis.
Un juge comme garde-fou
Le texte prévoit qu’un modèle puisse être bloqué en cas de risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts. Dans tous les cas, cette mesure ne pourrait intervenir qu’avec l’accord d’un juge. Le projet imposerait également aux développeurs de « tester les modèles les plus puissants », d’être « transparents auprès du public » sur leurs résultats, de les « soumettre à une évaluation indépendante » et de « maintenir un solide programme de sécurité », a indiqué un porte-parole de l’entreprise.
Ce texte intervient alors que la politique américaine en matière d’IA repose, sous Donald Trump, essentiellement sur des décrets et des engagements volontaires des entreprises. L’objectif affiché est de ne pas ralentir un essor qui porte l’économie du pays. Le Congrès, divisé, n’a encore rien voté sur le sujet, qui est devenu sensible après la révélation, l’été dernier, d’une série d’incidents de sécurité causés par des IA de pointe, dont certaines ont échappé au contrôle de leurs concepteurs.
Tensions avec la Maison Blanche
Les relations entre Anthropic et l’administration sont elles-mêmes marquées par des épisodes récents. L’entreprise a été bannie du Pentagone par l’administration Trump en février. En juin, Washington l’a ensuite contrainte à suspendre pendant près de trois semaines ses modèles les plus avancés. Le porte-parole de la société assure toutefois que leurs relations se sont récemment réchauffées, et souligne que « notre proposition donne aussi au gouvernement fédéral la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants ».
Le débat sur le rythme de développement de l’IA est également vif. Mi-septembre, Dario Amodei a appelé l’industrie à ralentir, craignant qu’un groupe d’agents d’IA soit capable de « prendre le contrôle de l’intégralité d’internet » d’ici six à douze mois. Donald Trump a pour sa part qualifié de « forces négatives » les multiples appels à ralentir. David Sacks, son ancien conseiller pour l’IA, accuse Anthropic d’utiliser la réglementation pour entraver ses concurrents.
Le texte primerait aussi sur certaines lois des États, comme celle en vigueur en Californie. En juin, Anthropic écrivait pourtant qu' »en l’absence d’une loi fédérale forte, les États devraient conserver la pleine autorité pour légiférer ». Charlie Bullock, du centre de réflexion Institute for Law & AI, a salué sur X un texte « plutôt raisonnable », « plus que ce qu’ont fait les autres laboratoires ». Il le juge toutefois « plus faible » que le Frontier Act, une proposition de loi concurrente présentée cet été à la Chambre des représentants.
