Qui doit avoir le dernier mot lorsqu’un modèle d’intelligence artificielle est jugé trop dangereux pour être déployé? Anthropic propose de confier cette décision à la justice: le gouvernement fédéral américain pourrait intervenir, mais le blocage devrait recevoir l’aval d’un juge.
Le projet, dévoilé par Politico et présenté à l’AFP par un porte-parole d’Anthropic, intervient en l’absence de loi fédérale américaine sur l’IA. Le texte permettrait à Washington de bloquer un modèle en cas de risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts.
Des obligations pour les modèles les plus puissants
La proposition obligerait les développeurs à tester leurs modèles les plus puissants, à rendre publics leurs résultats, à les soumettre à une évaluation indépendante et à maintenir un programme de sécurité solide. Anthropic estime que le gouvernement fédéral doit pouvoir bloquer ou dissuader le déploiement de modèles présentant un danger.
Le dispositif placerait ainsi le contrôle judiciaire entre l’évaluation du risque et la décision de blocage. Il primerait également sur certaines lois adoptées par les États américains, notamment en Californie.
Un Congrès qui n’a toujours pas légiféré
La politique américaine repose actuellement surtout sur des décrets et des engagements volontaires des entreprises. Le Congrès, divisé, n’a encore adopté aucun texte fédéral, alors que plusieurs incidents de sécurité impliquant des modèles de pointe ont été révélés durant l’été.
Anthropic a elle-même connu une confrontation avec l’administration Trump. Bannies du Pentagone en février, ses technologies les plus avancées ont ensuite été suspendues pendant près de trois semaines en juin sur décision de Washington.
Une proposition déjà contestée
Le patron d’Anthropic, Dario Amodei, avait appelé l’industrie à ralentir à la mi-septembre. Donald Trump a rejeté ces appels, tandis que son ancien conseiller pour l’IA, David Sacks, accuse l’entreprise de chercher à freiner ses concurrents par la réglementation.
Charlie Bullock, de l’Institute for Law & AI, juge la proposition raisonnable, tout en la considérant moins exigeante que le FRONTIER Act présenté cet été à la Chambre des représentants. Le débat porte désormais sur l’équilibre entre la rapidité du développement technologique, les obligations de sécurité et le pouvoir confié à l’administration pour suspendre un modèle.
-
-
-
-
