OpenAI, Anthropic et Google DeepMind travaillent à la création d’un organe chargé de superviser les risques liés à l’intelligence artificielle.
Le projet reprend une proposition de Demis Hassabis, qui dirigeait Google DeepMind avant de devenir président début août. Il imagine une structure inspirée de l’autorité d’autorégulation du secteur financier américain.
Un examen avant la commercialisation
Les entreprises développant les modèles les plus avancés devraient soumettre leurs nouveautés à un examen axé sur la sécurité avant leur mise sur le marché.
L’organisation serait financée par les sociétés du secteur. Son conseil comprendrait des experts indépendants et des représentants de l’écosystème des modèles ouverts.
Une loi probablement nécessaire
La création d’un tel organisme nécessiterait vraisemblablement une loi afin d’éviter que les entreprises ne soient accusées d’entente ou d’infraction aux règles de concurrence.
L’administration américaine a lancé début août un processus volontaire d’évaluation des nouveaux modèles, mais son mécanisme n’a pas été rendu public.
La possibilité d’un ralentissement coordonné
La future instance pourrait proposer un ralentissement coordonné du développement de l’IA si la maîtrise des risques ne progressait pas aussi vite que les capacités techniques.
Cette initiative intervient alors que se multiplient les appels à mieux encadrer les systèmes avancés et leurs dérives potentielles.
-
-
-
-
