Demis Hassabis, PDG de Google DeepMind, a proposé la création d’une institution mondiale de surveillance de l’IA ayant le pouvoir d’évaluer les modèles frontier avant leur mise en production et de coordonner un ralentissement du secteur s’ils sont jugés trop dangereux. L’organisation, que Hassabis souhaite voir dirigée par les États-Unis, comprendrait des experts indépendants et des représentants des communautés open source.

Selon Axios, Hassabis a passé des mois à construire un consensus autour de cette proposition, rencontrant l’administration Trump, d’autres labs d’IA et des responsables européens, et vise à avoir l’organisation opérationnelle avant la fin de 2026. Il a déclaré avoir reçu des signaux « très positifs » de la Maison-Blanche.

Pourquoi cela vous concerne. Si l’initiative se concrétise, quiconque développe ou utilise des modèles frontier devra faire face à une gouvernance plus structurée : évaluations obligatoires avant la mise en production, normes de sécurité internationales et possibles blocages coordonnés. La question clé est de savoir qui décide ce qui est « trop risqué » et selon quels critères—une question qui reste ouverte.

Hassabis a signé en juin une déclaration demandant des protections plus fortes contre la production d’armes biologiques assistée par l’IA, ce qui indique que la proposition n’est pas une rhétorique isolée mais fait partie d’une stratégie cohérente.

En détail

Le contexte

Il n’existe pas encore de régulation mondiale spécifique sur l’IA, ni de cadre national complet aux États-Unis. Les initiatives jusqu’à présent ont été fragmentaires : l’AI Act européen se concentre sur les applications à haut risque, mais ne gouverne pas directement le développement des modèles frontier ; les décrets exécutifs américains sous Biden ont introduit des obligations de rapport pour les modèles au-delà de certains seuils de capacité, mais sans institution dédiée à leur application.

Hassabis propose un modèle semblable à la Financial Industry Regulatory Authority (FINRA), une organisation autoréglementée mais avec de vrais pouvoirs : évaluer les modèles avant leur mise en production, définir des normes partagées et coordonner des pauses sectorielles si nécessaire. L’idée est que les États-Unis dirigent, compte tenu de leur « poids économique et technique », avec l’implication d’autres juridictions.

Ce que disent les sources

Le post d’Hassabis, intitulé A Framework for Frontier AI and the Dawning of a New Age, encadre l’IA générale (AGI) comme probablement « à quelques années de distance » et parle de la « singularité » comme horizon imminent. Axios rapporte que la proposition a déjà trouvé un écho auprès de l’administration Trump et d’autres labs, mais ne cite pas d’oppositions ou de réserves publiques—ce qui ne signifie pas qu’elles n’existent pas.

La proposition intervient après qu’Hassabis ait signé, avec d’autres, une déclaration en juin contre les risques d’armes biologiques assistées par l’IA, et après que des économistes et des figures du secteur (dont Jack Clark d’Anthropic et Eric Schmidt) aient demandé aux gouvernements de prendre au sérieux l’impact économique de l’IA.

Implications

Si l’institution est créée, quiconque construit des modèles au-delà d’un certain seuil de capacité devra les soumettre à examen avant leur mise en production publique. Les critères d’évaluation—ce qui rend un modèle « trop dangereux »—n’ont pas encore été précisés : ce sera le nœud crucial. La proposition comprend des représentants open source, mais il n’est pas clair comment cela s’accorderait avec les modèles mis en production sous des licences permissives et sans contrôle centralisé.

Le timing est pertinent : GPT-5.6 vient de sortir, Claude Fable 5 est redevenu disponible après le blocage d’exportation, et les modèles ouverts comme Soofi S ou Ornith-1.0 atteignent des capacités frontier. Un chien de garde avec pouvoir de blocage changerait le rythme auquel ces outils arrivent aux développeurs.

Ce qui reste ouvert

La proposition n’explique pas comment l’institution gérerait les modèles open-weight déjà diffusés, ni comment elle imposerait des ralentissements dans les juridictions qui ne s’y adhèrent pas. Il n’est pas clair si les critères de sécurité seraient publics ou confidentiels, ni qui paierait les évaluations. Et le fait qu’Hassabis souhaite la direction des États-Unis pourrait rendre plus difficile le consensus international, surtout à un moment où la Chine et l’Europe développent leurs propres capacités d’IA.