Demis Hassabis, CEO de Google DeepMind, ha propuesto la creación de una institución global de control sobre IA con poder para evaluar modelos frontier antes de su lanzamiento y coordinar una desaceleración del sector si se consideran demasiado peligrosos. La organización, que Hassabis querría liderada por Estados Unidos, incluiría expertos independientes y representantes de comunidades open source.

Según Axios, Hassabis ha pasado meses construyendo consenso alrededor de la propuesta, reuniéndose con la administración Trump, otros laboratorios de IA y funcionarios europeos, y apunta a tener la organización operativa antes de fin de 2026. Ha declarado haber recibido señales «muy positivas» de la Casa Blanca.

Por qué te importa. Si la iniciativa toma forma, quienes desarrollan o usan modelos frontier tendrán que enfrentarse a una gobernanza más estructurada: evaluaciones obligatorias antes del lanzamiento, estándares de seguridad internacionales y posibles bloqueos coordinados. La cuestión es entender quién decide qué es «demasiado riesgoso» y con qué criterios—una pregunta aún abierta.

Hassabis firmó en junio una declaración que pedía protecciones más sólidas contra la producción de bioarmas asistida por IA, señal de que la propuesta no es retórica aislada sino parte de una estrategia coherente.

En detalle

El contexto

Aún no existe regulación global específica sobre IA, ni un marco nacional completo en Estados Unidos. Las iniciativas hasta ahora han sido fragmentarias: la Ley de IA europea se enfoca en aplicaciones de alto riesgo, pero no rige directamente el desarrollo de modelos frontier; los decretos ejecutivos de EE.UU. bajo Biden introdujeron obligaciones de reporte para modelos más allá de ciertos umbrales de capacidad, pero sin una institución dedicada a hacerlos cumplir.

Hassabis propone un modelo similar a la Financial Industry Regulatory Authority (FINRA), una organización de autorregulación pero con poderes reales: evaluar modelos antes del lanzamiento, definir estándares compartidos y coordinar pausas del sector cuando sea necesario. La idea es que EE.UU. lidere, dado su «peso económico y técnico», con la participación de otras jurisdicciones.

Qué dicen las fuentes

El post de Hassabis, titulado A Framework for Frontier AI and the Dawning of a New Age, encuadra la IA general (AGI) como probablemente «a pocos años de distancia» y habla de la «singularidad» como horizonte inminente. Axios reporta que la propuesta ya ha encontrado escucha en la administración Trump y en otros laboratorios, pero no cita objeciones o reservas públicas—lo que no significa que no existan.

La propuesta llega después de que Hassabis firmara, junto con otros, una declaración en junio contra los riesgos de bioarmas asistidas por IA, y después de que economistas y figuras del sector (incluido Jack Clark de Anthropic y Eric Schmidt) pidieran a los gobiernos que tomen en serio el impacto económico de la IA.

Implicaciones

Si la institución nace, quienes construyen modelos más allá de cierto umbral de capacidad deberán someterlos a revisión antes del lanzamiento público. Los criterios de evaluación—qué haría a un modelo «demasiado peligroso»—aún no se han especificado: será el punto crucial. La propuesta incluye representantes open source, pero no está claro cómo se conciliaría con modelos lanzados bajo licencias permisivas y sin control centralizado.

El timing es relevante: GPT-5.6 salió hace poco, Claude Fable 5 volvió disponible tras el bloqueo de exportación, y modelos abiertos como Soofi S u Ornith-1.0 están alcanzando capacidades frontier. Un watchdog con poder de bloqueo cambiaría el ritmo con el que estas herramientas llegan a los desarrolladores.

Qué queda abierto

La propuesta no explica cómo la institución gestionaría modelos open-weight ya difundidos, ni cómo impondría desaceleraciones en jurisdicciones que no se adhieran. No está claro si los criterios de seguridad serían públicos o reservados, ni quién pagaría las evaluaciones. Y el hecho de que Hassabis quiera liderazgo estadounidense podría hacer más difícil el consenso internacional, especialmente en un momento en que China y Europa desarrollan capacidades de IA propias.