Dario Amodei publica una declaración oficial para aclarar la posición de Anthropic sobre modelos open-weight, después de semanas de debate sobre prohibiciones dirigidas a modelos abiertos chinos y acusaciones de querer proteger su propio mercado.

El mensaje directo: Anthropic nunca ha pedido prohibir modelos open-weight. Los modelos abiertos sin capacidades peligrosas son un bien público, solo cuestan el compute para ejecutarlos y generan valor para empresas, desarrolladores e investigadores.

Amodei señala dos preocupaciones concretas. La primera: gobiernos autoritarios que entrenan modelos más potentes que los de EE.UU. para lograr superioridad militar o represión interna (importa poco si son abiertos o cerrados). La segunda: uso de modelos potentes para ataques cibernéticos o biológicos, donde los open-weight presentan un riesgo más alto porque es difícil aplicar salvaguardas y los pesos, una vez liberados, no se retiran.

Las tres medidas que Anthropic respalda: bloquear exportaciones de chips avanzados hacia China y reprimir el contrabando; atacar operaciones de destilación a escala industrial; pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, abiertos o cerrados.

Para quienes construyen con modelos abiertos, el panorama es el mismo que describimos el 23 de julio: la presión se concentra en modelos individuales de riesgo, y la elección del modelo sigue siendo también una apuesta sobre la supervivencia política de la herramienta.

En detalle

El documento llega en un momento candente. El 26 de julio la Casa Blanca estaba evaluando prohibiciones selectivas sobre modelos abiertos chinos específicos, y el 27 de julio Moonshot lanzaba Kimi K3, un modelo abierto competitivo con los frontier estadounidenses que aceleró a los reguladores. Algunas empresas tecnológicas firmaron una carta a favor de los open-weight, y acusaron a Anthropic de querer prohibirlos para proteger su negocio.

Amodei diferencia las dos preocupaciones con precisión. La primera, la amenaza estratégica, concierne modelos entrenados en secreto y entregados directamente al ejército chino o a servicios de seguridad. En ese caso los pesos abiertos importan poco: el modelo más peligroso podría ser el que nunca se libera públicamente. La segunda, el uso malintencionado de modelos abiertos para ataques cibernéticos o biológicos, es donde los open-weight presentan objetivamente un riesgo más alto. Una vez que los pesos son públicos, no puedes retirarlos, no puedes actualizar las salvaguardas, no puedes monitorear quién los usa.

La respuesta de Anthropic sobre las tres medidas desplaza el foco del modelo al compute. El argumento sobre chips es directo: China tiene capacidad productiva doméstica limitada, y sin chips estadounidenses no puede escalar según las leyes de escalado. El control de exportaciones es el punto de apalancamiento más efectivo para detener la amenaza estratégica. Sobre la destilación, Amodei reconoce que permite a China construir modelos mejores de lo que sus chips permitirían, reduciendo la brecha a pocos meses respecto a la frontera estadounidense. Las empresas que realizan estas operaciones frecuentemente liberan modelos open-weight, pero lo relevante es la operación misma, respaldada por un estado autoritario, no los pesos abiertos.

El tercer punto, pruebas de seguridad obligatorias, es donde Anthropic encuentra convergencia. Amodei señala que la administración Trump se está moviendo en esa dirección, y que propuestas de la industria prevén pruebas sobre modelos más capaces independientemente del país de origen y de si son abiertos o cerrados, eximiendo modelos menos capaces de startups y academia. El testing global requiere que China también acepte, y Amodei cree posible una cooperación limitada sobre prevención de armas biológicas, porque está en el interés de Pekín.

Qué queda abierto. El documento es una posición política, no un plan operativo. No dice quién decide el umbral de “suficientemente capaz” para las pruebas obligatorias, ni cómo se ejecuta el testing global. La propuesta de cooperación con China sobre armas biológicas es plausible en teoría, pero el documento no se enfrenta a la realidad geopolítica del momento. Y el reconocimiento de que los open-weight tienen objetivamente un riesgo más alto de uso malintencionado, aunque no lleva a pedir su prohibición, sigue siendo un argumento que los labs propietarios pueden usar para justificar el modelo cerrado.

Para quienes usan modelos abiertos en su trabajo, la distinción de Amodei entre “modelos sin capacidades peligrosas, bien público” y “modelos con capacidades peligrosas, pruebas obligatorias” es el criterio a tener en cuenta. La línea de demarcación será donde los reguladores la tracen.