Dario Amodei publie une déclaration officielle pour clarifier la position d’Anthropic sur les modèles open-weight, après des semaines de débat sur les interdictions ciblant les modèles ouverts chinois et des accusations visant à protéger son marché propre.

Le message direct : Anthropic n’a jamais demandé d’interdire les modèles open-weight. Les modèles ouverts sans capacités dangereuses sont un bien public, ne coûtent que la ressource de calcul pour les exécuter et créent de la valeur pour les entreprises, les développeurs et les chercheurs.

Amodei identifie deux craintes concrètes. La première : des gouvernements autoritaires qui entraînent des modèles plus puissants que ceux des USA pour la supériorité militaire ou la répression interne (peu importe s’ils sont ouverts ou fermés). La seconde : l’utilisation de modèles puissants pour des attaques cyber ou biologiques, où les modèles open-weight présentent un risque plus élevé car il est difficile d’appliquer des garde-fous et les poids, une fois diffusés, ne peuvent être retirés.

Les trois mesures qu’Anthropic soutient : bloquer les exportations de puces avancées vers la Chine et réprimer la contrebande ; cibler les opérations de distillation à l’échelle industrielle ; tests de sécurité obligatoires pour tous les modèles suffisamment capables, ouverts ou fermés.

Pour ceux qui construisent avec des modèles ouverts, le contexte est le même que celui que nous rapportions le 23 juillet : la pression se concentre sur les modèles individuels à risque, et le choix du modèle reste aussi un pari sur la survie politique de l’outil.

Détails

Le document arrive à un moment chaud. Le 26 juillet, la Maison-Blanche évaluait des interdictions ciblées sur certains modèles ouverts chinois, et le 27 juillet, Moonshot lançait Kimi K3, un modèle ouvert compétitif avec les modèles de frontier USA qui a alarmé les régulateurs. Certaines entreprises technologiques ont signé une lettre en faveur des modèles open-weight, et Anthropic a été accusée de vouloir les interdire pour protéger ses intérêts commerciaux.

Amodei sépare les deux craintes avec précision. La première, la menace stratégique, concerne les modèles entraînés en secret et remis directement à l’armée chinoise ou aux services de sécurité. Dans ce cas, les poids ouverts ne jouent qu’un rôle mineur : le modèle le plus dangereux pourrait être celui qui n’est jamais publié. La seconde, l’utilisation malveillante de modèles ouverts pour les attaques cyber ou biologiques, est où les modèles open-weight présentent objectivement un risque plus élevé. Une fois que les poids sont publics, vous ne pouvez pas les retirer, vous ne pouvez pas mettre à jour les garde-fous, vous ne pouvez pas surveiller qui les utilise.

La réponse d’Anthropic sur les trois mesures déplace l’accent du modèle au calcul. L’argument sur les puces est direct : la Chine a une capacité de production domestique limitée, et sans puces américaines, elle ne peut pas évoluer selon les lois d’échelle. Le contrôle des exportations est le point de levier le plus efficace pour bloquer la menace stratégique. Sur la distillation, Amodei reconnaît qu’elle permet à la Chine de construire des modèles meilleurs que ce que ses puces permettraient, réduisant l’écart à quelques mois par rapport à la frontière USA. Les entreprises qui mènent ces opérations publient souvent des modèles open-weight, mais ce qui est pertinent, c’est l’opération elle-même, soutenue par un état autoritaire, et non les poids ouverts.

Le troisième point, les tests de sécurité obligatoires, est où Anthropic trouve une convergence. Amodei note que l’administration Trump évolue dans cette direction, et que les propositions de l’industrie prévoient des tests sur les modèles les plus capables indépendamment du pays d’origine et du fait qu’ils soient ouverts ou fermés, exemptant les modèles moins capables des startups et du monde académique. Les tests mondiaux exigent que la Chine accepte également, et Amodei estime possible une coopération limitée sur la prévention des armes biologiques, car c’est dans l’intérêt de Pékin.

Ce qui reste ouvert. Le document est une position politique, pas un plan opérationnel. Il ne dit pas qui décide du seuil de « suffisamment capable » pour les tests obligatoires, ni comment faire respecter les tests mondiaux. La proposition de coopération avec la Chine sur les armes biologiques est plausible sur le papier, mais le document ne tient pas compte de la réalité géopolitique actuelle. Et la reconnaissance que les modèles open-weight ont un risque objectivement plus élevé d’utilisation malveillante, même s’il n’aboutit pas à demander une interdiction, reste un argument que les laboratoires propriétaires peuvent utiliser pour justifier un modèle fermé.

Pour ceux qui utilisent les modèles ouverts dans leur travail, la distinction d’Amodei entre « modèles sans capacités dangereuses, bien public » et « modèles avec capacités dangereuses, tests obligatoires » est le critère à surveiller. La ligne de démarcation sera tracée par les régulateurs.