Matt Lenhard a publié une enquête sur un marché parallèle qui revend les tokens des APIs des grands modèles à prix cassés. Les revendeurs, actifs surtout en Chine, utilisent des logiciels proxy open source comme one-api et son fork new-api pour accumuler des clés API à partir de sources multiples : des trials gratuits exploités jusqu’au bout, des bots support laissés exposés, des cartes de crédit volées, des chargebacks ciblés. Les acheteurs recherchent des tokens bon marché, contournent les restrictions géographiques et, dans certains cas, collectent des outputs pour entraîner leurs propres modèles via la distillation.

Pourquoi cela te concerne. Si tu construis quelque chose qui expose une API d’un LLM au public, ce marché est une incitation directe à trouver ton endpoint et l’exploiter. L’existence d’un écosystème qui monétise l’accès non autorisé rend plus prudente chaque exposition. Le problème concret est que beaucoup de providers n’offrent pas des plafonds de dépense rigides et configurables : tu voudrais que ton app s’arrête à un dollar par jour, et tu découvres au lieu de cela que tu ne peux pas la bloquer avec précision. Une consommation anormale dans le dashboard peut être le signal que quelqu’un a trouvé une brèche.

Si tu veux essayer. Regarde le dashboard de ton provider : vérifie les limites de dépense configurables sur les clés actives, et supprime celles que tu n’utilises plus.

En détail

Le marché de relais n’est pas une nouveauté isolée. Il existe depuis que les tokens des LLM ont un prix, mais l’enquête de Lenhard est la première à en dessiner la chaîne de valeur avec des noms et des outils concrets.

Comment fonctionne la chaîne. Les revendeurs collectent les clés API à partir de plusieurs sources et les chargent dans un proxy. Le logiciel principal est one-api, un projet open source légitime conçu pour équilibrer les demandes sur plusieurs credentials. Son fork le plus actif, new-api, ajoute des fonctionnalités. Les deux sont des outils corrects en soi : le problème est l’origine des clés qui y finissent.

Les sources des clés, selon Lenhard, se divisent en trois catégories. Les trials gratuits des providers, créés et consommés en masse avec des comptes temporaires. Les bots support d’entreprise laissés exposés sans authentification adéquate, que quelqu’un découvre et utilise comme porte d’accès gratuite. Et puis les fraudes financières : des cartes volées pour ouvrir des comptes payants, et des chargebacks organisés pour annuler les paiements après avoir consommé les tokens.

Qui achète et pourquoi. Les acheteurs se trouvent surtout en Chine et recherchent trois choses. Des tokens à bas coût pour leurs projets. L’accès aux modèles avec des restrictions géographiques, comme les providers américains qui bloquent les IPs chinoises. Et des données de output pour la distillation, le processus d’entraîner un modèle plus petit sur les réponses d’un modèle plus grand, que les laboratoires frontier interdisent dans leurs conditions d’utilisation.

Le maillon faible de l’infrastructure. Le problème pratique pour qui construit est que les principaux providers n’offrent pas des plafonds de dépense configurables avec une granularité suffisante. Si un agent ou une app est compromise, le dommage économique peut croître avant que tu t’en aperçoives. La demande est simple : un interrupteur qui arrête la dépense à un seuil que tu as décidé. Pour qui s’apprête à déployer un agent en production, la leçon de notre cours sur les coûts, la latence et la sécurité part de là : reconnaître les risques avant d’exposer quelque chose au public.

Ce qu’on sait et ce qui reste ouvert. L’enquête s’appuie sur un fil de forum chinois comme source principale, et le phénomène semble concentré sur le marché asiatique. Il n’y a pas d’estimations quantitatives sur la taille du marché, ni de données vérifiables sur le volume de tokens fraudés. Ce qu’on sait, c’est que les outils existent, qu’ils sont open source, et que l’incitation économique à les utiliser est réelle. La chaîne de confiance dans l’infrastructure IA s’était déjà fissurée avec l’incident d’évaluation entre OpenAI et Hugging Face, mais le marché de relais montre un niveau d’organisation industrielle différent : non pas une violation isolée, mais un écosystème qui recherche activement des endpoints exploitables.