Derrière les restrictions de "sécurité" d'Anthropic : comment les modèles open source ébranlent les géants de l'IA

La semaine dernière, Anthropic a déclenché une vive protestation des développeurs en réduisant discrètement la qualité des réponses de son modèle Fable 5 pour les requêtes liées au développement de l'IA. L'entreprise a ensuite présenté ses excuses et ajusté sa politique : ces requêtes sont désormais redirigées vers un modèle plus faible, Opus 4.8, et les utilisateurs en sont clairement informés. En apparence, il s'agit d'une correction axée sur la sécurité et la transparence, mais le récit plus profond pointe vers le conflit central de l'industrie de l'IA : comment les géants du logiciel propriétaire font-ils face à la pression croissante de l'écosystème open source ?

Anthropic affirme que ces restrictions visent à "empêcher les adversaires étrangers d'utiliser des modèles de pointe pour éroder l'avantage des États-Unis dans les domaines de l'IA et des puces". Cependant, cet argument présente des lacunes évidentes : ses conditions d'utilisation interdisent déjà à quiconque d'utiliser ses produits pour développer des concurrents, et les restrictions s'appliquent à tous ceux qui construisent des modèles d'IA, quelle que soit leur nationalité. Nicholas Vincent, professeur d'informatique à l'Université Simon Fraser, résume la situation avec acuité : "À moins de cibler plus explicitement des organisations malveillantes spécifiques, il est difficile de soutenir qu'il s'agit davantage d'une mesure de sécurité que d'une mesure commerciale."

Les modèles open source deviennent les adversaires les plus redoutables des géants du propriétaire. Une analyse du MIT Sloan de janvier dernier montre que les modèles open source atteignent en moyenne 90 % des performances des modèles propriétaires, et qu'ils comblent généralement l'écart en 13 semaines (contre 27 semaines un an plus tôt). Le classement d'Artificial Analysis confirme cette tendance : le MiMo v2.5 Pro de Xiaomi talonne Anthropic dans les tâches de texte expert, mais à un prix vingt fois inférieur — 0,43 $ contre 10 $ par million de tokens en entrée, et 0,87 $ contre 50 $ par million de tokens en sortie.

Cette compétitivité "suffisamment bon et bien moins cher" est un véritable cauchemar pour les entreprises qui dépensent des milliards de dollars chaque année pour construire des modèles de pointe. Les restrictions d'Anthropic sont essentiellement une mesure commerciale défensive : empêcher les attaques par distillation, où un adversaire interroge massivement un modèle de haute qualité et utilise les données obtenues pour entraîner son propre système. L'entreprise a déjà mis en garde contre la distillation par des laboratoires chinois, mais les développeurs de modèles open source, qu'ils viennent d'Europe, d'Amérique ou d'Asie, constituent une menace équivalente.

Anthropic ne doit pas à ses concurrents un raccourci vers sa meilleure technologie. Mais elle devrait être honnête : ces restrictions concernent en partie la sécurité, et en partie tout autant les affaires. Alors que les performances des modèles open source continuent de grimper, il sera de plus en plus difficile pour les entreprises propriétaires de maintenir leurs fossés défensifs. L'avenir de l'industrie de l'IA ne sera peut-être pas la domination d'un seul géant, mais un marché concurrentiel où l'écosystème open source ne cesse de faire baisser les coûts et de stimuler l'innovation.

Lorsque le récit de la sécurité sert de couverture à une stratégie commerciale, les régulateurs et les développeurs doivent être vigilants. La véritable compétition à long terme dépendra de qui pourra le plus honnêtement faire face à cette réalité : le progrès de l'IA n'est plus monopolisé par quelques entreprises, mais est entraîné par l'intelligence collective de tout l'écosystème.