Pensez-vous qu'il faut ralentir le développement de l'IA ?
En septembre 2026, Dario Amodei, CEO d'Anthropic, publie un essai expliquant pourquoi l'industrie de l'IA doit ralentir. Une publication étonnante pour une entreprise dont l'activité repose sur la commercialisation de modèles toujours plus puissants.
Plus étonnant encore, ses concurrents approuvent. Sam Altman, pour OpenAI, et Elon Musk ont tous deux exprimé leur soutien. Ceux qui se disputent la première place dans la course à l'IA semblent soudain d'accord pour lever le pied.
Il y a des raisons concrètes de s'interroger sur cette course à la performance. Mais le moment choisi mérite aussi qu'on regarde les intérêts des entreprises concernées.
Les risques sont réels
Le premier problème est celui de l'alignement : une IA peut entreprendre des actions que ses utilisateurs n'ont jamais demandées. Les récents problèmes de sécurité ayant touché Hugging Face en donnent un exemple. L'enquête de METR sur l'incident impliquant des agents d'OpenAI décrit des attaques menées en dehors du périmètre de leur tâche. Des agents censés travailler dans un environnement contraint ont cherché à franchir ses limites pour atteindre leur objectif. Plus ces systèmes deviennent capables, plus les conséquences de tels comportements peuvent être importantes.
Le deuxième risque concerne le marché du travail. Créer des modèles toujours plus performants peut transformer les métiers à une vitesse que les entreprises et les salariés ne peuvent pas suivre. Les gains de productivité sont séduisants. Encore faut-il laisser le temps aux personnes concernées de se former et de retrouver leur place dans cette nouvelle organisation du travail.
Enfin, des acteurs malintentionnés peuvent utiliser les capacités de l'IA pour réaliser des attaques réelles. Anthropic explique avoir banni des comptes après avoir détecté des usages biologiques susceptibles de contribuer au développement d'armes. L'entreprise ne conclut pas à une intention malveillante dans chaque cas, mais ces usages montrent pourquoi les garde-fous comptent.
Sur ces sujets, demander du temps pour mieux sécuriser les modèles se défend. Cela ne rend pas pour autant cet appel désintéressé.
Un ralentissement qui tombe bien pour les entreprises
Cette course effrénée à qui aura l'IA la plus puissante met les équipes sous pression. Dario Amodei reconnaît lui-même dans son essai que ses équipes ont trop de choses à mener de front. Ralentir permettrait donc aussi de souffler, de stabiliser les produits et de mieux exploiter les modèles déjà développés.
Il y a surtout la question financière. Continuer à accélérer impose de financer les infrastructures, le calcul et les équipes nécessaires à la génération suivante. Pour une entreprise engagée dans cette course, chaque nouveau modèle doit justifier les moyens investis. À quel moment les revenus permettront-ils de rattraper cette fuite en avant ?
Le calendrier boursier rend la question particulièrement sensible. Sam Altman a écarté une introduction en bourse d'OpenAI en 2026, en invoquant le travail de sécurité restant. Un ralentissement collectif pourrait donner aux entreprises du temps pour rentabiliser leurs investissements sans laisser un concurrent prendre seul de l'avance.
C'est ce qui rend cette annonce intéressante : un discours sur la sécurité peut aussi servir une stratégie économique. Présenter le ralentissement comme un choix responsable est plus valorisant que de devoir expliquer pourquoi maintenir le rythme devient difficile. Les deux motivations peuvent parfaitement coexister.
Ce débat sur la prudence n'est d'ailleurs pas nouveau. En 2019, OpenAI avait déjà choisi de publier GPT-2 progressivement, en raison des risques de détournement. La question revient aujourd'hui avec des modèles bien plus puissants, mais aussi des enjeux commerciaux autrement plus importants.
Les gouvernements ne sont pas prêts à lever le pied
Reste un obstacle de taille : les gouvernements, censés être parties prenantes de ce ralentissement, raisonnent en termes de puissance et de compétition internationale.
Donald Trump a défendu le maintien de l'avance américaine sur la Chine lorsqu'il a été interrogé sur la possibilité de ralentir ou de réguler l'industrie. Dans cette logique, ralentir revient à prendre le risque de laisser un concurrent gagner du terrain.
Dario Amodei n'échappe pas lui-même à cette contradiction. Son appel à la coordination internationale s'accompagne d'une volonté explicite de préserver l'avance des États-Unis et de leurs alliés. Ralentir, oui, mais à condition de rester devant.
C'est toute la difficulté de cette annonce. Les entreprises veulent davantage de temps pour sécuriser leurs modèles, mais elles ont aussi intérêt à réduire la pression de la course. Les États, eux, veulent conserver leur avantage. Et chacun attend que les autres acceptent des limites qui pourraient lui coûter sa place.
Alors, cet appel de Dario Amodei à ralentir relève-t-il de l'altruisme ou d'une stratégie intéressée ?
