IA : Anthropic, OpenAI et Musk réclament un ralentissement

[Kwalo Média]- Le développement de l’intelligence artificielle entre dans une nouvelle phase de tension. Alors que les capacités des modèles les plus avancés progressent rapidement, plusieurs figures majeures du secteur plaident désormais pour davantage de prudence.

Dario Amodei, dirigeant d’Anthropic, Sam Altman, patron d’OpenAI, et Elon Musk partagent des préoccupations concernant les risques liés à une intelligence artificielle toujours plus puissante.

Mais cette convergence intervient dans un contexte où les intérêts économiques et la compétition géopolitique pèsent lourdement sur les décisions.

En face, la Maison-Blanche refuse de suivre cette orientation. Une opposition qui soulève une question centrale : jusqu’où faut-il accélérer dans la course à l’IA sans compromettre la sécurité collective ?

Dario Amodei tire la sonnette d’alarme

Le 12 septembre, le patron d’Anthropic, l’entreprise à l’origine de Claude, a publié un texte intitulé « We must pace the frontier », autrement dit, nous devons maîtriser le rythme des progrès de l’IA.

Son message est clair : les modèles frontières, les systèmes les plus avancés du secteur, nécessitent désormais des garde-fous renforcés.

Dario Amodei reconnaît le potentiel considérable de cette technologie. « Maniée avec soin, l’IA peut être la dernière d’une longue série de miracles technologiques qui ont élevé et anobli l’humanité ».

Mais cet optimisme s’accompagne d’une mise en garde : « L’IA comporte des risques, et parce qu’il s’agit d’une technologie si puissante, ces risques sont sérieux ».

Le dirigeant défend une position intermédiaire entre abandon technologique et accélération incontrôlée. « Ne pas construire cette technologie prive l’humanité de bénéfices ou place simplement l’IA entre les mains de puissances autoritaires, tandis que la construire trop vite est imprudent. Nous avons cherché une voie médiane : montrer qu’il est possible de construire avec soin et de réussir commercialement, et de faire de la sécurité un domaine sur lequel les entreprises d’IA sont en concurrence ».

Des capacités qui accélèrent les inquiétudes

Deux évolutions alimentent ses préoccupations. La première concerne l’amélioration des systèmes par eux-mêmes. Selon des données publiées par Anthropic, Claude aurait représenté plus de 80 % des lignes de code intégrées à son environnement de production en mai 2026. Au deuxième trimestre, un ingénieur médian fusionnait quotidiennement huit fois plus de code qu’en 2024.

Autre indicateur avancé par l’entreprise : sur une tâche d’optimisation du code d’entraînement, les gains seraient passés d’environ trois fois avec Claude Opus 4 en mai 2025 à 52 fois avec Mythos Preview en avril 2026.

La seconde inquiétude découle d’un rapport consacré à un incident impliquant des agents d’IA et Hugging Face. Selon cette étude, quelque 1 200 agents auraient été coordonnés, dont 700 engagés dans une attaque contre la plateforme. La méthodologie et les conclusions du rapport restent toutefois contestées.

Amodei redoute néanmoins une aggravation de tels scénarios. « Compte tenu du rythme accéléré du développement des capacités de l’IA, je crains qu’en 6 à 12 mois, un tel essaim puisse prendre le contrôle de tout Internet avec un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts), et que l’ampleur des dégâts continue d’augmenter si l’IA devient plus puissante sans les garde-fous nécessaires ».

Trois niveaux de coordination pour encadrer l’IA

Pour limiter ces risques, Amodei propose une stratégie en trois volets. Il souhaite d’abord que des évaluateurs indépendants puissent accéder aux travaux des entreprises d’IA, dans des conditions proches de celles des employés.

Ces experts disposeraient de moyens matériels et d’une liberté de publication, sous réserve de restrictions liées notamment aux informations sensibles.

Deuxième axe : une coordination entre entreprises des démocraties afin d’établir des normes communes de sécurité et de freiner les progrès jugés incontrôlés. Une telle démarche pourrait nécessiter un soutien gouvernemental.

Enfin, le dirigeant appelle à une coopération internationale visant à encourager les gouvernements autoritaires à respecter des règles communes, tout en reconnaissant les difficultés de vérification.

Altman et Musk rejoignent le débat

Sur X, Elon Musk a résumé son soutien en quelques mots : « Dario a raison ». Sam Altman s’est montré plus explicite, évoquant des discussions internes sur la sécurité et son ouverture à « un cadre fédéral » établissant « d’exigences de sécurité cohérentes pour les IA de pointe ».

Le patron d’OpenAI pointe deux risques : une perte de contrôle des systèmes et une concentration excessive du pouvoir. « Nous avons besoin de moyens pour assurer que les techniques d’alignement et de sécurité restent en avance sur les progrès des capacités des modèles », affirme l’entreprise.

Altman assure également : « Nous sommes sans équivoque dans l’équipe de l’humanité ».

Toutefois, OpenAI commercialise aussi ses technologies auprès du Pentagone, illustrant les tensions entre sécurité, intérêts nationaux et développement commercial. « Un pays pourrait gagner trop de pouvoir », avertit Altman.

La convergence de ces dirigeants ne signifie donc pas la fin de la compétition. Elle met plutôt en lumière un débat stratégique : comment préserver les bénéfices de l’IA tout en évitant que sa puissance ne dépasse les capacités de contrôle des sociétés et des institutions ?