D. Amodei (Anthropic), S. Altman (OpenAI) et E. Musk (xAI) ont tous les trois appelé à ralentir le développement de l’IA pour améliorer la sécurité.
‍

‍
Pourquoi on en parle ? C’est tout simplement historique : le secteur est jusqu’ici dominé par une course permanente aux modèles de + en + puissants et à l’entreprise qui sortira la meilleure IA. Et alors que S. Altman et D. Amodei sont comme Kendrick et Drake, les deux se sont mis d’accord sur le sujet.
‍

‍
Dans les faits : Pas question d'arrêter la recherche et le développement des modèles : ce sont des entreprises tech, voyons... Mais D. Amodei a pris les devants en publiant un essai proposant trois niveaux d’action.

‍

• 1. Introduire plus de temps entre les avancées majeures pour permettre plus de tests de sûreté, et surtout, des évaluations indépendantes.

‍

• 2. Obtenir un accord entre les entreprises sur des limites et standards communs.

‍

• 3. Chercher une coordination internationale sur cette sécurité, surtout avec la Chine.

‍

Mais pourquoi maintenant ? Les entreprises d’IA ont du mal à garder le contrôle. Des modèles de dernière génération ont montré qu’ils pouvaient lancer des agents autonomes, coopérer entre eux et mener des intrusions informatiques, comme par exemple OpenAI avec le hack de Hugging Face.

‍

• En parallèle, plusieurs chercheurs et employés du secteur commencent à prendre le micro pour dénoncer le danger des IA. J. Coxon, un ancien chercheur en IA d’Anthropic, a récemment fait parler de lui en expliquant que les IA "pourraient toutes nous tuer d’ici la fin de la décennie”.

‍

Problème : Un ralentissement de l’IA pourrait créer des tensions avec les attentes des investisseurs. Autre problème : l’administration Trump, elle, reste favorable à une régulation légère pour préserver l’avance américaine, alors que l'État américain a le pouvoir de créer un cadre clair. Et pour finir : la Chine va-t-elle aussi accepter de ralentir ?

‍

‍
Un peu de recul. OpenAI en a aussi profiter pour annoncer le report de son introduction en Bourse (IPO) à 2027 au nom des enjeux de sécurité. Mais en réalité, il y a aussi des intérêts économiques : en utilisant la sécurité pour justifier une coordination, les grands laboratoires peuvent renforcer les barrières à l’entrée, ralentir certains concurrents et gagner un peu de temps pour mieux préparer leur introduction en Bourse.

‍

• À noter : Anthropic, la seule des trois entreprises à avoir atteint la rentabilité sur un trimestre, maintient son projet d'IPO d'ici la fin de l'année.

‍

Bref. C’est un tournant dans la course à l’IA, et ça risque d'être assez tendu sur les marchés aujourd'hui : que signifie ce ralentissement pour les géants comme Nvidia, Oracle, etc. ? Reste maintenant à voir si les patrons de l’IA accepteront de vraies contraintes quand les entreprises entreront en conflit avec leurs objectifs de croissance et les intérêts de leurs investisseurs...