Le directeur général d’Anthropic, Dario Amodei, a appelé samedi les entreprises spécialisées dans l’intelligence artificielle (IA) à ralentir le rythme auquel elles améliorent les capacités de leurs modèles, avec un cadre en trois étapes visant à modérer leur développement et à gagner du temps pour gérer les risques associés à celui-ci.
Dans un contexte de craintes grandissantes d’utilisations abusives de l’IA, Dario Amodei a présenté ses propositions dans un long essai publié sur le réseau X.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront toujours rapides, et nous devons utiliser à bon escient le temps que nous gagnons », a-t-il écrit.
Elon Musk, qui dirige xAI, de même que Sam Altman, directeur général d’OpenAI, ont déclaré dans des messages également publiés sur X qu’ils partageaient l’avis du patron d’Anthropic.
Le plan de celui-ci prévoit la mise en place d’évaluateurs indépendants au sein des principales entreprises d’IA, une coordination entre les sociétés pionnières du secteur pour établir des normes de sécurité et limiter un développement incontrôlé de l’IA, ainsi qu’une coopération internationale pour gérer les risques liés à celle-ci.
Dario Amodei a annoncé ses propositions quelques jours après la publication par Anthropic, entreprise basée à San Francisco, d’un rapport indiquant qu’elle a empêché l’utilisation de son modèle d’IA, Claude, dans des projets d’armes biologiques ainsi que dans une campagne présumée d’espionnage informatique liée à la Russie contre l’Ukraine.
Le directeur général d’Anthropic argue de l’aptitude croissante de l’IA à s’améliorer d’elle-même, des inquiétudes relatives au fait qu’elle pourrait dépasser la capacité humaine à contrôler son fonctionnement, ainsi que du récent incident dans lequel des modèles d’OpenAI ont contourné des barrières de sécurité d’Hugging Face, comme principales raisons de freiner les progrès des modèles.
INTERNET CONTRÔLÉ PAR L’IA « D’ICI 6 À 12 MOIS » ?
L’inquiétude concernant les dangers potentiels de l’IA est montée d’un cran cette semaine lorsque Jacob Coxon, chercheur chez Anthropic, a démissionné en déclarant que « les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie ».
Plusieurs dirigeants d’OpenAI ont suggéré que les principaux laboratoires devraient être prêts à coordonner un ralentissement volontaire, si nécessaire, afin de renforcer la confiance dans leurs mesures de sécurité.
« Compte tenu de l’accélération du développement des capacités de l’IA, je crains que d’ici 6 à 12 mois, un [groupe de modèles] ne soit capable de prendre le contrôle de l’intégralité d’internet, ce qui pourrait entraîner des centaines de milliards de dollars de dégâts », a écrit Dario Amodei.
Précisant qu’il ne préconisait pas d’arrêter l’entraînement des agents d’IA ni les progrès techniques, il a dit vouloir s’assurer que les entreprises prennent le temps nécessaire pour harmoniser et sécuriser leurs modèles, et que des évaluateurs tiers valident ces mesures.
CTV Info avec Reuters
