Elon Musk, ainsi qu’un groupe d’experts en IA et de cadres techniques, ont exhorté les meilleurs laboratoires d’IA à suspendre temporairement le développement de systèmes d’IA plus avancés que GPT-4, dans une lettre ouverte publiée mardi.

La lettre ouverte, publiée par l’organisme à but non lucratif Future of Life Institute, compte environ 1000 signataires, dont le co-fondateur d’Apple, Steve Wozniak, le PDG de Stability AI, Emad Mostaque, et Sapiens l’auteur Yuval Noah Hararias ainsi que Musk. Il appelle à une pause immédiate dans la formation des systèmes pendant au moins six mois, qui doivent être publics, vérifiables et inclure tous les acteurs publics.

« Les systèmes d’IA dotés d’une intelligence compétitive humaine peuvent poser de graves risques pour la société et l’humanité, comme le montrent des recherches approfondies et reconnus par les meilleurs laboratoires d’IA », commence la lettre.

La lettre ouverte intervient quelques semaines après les débuts publics du GPT-4 d’OpenAI, qui est le grand modèle de langage qui alimente ChatGPT. C’est également le système d’IA le plus avancé qui ait jamais existé, qui a réussi à étourdir et à effrayer les experts en IA grâce à ses capacités.

« L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec un soin et des ressources proportionnés », indique la lettre. « Malheureusement, ce niveau de planification et de gestion ne se produit pas, même si ces derniers mois ont vu les laboratoires d’IA enfermés dans une course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre. , prédire ou contrôler de manière fiable. »

OpenAI n’a pas immédiatement répondu à une demande de commentaire.

Note des éditeurs : CNET utilise un moteur d’IA pour créer des explications sur les finances personnelles qui sont éditées et vérifiées par nos éditeurs. Pour en savoir plus, consultez cet article.