Elon Musk exhorté à suspendre les grandes expériences avec l'IA
Miscellanea / / April 03, 2023
Il a été soutenu par d'éminents chercheurs de l'industrie.
L'organisation à but non lucratif Future of Life Institute a publié une lettre ouverte signée par Elon Musk, co-fondateur d'Apple Steve Wozniak, co-fondateur de Skype Jaan Tallinn, ainsi que d'autres chercheurs en IA et cadres de grandes entreprises.
La lettre allègue que les laboratoires sont enfermés dans une "course incontrôlable" pour développer et appliquer des systèmes d'apprentissage automatique que "personne, pas même leurs créateurs, ne peut comprendre, prédire ou en toute confiance contrôle". Voici ce que les auteurs proposent :
Nous appelons tous les laboratoires d'IA à suspendre immédiatement la formation sur les systèmes d'IA supérieurs à GPT-4 pendant au moins 6 mois. La suspension des opérations doit être publique et vérifiable, et tous les acteurs clés doivent être impliqués. S'il n'est pas possible de faire une pause dans un proche avenir, les gouvernements des pays devraient intervenir et imposer un moratoire.
Extrait de Pause Giant AI Experiments: une lettre ouverte
La lettre exprime également son insatisfaction face à la position "nous la publierons telle quelle, nous la corrigerons plus tard" lors du développement des réseaux de neurones (rappelez-vous au moins barde de Google). Même Ouvrir l'IA a déjà soulevé le besoin potentiel de futurs audits de sécurité de l'IA. Les auteurs de la lettre estiment que cet avenir est déjà arrivé.
Les développeurs d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement protocoles de sécurité unifiés pour les systèmes d'IA complexes, dont le respect sera vérifié par des experts. Ces protocoles aideront à garantir que les systèmes sont suffisamment sûrs pour être utilisés.
Extrait de Pause Giant AI Experiments: une lettre ouverte
Le texte intégral de la lettre peut être lu Ici.
Lire aussi🧐
- Comment utiliser ChatGPT dans Telegram et obtenir rapidement des réponses à toutes les questions sans navigateur
- Comment utiliser GPTZero, un outil de recherche de texte créé par ChatGPT
- "ChatGPT ne remplacera pas le travail d'un spécialiste": une interview avec l'expert du Web 3.0 Stas Ustenko