OpenAI met en garde contre la découverte d'une IA qui pourrait menacer l'humanité

Le jour d'avant exilé Sam Altman, PDG d'OpenAI, et plusieurs chercheurs de l'entreprise ont écrit au conseil d'administration lettre avertissant de la découverte d'une puissante intelligence artificielle, qui, selon eux, "pourrait menacer à l'humanité." À propos de cela en référence à nos propres sources écrit Reuters.

C'est cette lettre qui a été citée comme l'un des facteurs dans la longue liste de plaintes du conseil d'administration qui ont conduit au licenciement d'Altman. Reuters n'a pas pu s'entretenir personnellement avec les auteurs ni obtenir de commentaires d'OpenAI. Cependant, après une telle demande, l'entreprise, dans un message interne aux employés, a annoncé l'existence d'un certain projet appelé Q* (prononcer Q-Star).

Certains employés d'OpenAI pensent que Q* pourrait constituer une percée dans ce que l'on appelle intelligence artificielle générale (AGI). OpenAI le caractérise comme un système autonome qui surpasse les humains dans les tâches les plus rentables.

Jusqu'à présent, Q* ne peut résoudre des problèmes de mathématiques qu'au niveau élémentaire, selon une source. écoles, mais la réussite de ces tests donne aux chercheurs un grand optimisme quant aux perspectives de son développement.

La principale différence entre une telle IA est qu’elle est capable de fixer des objectifs, de diviser des problèmes complexes en petits problèmes, de traiter un large éventail de problèmes et de trouver des solutions en tenant compte du contexte de différents domaines. En termes simples, une telle intelligence, en théorie, peut remplacer un spécialiste hautement qualifié doté de connaissances, de compétences et d'une vaste expérience.

Les chercheurs pensent que les mathématiques sont à la pointe de l’IA générative. De nos jours, il est doué pour écrire et traduire, prédisant statistiquement le mot suivant, et les réponses à une même question peuvent varier considérablement. Mais conquérir les mathématiques (où il n’y a qu’une seule bonne réponse) implique que l’IA aura des capacités de raisonnement plus larges qui ressemblent à l’intelligence humaine. Cela peut s’appliquer, par exemple, à de nouvelles recherches scientifiques, disent les experts.

Dans leur lettre au conseil d’administration, les chercheurs soulignent la puissance de l’IA et les dangers potentiels. Ils ont également souligné le travail d'un groupe spécial de « scientifiques en intelligence artificielle », dont l'existence a été confirmée par de nombreuses sources. L’équipe étudie comment optimiser les modèles d’IA existants pour améliorer leur raisonnement et, à terme, réaliser des travaux scientifiques avec eux, a déclaré l’une des sources.

Altman a dirigé les efforts visant à faire de ChatGPT l'une des applications logicielles à la croissance la plus rapide au monde. histoire et a attiré les investissements et les ressources informatiques de Microsoft nécessaires pour apporter un tel AGI. Et peu avant son limogeage, lors du sommet des dirigeants mondiaux à San Francisco, il a annoncé des « réalisations sérieuses qui sont à portée de main ».

Un jour plus tard, le conseil d'administration a licencié Altman.

Peut-être qu’un jour toutes ces décisions et tous ces événements formeront la base d’un livre, d’un film entier ou même d’un manuel d’histoire.