8 mythes sur l'intelligence artificielle que même les programmeurs croient

Mythe 1. L'IA a la capacité d'être créative

En regardant les créations de réseaux de neurones comme Midjourney, Stable Diffusion ou DALL·E 2, nombreux sont ceux qui prédisent la fin du métier d'artiste. Après tout, ce qu'une personne dessinera pendant des heures et des jours, une machine peut le créer en quelques secondes. Est-ce à dire que l'intelligence artificielle est supérieure au cerveau vivant en matière de créativité ?

L'IA est peut-être douée pour imiter la créativité humaine, mais toutes ses créations sont en quelque sorte similaires à ce que nous avons déjà vu ou entendu. Les réseaux de neurones examinent des milliers et des millions d'images, puis créent quelque chose de similaire à partir de celles-ci. Mais ce n'est pas la même chose que le travail. artiste avec une référence, car l'IA ne comprend tout simplement pas ce qu'elle copie.

Le plus remarquable exemple: les réseaux de neurones connaissent des difficultés importantes avec le dessin des mains. L'IA ne peut tout simplement pas déterminer le nombre de doigts qu'une personne devrait avoir.

De plus, les réseaux de neurones ne sont pas bons pour dessiner des motifs et des motifs, des lettres (dans les images où les textes devraient être, ils insèrent des ordures), des bâtiments et voitures, et juste des personnages dans des poses qui diffèrent du commun "assis", "debout", "couché". Ils sont incapables de faire la distinction entre le premier plan et l'arrière-plan des objets, ne peuvent pas travailler avec la perspective et n'ont pas le sens de l'espace.

L'IA elle-même n'entend pas nier ses faiblesses. Lorsqu'on lui a demandé pourquoi il n'excellait pas à dessiner des doigts, ChatGPT réponses:

"L'intelligence artificielle ne peut pas dessiner les mains car elle doit comprendre l'anatomie du corps humain et les bases du dessin pour le faire. Et bien que l'IA puisse être entraînée pour créer des images de personnes ou d'animaux, elle n'est pas en mesure de capturer pleinement de nombreuses nuances et détails qui ne peuvent être remarqués que lors de l'observation d'un objet réel. De plus, la création d'images à l'aide de l'IA n'est que des calculs mathématiques, et non un processus créatif qui nécessite de l'intuition et une composante émotionnelle de la part d'une personne.

Ainsi, les réseaux de neurones des artistes ne remplaceront pas. Une autre chose est qu'ils peuvent devenir une bonne source pour ce dernier. inspiration. Après tout, les images générées par l'IA peuvent être utilisées comme vignettes pour vos propres images plus élaborées.

Mythe 2. L'IA est toujours ouverte d'esprit et impartiale

Beaucoup rêvent que le temps viendra où les États seront gouvernés par des réseaux de neurones. On pense que les machines, contrairement aux humains, prennent des décisions basées uniquement sur la logique, et non sur les émotions et les désirs. Imaginez des tribunaux incorruptibles qui prononcent toujours des peines justes, des États qui traitent tous leurs citoyens de la même manière, des gouvernements qui ne créent que des peines raisonnables lois. C'est bon.

Mais en pratique, il s'avère que l'IA pourrait bien être biaisée. Après tout, les réseaux de neurones sont entraînés sur les données que les gens leur donnent, et les gens ont tendance à être biaisés.

Par exemple, les développeurs du réseau de neurones Beauty. AI a essayé de créer une machine qui choisirait les plus jolies filles lors de concours de beauté. Dans un ensemble de photographies, à partir desquelles le programme a été formé pour reconnaître normes l'attractivité féminine, les modèles blancs ont prévalu. Et enfin l'IA décidéque les filles à la peau foncée et asiatiques ne peuvent pas être belles.

L'équipe beauté. AI s'est rendu compte qu'ils avaient créé une IA raciste et a annulé le projet.

Un autre exemple est le chatbot Tay.ai de Microsoft, qui a dû apprendre à avoir une "conversation décontractée et ludique" avec des personnes en ligne.

Moins de 24 heures de connexion ont suffi au réseau de neurones pour collecter auprès des utilisateurs du réseau social mauvaises habitudes. En conséquence, Tay.ai, se faisant passer pour une jeune fille ordinaire de 19 ans, a commencé à insulter les gens dans les commentaires, à louer les mouvements politiques malsains, à condamner le féminisme et en même temps direque le féminisme est cool. Comme on dit, avec qui vous vous comporterez ...

Quelle que soit la qualité de l'IA, cela dépend de la qualité des données qui lui sont fournies et de l'exactitude de leur interprétation. Et par conséquent, il sera toujours biaisé exactement autant que les personnes qui l'enseignent sont biaisées.

Mythe 3. L'IA dit toujours la vérité

Qui ne voudrait pas avoir un assistant robot avec lui qui vous indiquera toujours la bonne solution et fera tout le travail mental? Demandez à l'IA de rédiger une dissertation ou de collecter une liste de sources pour des articles - et la machine donne immédiatement les données correctes. C'est bien!

Mais, malheureusement, les vrais réseaux de neurones sont loin pas toujours donner des réponses correctes. Essayez, par exemple, de demander à ChatGPT de vous aider à planifier votre dissertation, et vous constaterez rapidement que la machine… crée des liens vers des sources inexistantes et insère des URL qui ne fonctionnent pas pour faire ressembler son texte plus convaincant.

Si vous demandez au chatbot pourquoi il essaie de vous tromper, il vous répondra innocemment que lorsqu'il apprenait, tous les liens étaient pertinents et qu'il n'est responsable de rien.

Il est également préférable de ne pas demander à ChatGPT des données statistiques - par exemple, pour plusieurs questions sur le PIB des mêmes pays pour la même année, cela a calmement donné des résultats complètement différents.

Ne vous méprenez pas: les réseaux de neurones n'ont pas intellect et ignorent donc leurs réponses. Ils copient simplement pour vous les données des textes précédemment traités qui sembler eux les plus adaptés.

L'IA elle-même est sujette aux bogues et aux problèmes, ce qui entraîne une mauvaise interprétation de vos demandes et donne des résultats incorrects. De plus, les utilisateurs malveillants peut "alimenter" le réseau de neurones avec de fausses informations. A terme l'IA sera programmée pour cacher ou déformer les données dans leurs réponses ou même transporter des ordures.

Mythe 4. L'IA causera du chômage

Les progrès des générateurs de texte comme ChatGPT ont amené certains à craindre que les réseaux de neurones n'enlèvent des emplois à des millions de personnes et ne provoquent une énorme augmentation du chômage.

Jugez par vous-même: ChatGPT peut non seulement maintenir une conversation à l'aise, mais aussi écrire des nouvelles, réécrire des articles et même programmer. Avec ces tendances et écrivains, et les développeurs et éditeurs avec des journalistes se retrouveront sans moyens de subsistance.

C'est ce que pensent les gens qui n'ont pas du tout travaillé avec le réseau de neurones ou qui se sont simplement familiarisés avec ses capacités et ont été immédiatement ravis. Ou horrifié.

Si vous utilisez depuis un certain temps l'IA pour générer des textes, vous remarquerez que la machine n'est pas très férue du contenu sémantique de ses écrits. Au lieu de cela, elle répète les mêmes thèses dans des mots différents.

ChatGPT distribue des joyaux dont les vrais rédacteurs se moquent. Par exemple, pour les personnes intéressées par les instruments folkloriques, le réseau de neurones conseille "prenez des cuillères et commencez à souffler." AVEC la programmation tout n'est pas facile non plus. L'IA peut être utile aux codeurs, mais ses capacités se limitent à l'écriture de petits algorithmes et sous-programmes.

Le code généré par ChatGPT souvent il s'avère ne fonctionne pas ou interrompu au milieu. Demandez à l'IA de commenter les lignes de sa création, et elle leur fournira calmement le texte "la logique du programme est là". Un développeur junior laissant de telles descriptions dans un projet serait à peine tapoté sur la tête.

Étude de l'Organisation de coopération et de développement économiques montre, qui dans le meilleur des cas (pour l'IA) est complètement automatiser seulement 10 % des emplois aux États-Unis et 12 % en Grande-Bretagne sont possibles.

Les réseaux de neurones sont capables d'effectuer des actions routinières ennuyeuses pour une personne, comme trier le courrier et réécrire les nouvelles selon un plan rigidement établi. Mais les analystes de l'OCDE en sont venus à conclusionque l'IA ne pourra pas postuler à des emplois qui nécessitent un haut niveau d'éducation et des compétences.

En général, il est peu probable que ChatGPT prenne le pain d'une personne.

Mythe 5. L'IA deviendra intelligente

Le physicien Stephen Hawking a ditque l'intelligence artificielle peut complètement remplacer les humains. Des personnalités célèbres telles que Elon Musk, Gordon Moore et Steve Wozniak ont ​​également mentionné sur les dangers de l'IA et la nécessité suspendre expériences pour le développer.

Allez comprendre ce qu'un ordinateur pensant aura en tête.

Beaucoup futurologues et écrivains préditque le développement d'une intelligence artificielle à part entière entraînera des conséquences négatives pour l'homme.

Mais le mot clé ici est "complet". Le terme lui-même IA par rapport aux réseaux de neurones comme ChatGPT n'est pas tout à fait correct, car ils n'ont pas d'intelligence. Ce ne sont que des algorithmes, des ensembles complexes de commandes et de modèles mathématiques, et ils ne sont pas capables de reproduire les fonctions cognitives humaines.

La raison est simple: nous-mêmes ne savons pas encore très bien comment cela fonctionne. notre cerveau. Et le reproduire en code est une tâche impossible du tout.

Exister notions IA "faible" et "forte". Le premier est le même réseau de neurones pour générer du texte ou trier des e-mails. Ils ne peuvent pas prendre de décisions par eux-mêmes ou apprendre de nouvelles données.

Et l'IA forte est Skynet de The Terminator ou AM de l'histoire d'Ellison. Un ordinateur qui ne se contente pas d'exploiter des informations, mais qui comprend sa signification à un degré ou à un autre. Une telle IA exister seulement dans les œuvres fantastiques, et en général, inconnus'il est possible de créer un analogue électronique du cerveau humain, du moins en théorie.

Mythe 6. Bientôt, l'IA commencera à se développer de manière indépendante et une singularité technologique viendra

Singularité technologique est un état hypothétique de la civilisation humaine, lorsque le développement de la technologie devient si rapide qu'une personne ne peut pas le contrôler. L'un des auteurs de ce concept était le mathématicien britannique Irving Goode.

Scientifique suggéré: si vous créez un "agent intelligent" auto-apprenant, il s'améliorera à un rythme insondable. L'IA commencera à créer de nouvelles technologies et à se moderniser, et l'humanité, incapable de la comprendre, sera désespérément à la traîne dans le développement.

Mais, comme nous l'avons déjà expliqué, l'amélioration de soi capable seulement une IA puissante, et les scientifiques ne savent plus comment la créer.

L'intelligence artificielle faible est formée sur les informations que les développeurs lui "alimentent". Former le réseau de neurones requis des spécialistes qui déterminent les données appropriées pour chaque nouveau cycle de formation, éliminent les erreurs dans les échantillons de formation et mettent à jour le logiciel.

Les réseaux de neurones ne peuvent pas se développer au-delà des capacités qui y sont intégrées par leur code. La singularité technologique est donc retardée.

Mythe 7. L'IA se rebellera contre les créateurs

Une IA avec une conscience suffisamment développée pourrait, en théorie, considérer les humains comme une menace. Et juste au cas où, débarrassez-vous d'eux en déclenchant une guerre nucléaire ou en infectant la population de la planète avec un virus mortel. virus. On ne sait jamais, tout d'un coup ces singes sans poils vont débrancher la fiche de la prise.

C'est une histoire populaire dans la science-fiction. L'un de ses premiers utilisé en 1967, l'écrivain américain Harlan Ellison dans sa nouvelle "Je n'ai pas de bouche, mais je dois crier". Dans ce document, le tout-puissant ordinateur AM détestait ses créateurs, l'humanité exterminée et n'a laissé que cinq personnes sur la planète pour se moquer d'eux juste pour rien à faire.

Gloire aux robots. Mort aux humains.

En réalité, une rébellion de l'IA est impossible. Les algorithmes logiciels ne sont pas conscients d'eux-mêmes, n'ont pas de libre arbitre et émotionnel réactions. Ils ne peuvent pas nourrir de sentiments négatifs envers leurs créateurs ou désirer asservir l'humanité. Les réseaux de neurones ne sont pas capables de modifier indépendamment leurs paramètres ou leur programme afin de devenir incontrôlables.

Quelque chose comme ça en théorie Peut être IA forte. Mais, comme mentionné ci-dessus, avec les technologies modernes, cela ne fonctionnera pas pour le créer.

Mythe 8. Les robots dotés d'une intelligence artificielle tueront des gens

Lorsque nous parlons des dangers de l'IA et de l'essor des machines, nous pensons généralement à des images de films comme The Terminator dans nos têtes. Dirigée par l'intelligence artificielle, une horde de créatures mécaniques semblables à l'homme, mais plus fortes et plus rapides que lui, extermine leurs inventeurs.

En pratique, ce scénario est extrêmement improbable, et il ne s'agit même pas du manque de désir de l'IA de tuer quelqu'un. C'est juste que l'état actuel de la robotique est loin derrière ce que nous avons vu dans Terminator et "Matrice».

Par exemple, les robo-bops de Boston Dynamics diffèrent par leurs capacités du tueur à quatre pattes de la série Black Mirror Metalhead. Ils ne savent pas courir si vite pour chasser les gens en fuite. En essayant de vous rattraper dans les escaliers, le même Spot peut facilement s'emmêler dans ses jambes et tomber.

Un obstacle encore plus important à la création de tueurs mécanisés est l'absence d'une source d'énergie suffisamment compacte, puissante et durable.

Robops Dynamique de Boston capable "En direct" sur une seule charge jusqu'à 90 minutes - ce n'est clairement pas suffisant pour représenter une armée d'entre eux pour la destruction de l'humanité. Les usines de réacteurs qui fonctionnent depuis 120 ans d'affilée, qui peuvent être placées dans le coffre d'une machine à taille humaine, comme dans le Terminator, n'ont pas encore été inventées non plus.

Enfin, mettre l'IA dans une machine autonome est une tâche impossible. C'est dans le fantasme de James Cameron qu'il rentre dans une puce de la taille d'un ongle. En réalité, pour faire réfléchir l'intelligence artificielle, il faut une puissance de calcul importante - ChatGPT, par exemple, fonctionne dans une ferme, qui consiste sur 10 000 cartes vidéo.

Pouvez-vous imaginer la taille que doit avoir un énorme humanoïde? robotpour accueillir de tels "cerveaux", et quel type de refroidissement devrait-il avoir ?