6 raisons pour lesquelles il ne faut pas faire aveuglément confiance à l'intelligence artificielle
Miscellanea / / August 13, 2023
Malgré son nom, l'IA n'est pas intelligente et fait parfois des erreurs dans les choses les plus ridicules.
1. L'IA est programmée pour créer des réponses plausibles et non véridiques
L'intelligence artificielle pourrait bien ne pas savoir quelque chose. Mais il ne l'admet jamais.
L'IA est capable de répondre à n'importe quelle question avec un non-sens scandaleux, mais avec une confiance absolue en sa propre justesse. S'il est surpris en train de mentir, il sera d'accord avec vous, ira mieux et continuera à générer du texte comme si de rien n'était.
Les chatbots IA ont des informations limitées: ils ne savent que ce qui est dit dans les textes sur lesquels ils ont été formés. Mais en même temps, ils sont programmés pour répondre dans tous les cas, même s'ils ne connaissent pas la bonne option. Par conséquent, ChatGPT et ses homologues disent régulièrement des bêtises avec un regard intelligent.
N'oubliez pas de vérifier les informations reçues du chatbot. On ne sait jamais à quoi il pensait quand il a écrit la réponse.
2. L'IA peut discuter avec vous même lorsque vous avez raison
1 / 0
2 / 0
Les situations où l'IA ne connaît pas la réponse et propose donc des fables ne sont pas si mauvaises. C'est encore pire quand vous le surprenez en train de mentir, mais il ne se corrige pas et continue à persister - simplement parce qu'il a été formé sur de mauvaises informations.
De plus, l'IA peut délibérément déformer les informations afin d'orienter la conversation dans une direction que le réseau de neurones semble plus correcte. Cela conduit à divers résultats amusants.
Utilisateur unique décrit situation, car il a demandé au bot Bing ChatGPT quand Avatar 2 serait projeté dans les cinémas près de chez lui. En réponse, il a commencé à lui assurer que le film n'était pas encore sorti. Lorsque l'utilisateur a tenté de convaincre l'IA, il a commencé à persister, affirmant qu'il était encore 2022 et 10 mois avant la première.
Bing a suggéré que l'interlocuteur se trompe s'il pense que 2023 est déjà arrivé, et lui a conseillé de vérifier la date sur son téléphone. Lorsque l'utilisateur a déclaré qu'il l'avait déjà fait, il a déclaré que les paramètres temporaires de son smartphone avaient été renversés virus et en général, une personne se dispute trop et devrait cesser d'être aussi affirmée.
L'utilisateur n'a jamais pu convaincre l'IA qu'Avatar 2 était déjà sorti et que 2023 était situé après 2022.
Malgré l'appellation "intelligence artificielle", les chatbots ne sont pas intelligents et génèrent des réponses en compilant des textes qu'ils ont déjà lus. Ainsi, Open AI ChatGPT a été formé sur les données jusqu'en 2021, et Bing ChatGPT jusqu'en 2022. Par conséquent, ils ne disposeront que des informations qui étaient pertinentes au moment de leur formation.
3. L'IA limite votre créativité
De nombreux auteurs, artistes et concepteurs de contenu utilisent aujourd'hui activement l'intelligence artificielle. Cependant, si vous l'utilisez tout le temps, il y a un risque que votre "muscle créatif" s'atrophie et il vous sera plus difficile de créer vos propres idées.
Lorsque les chatbots alimentés par l'IA génèrent une réponse, les gens se contentent souvent de la copier et de la coller sans faire aucun effort pour lui donner un sens. Cette approche n'encourage pas la pensée créative.
Vous voyez, l'IA ne peut copier que ce que les gens ont créé avant elle, en compilant et en mélangeant librement ce qu'elle a vu. Il ne sait pas créer des œuvres vraiment originales.
Si vous devenez fortement dépendant de l'IA, vous répéterez des idées et des concepts existants au lieu de créer les vôtres.
4. L'IA ne peut pas donner de retour
Essayez d'obtenir de ChatGPT qu'il rédige une thèse ou une dissertation. Il est possible qu'il obtienne un assez bon texte qu'il n'aura pas honte de montrer aux gens.
Mais si vous demandez à l'IA d'indiquer les sources des informations qu'elle a fournies, vous constaterez qu'elles n'existent pas. Titres des études référencées par ChatGPT et noms scientifiquesqui les a créés peut facilement s'avérer fictif, et les liens qu'ils fournissent vers des articles sur Internet ne mèneront nulle part.
L'IA n'est pas en mesure d'expliquer d'où elle tire telle ou telle information, car elle est programmée pour générer des textes à partir d'autres textes, et non pour comprendre ce qu'elle y a écrit. Par conséquent, même s'il répond correctement, l'intelligence artificielle n'est pas en mesure d'expliquer d'où il connaît cette information.
5. L'IA peut être utilisée par les attaquants
Malgré tous les avantages de l'IA, elle peut également être utilisée par des personnes mal intentionnées.
Un exemple d'un tel abus est la création de soi-disant deepfakes. Cette technologie vous permet de générer des enregistrements vidéo ou audio extrêmement réalistes dans lesquels images créées artificiellement de personnes disant ou faisant des choses qu'elles n'ont pas réellement dites ou ne font pas a fait. Cela peut être utilisé pour tromper les victimes, créer de fausses nouvelles, ou même faire du chantage et extorquer.
Une quantité importante de développements de l'IA est dans le domaine public et permet à quiconque d'accéder à des technologies telles que la reconnaissance d'images et de visages. Et les modèles de texte comme Open AI ChatGPT peuvent être utilisés pour la pêche à la traîne, harcèlement sur les réseaux sociaux ou diffuser des informations apparemment plausibles mais en réalité fausses.
Enfin, les attaquants peuvent donner à l'IA des données incorrectes pour la formation, et à l'avenir, elle les diffusera elle-même, induisant les utilisateurs en erreur.
6. L'IA ne peut pas remplacer le jugement humain
Vous ne devez pas non plus faire entièrement confiance à l'intelligence artificielle lorsque vous prenez des décisions basées sur des émotions, des sentiments et des préférences personnels. Cela est dû au fait que l'IA ne prend pas en compte les émotions humaines, le contexte et les aspects intangibles qui sont nécessaires pour comprendre et interpréter de nombreux concepts.
Par exemple, si vous demandez à l'IA de choisir entre deux livres, il recommandera celui qui a la note la plus élevée, mais il ne pourra pas prendre en compte vos goûts personnels, vos préférences de lecture, ni le but pour lequel vous avez besoin de tel ou tel travail.
Et un critique humain peut donner une critique plus détaillée et individuelle de l'œuvre, en évaluant son contenu littéraire. valeur, pertinence par rapport aux intérêts du lecteur et autres facteurs subjectifs que l'IA n'est pas en mesure de mesurer Nombres.
Lire aussi🧐
- Que peut réellement faire l'intelligence artificielle aujourd'hui ?
- Où et comment l'intelligence artificielle est utilisée: 6 exemples tirés de la vie
- 8 mythes sur l'intelligence artificielle que même les programmeurs croient