L'outil de langage génératif d'OpenAI s'est complètement détraqué hier soir et ses réponses ont effrayé les gens. Les développeurs qualifient ce phénomène d'« hallucination » de manière ambiguë. Rassurant.
Nos seigneurs du numérique préparent-ils déjà leur invasion à grande échelle ?
Hier soir, les utilisateurs de ChatGPT ont signalé des cas où l'outil de langage génératif était complètement détraqué. De simples requêtes des utilisateurs provoquaient d’étranges divagations, dont la plupart étaient totalement inintelligibles et bien trop longues.
Réunis pour partager des exemples sur Reddit et Twitter (X), les gens ont publié d'innombrables captures d'écran de leurs rencontres bizarres avec l'IA.
Dans un cas, lorsqu'on lui a demandé de l'aide pour un problème de codage, cela a généré une folie confuse et prolongée qui comprenait la phrase étrange : « Gardons la ligne comme si l'IA était dans la pièce ».
Dans une autre, une question sur la fabrication de tomates séchées s'est transformée en : « Utiliser comme bien-aimé. Abandonnez le nouveau fruit de votre cuisine bien-aimée.
Qui a laissé mon frère cuisiner ?
chatgpt est apparemment en train de dérailler en ce moment et personne ne peut expliquer pourquoi pic.twitter.com/0XSSsTfLzP
– Sean McGuire (@seanw_m) 21 février 2024
Cela rappelle la dépression psychotique de Jack Torrence Le brillant – dans lequel il écrit de manière maniaque « tout travail et aucun jeu font de Jack un garçon ennuyeux » pendant des pages et des pages - ChatGPT a également répondu à un message sur les albums de jazz en criant à plusieurs reprises « Bonne écoute ! » et spammer des émojis musicaux.
Un thème général récurrent dans des tonnes de messages était que les questions conduisaient à un charabia multilingue, dans lequel des mots espagnols, anglais et latins étaient étrangement amalgamés dans les réponses.
Sur sa page de statut officielle, OpenAI a noté les problèmes mais n'a fourni aucune explication sur la raison pour laquelle les problèmes pourraient se produire.
"Nous enquêtons sur les rapports faisant état de réponses inattendues de ChatGPT", un mise à jour lire, avant qu'un autre n'annonce peu après que le « problème a été identifié ». "Nous continuons à surveiller la situation", indique le dernier message.