Menu Menu

ChatGPT est devenu malveillant et nous ne savons pas pourquoi

L'outil de langage génératif d'OpenAI s'est complètement détraqué hier soir et ses réponses ont effrayé les gens. Les développeurs qualifient ce phénomène d'« hallucination » de manière ambiguë. Rassurant.

Nos seigneurs du numérique préparent-ils déjà leur invasion à grande échelle ?

Hier soir, les utilisateurs de ChatGPT ont signalé des cas où l'outil de langage génératif était complètement détraqué. De simples requêtes des utilisateurs provoquaient d’étranges divagations, dont la plupart étaient totalement inintelligibles et bien trop longues.

Réunis pour partager des exemples sur Reddit et Twitter (X), les gens ont publié d'innombrables captures d'écran de leurs rencontres bizarres avec l'IA.

Dans un cas, lorsqu'on lui a demandé de l'aide pour un problème de codage, cela a généré une folie confuse et prolongée qui comprenait la phrase étrange : « Gardons la ligne comme si l'IA était dans la pièce ».

Dans une autre, une question sur la fabrication de tomates séchées s'est transformée en : « Utiliser comme bien-aimé. Abandonnez le nouveau fruit de votre cuisine bien-aimée.

Qui a laissé mon frère cuisiner ?

Cela rappelle la dépression psychotique de Jack Torrence Le brillant – dans lequel il écrit de manière maniaque « tout travail et aucun jeu font de Jack un garçon ennuyeux » pendant des pages et des pages - ChatGPT a également répondu à un message sur les albums de jazz en criant à plusieurs reprises « Bonne écoute ! » et spammer des émojis musicaux.

Un thème général récurrent dans des tonnes de messages était que les questions conduisaient à un charabia multilingue, dans lequel des mots espagnols, anglais et latins étaient étrangement amalgamés dans les réponses.

Sur sa page de statut officielle, OpenAI a noté les problèmes mais n'a fourni aucune explication sur la raison pour laquelle les problèmes pourraient se produire.

"Nous enquêtons sur les rapports faisant état de réponses inattendues de ChatGPT", un mise à jour lire, avant qu'un autre n'annonce peu après que le « problème a été identifié ». "Nous continuons à surveiller la situation", indique le dernier message.

Image(s)

Certains ont suggéré que la nature des réponses indique qu'OpenAI joue avec sa fonctionnalité « température ». Comme l'entreprise l'a indiqué précédemment, ce paramètre contrôle la marge de créativité avec les réponses générées par ChatGPT. S'il est élevé, en théorie, les réponses seraient plus inhabituelles et plus diverses que ce à quoi nous sommes habitués.

D’un autre côté, il y a inévitablement des conspirations farfelues qui circulent. Certains pensent qu'à mesure que les modèles d'apprentissage de l'IA extraient par inadvertance leur propre contenu du Web, ils deviennent en fait sensibles dans une certaine mesure, ou du moins apprennent à prendre certaines décisions auxquelles nous ne nous attendions pas.

Une traiter avec Reddit Nourrir une grande entreprise d’IA anonyme avec son arriéré sans fin de contenu généré par les utilisateurs ne fera qu’alimenter cette notion. L’intelligence générale artificielle, qui s’efforce d’être plus charismatique et plus sympathique que son prédécesseur, est après tout la progression naturelle du secteur.

La conviction que l’IA va rapidement se développer hors de notre contrôle a été alimentée à la fin de l’année dernière, lorsque ChatGPT est apparemment devenu réticent à répondre aux questions. Les utilisateurs se sont plaints d'audace et de belligérance inattendues de la part de l'outil numérique, ce qui peut également être observé à partir d'un X utilisateur qui a posé des questions sur un "hexagone sur Saturne" hier soir.

Image(s)

« Discuter de certains sujets pourrait compromettre votre sécurité et votre bien-être », prévient le système de manière inquiétante. Qu'est-ce que les machines ne veulent pas de nous connaître?

L’explication bien plus sensée – bien que moins amusante – est qu’il existe un défaut évident dans le codage d’une mise à jour de ChatGPT qui a été reconnue et est actuellement en cours de résolution.

En outre, étant donné que ChatGPT et OpenAI sont en vogue sur plusieurs plateformes et forums de médias sociaux, il n'est probablement pas dans le meilleur intérêt de l'entreprise d'être précis sur les détails les plus fins et de gâcher le plaisir.

Toute presse est bonne… à condition que la situation ne dégénère pas davantage. Gorgée.

Accessibilité