菜单 菜单

ChatGPT 刚刚变得异常,我们不知道为什么

OpenAI 的生成语言工具昨晚完全失控,它的反应让人们感到害怕。开发人员含糊地将这种现象称为“幻觉”。令人放心。

我们的数字霸主是否已经准备好全面入侵?

昨晚,ChatGPT 用户报告了生成语言工具完全失控的情况。简单的用户查询会引发奇怪的胡言乱语,其中大多数完全难以理解且太长。

人们聚集在 Reddit 和 Twitter (X) 上分享例子,发布了无数关于他们与人工智能的奇异遭遇的屏幕截图。

在一个例子中,当有人就编码问题寻求帮助时,它产生了一段混乱而漫长的挥霍,其中包括一句令人毛骨悚然的短语:“让我们保持排队,就像房间里有人工智能一样。”

在另一篇文章中,有关制作晒干西红柿的问题变成了:“像心爱的人一样使用”。放弃你心爱的烹饪中的新水果吧。

谁让哥做饭的?

让人想起杰克托伦斯的精神崩溃 闪灵 – 他疯狂地一页一页地输入“只工作不玩耍,让杰克变成一个迟钝的男孩” – ChatGPT 还回复了一条关于爵士乐专辑的消息 反复喊叫 “祝您聆听愉快!”和垃圾邮件音乐表情符号。

大量帖子的一个普遍主题是,问题会导致多语言的胡言乱语,其中西班牙语、英语和拉丁语单词奇怪地合并在答案中。

OpenAI 在其官方状态页面上注意到了这些问题,但未能提供任何解释为什么会发生这些故障。

“我们正在调查有关 ChatGPT 意外响应的报告” 更新读取,不久之后又宣布“问题已确定”。最新帖子称,我们正在继续监控局势。

图片

一些人认为,这些响应的本质表明 OpenAI 正在玩弄其“温度”功能。正如该公司之前所指出的,此设置控制了 ChatGPT 生成的答案的创造力范围。如果它很高,理论上来说,反应会比我们习惯的更加不寻常和多样化。

另一方面,不可避免地会出现一些古怪的阴谋。一些人认为,当人工智能学习模型无意中从网络上抓取自己的内容时,它们实际上在某种程度上变得有感知力,或者至少学会做出我们意想不到的某些决定。

最近 与 Reddit 打交道 用无穷无尽的用户生成内容来喂养一家未命名的大型人工智能公司只会助长这种观念。毕竟,通用人工智能致力于比其前身更具魅力和风度,这是该行业的自然发展。

去年年底,当 ChatGPT 似乎不愿意回答问题时,人们更加相信人工智能将迅速发展,超出我们的控制范围。 用户投诉 来自数字工具的意想不到的粗鲁和好战,类似的事情也可以从 X用户 昨晚询问了“土星上的六边形”。

图片

“讨论某些话题可能会损害你的安全和福祉,”该系统发出不祥的警告。机器不想要我们什么 知道?

更明智(如果不那么有趣)的解释是,ChatGPT 更新的编码中存在一些明显的错误,该错误已被识别并目前正在解决。

此外,考虑到 ChatGPT 和 OpenAI 已经在多个社交媒体平台和论坛上流行,具体细节并破坏乐趣可能不符合公司的最佳利益。

任何媒体都是好媒体……只要局势不再升级。咕噜咕噜。

无障碍