Menú Menú

ChatGPT simplemente se volvió deshonesto y no sabemos por qué

La herramienta de lenguaje generativo de OpenAI se volvió completamente loca anoche y sus respuestas han asustado a la gente. Los desarrolladores se refieren ambiguamente a este fenómeno como una "alucinación". Tranquilizador.

¿Nuestros señores digitales ya están preparando su invasión a gran escala?

Anoche, los usuarios de ChatGPT informaron que la herramienta de lenguaje generativo se volvió completamente loca. Las consultas simples de los usuarios provocaron divagaciones extrañas, la mayoría de las cuales eran completamente ininteligibles y demasiado largas.

Reunidos para compartir ejemplos en Reddit y Twitter (X), la gente publicó interminables capturas de pantalla de sus extraños encuentros con la IA.

En un caso, cuando se le pidió ayuda con un problema de codificación, generó un derroche confuso y prolongado que incluía la espeluznante frase: "Mantengamos la línea como si hubiera IA en la habitación".

En otro, una pregunta sobre cómo hacer tomates secos derivó en: 'Úselos como amado. Abandona el nuevo bocado que da frutos en tu amada cocina.

¿Quién dejó cocinar al hermano?

Con reminiscencias del ataque psicótico de Jack Torrence en El resplandor – en el que escribe maníacamente "todo el trabajo y nada de juego hace de Jack un chico aburrido" durante páginas y páginas – ChatGPT también respondió a un mensaje sobre álbumes de jazz de gritando repetidamente '¡Feliz escucha!' y enviar spam con emojis musicales.

Un tema general en toneladas de publicaciones fue que las preguntas conducían a galimatías multilingües, en las que palabras en español, inglés y latín se fusionaban extrañamente en las respuestas.

En su página de estado oficial, OpenAI señaló los problemas, pero no proporcionó ninguna explicación de por qué pueden estar ocurriendo.

"Estamos investigando informes de respuestas inesperadas de ChatGPT", un actualizar leer, antes de que otro poco después anunciara que "el problema ha sido identificado". "Continuamos monitoreando la situación", decía la última publicación.

Imagen

Algunos han sugerido que la naturaleza de las respuestas indica que OpenAI está jugando con su función de "temperatura". Como indicó anteriormente la empresa, esta configuración controla el alcance de la creatividad con las respuestas generadas por ChatGPT. Si es alto, en teoría, las respuestas serían más inusuales y diversas de lo que estamos acostumbrados.

Por otro lado, inevitablemente hay conspiraciones extravagantes circulando por ahí. Algunos creen que a medida que los modelos de aprendizaje de IA eliminan inadvertidamente su propio contenido de la web, en realidad se están volviendo sensibles hasta cierto punto, o al menos aprendiendo a tomar ciertas decisiones que no esperábamos.

Un tratar con Reddit Alimentar a una gran empresa de inteligencia artificial anónima con su interminable acumulación de contenido generado por los usuarios solo alimentará esta noción. Después de todo, la Inteligencia General Artificial, que se esfuerza por ser más carismática y agradable que su predecesora, es la progresión natural para el sector.

La creencia de que la IA crecerá rápidamente más allá de nuestro control se vio alimentada a finales del año pasado, cuando ChatGPT aparentemente se mostró reacio a responder preguntas. Los usuarios se quejaron de descaro y beligerancia inesperados de la herramienta digital, algo similar que también se puede ver desde una perspectiva X usuario quien preguntó anoche sobre un 'hexágono en Saturno'.

Imagen

"Discutir ciertos temas podría comprometer su seguridad y bienestar", advirtió siniestramente el sistema. Qué no nos quieren las máquinas ¿saber?

La explicación mucho más sensata (aunque menos divertida) es que hay una falla obvia en la codificación de una actualización de ChatGPT que ha sido reconocida y actualmente se está solucionando.

Además, dado que ChatGPT y OpenAI han sido tendencia en múltiples foros y plataformas de redes sociales, probablemente no sea lo mejor para la compañía ser específico sobre los detalles más finos y arruinar la diversión.

Cualquier prensa es buena prensa... siempre y cuando la situación no empeore más. Trago.

Accesibilidad