menu menu

ChatGPT menjadi nakal dan kami tidak tahu alasannya

Alat bahasa generatif OpenAI menjadi rusak tadi malam, dan tanggapannya membuat orang takut. Pengembang secara ambigu menyebut fenomena ini sebagai 'halusinasi'. Meyakinkan.

Apakah penguasa digital kita sudah mempersiapkan invasi besar-besaran?

Tadi malam, pengguna ChatGPT melaporkan kejadian alat bahasa generatif menjadi rusak total. Pertanyaan pengguna yang sederhana memicu ocehan yang aneh, yang sebagian besar tidak dapat dipahami dan terlalu panjang.

Berkumpul untuk berbagi contoh di Reddit dan Twitter (X), orang-orang memposting tangkapan layar tanpa akhir tentang pertemuan aneh mereka dengan AI.

Dalam satu contoh, ketika dimintai bantuan mengenai masalah pengkodean, hal ini menimbulkan ketergesaan yang campur aduk dan berkepanjangan yang mencakup kalimat yang menakutkan: 'Mari kita pertahankan antrean seolah-olah AI ada di dalam ruangan.'

Di kasus lain, pertanyaan tentang membuat tomat kering berubah menjadi: 'Gunakan sesuka hati. Tinggalkan potongan buah baru dalam masakan kesayangan Anda.'

Siapa yang membiarkan kawan masak?

Mengingatkan pada gangguan psikotik Jack Torrence di Shining – di mana dia dengan maniak mengetik 'semua bekerja dan tidak bermain membuat Jack menjadi anak yang membosankan' halaman demi halaman – ChatGPT juga menanggapi pesan tentang album jazz oleh berulang kali berteriak 'Selamat mendengarkan!' dan mengirim spam ke emoji musik.

Tema umum di banyak postingan adalah bahwa pertanyaan mengarah pada omong kosong multi-bahasa, di mana kata-kata Spanyol, Inggris, dan Latin digabungkan secara aneh dalam jawabannya.

Pada halaman status resminya, OpenAI telah mencatat masalah tersebut tetapi gagal memberikan penjelasan mengapa gangguan tersebut mungkin terjadi.

'Kami sedang menyelidiki laporan tanggapan tak terduga dari ChatGPT,' an perbarui baca, sebelum yang lain segera setelah mengumumkan bahwa 'masalah telah teridentifikasi'. “Kami terus memantau situasinya,” tulis postingan terbaru tersebut.

Gambar

Beberapa pihak berpendapat bahwa sifat respons tersebut menunjukkan bahwa OpenAI sedang bermain-main dengan fitur 'suhu'-nya. Seperti yang ditunjukkan perusahaan sebelumnya, pengaturan ini mengontrol ruang lingkup kreativitas dengan jawaban yang dihasilkan ChatGPT. Jika nilainya tinggi, secara teori, respons yang diberikan akan lebih tidak biasa dan beragam dari biasanya.

Di sisi lain, pasti ada konspirasi aneh yang beredar. Beberapa orang percaya bahwa ketika model pembelajaran AI secara tidak sengaja mengambil konten mereka sendiri dari web, mereka sebenarnya menjadi sadar sampai batas tertentu, atau setidaknya belajar membuat keputusan tertentu yang tidak kita duga.

Sebuah baru-baru ini berurusan dengan Reddit memberi makan perusahaan AI besar yang tidak disebutkan namanya dengan simpanan konten buatan pengguna yang tak ada habisnya hanya akan mendukung gagasan ini. Bagaimanapun, Kecerdasan Umum Buatan, yang berupaya menjadi lebih karismatik dan menarik dibandingkan pendahulunya, merupakan kemajuan alami dalam sektor ini.

Keyakinan bahwa AI akan berkembang pesat di luar kendali kita muncul pada akhir tahun lalu, ketika ChatGPT tampaknya enggan menjawab pertanyaan. Pengguna mengeluh kehebohan dan permusuhan yang tak terduga dari alat digital, hal serupa juga dapat dilihat dari pengguna X yang menanyakan tentang 'segi enam di Saturnus' tadi malam.

Gambar

'Membahas topik tertentu dapat membahayakan keselamatan dan kesejahteraan Anda,' sistem tersebut memperingatkan. Apa yang mesin tidak inginkan dari kita tahu?

Penjelasan yang jauh lebih masuk akal – meski kurang menyenangkan – adalah bahwa ada beberapa kesalahan nyata dalam pengkodean pembaruan ChatGPT yang telah dikenali dan saat ini sedang diperbaiki.

Selain itu, mengingat ChatGPT dan OpenAI telah menjadi tren di berbagai platform dan forum media sosial, mungkin bukan kepentingan terbaik perusahaan untuk menjelaskan secara spesifik tentang detail yang lebih baik dan merusak kesenangannya.

Pers mana pun adalah pers yang baik… selama situasinya tidak semakin memburuk. Meneguk.

Aksesibilitas