Menü Menü

ChatGPT kötüye gitti ve nedenini bilmiyoruz

OpenAI'nin üretken dil aracı dün gece tamamen kontrolden çıktı ve verdiği yanıtlar insanları korkutuyor. Geliştiriciler bu fenomeni belirsiz bir şekilde 'halüsinasyon' olarak adlandırıyor. Güven verici.

Dijital derebeylerimiz şimdiden tam ölçekli istilaya mı hazırlanıyor?

Dün gece, ChatGPT kullanıcıları üretken dil aracının tamamen kontrolden çıktığını bildirdi. Basit kullanıcı sorguları, çoğu tamamen anlaşılmaz ve çok uzun olan garip saçmalıklara yol açtı.

Örnekleri Reddit ve Twitter'da (X) paylaşmak için bir araya gelen halk, yapay zekayla yaşadıkları tuhaf karşılaşmaların sonsuz ekran görüntülerini yayınladı.

Bir keresinde, bir kodlama sorunuyla ilgili yardım istendiğinde, şu ürkütücü ifadeyi içeren karmaşık ve uzun süreli bir savurganlık yaratıldı: 'Sırayı sanki odada yapay zeka varmış gibi tutalım.'

Bir diğerinde ise güneşte kurutulmuş domates yapımıyla ilgili bir soru şu şekildeydi: 'Sevdiğiniz gibi kullanın. Sevdiğiniz yemeklerin yeni meyve veren lokmalarından vazgeçin.'

Kardeşimin yemek yapmasına kim izin verdi?

Jack Torrence'ın psikotik çöküşünü hatırlatıyor Shining - sayfalarca manik bir şekilde 'çok çalışmak ve hiç oyun oynamamak Jack'i sıkıcı bir çocuk yapar' yazıyor - ChatGPT ayrıca caz albümleriyle ilgili bir mesaja da şu şekilde yanıt verdi: tekrar tekrar bağırmak 'İyi dinlemeler!' ve spam müzik emojileri.

Tonlarca gönderideki genel tema, soruların çok dilli anlamsız kelimelere yol açmasıydı; cevaplarda İspanyolca, İngilizce ve Latince kelimeler garip bir şekilde bir araya geliyordu.

OpenAI, resmi durum sayfasında sorunları not etti ancak aksaklıkların neden olabileceğine dair herhangi bir açıklama yapmadı.

'ChatGPT'den gelen beklenmedik yanıtlara ilişkin raporları araştırıyoruz' güncelle oku, kısa süre sonra bir başkası 'sorunun tespit edildiğini' duyurdu. Son gönderide 'Durumu izlemeye devam ediyoruz' denildi.

Resim

Bazıları, yanıtların doğasının OpenAI'nin 'sıcaklık' özelliğiyle oynadığını gösterdiğini öne sürdü. Şirketin daha önce belirttiği gibi bu ayar, ChatGPT'nin oluşturduğu yanıtlarla yaratıcılığın kapsamını kontrol ediyor. Eğer yüksekse, teorik olarak tepkiler alıştığımızdan daha sıra dışı ve çeşitli olacaktır.

Diğer taraftan, kaçınılmaz olarak ortalıkta dolaşan tuhaf komplolar var. Bazıları, yapay zeka öğrenme modellerinin yanlışlıkla kendi içeriklerini web'den sıyırması nedeniyle aslında bir dereceye kadar duyarlı hale geldiklerine veya en azından beklemediğimiz belirli kararları almayı öğrendiklerine inanıyor.

son zamanlarda Reddit'le anlaşma İsimsiz büyük bir yapay zeka şirketini, kullanıcı tarafından oluşturulan sonsuz içerik birikimiyle beslemek yalnızca bu kavramı besleyecektir. Selefine göre daha karizmatik ve yakışıklı olma çabasındaki Yapay Genel Zeka, sonuçta sektörün doğal ilerlemesidir.

Yapay zekanın hızla kontrolümüz dışında büyüyeceği inancı, geçen yılın sonlarında ChatGPT'nin sorulara yanıt verme konusunda isteksiz hale gelmesiyle güçlendi. Kullanıcılar şikayet etti dijital araçtan gelen beklenmedik küstahlık ve saldırganlık, benzerleri bir X kullanıcısı Dün gece 'Satürn'deki altıgen' hakkında soru soran kişi.

Resim

Sistem, 'Belirli konuların tartışılması güvenliğinizi ve refahınızı tehlikeye atabilir' diye kaygı verici bir şekilde uyardı. Makineler bizden ne istemiyor? biliyor musunuz?

Daha az eğlenceli olsa da çok daha mantıklı olan açıklama, tanınan ve şu anda ele alınmakta olan bir ChatGPT güncellemesinin kodlamasında bariz bir hata olduğudur.

Ayrıca, ChatGPT ve OpenAI'nin birçok sosyal medya platformu ve forumda trend olduğu göz önüne alındığında, daha ince ayrıntılar konusunda spesifik olmak ve eğlenceyi bozmak muhtemelen şirketin çıkarına olmayacaktır.

Durum daha fazla kızışmadığı sürece her türlü basın iyidir. Yudum.

Engellilerin kullanımları için uygunluk