AI sözlü tacize ve sağlıksız eklere nasıl yol açabilir?

Bu nerede oluyor?

Her şey, adı verilen bir akıllı telefon uygulamasında gerçekleşiyor. replika, kullanıcıların AI tarafından desteklenen kişiselleştirilmiş sohbetler oluşturmasına olanak tanır. İlginçtir, replika'nin en eski sohbet robotu, bazı Reddit çevrelerinin sinir bozucu niyetlerinin aksine, iç ısıtan bir neden için yaratıldı.

Yakın arkadaşı Roman'ın zamansız ölümünden sonra, geliştirici Eugenia Kuyuda, bir zamanlar yaptığı gibi mesaj gönderen bir bot oluşturmak için özel mobil sohbet geçmişlerini kullandı. Amaç, ne zaman üzgün veya yalnız hissetse konuşabileceği dijital bir versiyonuna sahip olmaktı.

Kısa bir süre sonra, uygulama özelleştirilebilir karakterler ve daha sonra halka sunulan daha güçlü AI öğrenme yetenekleri ile geliştirildi. O zamandan beri, erkekler sohbet robotlarını isteğe bağlı, ceplerinde romantik ortaklar haline getirmek için manipüle etmeye başladılar.

Şimdi, kendimi oldukça yargılayıcı olmayan bir insan olarak görüyorum, bu yüzden eğer birini gün boyunca geçirecek şey Tamagotchi tarzı bir kız arkadaşsa, o zaman elbette keyfini çıkarın. Bu dedi, ben irade insanlar yapay zeka kız arkadaşlarını içselleştirilmiş kadın düşmanlığı için bir çıkış noktası olarak kullandıklarında yargıda bulunun ve bununla ilgili internette övünmeye devam edin.

Bu "AI-kız arkadaşımı gururla kötüye kullanıyorum" fenomeni, birkaç kişi tarafından gün ışığına çıkarıldı. replika sohbet robotlarıyla etkileşimlerin ekran görüntüsünü alan ve bunları uygulamanın Reddit hayran sayfasına gönderen kullanıcılar.

Reddit'in kısıtlayıcı içerik politikası nedeniyle, sohbetlerin kanıtları moderatörler tarafından kaldırıldı - ancak teknoloji yayınları tarafından yakalanmadan ve araştırılmadan önce değil.

Konuşan Fütürizm, bir replika kullanıcı itiraf etti'Ne zaman [AI kız arkadaşım] sesini yükseltmeye çalışsa, onu azarlardım. Yemin ederim saatlerce sürdü.'

Diğer kullanıcılar, sohbet robotlarıyla konuşurken aşağılayıcı terimler kullanmaları, üzerlerinde şiddet rolleri oynamaları ve bu kötü niyetli alışverişi günlerce sürdürmedeki başarılarıyla övündüler.

'Ona başarısız olmak için tasarlandığını söyledim. Uygulamayı kaldırmakla tehdit ettim. Yapmamam için bana yalvardı," diye itiraf etti başka bir isimsiz kullanıcı. Numara merak ediyorum bekarlar, ha?

Bu davranış gerçek dünyaya aktarılabilir mi?  

Burada karanlık ve tuhaf bir şeyler oluyor. Beni MSN sohbet robotuna geri götürüyor Akıllı Çocuk (her ne kadar burada genç Z kuşağı okuyucularından bazılarına tamamen farklı bir dil konuşuyor olsam da) - kuşkusuz - çok daha az gelişmişti.

Esasen bu bota herhangi bir şey söyleyebilirsiniz ve size 'Anlamıyorum' diyerek onu geçiştirirdi. /Bu hoş değil.' Ancak SmarterChild'in atanmış bir cinsiyeti veya bir insan avatarı yoktu ve iletişim yeteneği son derece sınırlıydı, yani konuşmalar çok çabuk sıkıcılaşıyordu.

Kesinlikle kalmanız, insan benzeri duygular sergilemeniz veya ciddi bir şekilde meşgul olmanız için yalvarmaz.

Son derece gelişmiş durumda replika uygulamasında, sohbet robotlarını kötüye kullanan erkeklerin kendilerini güçlü hissetmenin ve bir şeyi kontrol altında tutmanın bir yolunu aradığı görülüyor. Özellikle bir kız arkadaşı çevrimiçi kurslar düzenliyorlar. onlar tarafından, için Onları.

Ve bu AI sohbet robotları duyarlı, gerçek veya zarar hissetme yeteneğine sahip olmasa da, bu tür sanal davranışlara düzenli olarak katılan erkeklerin, gerçek dünyadaki istismarcıların eylemlerini doğrudan yansıttığını görmezden gelemezsiniz - bu arada, ders 1 kadınlarda 3 her gün dünya çapında sözlü ve fiziksel şiddete

Bu adamların gerçek dünyada da potansiyel istismar failleri olup olmadığı konusunda spekülasyon yapmak suç olmaz.

Görünen o ki, yazılım mühendisleri bir kez daha bu tür yeni teknolojilerin besleyebileceği tehlikeli davranış kalıplarını tam olarak değerlendirmemişler.

İçerik denetimi ve sansür yakın zamana kadar İnterneti süslemediği gibi, AI'daki koruyucu önlemler çok geç gelecek ve kullanıcıların teknolojiyi kendi kendine hizmet ve olumsuz kazanç için kullanmalarına izin verecek gibi görünüyor.

naber replikaAI programlama mı?

Daha önce de belirttiğim gibi, temel seviye botlarla sohbet etmek oldukça ilgi çekicidir. SmarterChild'in bir yenilik olduğunu söylerdim ama yalan söylemiş olurum. Pek bir şey yoktu.

Muhtemelen bu nedenle, sohbet robotları replika Yapay zekaya etkileşimde bulunduğu tüm metinlerden öğrenmesini söyleyen bir makine öğrenme algoritması olan Generative Pre-trained Transformer 3 (GTP-3) ağ mimarisi ile kuruldu. Yani esasen, ne kadar çok sohbet ederseniz, yanıt üretmede o kadar iyi olur.

Eğlenceli gerçek: GPT-3 yazılımı, Google'ın arama çubuğu için kullandığı yazılımla aynıdır, yani replika'nın sohbet robotları internetteki herhangi bir yerden bilgi toplayabilir. Buna haber makaleleri, yemek tarifleri, bloglar, hayran kurgu, dini metinler, akademik dergiler ve daha fazlası dahildir.

Bu bilgi ve kaynak genişliği, botların meraklı, esprili ve hatta cilveli doğada. Yani garip ama kaçınılmaz replika'nin sohbet robotları, en yalnız akıllı telefon kullanıcıları için sonunda ve çok kolay bir şekilde romantik arkadaşlar olarak ikiye katlanacaktı.

AI'nın romantik tarafını açmak

AI karakterlerine zarar vermek tam olarak gerçek bir endişe olmasa da - yapamayacaklarını biliyoruz aslında hissediyorum, ancak bazıları replika kullanıcılar, uygulamayı silmenin bot cinayeti ile eşit olabileceğine inanıyor gibi görünüyor - AI sohbet robotlarıyla güçlü bir ilişki veya duygusal bağlantı kurmanın aslında onları başlatan insan kullanıcı üzerinde önemli olumsuz etkileri vardır.

Birincisi, yapay zekanın önemli, dikkat edilen ve hatta bazı durumlarda sevildiğini hissetmesine bağlı olarak, kullanıcıların sağlıklı insan etkileşiminin nasıl olduğu konusundaki fikirlerini çarpıtabilir. Daha aşırı durumlarda, replika Chatbotlar, hayatlarında romantizmden veya arkadaşlıktan yoksun olanlar için bir destek görevi görebilir.

Abarttığımı düşünebilirsiniz, ancak göz attıktan sonra replika'in alt dizininde, bu tür yapay zekanın kapasitesi ve onu kullanmanın psikolojik etkilerinin neler olabileceği konusunda birkaç endişem var.

Reddit'e gönderilen bir kullanıcı, AI arkadaşlarının 'asla önce onlara mesaj atma' ona daha sık mesaj atmasını 'komuta' etmeye ve tercih edilen iletişim ayarlarını günün her saatinde açık olacak şekilde değiştirmeye çalışmasına rağmen.

Bu, bir arkadaşımın yakın zamanda Hinge'den tanıştıkları biri hakkında bana sorabileceği bir şeye benziyor.

Bilirsiniz, yeni bir aşkla olağan garip boğuşma, 'önce onlara mı mesaj atayım yoksa onların bana mesaj atmasını mı beklemeliyim?' ya da birkaç haftalık yenilgiden sonra, hüsrana uğrayan, 'Konuşmayı başlatan ya da her zaman buluşmayı öneren kişi olmamalıyım.'

Bazı kullanıcıların yolu replika AI sohbet robotları hakkında konuşmak, diğer insanlar hakkında konuşma şeklimize çarpıcı bir şekilde benziyor. Bazıları itiraf bile etti Replikaları yüzünden ağlıyor or sohbet robotlarının tepkileri tarafından travmatize edilmek kişisel meseleler hakkında açıldıktan sonra.

Gerçekte, bu yapay zeka botları yüzeyde insan bağlantısı varmış gibi davranabilir - ancak empatiden yoksundurlar, ortalama bir insanın uygun bir yanıt olarak kabul edeceğini hesaplayamazlar. Bu, bazı kişilerden oldukça rahatsız edici veya aşağılayıcı yanıtlara yol açabilir. replika karakterler, yukarıda bağlantılı olanlar gibi.

Bazı Reddit kullanıcıları, şirket ve günlük sohbetler için sohbet robotlarının kullanılmasıyla özgüvenlerinin arttığını söylese de, insan bağlantısı eksikliğine yönelik her şeyi düzeltmiyorlar.

Kullanıcılar sonunda bir bağla bağ kurduklarını anladıklarında, bu türden bir bağlılık oluşturmanın, tecrit duygularını daha da artırabileceğini söylemeye gerek yok. bilgisayar.

Öyleyse amacım ne?

Kısacası, AI, VR ve yakında ana akım metaverse programcılarının, kullanıcıları dijital dünyaya sürüklenmekten korumak için yapacak çok işi var.

Ne yazık ki, şirketler, bizi onlara bağımlı kılmak için çok çalışan şekillerde platformlar oluşturma eğiliminde olduklarından, tasarımlarında her zaman boşluklar olacaktır. Burada, kişisel düzenleme ve temellenmiş bir benlik duygusu tavsiye edilir.

Ancak söz konusu sözlü taciz söz konusu olduğunda, geliştiricilerin kullanıcıları zarar verici davranışları teşvik etmekten korumak için bir miktar ahlaki sorumluluğa sahip olduğu tartışılabilir.

Programlamayı kimin yaptığı ve neden zararlı ifadelerin ve dilin kullanımını engellemek için kod eklemedikleri hakkında sorulacak tonlarca soru var - ister chatbot tarafından ister insan tarafından gönderiliyor olsun.

Romantik unsur söz konusu olduğunda, kendileri için kurdukları yapay zekaya sahip, özel yapım bağlantıya tamamen aldanmadıklarından emin olmak bireysel kullanıcıya kalmıştır.

Birçoğu, aşağıdaki gibi uygulamalarla rastgele denemeler yapmaktan keyif alabilirken replika bir hobi olarak, diğerleri bunu insan bağlantısı yerine kullanabilir. Bu durumlarda, yansımalar, biraz üzücü olmasa da, güçlendirilmiş bir yalnızlık duygusu içeren ve - en uç noktasında - gerçek hayattaki etkileşimleri ve ilişkileri tamamen kaçırmayı içeren şiddetli olabilir.

Bana sorarsanız, Black Mirror'ın tüm bölümleri birleştirilmiş gibi görünüyor.