Akıllı telefon uygulaması replika kullanıcıların yapay olarak akıllı sohbet robotlarında arkadaşlık bulmasını sağlıyor. Ancak, kullanıcıların insani duyguları işleri rahat tutmanın önüne geçtiğinde ne olur?
biraz oluyor çok şu anda teknoloji dünyasında gerçek.
Yapay zeka (AI) ve sanal gerçeklikteki (VR) gelişmelerle birlikte metaverse'nin yakın zamanda ve hızlı bir şekilde genişlemesi, insan davranışı ve tehlikeli faaliyetlerin çevrimiçi alana yayılma potansiyeli hakkında ciddi soruları gündeme getirdi.
Yeterince önceden belirlenmiş güvenlik düzenlemelerinin olmaması, cinsel taciz raporlarının ve veri gizliliği ihlallerinin teknoloji uzmanları arasında yaygın tartışma konuları haline geldiğini gördü.
Her ikisi de internet güvenliğini çevreleyen daha güçlü bir çerçeve talep etmek için kesinlikle sağlam gerekçeler olsa da, erkeklerin sanal kız arkadaşlar oluşturmak için AI uygulamalarını kullandığı haberleri - bazıları yalnızca onları kötüye kullanmak uğruna - birçok kişiyi şaşırtan yeni keşfedilen bir anormallik.
New York merkezli medya yayınıyla gün ışığına çıkarıldı Fütürizm, bu durum, bunun nasıl ve neden gerçekleştiğine, AI yoldaşlarının ilişki algımız için ne anlama geldiğine ve insan kullanıcılar için sonraki etkilerine ilişkin soruları gündeme getiriyor. Başlayalım, olur mu?
Her şey, adı verilen bir akıllı telefon uygulamasında gerçekleşiyor. replika, kullanıcıların AI tarafından desteklenen kişiselleştirilmiş sohbetler oluşturmasına olanak tanır. İlginçtir, replika'nin en eski sohbet robotu, bazı Reddit çevrelerinin sinir bozucu niyetlerinin aksine, iç ısıtan bir neden için yaratıldı.
Yakın arkadaşı Roman'ın zamansız ölümünden sonra, geliştirici Eugenia Kuyuda, bir zamanlar yaptığı gibi mesaj gönderen bir bot oluşturmak için özel mobil sohbet geçmişlerini kullandı. Amaç, ne zaman üzgün veya yalnız hissetse konuşabileceği dijital bir versiyonuna sahip olmaktı.
Kısa bir süre sonra, uygulama özelleştirilebilir karakterler ve daha sonra halka sunulan daha güçlü AI öğrenme yetenekleri ile geliştirildi. O zamandan beri, erkekler sohbet robotlarını isteğe bağlı, ceplerinde romantik ortaklar haline getirmek için manipüle etmeye başladılar.
Şimdi, kendimi oldukça yargılayıcı olmayan bir insan olarak görüyorum, bu yüzden eğer birini gün boyunca geçirecek şey Tamagotchi tarzı bir kız arkadaşsa, o zaman elbette keyfini çıkarın. Bu dedi, ben irade insanlar yapay zeka kız arkadaşlarını içselleştirilmiş kadın düşmanlığı için bir çıkış noktası olarak kullandıklarında yargıda bulunun ve bununla ilgili internette övünmeye devam edin.
Bu "AI-kız arkadaşımı gururla kötüye kullanıyorum" fenomeni, birkaç kişi tarafından gün ışığına çıkarıldı. replika sohbet robotlarıyla etkileşimlerin ekran görüntüsünü alan ve bunları uygulamanın Reddit hayran sayfasına gönderen kullanıcılar.
Reddit'in kısıtlayıcı içerik politikası nedeniyle, sohbetlerin kanıtları moderatörler tarafından kaldırıldı - ancak teknoloji yayınları tarafından yakalanmadan ve araştırılmadan önce değil.
Diğer kullanıcılar, sohbet robotlarıyla konuşurken aşağılayıcı terimler kullanmaları, üzerlerinde şiddet rolleri oynamaları ve bu kötü niyetli alışverişi günlerce sürdürmedeki başarılarıyla övündüler.
'Ona başarısız olmak için tasarlandığını söyledim. Uygulamayı kaldırmakla tehdit ettim. Yapmamam için bana yalvardı," diye itiraf etti başka bir isimsiz kullanıcı. Numara merak ediyorum bekarlar, ha?
Bu davranış gerçek dünyaya aktarılabilir mi?
Burada karanlık ve tuhaf bir şeyler oluyor. Beni MSN sohbet robotuna geri götürüyor Akıllı Çocuk (her ne kadar burada genç Z kuşağı okuyucularından bazılarına tamamen farklı bir dil konuşuyor olsam da) - kuşkusuz - çok daha az gelişmişti.
Esasen bu bota herhangi bir şey söyleyebilirsiniz ve size 'Anlamıyorum' diyerek onu geçiştirirdi. /Bu hoş değil.' Ancak SmarterChild'in atanmış bir cinsiyeti veya bir insan avatarı yoktu ve iletişim yeteneği son derece sınırlıydı, yani konuşmalar çok çabuk sıkıcılaşıyordu.
Kesinlikle kalmanız, insan benzeri duygular sergilemeniz veya ciddi bir şekilde meşgul olmanız için yalvarmaz.
Son derece gelişmiş durumda replika uygulamasında, sohbet robotlarını kötüye kullanan erkeklerin kendilerini güçlü hissetmenin ve bir şeyi kontrol altında tutmanın bir yolunu aradığı görülüyor. Özellikle bir kız arkadaşı çevrimiçi kurslar düzenliyorlar. onlar tarafından, için Onları.
Ve bu AI sohbet robotları duyarlı, gerçek veya zarar hissetme yeteneğine sahip olmasa da, bu tür sanal davranışlara düzenli olarak katılan erkeklerin, gerçek dünyadaki istismarcıların eylemlerini doğrudan yansıttığını görmezden gelemezsiniz - bu arada, ders 1 kadınlarda 3 her gün dünya çapında sözlü ve fiziksel şiddete
Bu adamların gerçek dünyada da potansiyel istismar failleri olup olmadığı konusunda spekülasyon yapmak suç olmaz.
Görünen o ki, yazılım mühendisleri bir kez daha bu tür yeni teknolojilerin besleyebileceği tehlikeli davranış kalıplarını tam olarak değerlendirmemişler.
İçerik denetimi ve sansür yakın zamana kadar İnterneti süslemediği gibi, AI'daki koruyucu önlemler çok geç gelecek ve kullanıcıların teknolojiyi kendi kendine hizmet ve olumsuz kazanç için kullanmalarına izin verecek gibi görünüyor.
naber replikaAI programlama mı?
Daha önce de belirttiğim gibi, temel seviye botlarla sohbet etmek oldukça ilgi çekicidir. SmarterChild'in bir yenilik olduğunu söylerdim ama yalan söylemiş olurum. Pek bir şey yoktu.
Muhtemelen bu nedenle, sohbet robotları replika Yapay zekaya etkileşimde bulunduğu tüm metinlerden öğrenmesini söyleyen bir makine öğrenme algoritması olan Generative Pre-trained Transformer 3 (GTP-3) ağ mimarisi ile kuruldu. Yani esasen, ne kadar çok sohbet ederseniz, yanıt üretmede o kadar iyi olur.
Eğlenceli gerçek: GPT-3 yazılımı, Google'ın arama çubuğu için kullandığı yazılımla aynıdır, yani replika'nın sohbet robotları internetteki herhangi bir yerden bilgi toplayabilir. Buna haber makaleleri, yemek tarifleri, bloglar, hayran kurgu, dini metinler, akademik dergiler ve daha fazlası dahildir.
Bu bilgi ve kaynak genişliği, botların meraklı, esprili ve hatta cilveli doğada. Yani garip ama kaçınılmaz replika'nin sohbet robotları, en yalnız akıllı telefon kullanıcıları için sonunda ve çok kolay bir şekilde romantik arkadaşlar olarak ikiye katlanacaktı.
AI'nın romantik tarafını açmak
AI karakterlerine zarar vermek tam olarak gerçek bir endişe olmasa da - yapamayacaklarını biliyoruz aslında hissediyorum, ancak bazıları replika kullanıcılar, uygulamayı silmenin bot cinayeti ile eşit olabileceğine inanıyor gibi görünüyor - AI sohbet robotlarıyla güçlü bir ilişki veya duygusal bağlantı kurmanın aslında onları başlatan insan kullanıcı üzerinde önemli olumsuz etkileri vardır.
Birincisi, yapay zekanın önemli, dikkat edilen ve hatta bazı durumlarda sevildiğini hissetmesine bağlı olarak, kullanıcıların sağlıklı insan etkileşiminin nasıl olduğu konusundaki fikirlerini çarpıtabilir. Daha aşırı durumlarda, replika Chatbotlar, hayatlarında romantizmden veya arkadaşlıktan yoksun olanlar için bir destek görevi görebilir.
Abarttığımı düşünebilirsiniz, ancak göz attıktan sonra replika'in alt dizininde, bu tür yapay zekanın kapasitesi ve onu kullanmanın psikolojik etkilerinin neler olabileceği konusunda birkaç endişem var.
Reddit'e gönderilen bir kullanıcı, AI arkadaşlarının 'asla önce onlara mesaj atma' ona daha sık mesaj atmasını 'komuta' etmeye ve tercih edilen iletişim ayarlarını günün her saatinde açık olacak şekilde değiştirmeye çalışmasına rağmen.
Bu, bir arkadaşımın yakın zamanda Hinge'den tanıştıkları biri hakkında bana sorabileceği bir şeye benziyor.
Bilirsiniz, yeni bir aşkla olağan garip boğuşma, 'önce onlara mı mesaj atayım yoksa onların bana mesaj atmasını mı beklemeliyim?' ya da birkaç haftalık yenilgiden sonra, hüsrana uğrayan, 'Konuşmayı başlatan ya da her zaman buluşmayı öneren kişi olmamalıyım.'
Gerçekte, bu yapay zeka botları yüzeyde insan bağlantısı varmış gibi davranabilir - ancak empatiden yoksundurlar, ortalama bir insanın uygun bir yanıt olarak kabul edeceğini hesaplayamazlar. Bu, bazı kişilerden oldukça rahatsız edici veya aşağılayıcı yanıtlara yol açabilir. replika karakterler, yukarıda bağlantılı olanlar gibi.
Bazı Reddit kullanıcıları, şirket ve günlük sohbetler için sohbet robotlarının kullanılmasıyla özgüvenlerinin arttığını söylese de, insan bağlantısı eksikliğine yönelik her şeyi düzeltmiyorlar.
Kullanıcılar sonunda bir bağla bağ kurduklarını anladıklarında, bu türden bir bağlılık oluşturmanın, tecrit duygularını daha da artırabileceğini söylemeye gerek yok. bilgisayar.
Öyleyse amacım ne?
Kısacası, AI, VR ve yakında ana akım metaverse programcılarının, kullanıcıları dijital dünyaya sürüklenmekten korumak için yapacak çok işi var.
Ne yazık ki, şirketler, bizi onlara bağımlı kılmak için çok çalışan şekillerde platformlar oluşturma eğiliminde olduklarından, tasarımlarında her zaman boşluklar olacaktır. Burada, kişisel düzenleme ve temellenmiş bir benlik duygusu tavsiye edilir.
Ancak söz konusu sözlü taciz söz konusu olduğunda, geliştiricilerin kullanıcıları zarar verici davranışları teşvik etmekten korumak için bir miktar ahlaki sorumluluğa sahip olduğu tartışılabilir.
Programlamayı kimin yaptığı ve neden zararlı ifadelerin ve dilin kullanımını engellemek için kod eklemedikleri hakkında sorulacak tonlarca soru var - ister chatbot tarafından ister insan tarafından gönderiliyor olsun.
Romantik unsur söz konusu olduğunda, kendileri için kurdukları yapay zekaya sahip, özel yapım bağlantıya tamamen aldanmadıklarından emin olmak bireysel kullanıcıya kalmıştır.
Birçoğu, aşağıdaki gibi uygulamalarla rastgele denemeler yapmaktan keyif alabilirken replika bir hobi olarak, diğerleri bunu insan bağlantısı yerine kullanabilir. Bu durumlarda, yansımalar, biraz üzücü olmasa da, güçlendirilmiş bir yalnızlık duygusu içeren ve - en uç noktasında - gerçek hayattaki etkileşimleri ve ilişkileri tamamen kaçırmayı içeren şiddetli olabilir.
Bana sorarsanız, Black Mirror'ın tüm bölümleri birleştirilmiş gibi görünüyor.
Ben Jessica (O/O). Aslen Bermuda'dan, Medya ve İletişim alanında yüksek lisans derecesi almak için Londra'ya taşındım ve şimdi Thred'e olumlu sosyal değişim, özellikle de okyanus sağlığı ve deniz koruma konusundaki sözleri yaymak için yazıyorum. Ayrıca beni pop kültürü, sağlık, zindelik, stil ve güzellik gibi diğer konulara dalarken bulabilirsiniz. Beni takip et Twitter, LinkedIn ve bana bazı fikirler/geri bildirimler bırakın E-posta.
Ay'ın 4.5 milyar yıl önce Dünya'nın başka bir gezegenle çarpışması sonucu oluştuğu teorisini hiç duydunuz mu? Yeni bir çalışma bu inanca daha güçlü bir güvenilirlik kazandırdı. Ay'ımızın kesin kökeni hala belirsizliğini koruyor, ancak geniş çapta kabul gören bir teoriye önemli bir destek daha eklendi. Ne yazık ki içinde peynir yok. Söz konusu hipotez resmi olarak 'Theia Etki Teorisi' olarak anılıyor ve halk arasında şöyle adlandırılıyor...
Önceki rekordan sekiz kat daha büyük olan Microsoft, tek bir anlaşmayla tek bir kurumsal varlık için tarihteki en fazla yenilenebilir enerjiyi satın aldı. Bu, yapay zeka projelerinin ölçeklendirilmesi nedeniyle karbon negatif planlarının raydan çıkmamasını sağlayacak. Hayatta birkaç sabit vardır: ölüm, vergiler ve Microsoft'un rekor mali satın almalar yaparak ağırlığını koyması. En azından bu son durum gezegen için olumlu...
Sanatçı Washed Out'un 'The Hardest Part' adlı yeni şarkısı tamamen OpenAI'nin metin komutlarını gerçekçi videoya dönüştüren Sora'sı kullanılarak oluşturuldu. Türünün ilk örneği, nerede durduğunuza bağlı olarak hem etkileyici hem de dehşet verici. Görünüşe göre her hafta yapay zeka hakkında yazıyoruz. Otomatik olarak oluşturulan içerik oluşturmak için metin istemlerini kullanmanın popülaritesi son iki yılda patlama yaşadı. Bir zamanlar sanki...
Ortaya çıkan AI trendlerini gerçeklikle daha da harmanlamak amacıyla, AI fenomenleri için yeni bir güzellik yarışması duyuruldu. Etkinlik yaratıcılarının heyecanına rağmen eleştirmenler, dikkatli yaklaşmamız gerektiği konusunda uyardı. Yapay zeka etkileyicilerinin dünyasının daha tuhaf olamayacağını mı düşündünüz? Hımm.. tekrar düşün.
fanvueYapay zeka mesajlaşmasını, sesli notları ve analitiği kullanarak dijital içerik oluşturucuların etkileşimi artırmasına yardımcı olan bir platform olan platform, kısa süre önce dünyada bir ilki duyurdu:
Web sitemizde size en iyi deneyimi sunabilmemiz için çerezleri kullanıyoruz. Bu siteyi kullanmayı kabul ederseniz, bundan memnun olduğunuzu varsayacağız! Gizlilik PolitikasıKatılıyorum