1
enerji
Enerji nedir?
0 yorumlar
OpenAI, AI metin oluşturucularının kullanıldığı örnekleri ortaya çıkarabilecek bir araca sahip olduğunu iddia ediyor. Acaba gün ışığını görebilecek mi?
OpenAI, ChatGPT'nin yarattığı yazıyı tespit etmek için akıllı bir araç geliştirdi, ancak bunu dünyaya yayma konusunda ikinci kez düşünüyorlar - çünkü neden kendinizi ayağınızdan vurasınız ki?
Bu AI dedektifi, önceki AI Metin Sınıflandırıcılarının sona ermesini takip ediyor. performans incelemesinde başarısız oldu ve birçok deneyde başarısız oldu. Ancak çizim tahtasından henüz yeni çıkmış olan OpenAI 'son derece doğru' bir performansla övünüyor metin filigranlama yöntemi bunu halka yayınlamanın artılarını ve eksilerini tartarken.
İkilem mi? Aracın, ana dili İngilizce olmayan konuşmacıları, yazma yardımı için yapay zekayı kullanarak haksız yere damgalayabileceğinden endişe ediyorlar. Daha az soylu (ve daha muhtemel) açıklama ise şirketteki kıdemlilerin, metin oluşturma araçlarının gizli doğasının onların çoğalmasına yardımcı olduğunu bilecek olmasıdır. İnsanlar tembeldir ve bunun için dışarı çıkmaktan hoşlanmazlar.
Çıkıyor @OpenAI ChatGPT yazısını yakalamak için neredeyse mükemmel bir araç geliştirdi ve yaklaşık bir yıldır kopyalamaya hazır durumda. @WSJ.
…Peki, Ağustos 2023 tarihli bir blog yazısında neden AI dedektörlerini kaybedilmiş bir dava olarak nitelendirdiniz? pic.twitter.com/6O7kuR1pdz— Molly Liebergall (@LiebergallMolly) Ağustos 7, 2024
Ayrıca OpenAI onu yayınlamak istese bile hiçbir araç tamamen kusursuz olamaz. Usta kullanıcılar, metni çevirerek, onu başka bir yapay zeka ile yeniden ifade ederek veya hatta daha sonra silmeden önce içine özel karakterler serpiştirerek tespitten kaçınabilir.
Kodun değiştirildikten sonra bile AI kullanımına ilişkin güçlü göstergeler taşıyacağı bildirildiğinden, meta verilerle ilgili ilk deneyler çok daha güvenilirdir. Belki de Microsoft'un sahibi olduğu firma, tamamen gönül rahatlığı için tersine mühendislik yapıyor.
İçerik dünyasında yapay zekanın etkisi sürekli arttıkça, teknolojilerinin nerede kullanıldığını kendileri bilmek isteyecekler. Kamuya açıklanmaya gelince… kesinlikle blöf yapıyorlar.
Metin tespiti görünüşte ikinci planda kalsa da OpenAI, AI tarafından oluşturulan görsel-işitsel içeriği tespit etmek için planlar hazırlıyor ve bu, bu aşamada daha belirgin riskler oluşturuyor.
Düzenlemelerden sağ kurtulan içeriğe bir kaynak etiketi ekleyen ve orijinalliğin sahtesini yapmayı zorlaştıran C2PA meta veri kervanına atlıyorlar. TikTok ve Adobe aynı güvenlik önlemlerini kullananlar arasında yer alıyor.
Artık ne zaman bir görsel (fotoğraf, sanat eseri vb.) görsem, onu otomatik olarak yapay zeka belirtilerine karşı tarama alışkanlığı geliştirdim (ekstra parmaklar, anlamsız şeyler, aşırı parlak/sahte his). vb. Keşke sahte olup olmadığını görmek için tetikte olmam gerekmeseydi.
— Kuzukulağı Mamí 🇧🇧✨ (@xcarliebimx) Şubat 16, 2024
DALL-E, OpenAI'nin görüntü oluşturucu, yakında çıkacak video oluşturucuları gibi C2PA meta verilerini de yakında yerleştirecek 'Sora'. Buradaki fikir, insanların yanıltıcı içerik ve propaganda yaratmaya devam etmesine rağmen meta verilerin ortaya çıkardığı tehlike işaretlerini gizleyememeleridir.
OpenAI ayrıca görüntüler için kurcalamaya dayanıklı bir filigranlama çözümünü de duyurdu ve araştırma laboratuvarlarını ve kâr amacı gütmeyen gazetecilik kuruluşlarını bu çözümü denemeye davet etti. Bu araç, minimum yanlış pozitif oranıyla DALL-E 98 görüntülerini tanımlamada %3'lik bir başarı oranına sahiptir.
Son olarak, ses algılama, OpenAI'nin radarında yer alıyor ve yeni 'Ses Motoru'nun en ikna edici örneklerden bile yapay zekayı algılayabildiği bildiriliyor. Bunun gibi araçlarla Spotify'da ortaya çıkan sahte Drake parçalarının sonunun geldiğini varsayarsınız.
OpenAI, şirketlerin ve işletmelerin AI metin dedektörünü ele geçirmesine izin verme konusunda anlaşılır bir şekilde isteksizdir. Bununla birlikte, yapay zekanın çevrimiçi olarak insan tarafından oluşturulan içeriği aşmadan önce dijital ortamı güvence altına alma ihtiyacını hissediyor.
