Zamknij
Szukaj
Menu Menu

ChatGPT po prostu stał się nieuczciwy i nie wiemy dlaczego

Źródło: Thred
By
Londyn, Wielka Brytania
0 komentarze
0 komentarze

Zeszłej nocy narzędzie języka generatywnego OpenAI całkowicie zwariowało, a jego reakcje przerażały ludzi. Twórcy niejednoznacznie nazywają to zjawisko „halucynacją”. Uspokajające.

Czy nasi cyfrowi władcy przygotowują się już do inwazji na pełną skalę?

Zeszłej nocy użytkownicy ChatGPT zgłosili przypadki, w których narzędzie języka generatywnego całkowicie zawodziło. Proste zapytania użytkowników powodowały dziwne błąkanie się, z których większość była całkowicie niezrozumiała i zdecydowanie za długa.

Zbierając się, aby dzielić się przykładami na Reddicie i Twitterze (X), ludzie publikowali niezliczone zrzuty ekranu przedstawiające ich dziwaczne spotkania z sztuczną inteligencją.

W jednym przypadku, gdy poproszono o pomoc w rozwiązaniu problemu z kodowaniem, wywołano chaotyczną i przedłużającą się zabawę, która zawierała niesamowite zdanie: „Utrzymajmy linię tak, jakby sztuczna inteligencja była w pokoju”.

W innym pytaniu o przygotowanie suszonych pomidorów przekształciło się w: „Wykorzystaj jako ukochany”. Porzuć nowy kęs owocowy w swojej ukochanej kuchni.

Kto pozwolił bracie gotować?

Przypomina to załamanie psychotyczne Jacka Torrence’a z r Lśnienie – w którym maniakalnie pisze „cała praca i żadna zabawa nie czyni Jacka nudnym chłopcem” – ChatGPT odpowiedział także na wiadomość dotyczącą albumów jazzowych autorstwa wielokrotnie krzycząc „Miłego słuchania!” i spamowanie emoji muzycznych.

Ogólnym tematem ton postów było to, że pytania prowadziły do ​​wielojęzycznego bełkotu, w którym w odpowiedziach słowa hiszpańskie, angielskie i łacińskie były dziwnie zmieszane.

Na swojej oficjalnej stronie statusu OpenAI odnotowało problemy, ale nie wyjaśniło, dlaczego mogą się one pojawiać.

„Badamy raporty o nieoczekiwanych odpowiedziach od ChatGPT” – an aktualizacja przeczytana, a wkrótce potem kolejna ogłosiła, że ​​„problem został zidentyfikowany”. „Nadal monitorujemy sytuację” – napisano w najnowszym poście.

Obraz

Niektórzy sugerują, że charakter odpowiedzi wskazuje, że OpenAI bawi się swoją funkcją „temperatury”. Jak wcześniej wskazała firma, to ustawienie kontroluje zakres kreatywności w przypadku odpowiedzi generowanych przez ChatGPT. Jeśli jest ona wysoka, teoretycznie reakcje będą bardziej niezwykłe i zróżnicowane, niż jesteśmy przyzwyczajeni.

Z drugiej strony, nieuchronnie krążą szalone spiski. Niektórzy uważają, że gdy modele uczenia się AI nieumyślnie ściągają własne treści z Internetu, w pewnym stopniu stają się świadome lub przynajmniej uczą się podejmować pewne decyzje, których się nie spodziewaliśmy.

Ostatnia poradzić sobie z Redditem karmienie anonimowej dużej firmy zajmującej się sztuczną inteligencją jej niekończącymi się zaległościami w zakresie treści generowanych przez użytkowników tylko podsyci tę koncepcję. Sztuczna inteligencja ogólna, która stara się być bardziej charyzmatyczna i ujmująca niż jej poprzedniczka, jest przecież naturalnym postępem w branży.

Przekonanie, że sztuczna inteligencja szybko wymknie się spod naszej kontroli, podsyciło się pod koniec ubiegłego roku, kiedy ChatGPT najwyraźniej przestał odpowiadać na pytania. Użytkownicy narzekali nieoczekiwanej bezczelności i wojowniczości narzędzia cyfrowego, które można zobaczyć również w Użytkownik X który wczoraj wieczorem pytał o „sześciokąt na Saturnie”.

Obraz

„Omawianie pewnych tematów może zagrozić Twojemu bezpieczeństwu i dobremu samopoczuciu” – złowieszczo ostrzegał system. Czego maszyny nas nie chcą wiedzieć?

O wiele rozsądniejszym – choć mniej zabawnym – wyjaśnieniem jest to, że w kodowaniu aktualizacji ChatGPT występuje jakiś oczywisty błąd, który został rozpoznany i jest obecnie naprawiany.

Poza tym, biorąc pod uwagę, że ChatGPT i OpenAI cieszą się popularnością na wielu platformach i forach mediów społecznościowych, prawdopodobnie nie w najlepszym interesie firmy jest zdradzanie szczegółów i psucie zabawy.

Każda prasa jest dobra, dopóki sytuacja nie będzie się dalej eskalować. Łyk.

Redaktor techniczny Londyn, Wielka Brytania

Jestem Jamie (on/on), zastępca redaktora naczelnego i starszy pisarz w Thred. Bycie na bieżąco z aktualizacjami w mediach społecznościowych i rewolucyjna technologia to moja mocna strona, ale kiedy jestem z dala od klawiatury, prawdopodobnie znajdziesz mnie owiniętego wokół wielkiego lodowego podmuchu Tango w najnowszym przeciętnym horrorze. Obserwuj mnie na Twitter, LinkedIn i prześlij mi kilka pomysłów/opinii przez e-mail.

Popularny

Bądź na bieżąco z thred, zapisując się do naszego biuletynu dotyczącego planety!

Więcej od thred.

Badania zdecydowanie potwierdzają teorię, że planeta jest częściowo zakopana w Ziemi
Źródło: Thred
nauka

Badania zdecydowanie potwierdzają teorię, że planeta jest częściowo zakopana w Ziemi

Słyszałeś kiedyś o teorii, że Księżyc powstał w wyniku zderzenia Ziemi z inną planetą 4.5 miliarda lat temu? Nowe badanie właśnie zwiększyło wiarygodność tego przekonania. Dokładne pochodzenie naszego Księżyca pozostaje nieco nieuchwytne, ale powszechnie akceptowana teoria właśnie zyskała kolejny znaczący impuls. Niestety nie ma w nim sera. Hipoteza, o której mowa, jest oficjalnie nazywana „Teorią Uderzenia Thei” i potocznie nazywana…

By Londyn, Wielka Brytania
Microsoft potwierdza rekordowe zakupy korporacyjne zielonej energii na potrzeby sztucznej inteligencji
Źródło: Thred
Technologia

Microsoft potwierdza rekordowe zakupy korporacyjne zielonej energii na potrzeby sztucznej inteligencji

Ośmiokrotnie więcej niż poprzedni rekord, Microsoft właśnie zakupił w ramach jednej transakcji najwięcej energii odnawialnej w historii dla pojedynczego podmiotu korporacyjnego. Dzięki temu plany niskoemisyjne nie zostaną pokrzyżowane przez zwiększanie skali projektów AI. W życiu jest kilka stałych: śmierć, podatki i Microsoft, który przechwala się, dokonując rekordowych przejęć finansowych. Przynajmniej najnowsze jest pozytywne dla planety na tym...

By Londyn, Wielka Brytania
Niezależny zespół „Washed Out” wydaje pierwszy teledysk OpenAI Sora
Źródło: OpenAI
Technologia

Niezależny zespół „Washed Out” wydaje pierwszy teledysk OpenAI Sora

Nowa piosenka zatytułowana „The Hardest Part” artysty Washed Out została stworzona w całości przy użyciu oprogramowania Sora OpenAI, które konwertuje podpowiedzi tekstowe na realistyczne wideo. Pierwszy w swoim rodzaju, robi wrażenie i przeraża, w zależności od tego, gdzie stoisz. Wygląda na to, że co tydzień piszemy o sztucznej inteligencji. W ciągu ostatnich dwóch lat popularność wykorzystania podpowiedzi tekstowych do tworzenia automatycznie generowanej treści gwałtownie wzrosła. Gdzie kiedyś wydawało się...

By Londyn, Wielka Brytania
Ruszył pierwszy na świecie konkurs piękności dla influencerów AI
Źródło: Thred
Obserwuj Nas

Ruszył pierwszy na świecie konkurs piękności dla influencerów AI

Próbując jeszcze bardziej połączyć pojawiające się trendy w zakresie sztucznej inteligencji z rzeczywistością, ogłoszono nowy konkurs piękności dla wpływowych osób zajmujących się sztuczną inteligencją. Pomimo entuzjazmu twórców wydarzenia, krytycy przestrzegają, że należy podchodzić do niego ostrożnie. Myślałeś, że świat influencerów AI nie może być dziwniejszy? Hmm.. pomyśl jeszcze raz. Fanvue, platforma, która pomaga twórcom cyfrowym zwiększać zaangażowanie za pomocą wiadomości AI, notatek głosowych i analiz, właśnie ogłosiła pierwsze na świecie...

By Londyn, Wielka Brytania
dostępność