Meny Meny

ChatGPT blev bara oseriöst och vi vet inte varför

OpenAI:s generativa språkverktyg gick helt galet igår kväll, och dess svar har skrämmt folk. Utvecklare hänvisar tvetydigt till detta fenomen som en "hallucination". Betryggande.

Förbereder våra digitala överherrar sin fullskaliga invasion redan?

I går kväll rapporterade ChatGPT-användare att det generativa språkverktyget gick helt galet. Enkla användarförfrågningar ledde till konstiga rabalder, av vilka de flesta var helt oförståeliga och alldeles för långa.

Folk samlades för att dela exempel på Reddit och Twitter (X), och postade oändliga skärmdumpar av sina bisarra möten med AI.

I ett fall, när det blev tillfrågat om hjälp med ett kodningsproblem, genererade det en rörig och långvarig uppsjö som inkluderade den kusliga frasen: "Låt oss hålla linjen som om AI i rummet."

I en annan fråga om att göra soltorkade tomater gick ut på: 'Använd som älskad. Överge den nya fruktbiten i din älskade matlagning.'

Vem lät bror laga mat?

Påminner om Jack Torrences psykotiska sammanbrott i The Shining – där han maniskt skriver "allt arbete och inget spel gör Jack till en tråkig pojke" sidor på sidor – ChatGPT svarade också på ett meddelande om jazzalbum av upprepade gånger skriker "Lyckligt lyssna!" och spamma musik-emojis.

Ett allmänt tema genom massor av inlägg var att frågor ledde till flerspråkigt skratt, där spanska, engelska och latinska ord märkligt nog sammanslogs i svaren.

På sin officiella statussida har OpenAI noterat problemen men misslyckats med att ge någon förklaring till varför felen kan hända.

"Vi undersöker rapporter om oväntade svar från ChatGPT," an uppdatering läst, innan en annan kort därefter meddelade att "problemet har identifierats". "Vi fortsätter att övervaka situationen", sa det senaste inlägget.

Bild

Vissa har föreslagit att typ av svar indikerar att OpenAI leker med sin "temperatur"-funktion. Som företaget tidigare indikerat, styr denna inställning utrymmet för kreativitet med ChatGPT:s genererade svar. Om det är högt, i teorin, skulle svaren vara mer ovanliga och varierande än vi är vana vid.

Å andra sidan finns det oundvikligen galna konspirationer som flyger runt. Vissa tror att när AI-inlärningsmodeller oavsiktligt skrapar bort sitt eget innehåll från webben, blir de faktiskt till viss del kännande, eller åtminstone lär sig att fatta vissa beslut som vi inte förväntade oss.

En nyligen hantera Reddit att mata ett namnlöst stort AI-företag med dess oändliga eftersläpning av användargenererat innehåll kommer bara att mata denna idé. Artificiell allmän intelligens, som strävar efter att vara mer karismatisk och personlig än sin föregångare, är trots allt den naturliga utvecklingen för sektorn.

Tron på att AI snabbt kommer att växa bortom vår kontroll väcktes i slutet av förra året, när ChatGPT till synes ovilliga att svara på frågor. Användare klagade av oväntad kåt och krigiskhet från det digitala verktyget, som också kan ses från en X användare som frågade om en "hexagon på Saturnus" i går kväll.

Bild

"Att diskutera vissa ämnen kan äventyra din säkerhet och ditt välbefinnande", varnade systemet olycksbådande. Vad vill maskinerna inte ha oss känna till?

Den mycket mer förnuftiga – om mindre roliga – förklaringen är att det finns något uppenbart fel i kodningen av en ChatGPT-uppdatering som har identifierats och för närvarande åtgärdas.

Dessutom, med tanke på att ChatGPT och OpenAI har trendat över flera sociala medieplattformar och forum, är det förmodligen inte i företagets bästa intresse att vara specifik om de finare detaljerna och förstöra det roliga.

All press är bra press... bara så länge situationen inte eskalerar ytterligare. Klunk.

Tillgänglighet