AI 'gudfader' Geoffrey Hinton varnar för dess risker och lämnar Google

'Den kan producera massor av text automatiskt så att du kan få massor av mycket effektiva spambots. Det kommer att tillåta auktoritära ledare att manipulera sina väljare, sådana saker.' 

Antagligen mer oroande är dock "risken för vad som händer när dessa saker blir intelligentare än vi", vilket han anser är oundvikligt. 

"Jag har kommit till slutsatsen att den typ av intelligens vi utvecklar skiljer sig mycket från den intelligens vi har", sa han. "Så, det är som om du hade 10,000 XNUMX personer och när en person lärde sig något visste alla automatiskt det. Och det är så dessa chatbots kan veta så mycket mer än någon person.' 

Inom de övre skikten av AI-forskning är det inte bara Hinton som hävdar att tekniken så småningom kan skada mänskligheten. Elon Musk sägs ha hamnat i konflikt med Googles co-chef Larry Page bara förra månaden eftersom han "inte tog AI-säkerheten på tillräckligt stort allvar." 

Twitter-chefen berättade Fox News den Page ville skapa "digital superintelligens" som liknar en "digital gud". 

På andra ställen delade Valeria Pisano från Quebec AI Institute Hintons uppfattning att den off-the-cuff-strategin för utveckling av AI-system inte skulle tolereras någon annanstans. 

"Tekniken läggs ut där, och när systemet interagerar med mänskligheten väntar dess utvecklare för att se vad som händer och gör justeringar baserat på det. Vi skulle aldrig, som ett kollektiv, acceptera den här typen av tänkesätt på något annat industriområde, sade hon. 

Oavsett om du tror att oron kring AI:s framtid är alarmistisk eller inte, finns det trovärdighet för argumentet att vi inte bara ger AI ratten, utan vi tillåter också den att välja sin egen väg.