AI 'gudfar' Geoffrey Hinton advarer om risikoen og slutter med Google

«Den er i stand til å produsere mye tekst automatisk, slik at du kan få mange veldig effektive spambotter. Det vil tillate autoritære ledere å manipulere velgerne sine, slike ting.' 

Uten tvil mer bekymringsfullt er imidlertid "risikoen for hva som skjer når disse tingene blir mer intelligente enn oss", som han mener er uunngåelig. 

"Jeg har kommet til den konklusjon at den typen intelligens vi utvikler er veldig forskjellig fra intelligensen vi har," sa han. «Så, det er som om du hadde 10,000 XNUMX mennesker, og hver gang en person lærte noe, visste alle det automatisk. Og det er slik disse chatbotene kan vite så mye mer enn noen person.' 

Innenfor de øvre sjiktene av AI-forskning er det ikke bare Hinton som hevder at teknologien til slutt kan skade menneskeheten. Elon Musk skal ha vært uenige med Googles co-sjef Larry Page i forrige måned fordi han "ikke tok AI-sikkerheten seriøst nok." 

Twitter-sjefen fortalte Fox News at Page ønsket å skape 'digital superintelligens' i likhet med en 'digital Gud'. 

Andre steder delte Valeria Pisano fra Quebec AI Institute Hintons holdning om at den off-the-cuff-tilnærmingen til utvikling av AI-systemer ikke ville bli tolerert noe annet sted. 

"Teknologien er lagt ut der, og mens systemet samhandler med menneskeheten, venter utviklerne på å se hva som skjer og gjør justeringer basert på det. Vi ville aldri, som et kollektiv, akseptert denne typen tankesett i noe annet industrifelt,» sa hun. 

Enten du tror bekymringen rundt AIs fremtid er alarmerende eller ikke, er det troverdighet til argumentet om at vi ikke bare gir AI rattet, men vi lar den også potensielt velge sin egen vei.