KI-„Pate“ Geoffrey Hinton warnt vor den Risiken und verlässt Google

„Es ist in der Lage, automatisch viel Text zu produzieren, sodass Sie viele sehr effektive Spambots erhalten können. Es wird autoritären Führern erlauben, ihre Wählerschaft zu manipulieren, solche Dinge.' 

Besorgniserregender ist jedoch wohl das „Risiko dessen, was passiert, wenn diese Dinger intelligenter werden als wir“, was er für unvermeidlich hält. 

"Ich bin zu dem Schluss gekommen, dass sich die Art der Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben", sagte er. „Also, es ist, als hätte man 10,000 Leute und wenn eine Person etwas gelernt hat, wussten es automatisch alle. Und deshalb können diese Chatbots so viel mehr wissen als eine einzelne Person.“ 

In den oberen Rängen der KI-Forschung postuliert nicht nur Hinton, dass die Technologie der Menschheit letztendlich schaden könnte. Berichten zufolge hat sich Elon Musk erst letzten Monat mit Google-Co-Chef Larry Page überworfen, weil er „die Sicherheit von KI nicht ernst genug nahm“. 

Der Twitter-Chef erzählte Fox News dass Page eine „digitale Superintelligenz“ schaffen wollte, die der eines „digitalen Gottes“ ähnelt. 

An anderer Stelle teilte Valeria Pisano vom Quebec AI Institute Hintons Ansicht, dass der spontane Ansatz zur Entwicklung von KI-Systemen nirgendwo anders toleriert würde. 

„Die Technologie wird auf den Markt gebracht, und während das System mit der Menschheit interagiert, warten seine Entwickler ab, was passiert, und nehmen darauf basierend Anpassungen vor. Als Kollektiv würden wir diese Denkweise in keinem anderen Industriebereich akzeptieren“, sagte sie. 

Unabhängig davon, ob Sie die Sorge um die Zukunft der KI für alarmierend halten oder nicht, ist das Argument glaubwürdig, dass wir der KI nicht nur das Steuer übergeben, sondern ihr möglicherweise auch erlauben, ihren eigenen Weg zu wählen.