Ein halbes Jahrhundert lang hat der „Pate“ der KI, Geoffrey Hinton, die Technologie im Herzen von Chatbots wie ChatGPT gepflegt. Jetzt, nachdem er Google verlassen hat, warnt er davor, dass es in Zukunft ernsthaften Schaden anrichten könnte.
Von vielen als „Pate“ der KI-Technologie angesehen, ebnete Geoffrey Hintons bahnbrechende Forschung den Weg für anspruchsvolle generative Systeme wie ChatGPT.
Der Britisch-Kanadier hat sich über ein halbes Jahrhundert in Informatik und Kognitionspsychologie verdient gemacht. Jetzt, mit 75, hat er es geschafft verließ seinen Posten bei Google, um auf die vermeintlichen Gefahren hinzuweisen, die durch das unaufhörliche Wachstum von KI entstehen.
Während viele von uns derzeit noch in den neuartigen Verwendungsmöglichkeiten der Technologie schwelgen, warnt er davor, dass diese Systeme in Jahren unweigerlich lernen werden, „Möglichkeiten zur Manipulation von Menschen“ zu lernen, und behauptet, dass sie bereits klüger als Menschen werden.
Wenn Sie sich eine Zukunft vorstellen, die der von Blumhouses naffem Horrorfilm ähnelt M3GAN, liegen Sie wahrscheinlich daneben, aber die existenzielle Besorgnis über die mangelnde Regulierung des maschinellen Lernens nimmt schnell zu.
Hinton sagte dem New York Times dass er bis letztes Jahr glaubte, Google sei ein "richtiger Verwalter" der KI gewesen, aber dass alle vorsichtige Sensibilität verschrottet wurde, als Microsoft fusionierte ChatGPT mit Bing – versehentliche Bedrohung seines Google-Suchgeschäfts.
Hinter verschlossenen Türen seien einige bekannte Gefahren vor dieser Entscheidung „ziemlich beängstigend“ gewesen, sagte er der BBC, warnende Chatbots könnten intelligenter als Menschen werden und von „bösen Schauspielern“ ausgenutzt werden.