Geoffrey Hinton, „ojciec chrzestny” sztucznej inteligencji, ostrzega przed ryzykiem i odchodzi z Google

„Jest w stanie automatycznie generować dużo tekstu, dzięki czemu można uzyskać wiele bardzo skutecznych robotów spamujących. Pozwoli to autorytarnym przywódcom manipulować elektoratami i tego typu rzeczy”. 

Prawdopodobnie bardziej niepokojące jest jednak „ryzyko tego, co się stanie, gdy te rzeczy staną się bardziej inteligentne od nas”, co jego zdaniem jest nieuniknione. 

"Doszedłem do wniosku, że rodzaj inteligencji, którą rozwijamy, bardzo różni się od inteligencji, którą mamy" - powiedział. „Więc to tak, jakbyś miał 10,000 XNUMX ludzi i gdy tylko jedna osoba się czegoś nauczyła, wszyscy automatycznie o tym wiedzieli. I w ten sposób te chatboty mogą wiedzieć o wiele więcej niż jakakolwiek pojedyncza osoba. 

Na wyższych szczeblach badań nad sztuczną inteligencją Hinton nie tylko twierdzi, że technologia może ostatecznie wyrządzić szkodę ludzkości. Elon Musk podobno pokłócił się ze współdyrektorem Google, Larrym Page, w zeszłym miesiącu, ponieważ „nie traktował bezpieczeństwa sztucznej inteligencji wystarczająco poważnie”. 

Szef Twittera powiedział Fox News że Page chciał stworzyć „cyfrową superinteligencję” podobną do „cyfrowego boga”. 

W innym miejscu Valeria Pisano z Quebec AI Institute podzielała opinię Hintona, że ​​nieszablonowe podejście do rozwoju systemów sztucznej inteligencji nie byłoby tolerowane nigdzie indziej. 

„Technologia jest już dostępna, a gdy system wchodzi w interakcję z ludzkością, jej twórcy czekają, aby zobaczyć, co się stanie, i na tej podstawie wprowadzają poprawki. Nigdy jako kolektyw nie zaakceptowalibyśmy takiego sposobu myślenia w żadnej innej dziedzinie przemysłu” – powiedziała. 

Niezależnie od tego, czy uważasz, że obawy dotyczące przyszłości sztucznej inteligencji są alarmujące, czy nie, argument, że nie tylko przekazujemy AI ster, ale także potencjalnie pozwalamy jej wybrać własną ścieżkę, jest wiarygodny.