AI 'padrinho' Geoffrey Hinton adverte sobre seus riscos e sai do Google

'Ele é capaz de produzir muitos textos automaticamente para que você possa obter muitos spambots muito eficazes. Isso permitirá que líderes autoritários manipulem seus eleitorados, coisas assim.' 

Indiscutivelmente mais preocupante, no entanto, é o 'risco do que acontece quando essas coisas se tornam mais inteligentes do que nós', que ele acredita ser inevitável. 

"Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos", disse ele. 'Então, é como se você tivesse 10,000 pessoas e sempre que uma pessoa aprendesse algo, todos automaticamente soubessem. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa.' 

Dentro dos escalões superiores da pesquisa de IA, não é apenas Hinton postulando que a tecnologia pode eventualmente causar danos à humanidade. Elon Musk supostamente se desentendeu com o co-chefe do Google, Larry Page, no mês passado, porque ele "não estava levando a segurança da IA ​​a sério o suficiente". 

O chefe do Twitter disse Fox News que Page queria criar uma 'superinteligência digital' semelhante à de um 'Deus digital'. 

Em outro lugar, Valeria Pisano, do Quebec AI Institute, compartilhou o sentimento de Hinton de que a abordagem improvisada para o desenvolvimento de sistemas de IA não seria tolerada em nenhum outro lugar. 

'A tecnologia é lançada e, à medida que o sistema interage com a humanidade, seus desenvolvedores esperam para ver o que acontece e fazem ajustes com base nisso. Nós nunca, como um coletivo, aceitaríamos esse tipo de mentalidade em qualquer outro campo industrial', disse ela. 

Quer você acredite que a preocupação com o futuro da IA ​​seja alarmista ou não, há credibilidade no argumento de que não apenas estamos dando a mão à IA, mas também potencialmente permitindo que ela escolha seu próprio caminho.