Em entrevista publicada em 1º de maio de 2023, na O jornal New York Times Geoffrey Hinton anunciou sua demissão do Google para que pudesse “falar sobre os perigos da IA sem pensar em como isso afeta o Google”. Embora tenha trabalhado toda a sua vida no desenvolvimento da IA, agora ele expressa sua preocupação com as novas tecnologias. Do que devemos ter medo?
O Poderoso Chefão da IA - Índice
Cientista do “Prêmio Nobel da Computação” e padrinho da IA deixa o Google
Hinton é um psicólogo britânico-canadense e cientista da computação mais conhecido por seu trabalho em redes neurais artificiais. Juntamente com a equipe, ele recebeu o Prêmio Turing de 2018, muitas vezes referido como o “Prêmio Nobel da Computação”, pelo trabalho fundamental que se tornou a base intelectual dos sistemas de inteligência artificial e levou à sua popularização hoje. Ao longo dos anos, ele refinou a tecnologia de chatbots como o ChatGPT, mas agora está preocupado com o fato de que o desenvolvimento e a criação de produtos baseados em IA representam uma ameaça.
Olá, lamento o trabalho da minha vida.
Geoffrey Hinton do The New York Times.
A arriscada rivalidade dos gigantes da tecnologia
O cientista aponta que a “corrida” entre Google e Microsoft não é sem significado, o que a longo prazo pode se tornar perigoso. À medida que a Microsoft expandia seu mecanismo de busca Bing para incluir um chatbot, o Google começou a competir para trazer o mesmo tipo de tecnologia ao mercado o mais rápido possível. Hinton diz que os gigantes da tecnologia estão envolvidos em uma competição que ninguém será capaz de parar. Seu maior medo é a onda de conteúdos falsos – fotos, vídeos e textos – dentro dos quais o cidadão comum não conseguirá determinar o que é real. Em sua opinião, o único caminho certo é que as empresas líderes cooperem no controle da tecnologia de IA.
Não acho que eles devam escalar até entenderem se podem controlá-lo.
Geoffrey Hinton do The New York Times.
Continuamos comprometidos com uma abordagem responsável da inteligência artificial. Estamos constantemente aprendendo a entender as ameaças emergentes enquanto inovamos com ousadia.
Jeff Deano líder-chefe da divisão de IA do Google
Inteligência artificial: qual é a ameaça?
Mas as preocupações de Hinton não são apenas sobre a rivalidade entre as maiores empresas de tecnologia do mundo. Ele também se pergunta como a IA mudará o mercado de trabalho, já que os chatbots já podem assumir as tarefas rotineiras dos funcionários.
A maior preocupação de Hinton, no entanto, é muito mais séria: como será o mundo se a IA se tornar uma “arma autônoma”? Como ele explica em uma entrevista ao The New York Times, os sistemas geralmente aprendem um comportamento inesperado a partir de grandes quantidades de dados sendo analisados, e isso é um problema porque não apenas permitimos que eles escrevam seu próprio código, mas também o executam. E não podemos prever do que a inteligência artificial descontrolada será capaz no futuro. Até Elon Musk admitiu que estava certo, respondendo no Twitter.
Fonte: O jornal New York Timeselaboração própria