"Ver tantas pessoas proeminentes [de aprendizado de máquina] ridicularizando essa ideia é decepcionante."
Fonte: Twitter
Em meio a um turbilhão desencadeado por um proeminente pesquisador de IA dizendo que alguma IA já pode estar alcançando uma consciência limitada , um pesquisador de IA do MIT está dizendo que o conceito pode não ser tão absurdo.
Nossa história começa com Ilya Sutskever, cientista-chefe do grupo de pesquisa OpenAI, cofundado por Elon Musk. Em 9 de fevereiro, Sutskever twittou que “pode ser que as grandes redes neurais de hoje sejam ligeiramente conscientes”.
Em resposta, muitos outros no espaço de pesquisa de IA criticaram a afirmação do cientista da OpenAI, sugerindo que estava prejudicando a reputação do aprendizado de máquina e equivalia a pouco mais do que um “ arremesso de vendas ” para o trabalho da OpenAI.
Essa reação agora gerou sua própria reação do cientista da computação do MIT Tamay Besiroglu, que agora está contrariando a tendência vindo em defesa de Sutskever.
“Ver tantas pessoas proeminentes [de aprendizado de máquina] ridicularizando essa ideia é decepcionante”, twittou Besiroglu . “Isso me deixa menos esperançoso na capacidade do campo de levar a sério algumas das questões profundas, estranhas e importantes que eles, sem dúvida, enfrentarão nas próximas décadas.”
“Na verdade, não acho que possamos traçar uma linha clara entre modelos que são 'não conscientes' e 'talvez um pouco conscientes'”, disse ele em uma mensagem de acompanhamento. “Também não tenho certeza se nenhum desses modelos está consciente.”
“Dito isso, acho que a pergunta pode ser significativa e não deve ser negligenciada”, acrescentou.
Embora os medos de computadores conscientes remontam ao infame “Maschinenmensch” em “Metropolis” de 1927, pesquisadores repetidamente apostaram no conceito, dizendo que era muito longe no futuro para se preocupar ainda – e que, em qualquer caso, o uso indevido de IA menos avançada já é generalizado .
Essa postura explica grande parte da reação à afirmação de Sutskever, que representou uma das primeiras vezes que um pesquisador de IA confiável deu a entender que sua criação pode ter ganhado alguma consciência própria.
OpenAI – que Sutskever cofundou ao lado de Musk e do atual CEO do grupo, Sam Altman – ganhou notoriedade nos últimos anos por fazer o GPT-3, um algoritmo sofisticado de geração de texto que causou controvérsia depois que os usuários o exploraram de maneiras bastante grotescas .
A IA avançou tão rapidamente nos últimos anos que muitos humanos, cujas capacidades avançadas de inteligência evoluíram muitas dezenas de milhares de anos atrás , parecem estar lutando com o conceito vertiginoso de computadores conscientes.
Se nada mais, essa iteração do debate consciente sobre IA pode estar ampliando os limites do que constitui a consciência – e pode, em última análise, desempenhar um papel em como chegamos a defini-la.
Comments