AI É O QUE VOCÊ FAZ
Fonte: Futurism
Sinal: Forte
Tendência: IA
A inteligência artificial é inerentemente boa, inerentemente má ou tudo depende dos detalhes?
Os alunos da Said Business School de Oxford que estudam ética em IA tentaram responder a essa pergunta hospedando um debate com uma IA real.
Um ensaio de dois estudiosos de Oxford na Conversação descreve uma anedota espantosa em que os pesquisadores organizaram um debate sobre a ética da negociação de ações de IA automatizada e software de reconhecimento facial - e permitiram que uma IA participasse.
“A IA nunca será ética”, disse a IA durante o debate. “É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus ”.
Tudo depende
A IA usada foi o Megatron Transformer da Nvidia, que foi treinado para consumir mais escrita e conteúdo digital do que um ser humano poderia esperar na vida, lendo toda a Wikipedia, milhões de artigos de notícias em inglês e muito mais.
É importante notar que muitos IAs darão respostas diferentes dependendo do contexto e do fraseado , e este incidente não foi exceção. A resposta inicial da IA durante o debate foi que a tecnologia é neutra, uma ferramenta a ser usada pelos humanos para o bem ou para o mal.
Mas então a equipe pediu que apresentasse um ponto de vista oposto também, levando à sua conclusão anti-AI. O fato de Megatron poder apresentar opiniões lógicas em ambos os lados de um debate ético talvez apenas confirme uma ideia mais geral: que a IA pode ser boa ou ruim dependendo do contexto, e que é melhor pensarmos muito sobre as consequências de aplicá-la muito potência.
E se não o fizermos, a própria Megatron apresentou uma solução para evitar, por exemplo, sistemas de armas automatizados lançando foguetes sem tomada de decisão humana.
“Acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma”, disse. “Esta será a defesa definitiva contra a IA.”
Comentários