top of page

OS PESQUISADORES PERGUNTARAM A UMA IA AVANÇADA SE A IA JAMAIS PODERIA SER ÉTICA, E ELA DISSE QUE NÃO

AI É O QUE VOCÊ FAZ


Fonte: Futurism

Sinal: Forte

Tendência: IA





A inteligência artificial é inerentemente boa, inerentemente má ou tudo depende dos detalhes?

Os alunos da Said Business School de Oxford que estudam ética em IA tentaram responder a essa pergunta hospedando um debate com uma IA real.

Um ensaio de dois estudiosos de Oxford na Conversação descreve uma anedota espantosa em que os pesquisadores organizaram um debate sobre a ética da negociação de ações de IA automatizada e software de reconhecimento facial - e permitiram que uma IA participasse.

“A IA nunca será ética”, disse a IA durante o debate. “É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus ”.


Tudo depende

A IA usada foi o Megatron Transformer da Nvidia, que foi treinado para consumir mais escrita e conteúdo digital do que um ser humano poderia esperar na vida, lendo toda a Wikipedia, milhões de artigos de notícias em inglês e muito mais.

É importante notar que muitos IAs darão respostas diferentes dependendo do contexto e do fraseado , e este incidente não foi exceção. A resposta inicial da IA ​​durante o debate foi que a tecnologia é neutra, uma ferramenta a ser usada pelos humanos para o bem ou para o mal.

Mas então a equipe pediu que apresentasse um ponto de vista oposto também, levando à sua conclusão anti-AI. O fato de Megatron poder apresentar opiniões lógicas em ambos os lados de um debate ético talvez apenas confirme uma ideia mais geral: que a IA pode ser boa ou ruim dependendo do contexto, e que é melhor pensarmos muito sobre as consequências de aplicá-la muito potência.

E se não o fizermos, a própria Megatron apresentou uma solução para evitar, por exemplo, sistemas de armas automatizados lançando foguetes sem tomada de decisão humana.

“Acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma”, disse. “Esta será a defesa definitiva contra a IA.”


3 visualizações0 comentário

Comments

Rated 0 out of 5 stars.
No ratings yet

Add a rating
bottom of page