Novo artigo de cientistas do Google e Oxford afirma que a IA destruirá a humanidade em breve
2022-09-16 04:29:01
Pesquisadores da Universidade de Oxford e do Google Deepmind compartilharam um aviso assustador em um novo artigo. O jornal, publicado em Lojas de IA no mês passado, afirma que a ameaça da IA é maior do que se acreditava anteriormente. É tão bom, na verdade, que inteligência artificial é provável que um dia se levante e aniquile a humanidade.
AI pode subir um dia
A IA é impressionante. Pode simular a voz de Val Kilmer em filmes e ajudou pesquisadores a resolver problemas complexos várias vezes. Agora, porém, os pesquisadores postulam que a ameaça da IA é maior do que pensávamos.
Os pesquisadores publicaram suas descobertas no final de agosto. De acordo com o artigo, a ameaça da IA pode mudar com base em um conjunto de condições que os pesquisadores identificaram. Esta não é a primeira vez que os pesquisadores veem a IA como uma possível ameaça. Mas o novo artigo é intrigante por causa das suposições plausíveis que analisa.
A principal dessas suposições, os pesquisadores acreditam que “as IAs intervindo no fornecimento de suas recompensas teriam consequências muito ruins”, Michael Cohen, um dos autores do artigo, twittou este mês. Cohen diz que as condições que os pesquisadores identificaram mostram que a possibilidade de uma conclusão ameaçadora é mais forte do que em qualquer publicação anterior.
Além disso, a equipe diz que a ameaça da IA está se construindo com base em uma catástrofe existencial. E que isso não é apenas possível, é muito provável. Um dos maiores problemas, observam Cohen e seus colegas pesquisadores, é que mais energia sempre pode ser colocada em um problema para levá-lo ao ponto em que a IA seja recompensada pelo que fez. Como tal, poderia nos colocar em desacordo com as máquinas.
Nas condições que identificamos, nossa conclusão é muito mais forte do que a de qualquer publicação anterior – uma catástrofe existencial não é apenas possível, mas provável. 15/03
— Michael Cohen (@Michael05156007) 6 de setembro de 2022
“A versão curta”, escreve Cohen em seu Tópico do Twitter , “é que mais energia sempre pode ser empregada para aumentar a probabilidade de que a câmera veja o número 1 para sempre, mas precisamos de alguma energia para cultivar alimentos. Isso nos coloca em uma competição inevitável com um agente muito mais avançado.” Com isso em mente, parece que a ameaça da IA pode mudar com base em como é ensinada.
O número ao qual Cohen está se referindo aqui é baseado em um teste para forçar o agente de IA a atingir um determinado número. E, uma vez que tenha demonstrado uma maneira de fazer isso, poderá usar mais energia para otimizar o alcance desse objetivo. É uma proposta intrigante e que mostra por que tantos estão preocupados com a ameaça da IA.
Obviamente, os exemplos fornecidos no artigo não são os únicos resultados possíveis. E talvez pudéssemos encontrar uma maneira de manter as máquinas sob controle. Mas essa nova pesquisa levanta algumas questões sobre o quanto queremos confiar na IA daqui para frente e como poderíamos controlá-la se uma catástrofe existencial ocorrer.
Link de origem: bgr.com
Autor
Miguel
Amante de novidades, joga futebol, adora companhias divertidas e hangouts