Se a IA começar a manipular a opinião pública, nunca veremos isso acontecer

2023-12-16 16:26:16 Lar Tecnologia Aplicativos e software Por Chris Smith Publicado em 14 de dezembro de 2023 às 10h52 EST   CEO da OpenAI, Sam Altman Imagem: Win McNamee/Getty Images

Se você comprar através de um link BGR, poderemos ganhar uma comissão de afiliado, ajudando no suporte nossos laboratórios de produtos especializados.

Estamos nos primórdios do software de IA generativo e eles já estão começando a mudar a forma como usamos a tecnologia, bem como a forma como somos produtivos. IA generativa como Bate-papoGPT e os seus rivais poderão mudar o mundo para melhor. Mas o sucesso não é garantido e não é simples. Muitas pessoas temem que a IA possa acabar com o mundo como o conhecemos, incluindo algumas das mesmas pessoas que desenvolveram a tecnologia de IA que nos trouxe até aqui.

Embora eu não compartilhe necessariamente dessas opiniões pessimistas sobre IA, estou ciente de que isso pode acontecer. Quando a IA atingir a AGI (inteligência artificial geral), poderemos perdê-la, e uma IA ruim poderá levar a eventos que acabarão com o mundo. Antes que isso aconteça, estou mais preocupado com um tipo diferente de perigo que os atuais modelos de IA podem representar para a sociedade: a manipulação da opinião pública.

Acontece que o CEO da OpenAI, Sam Altman, também acha que a IA que vê tudo o que você escreve online poderia então criar mensagens que poderiam manipulá-lo de forma mais eficaz do que qualquer algoritmo anterior poderia. Ele disse isso em uma nova entrevista sobre os recentes acontecimentos em OpenAI , onde também compartilhou suas idéias sobre o futuro da IA.

Sam Altman ainda não explica sua demissão

A OpenAI demitiu e recontratou Altman há cerca de um mês, tudo no decorrer de uma semana. Não aprendemos o verdadeiro motivo do drama, e Sam Altman não está falando . Ele disse em entrevista anterior que uma análise independente desses eventos fornecerá explicações. Altman evitou responder perguntas semelhantes durante sua entrevista com Tempo , embora ele tenha abordado o evento.

Tecnologia. Entretenimento. Ciência. Sua caixa de entrada.

“Sempre dissemos que algum momento como este chegaria”, disse Altman. “Não pensei que isso aconteceria tão cedo, mas acho que estamos mais fortes por termos passado por isso.”

Ele também direcionou a conversa para a AGI e reconheceu que o mundo está certo em questionar a capacidade da OpenAI de operar durante tal drama. Alguns especularam que OpenAI pode ter feito algum tipo de avanço em AGI , o que poderia ter sido um fator na demissão de Altman.

“Tem sido extremamente doloroso para mim pessoalmente, mas acho que tem sido ótimo para a OpenAI. Nunca estivemos tão unidos”, disse ele. “À medida que nos aproximamos da inteligência artificial geral, à medida que os riscos aumentam aqui, a capacidade da equipe OpenAI de operar em tempos de incerteza e estressantes deve ser de interesse para o mundo.”

  Palestra do OpenAI DevDay: uso do ChatGPT este ano.
Palestra do OpenAI DevDay: uso do ChatGPT este ano. Fonte da imagem: YouTube

AGI é um grande ponto de discussão para o CEO da OpenAI

O CEO também reconheceu que “todos os envolvidos nisso, à medida que nos aproximamos cada vez mais da superinteligência, ficam mais estressados ​​e mais ansiosos”. Ele também abordou as mudanças que a OpenAI precisa fazer no conselho para garantir o desenvolvimento de AGI seguro. Altman novamente pareceu conectar AGI ao seu disparo.

“Temos que fazer mudanças. Sempre dissemos que não queríamos que a AGI fosse controlada por um pequeno grupo de pessoas, queríamos que fosse democratizada. E claramente erramos”, disse Altman. “Portanto, acho que se não melhorarmos nossa estrutura de governança, se não melhorarmos a forma como interagimos com o mundo, as pessoas não deveriam [confiar na OpenAI]. Mas estamos muito motivados para melhorar isso.”

AGI foi claramente um grande ponto de discussão para Altman durante a entrevista, e isso é compreensível dado o que acabou de acontecer no mundo da IA.

Nos últimos dias, o Google lançou o Gemini, seu primeiro rival real do ChatGPT. Então a startup francesa Mistral completou outra rodada de financiamento, disponibilizando seu Mixtral AI gratuitamente para desenvolvedores . Meta então anunciou que Meta AI ouvirá o que você diz e verá o que você vê através dos óculos inteligentes Ray-Ban.

Antes de tudo isso, Amazon lançou seu próprio modelo generativo de IA que visa empresas e desenvolvedores.

  Google's Gemini AI system revealed at Google I/O 2023.
Sistema Gemini AI do Google revelado no Google I/O 2023. Fonte da imagem: Google

O perigo imediato da IA ​​é a manipulação

Todos os envolvidos no desenvolvimento generativo de IA também estão impulsionando a AGI, e não há como dizer quem chegará lá primeiro. Altman acredita que a AGI “será a tecnologia mais poderosa que a humanidade já inventou”, provocando que em breve experimentaremos “o mundo que a ficção científica nos prometeu há muito tempo”.

Mas chegar a “coisas novas e incríveis” via AGI não será isento de riscos. Altman alertou: “haverá desvantagens reais”. Foi aí que ele destacou a desinformação alimentada pela IA que poderemos começar a ver, especialmente em anos como 2024, que trazem grandes ciclos eleitorais.

“Uma coisa que me preocupa mais é o que acontecerá se uma IA ler tudo o que você já escreveu online… e então, no exato momento, enviar a você uma mensagem personalizada que realmente muda a maneira como você pensa sobre o mundo ”, disse Altman.

Se isso parece perturbador, é porque é. O cenário acima pode acontecer sem que ninguém perceba. Lembre-se de que qualquer pessoa com recursos suficientes pode desenvolver IA generativa como o ChatGPT agora mesmo, incluindo estados-nação que não são tão democráticos. Países que gostariam de usar a IA como arma para manipular a opinião pública.

Estou apenas especulando aqui, mas mostrei a você as coisas incríveis que Gêmeos pode fazer a portas fechadas . Vimos um relatório há alguns dias que detalhava o trabalho interno do Google nos recursos do Gemini que permitiriam ao chatbot inferir informações sobre o usuário simplesmente obtendo acesso a todas as suas informações. Na época, destaquei os perigos de uma empresa como o Google usar IA para traçar perfis de usuários para fins publicitários.

Quanto ao cenário de Altman, que é totalmente plausível, há outra grande desvantagem. Se alguém estiver trabalhando nessa IA, e ela for implantada on-line para ajudar entidades que desejam manipular a opinião pública, nunca veremos isso acontecer. Ao contrário das fazendas de trolls, que eventualmente são descobertas, uma IA ruim poderia ajudar nessas campanhas de manipulação, e nunca seremos capazes de provar isso.

  Ilustração fotográfica do ChatGPT
Nesta ilustração fotográfica, o logotipo ChatGPT (OpenAI) é exibido na tela de um smartphone. Fonte da imagem: Rafael Henrique/SOPA Images/LightRocket via Getty Images

O futuro da IA ​​é brilhante, apesar das preocupações

Por falar nisso, não há provas de que rivais da IA ​​do ChatGPT com poderes como os descritos por Altman estejam em uso em qualquer lugar do mundo no momento. Estou falando de software de IA que não possui proteções instaladas. Produtos comerciais de IA generativa, como ChatGPT, possuem grades de proteção para evitar tal abuso. Mas muita coisa pode acontecer num espaço de tempo muito curto quando se trata de IA. Isso é o que 2023 provou até agora.

Ainda assim, Altman está esperançoso quanto ao futuro da IA, que é o que você esperaria do CEO de uma das empresas de tecnologia de IA mais importantes do mundo atualmente. Ele disse que a IA segura e responsável, como a OpenAI está desenvolvendo, tem o potencial de criar um “caminho onde o mundo se torna muito mais abundante e melhor a cada ano”.

Além dos gênios da tecnologia de IA que estão traçando nosso caminho para a AGI, esperamos que uma forte regulamentação da IA ​​ajude nisso. Os legisladores dos EUA e da União Europeia já estão a estabelecer directrizes para o desenvolvimento de IA segura. Esperamos que isso evite cenários de manipulação como os descritos por Altman. Ou atrasá-los, pelo menos.

Entrevista de Altman com Tempo está disponível na íntegra neste link .

Não perca : Os recursos de IA da Meta para óculos inteligentes Ray-Ban me fazem pensar que os óculos AR da Apple são inevitáveis
Link de origem: bgr.com
Autor

Miguel

Amante de novidades, joga futebol, adora companhias divertidas e hangouts