Não podemos colocar o gênio do ChatGPT AI de volta na garrafa, mesmo que isso signifique risco de extinção

2023-05-30 18:15:02   Nesta ilustração fotográfica, a tela de boas-vindas do OpenAI"ChatGPT" app is displayed on a laptop screen. Imagem: Leon Neal/Getty Images

Muitas pessoas se preocupam com produtos generativos de IA como o ChatGPT, tanto online quanto na vida real. Não são apenas os usuários regulares do ChatGPT que se perguntam se estamos nos primeiros dias da extinção humana gerada pela IA. Muitas das mentes brilhantes por trás de alguns dos produtos de IA mais legais do mundo já alertam que a regulamentação é necessária.

O último aviso vem na forma de uma declaração curta de 22 palavras cujos signatários incluem o CEO da OpenAI, Sam Altman. Como muitos sabem, essa é a empresa que criou o ChatGPT e o lançou:

“Mitigar o risco de extinção da IA ​​deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”.

Isso parece ótimo em teoria. Na prática, não creio que possamos colocar o gênio do ChatGPT AI de volta na garrafa agora que saiu, por mais palavras que as mentes mais brilhantes do mundo usem para emitir alertas sobre o fim dos tempos. Não podemos parar o desenvolvimento de tais tecnologias. E sim, a IA provavelmente chegará a um ponto em que não seremos capazes de controlá-la. Mas isso não precisa levar à nossa extinção.

A declaração de 22 palavras acima está disponível no site da Centro de Segurança de IA , uma organização sem fins lucrativos com sede em San Francisco. Qualquer um pode colocar seu nome nessa lista, seja um pesquisador de IA ou uma figura notável. A declaração ChatGPT AI de 22 palavras fará as rondas. Você pode esperar que ele apareça em boletins de notícias e referências ao redor do mundo.

Você encontrará Geoffrey Hinton, o padrinho da IA , na lista de signatários. Ele acabou de sair do Google para falar sobre os perigos do ChatGPT e produtos similares de forma livre e aberta. O CEO do Google DeepMind, Demis Hassabis, também está na lista.

Qualquer um que seja alguém na pesquisa de IA vai querer assinar este aviso sombrio. Você vai querer ter seu nome lá, mesmo que sua pesquisa tenha nos levado a este momento, onde tememos que uma versão mais inteligente do ChatGPT possa levar à extinção. As mesmas pessoas que emitem esses avisos estão trabalhando atualmente em variantes de IA ainda mais rápidas, inteligentes e eficientes que estarão disponíveis em nossos dispositivos nos próximos anos.

Será uma grande conquista dizer que você apoiou esta declaração de 22 palavras quando foi publicada pela primeira vez.

  A declaração de 22 palavras sobre riscos de IA.
A declaração de 22 palavras sobre riscos de IA. Fonte da imagem: Centro de Segurança de IA

Mas a dura verdade é que não podemos parar a pesquisa e o desenvolvimento da IA. Ninguém vai parar de fazer produtos ChatGPT mais inteligentes. A competição impulsionará essa inovação. Se OpenAI não desenvolver um modelo melhor que o GPT-4 , o Google o fará. Ou alguém totalmente diferente. Mesmo depois que a regulamentação da IA ​​entrar em vigor, o que certamente acontecerá.

Veja o OpenAI, que ameaçou tirar o ChatGPT da Europa se as leis locais de IA forem muito rígidas. Ou A admissão tácita do Google de que trazer Bard para a UE é impossível dada a regulamentação tecnológica da região. O Google não está em um lugar onde possa aderir aos fortes recursos de privacidade da UE para Bard e outros produtos de IA s .

Mas diga que os reguladores aceitam esse aviso de 22 palavras pelo valor de face. E fortes leis anti-IA começam a aparecer. Ainda será tarde demais. Qualquer um pode use um dos produtos de código aberto do tipo ChatGPT existentes como uma estrutura para sua própria IA generativa privada. Eles poderiam então treinar essa IA para se tornar a figura assustadora e vilã que leva à morte coletiva da humanidade.

Não saberemos que cruzamos esse limite até que seja tarde demais. Independentemente de ser uma empresa privada, militares ou um desenvolvedor inteligente em sua garagem que cria o primeiro produto de IA indistinguível de um ser humano. Mesmo que soubéssemos a atualização de software exata que cria a AGI (inteligência geral artificial), ainda não poderíamos acabar com isso.

Depois, há os governos do mundo. Eles devem estar entusiasmados e apavorados com esse novo recurso/problema. Cada um deve desenvolver IA mais inteligente para que seus inimigos não possam vencê-los com IA. Pode soar como paranóia inspirada em filme de ficção científica. Mas pense na bomba atômica.

Depois de Hiroshima e Nagasaki, o mundo não parou de fabricar bombas nucleares. Na verdade, a pesquisa e o desenvolvimento dispararam. Ninguém voltou a usar um botão atômico desde a Segunda Guerra Mundial, mas essas armas se tornaram mais sofisticadas e destrutivas.

A ameaça da IA ​​é ainda maior do que isso porque qualquer pessoa com um computador decente o suficiente pode criar uma ameaça de IA indutora de extinção. Mas ninguém pode fazer uma arma nuclear em seu porão. Claro, a ameaça da IA ​​ainda é apenas teórica neste ponto, enquanto a ameaça nuclear é muito real.

Não tenho medo da IA, embora inevitavelmente alcancemos a AGI, e nada mudará minha opinião. É exatamente o oposto: estou animado com o que a IA pode oferecer em seus próximos estágios. Depois de resolvermos questões de confiabilidade e privacidade, claro. Mesmo que isso signifique que a IA eventualmente transformará a humanidade em algo melhor... ou a destruirá completamente.

não perca : O Magic Compose AI, que quebra a criptografia do Google, prova que o iPhone não deve suportar mensagens RCS
Link de origem: bgr.com
Autor

Miguel

Amante de novidades, joga futebol, adora companhias divertidas e hangouts