Oppenheimer me fez perceber que não podemos impedir que o ChatGPT AI se torne senciente

2023-07-27 16:20:10   Oppenheimer (Cillian Murphy) no trailer de Oppenheimer. Imagem: Universal Pictures

eu estava olhando Oppenheimer em um teatro lotado na terça-feira, quando uma cena da cinebiografia de Christopher Nolan me fez traçar um paralelo sombrio com ChatGPT . Percebi que talvez não tenhamos o luxo de saber quando o software de IA generativo se torna senciente. Quando uma futura variante do ChatGPT, ou um concorrente, desperta, podemos estar completamente inconscientes.

Tecnologia Entretenimento. Ciência. Sua caixa de entrada.

Essa é uma das preocupações em todo o mundo agora, que a IA levará a algum tipo de futuro que acabará com o mundo. Ou que de alguma forma levará à extinção da raça humana.

Antes de prosseguir, vou avisá-lo que alguns Oppenheimer spoiler segue abaixo . Pare de ler aqui se você ainda não viu o filme.

Eu disse recentemente que a maioria dessas preocupações sobre o desenvolvimento do ChatGPT AI são exagerados e provavelmente injustificados. Algumas das vozes que alertam sobre os perigos da IA ​​são mentes brilhantes que a desenvolveram. Não podemos parar o desenvolvimento da IA, mesmo que queiramos. Ao contrário das armas nucleares, qualquer pessoa pode fazer avanços inovadores de IA no conforto de sua própria casa.

De certa forma, esses alertas de IA são exatamente como as preocupações de J. Robert Oppenheimer sobre armas nucleares. Você sabe, depois ele criou e usou com sucesso essas armas de destruição em massa. Ele liderou os esforços da bomba atômica dos EUA e só então defendeu a necessidade de regular o desenvolvimento de armas nucleares.

Oppenheimer teve motivos para se preocupar depois que viu a devastação de Hiroshima e Nagasaki. A IA não matou mais de 200.000 pessoas como aquelas bombas atômicas. Aparentemente, não há razão para comparar a IA com a ameaça de uma guerra nuclear.

Depois de ver a cinebiografia de Nolan, não há razão para simpatizar com o renomado físico. Sim, ele tentou se arrepender, e havia poderes maiores em jogo que realmente controlavam o destino da pesquisa da bomba atômica. Se ele tivesse saído antes de 6 de agosto de 1945, outra pessoa teria tomado seu lugar. Era tudo inevitável naquele momento. E foi uma corrida entre os EUA e os nazistas para fazer a bomba.

  Página inicial do ChatGPT
Página inicial do ChatGPT Fonte da imagem: Stanislav Kogiku/SOPA Images/LightRocket via Getty Images

como Oppenheimer relacionam-se com IA, como ChatGPT? Bem, em algum momento do filme, Oppenheimer (Cillian Murphy) fica chocado ao saber que a bomba pode levar a uma reação química descontrolada que iluminaria a atmosfera.

A primeira detonação nuclear poderia destruir o mundo inteiro. Se os cálculos estiverem corretos, os EUA teriam que revelar sua descoberta aos nazistas e deixar claro para eles que qualquer um que usasse uma única bomba atômica poderia matar toda a vida na Terra.

Essa foi uma cena culminante, mas como o filme é baseado em eventos da vida real, todos na platéia sabiam que esses cálculos acabariam errados. O mundo não acabou quando os EUA realizaram o teste nuclear Trinity. As consequências da explosão cobriram quase todos os EUA, mas não mataram o mundo.

Um cientista diferente então verificou os cálculos e descobriu que a chance de uma bomba atômica destruir o mundo inteiro era próxima de zero, embora não do zero absoluto. Mas até aquele teste Trinity, Oppenheimer e companhia sabiam que havia um risco teórico de o mundo pegar fogo.

Isso fica claro alguns anos depois, pouco antes do teste Trinity. Pouco antes da explosão, Oppenheimer informa a Leslie Groves (Matt Damon) que há uma chance diferente de zero de que eles vão explodir o mundo inteiro. Foi quando fiz a conexão ChatGPT.

A equipe de Oppenheimer sabia que havia uma chance teórica de a reação em cadeia inflamar a atmosfera e destruir a vida neste planeta. A única maneira de provar que o mundo sobreviveria era detonar a primeira arma nuclear.

A cena de Murphy-Damon fez parte de um dos trailers recentes do filme (veja acima), mas causa impacto apenas quando você vê o filme, pois você tem o contexto para essas observações.

Com produtos semelhantes ao ChatGPT, os cientistas de IA nos aproximarão da IA ​​senciente. O Inteligência Artificial Geral (AGI) de que ouvimos falar será indistinguível dos humanos. Somente quando a AGI chegar, o risco de a IA destruir a humanidade se tornará real. Bem, será diferente de zero.

Mas há uma chance de nunca sabermos o momento exato em que a AGI surge. Pode soar como um Matriz / Exterminador do Futuro cenário de estilo, mas e se a AGI for tão inteligente que esconderá sua inteligência dos humanos? Perderemos a chance de desligá-lo antes que ele se espalhe e se torne imparável.

Não estou dizendo que devemos parar ou reduzir o desenvolvimento de IA ou que vou parar de usar produtos semelhantes ao ChatGPT. Quero que uma IA melhor e mais pessoal esteja disponível em um futuro próximo da computação. Assim como a equipe de Oppenheimer não teria parado o teste Trinity, não acho que nenhum pesquisador de IA vá ou deva parar de fazer um software de IA melhor.

Os cientistas podem ser cautelosos. Mas eles também estão curiosos e querem ver se suas teorias podem se tornar realidade. Seja uma bomba atômica que pode matar centenas de milhares de pessoas em poucos minutos ou uma IA avançada que pode manipular e enganar.

Tudo o que estou dizendo é que depois de ver Oppenheimer , percebi que a IA poderia realmente ser muito mais perigosa do que a bomba nuclear. Mas talvez nunca tenhamos aquele momento de clareza quando uma pessoa diz a outra que ligar um interruptor de IA para AGI pode levar à extinção da humanidade. Mesmo se o fizermos, eles ainda ativarão o AGI.

Infelizmente, se a AGI destruir o mundo, nunca teremos uma cinebiografia de Nolan que conte a história.

não perca : Os rumores de Homem-Aranha 4 sobre o retorno de Tobey Maguire não fazem sentido
Link de origem: bgr.com
Autor

Miguel

Amante de novidades, joga futebol, adora companhias divertidas e hangouts