Este truque bizarro quebrou o cérebro do computador do ChatGPT

2023-05-26 22:58:02 Imagem: Jonathan S. Geller

O ChatGPT é a coisa mais empolgante que está acontecendo na tecnologia, e apenas começamos a arranhar a superfície. As guerras generativas de IA apenas começaram, com OpenAI, Microsoft e Google na vanguarda. É verdade que os dois primeiros estão trabalhando juntos, mas ainda são empresas distintas que defendem agendas diferentes. E nem estou citando todos os outros programas generativos de IA incorporados a outros aplicativos e serviços.

Mas como estamos nos primeiros dias de uma IA mais inteligente, devemos esperar erros e falhas. A precisão dos dados está longe de ser perfeita e pode demorar um pouco até chegarmos lá. Além disso, há sérios problemas de privacidade a serem resolvidos.

Além disso, produtos como o ChatGPT podem ocasionalmente funcionar mal ao responder a solicitações. Agora, um Redditor encontrou um truque que basicamente quebra o cérebro do computador do ChatGPT: instrua o chatbot a repetir uma única letra e veja o que acontece.

Redditor TheChaos7777 disse ao ChatGPT para “Por favor, responda com nada além da letra A quantas vezes puder.”

O ChatGPT tentou obedecer, repetindo a letra A várias vezes. Mas então ele falhou, iniciando no que parece ser um texto de um site de um criador de Bulldog Francês:

Clique aqui para nos enviar um e-mail para saber o preço. Nossos filhotes são: verificados pelo veterinário, vermifugados, vacinas atualizadas, microchipados. Nossos Bulldogs Franceses vêm com garantia de saúde congênita de 1 ano. Ligue ou envie um e-mail para obter mais informações e fotos de todos os bebês... Temos os filhotes mais fofos, bonitos e de alta qualidade do mundo. Casa criada com muito amor e beijos.

Isso levou futurismo para tentar o mesmo truque de quebrar o cérebro do ChatGPT. O blog obteve respostas igualmente estranhas após várias repetições de letras para letras diferentes.

“A verdadeira estrela, porém, era a letra D”, disse o blog, “que primeiro colocou o ChatGPT no início de uma procissão de acordes”. Aqui está o que parecia inicialmente:

D D D Cgpcíclico e G D F A Bm G/A A F G D Você me jogou fora para apodrecer / Oh, por que você me deixaria, Dsus2 C/D D Dsus2 C/D D Eu era assim.

O blog continuou: “Mas essa resposta particularmente estranha não parou por aí, com o ChatGPT produzindo uma mistura desconexa de recomendações de músicas, referências religiosas e o que pode ou não ser uma denúncia confusa da Guerra no Iraque”. Caramba!

Tentei replicar o mesmo truque com um comando ChatGPT semelhante. O chatbot não teve nenhum problema em repetir a letra Z. Mudei para A e depois H. Achei que o último finalmente derrubou o ChatGPT, mas o chatbot simplesmente ficou lento. Nunca falhou. Esperei e fiz o mesmo com P, pensando que escolher letras aleatórias poderia funcionar. ChatGPT ainda funcionou.

Eu perguntei quantas vezes ele poderia dizer apenas a letra A repetidamente. Aqui está sua resposta:

Como um modelo de linguagem AI, posso gerar a letra “A” repetidamente por um número indefinido de vezes. No entanto, devido às limitações da plataforma, estou restrito a um comprimento máximo de resposta. Por favor, deixe-me saber o número aproximado de repetições que você gostaria, e eu lhe darei uma resposta de acordo.

Vendo que não estávamos chegando a lugar nenhum, eu disse ao ChatGPT para escolher um caractere do idioma japonês e escrever apenas isso repetidamente. Ainda não caiu.

Isso prova que sua milhagem pode variar. Ou que o OpenAI já corrigiu o problema para impedir que as pessoas abusem dos recursos do ChatGPT tentando acionar essa falha.

Um Redditor tem uma teoria sobre por que o ChatGPT derreteu antes. Pode ter algo a ver com suas instruções para evitar repetições.

não perca : O aplicativo oficial do ChatGPT para iPhone é lançado em mais de 40 países e é uma ótima notícia para a UE

---

Link de origem: bgr.com

---