O gerador de imagens AI Midjourney encerra os testes gratuitos depois que deepfakes de Trump e do Papa se tornam virais

2023-04-21 20:58:06   Mão robótica usando laptop. Imagem: Kilito Chan/Getty Images

Midjourney pode ter construído um produto muito bom antes de estar pronto para lidar com as consequências do que acontece quando as pessoas o usam.

Conforme relatado por The Washington Post , a empresa parou de oferecer testes gratuitos para novos usuários, citando “demanda extraordinária e abuso de teste”. David Holz, fundador e CEO da Midjourney, fez o anúncio no Discord, admitindo que as 'novas medidas de segurança contra abusos da empresa... não pareciam ser suficientes'.

“Só queremos minimizar o drama”, disse o fundador e CEO da empresa, David Holz, no ano passado em um post no serviço de bate-papo Discord. “A sátira política na China não é legal”, acrescentou, e “a capacidade das pessoas na China de usar essa tecnologia é mais importante do que sua capacidade de gerar sátira”.

Além do anúncio no Discord, Holz realizou uma sessão ao vivo no serviço, onde admitiu que a empresa não tinha certeza de como lidar com a qualidade da ferramenta que criou. O CEO disse que, neste momento, a empresa pode ir “totalmente Disney ou totalmente Wild West” no que diz respeito ao realismo das imagens.

E em uma sessão de “horário comercial” do Midjourney na quarta-feira, Holz disse a uma audiência ao vivo de cerca de 2.000 pessoas no Discord que estava lutando para determinar as regras de conteúdo, especialmente para retratar pessoas reais, “à medida que as imagens se tornam cada vez mais realistas e as ferramentas ficar cada vez mais poderoso.” “Existe um argumento para ir totalmente para a Disney ou para o Velho Oeste, e tudo no meio é meio doloroso”, disse ele. “Estamos meio que no meio agora, e não sei como me sentir sobre isso.”

Para aqueles que ainda desejam usar o Midjourney, agora você precisará pagar para fazer isso. O custo da assinatura mensal varia de $ 10 a $ 60 por mês.

Midjourney está respondendo devido aos recentes deepfakes virais que vieram do serviço. Se você viu fotos do ex-presidente Donald Trump sendo preso ou do Papa Francisco vestindo um elegante jaleco branco, viu uma imagem gerada por IA que foi criada usando o Midjourney.

À medida que o realismo dessas imagens, muitas das quais foram criadas simplesmente digitando o que você deseja que a imagem represente, entra na vida cotidiana, será ainda mais difícil distinguir entre o que é uma imagem gerada por IA e o que é realmente real. Algumas empresas como a Runway já estão trabalhando para criar vídeos realistas gerados por IA , o que tornará as coisas ainda mais desafiadoras.

A corrida da IA ​​está acelerando tanto que, esta semana, um grupo de especialistas, incluindo nomes notáveis ​​como Elon Musk e Steve Wozniak, assinou uma carta aberta para interromper imediatamente o desenvolvimento de IA mais avançada do que a GPT-4 da OpenAI. O grupo diz que não fazer isso antes que os trilhos de proteção adequados possam ser colocados representa “riscos profundos para a sociedade e a humanidade”.

não perca : O ChatGPT fez um teste de QI e sua pontuação foi altíssima
Link de origem: bgr.com
Autor

Miguel

Amante de novidades, joga futebol, adora companhias divertidas e hangouts