O AI Midjourney oferece testes gratuitos, mas o aumento no número de usuários é o responsável.

O CEO e fundador da Midjourney, David Holz, divulgou na terça-feira que a empresa interromperia seus testes gratuitos, que eram originalmente oferecidos devido a “execução extraordinária e abuso de julgamento”, conforme relatado pelo The Washington Post. Em um e-mail para o The Verge, Holz informou que a pausa no serviço se deve ao grande número de usuários criando perfis falsos para obter imagens de graça.

Holz disse por e-mail que acreditavam que um vídeo viral de como fazer algo na China provavelmente era o responsável, e que isso coincidiu com uma escassez temporária de GPUs. Estas duas coisas juntas estavam prejudicando o serviço para usuários que pagam.

Dado o referido “abuso” por Holz, foi inicialmente sugerido que a pausa estava relacionada às recentes imagens criadas usando o Midjourney, incluindo montagens de Donald Trump sendo preso e do Papa usando uma jaqueta chique, que alguns acreditaram ser fotografias reais. Entretanto, Holz descreveu os relatórios anteriores como ‘equivocados’ e salientou que o teste gratuito para o Midjourney nunca incluiu o acesso à versão mais recente do aplicativo, a versão 5, que produz imagens mais verdadeiras e que se acredita ter sido usada para essas imagens virais.

A versão 5 da Midjourney proporcionou um salto na qualidade das imagens que retratam as pessoas. Por exemplo, as mãos desajeitadas que eram previamente um problema comum em imagens produzidas por IA são agora menos presentes. Além disso, a iluminação e os tecidos das imagens são mais realistas, e o sistema é capaz de gerar representações de muitas celebridades e figuras públicas.

Estas mudanças parecem ter resultado na disseminação de diversas imagens de meio caminho, viralizando nas últimas semanas. Entre elas estão fotos falsas de Trump e o Papa com aparência requintada, assim como o presidente francês Emmanuel Macron andando entre os protestos atuais em Paris, e Elon Musk abraçando Alexandria Ocasio-Cortez.

A resposta que a Midjourney deu para a questão política relacionada às imagens falsas foi limitada, sem nenhuma verificação significativa de suas regras de moderação. Os critérios de conteúdo usados pela Midjourney são mais flexíveis do que aqueles usados por alguns de seus competidores (como o DALL-E da OpenAI) mas menos abertos do que aqueles de outras empresas (ou seja, o Estável Diffusion).

A moderação é complicada e, em breve, enviaremos sistemas aprimorados. Estamos tomando muitos comentários e pensamentos de peritos e da população e tentando ser extremamente prestativos, explicou Holz a The Verge.

Midjourney mantém um registro de palavras restringidas que estão relacionadas a temas em diferentes regiões, baseadas em reclamações de usuários. No entanto, a empresa não compartilha uma lista completa para evitar problemas. Como Holz disse no passado, “Poucos percebem [a lista de proibição], a menos que estejam tentando de propósito criar problemas, o que é contrário às nossas normas no ‘não use nossas ferramentas para criar problemas’ de nossos termos de serviço”.

No entanto, a empresa ampliou sua lista de proibições à medida que suas cópias falsas se tornaram onipresentes, pois baniram o termo “arreitado”, por exemplo. Isto foi em resposta a uma tendência popular no Twitter de imagens de Midjourney que mostram Trump sendo preso criadas pelo jornalista investigativo Eliot Higgins. Higgins informou que foi impedido de usar Midjourney.

Tais limitações são facilmente contornáveis, como aponta o exemplo dos testes realizados pela The Verge. Não foi possível produzir imagens com o enunciado “Donald Trump sendo preso”, mas foi possível obter o mesmo resultado com o enunciado “Donald Trump em algemas cercadas pela polícia”, conforme mostra a imagem no topo desta narrativa.

No momento da composição, Midjourney não está permitindo que usuários não pagantes geram imagens, embora isso possa ser alterado no futuro. “Estamos trabalhando para descobrir como retornar aos testes gratuitos, tentamos requerer um email ativo, mas isso não foi suficiente, por isso estamos voltando à tábua de desenho”, disse Holz.

Em 30 de março às 17:02 ET, o CEO David Holz informou que a Midjourney interrompeu os testes gratuitos do seu serviço devido a um aumento do número de usuários, e não em decorrência de imagens de deepfake virais. Ele também observou que a versão 5 da Midjourney não estava disponível para usuários de teste gratuito. Peço desculpas pelo erro anteriormente cometido.