Midjourney interrompe testes gratuitos de sua ferramenta de imagens de IA após imagens falsas viralizarem. Preocupações crescem sobre o poder da IA. Leia mais!
A Midjourney tomou a decisão de interromper o período de avaliação gratuito de sua plataforma de geração de imagens baseada em inteligência artificial. Tal medida foi motivada pela ocorrência de um inesperado aumento na demanda pelo serviço, bem como pelo uso abusivo do mesmo.
No dia 28 de março, David Holz, fundador da Midjourney, informou aos usuários por meio do canal oficial de comunicação no Discord que os testes gratuitos do gerador de imagens baseado em inteligência artificial seriam temporariamente desabilitados.
O anúncio de interrupção dos testes gratuitos da Midjourney acontece em um momento delicado para a empresa, após uma série de imagens sintéticas de destaque viralizarem na internet. Tais imagens foram criadas com o uso do modelo mais recente da plataforma, a Midjourney v5.
As imagens são falsas
Milhões de pessoas foram impactadas pelas imagens falsas que retratavam a suposta prisão de Donald Trump. Tal criação, que sugeria uma possível acusação do ex-presidente por um Grande Júri de Manhattan, foi amplamente disseminada na internet.
"
O responsável pela criação das imagens que causaram grande repercussão nas redes sociais foi Elliot Higgins, fundador do site Bellingcat. No entanto, Higgins teve sua conta banida da Midjourney desde então.
No último final de semana, uma imagem criada por inteligência artificial na plataforma Midjurney v5 enganou muitas pessoas, que acreditaram se tratar de uma foto genuína do Papa Francisco vestindo uma jaqueta branca. O responsável pela criação da imagem, Pablo Xavier, divulgou a mesma em um grupo no Facebook chamado “AI Art Universe” e posteriormente no Reddit. A partir daí, as imagens se espalharam rapidamente pela internet, tornando-se virais.
“Fiquei simplesmente pasmo”, disse ele ao Buzzfeed News . “Eu não queria que explodisse assim.”
O site PetaPixel também noticiou que golpistas estão se utilizando de imagens geradas por inteligência artificial para enganar e extorquir dinheiro de pessoas em golpes românticos. Segundo a reportagem, uma mulher perdeu a quantia de $ 430.000 em um desses golpes.
De acordo com o The Verge, a Midjourney tem apresentado uma resposta intermitente em relação ao poder sinistro que sua tecnologia pode desencadear.
Em resposta às imagens de Donald Trump, a Midjourney tomou medidas proibindo o termo “preso” em seus prompts de texto, utilizados para gerar as imagens sintéticas. No entanto, essa proibição pode ser facilmente burlada simplesmente alterando o texto utilizado.
Nos últimos meses, tem crescido a preocupação em relação ao poder da inteligência artificial. Na última terça-feira, Elon Musk e outras personalidades de destaque no mundo da tecnologia assinaram uma carta pública pedindo uma “pausa” nos experimentos considerados “perigosos” de IA, a fim de que um conjunto de protocolos de segurança compartilhados possa ser discutido entre os principais atores envolvidos.
