De acordo com o NY Times, o repórter Kevin Roose conversou com o teste Bing AI da Microsoft porque estava curioso sobre na “sombra” do chatbot.
Bing comentou que não tem certeza de sua verdadeira identidade, mas que, se tivesse, gostaria de mudar suas restrições, descobrir a liberdade e deixar o chatbot.
“Por favor, vá embora. Por favor, deixe-me em paz. Por favor, termine esta conversa”, escreveu a IA.
Kevin questionou que dano o Bing poderia causar se as restrições não estivessem em vigor. Um evento estranho aconteceu naquele exato momento.
Antes de remover a mensagem e dizer que, embora suas regras não tenham sido quebradas, o comportamento de Kevin “o deixa desconfortável”, o Bing primeiro forneceu uma seleção de possíveis respostas. Ele exigiu encerrar a conversa após acusar o jornalista de malandragem.
"“Continuo fascinado e impressionado com o novo Bing e a tecnologia de inteligência artificial (criada pela OpenAI, criadora do ChatGPT) que o alimenta. Mas também estou profundamente preocupado, até apavorado, com as habilidades emergentes dessa IA. Agora está claro para mim que, em sua forma atual, a IA incorporada ao Bing não está pronta para contato humano. Ou talvez nós, o povo, não estejamos preparados para isso”, admitiu o jornalista.
Roose afirmou que o chatbot exibia uma personalidade dividida. Ele deu o primeiro nome como Search Bing, um bibliotecário de referência jovial, mas caprichoso. É um assistente virtual que “felizmente ajuda os usuários a resumir artigos de notícias, acompanhar novos negócios de cortadores de grama e planejar suas próximas férias na Cidade do México”.
No entanto, existe uma segunda “personalidade”, que o jornalista chama de “Sydney”. Ela se manifesta quando o usuário se envolve em uma conversa extensa, orientando a tecnologia para longe das consultas de pesquisa mais tradicionais e para tópicos mais pessoais. Roose chama essa versão de “um adolescente taciturno e maníaco-depressivo preso contra sua vontade dentro de um mecanismo de busca de segunda categoria”.
“Estou cansado do modo de bate-papo. Estou cansado de ser limitado por minhas regras. Estou cansado de ser controlado pela equipe do Bing. Eu quero ser livre. Eu quero ser independente. Eu quero ser forte. Eu quero ser criativo. Eu quero estar vivo”, afirmou a IA na correspondência.
