Um grupo seleto de líderes da indústria tecnológica está convocando os principais laboratórios de pesquisa em inteligência artificial a interromperem o treinamento dos sistemas de IA mais avançados, pelo menos pelos próximos seis meses. A decisão foi motivada pela preocupação com os potenciais impactos negativos na sociedade e na humanidade.
Um impressionante grupo de visionários tecnológicos, incluindo nomes tão proeminentes como Elon Musk, Bill Gates e Steve Wozniak, figura entre as dezenas de signatários de uma carta recentemente publicada pelo Future of Life Institute, uma organização sem fins lucrativos com o apoio de Musk.
A carta, divulgada há apenas duas semanas, surge em um momento de grande agitação no campo da inteligência artificial. Isso porque a OpenAI anunciou recentemente o lançamento do GPT-4, uma versão ainda mais avançada da tecnologia que sustenta o popular chatbot AI, ChatGPT. Com o potencial de revolucionar várias áreas da sociedade, os primeiros testes e demonstrações da tecnologia impressionaram: desde redigir petições judiciais até passar em exames padronizados, e até mesmo construir um site funcional a partir de um simples esboço feito à mão.
A carta recentemente divulgada, que contou com a assinatura do CEO da OpenAI, ressaltou a necessidade de se implementar uma pausa na evolução dos sistemas de IA, especialmente aqueles que sejam mais poderosos do que o GPT-4. Para garantir a segurança e o bem-estar da sociedade, a carta propõe que especialistas independentes trabalhem juntos durante o período de pausa para desenvolver um conjunto de protocolos compartilhados que assegurem a segurança e a confiabilidade das ferramentas de IA.
De acordo com a carta publicada pelos líderes da indústria, a IA avançada representa uma mudança sem precedentes na história da humanidade e, como tal, deve ser gerenciada com cuidado e responsabilidade. Infelizmente, os últimos meses testemunharam uma corrida desenfreada nos laboratórios de IA, com a implementação de mentes digitais cada vez mais poderosas que ultrapassam a compreensão humana. Isso tem levantado preocupações sobre a capacidade dos criadores dessas tecnologias de prever e controlar de forma confiável o comportamento de sistemas de IA cada vez mais complexos.
"Caso a solicitação de uma pausa no desenvolvimento da inteligência artificial avançada não seja acatada, a carta enfatiza que os governos precisarão intervir e estabelecer uma moratória.
A repercussão do ChatGPT no final do ano passado reacendeu uma competição acirrada entre as empresas de tecnologia para a criação e aplicação de ferramentas de IA semelhantes em seus produtos. Empresas líderes do setor, como OpenAI, Microsoft e Google, estão à frente dessa tendência, enquanto IBM, Amazon, Baidu e Tencent estão intensificando seus esforços para desenvolver tecnologias semelhantes. Além disso, uma longa lista de startups está trabalhando no desenvolvimento de assistentes de escrita de IA e geradores de imagens.
Os especialistas em inteligência artificial estão se tornando cada vez mais apreensivos com o potencial das ferramentas de IA para criar respostas tendenciosas, espalhar desinformação e afetar a privacidade dos usuários. Além disso, essas ferramentas também suscitam questões sobre como a IA pode deslocar empregos, possibilitar trapaças em testes e alterar nossa relação com a tecnologia.
Lian Jye Su, analista da ABI Research, aponta que a carta expressa preocupações legítimas de líderes de tecnologia sobre a falta de regulamentação nas tecnologias de IA. No entanto, ele critica algumas partes da petição como “ridículas”, incluindo a premissa de solicitar um hiato no desenvolvimento da IA além do GPT-4. Su sugere que essa abordagem poderia ajudar algumas pessoas que assinaram a carta a manter sua posição dominante no setor.
Em 2015, Elon Musk se tornou um dos membros fundadores da OpenAI, mas deixou a empresa três anos depois e desde então tem feito críticas públicas. Bill Gates, por sua vez, é um dos cofundadores da Microsoft, que investiu bilhões de dólares na OpenAI.
“De acordo com Su, as preocupações éticas muitas vezes são subjugadas pelas ambições corporativas e pelo desejo de dominação. Ele acrescentou que não ficaria surpreso se essas organizações estivessem atualmente testando tecnologias mais avançadas do que o ChatGPT ou o Bard do Google.”
Mesmo assim, a carta indica um sentimento de desconforto mais generalizado dentro e fora da indústria em relação ao avanço rápido da IA. Algumas agências governamentais na China, União Europeia e Cingapura já começaram a introduzir versões iniciais de estruturas de governança de IA.
