Especialistas chineses pedem uma pausa no desenvolvimento rápido da tecnologia ChatGPT e chamam atenção de Musk e outros.
Diversos especialistas da China continental e Hong Kong se uniram em apoio à carta aberta, enfatizando a necessidade de abordar as preocupações em torno da corrida tecnológica. A segurança, a razoabilidade e a ética no desenvolvimento das tecnologias ChatGPT foram apontadas como fundamentais pelos especialistas, que reforçam a importância do escrutínio rigoroso nesse processo.
Um grupo de especialistas em inteligência artificial (IA) altamente conceituados, oriundos da China continental e de Hong Kong, alinhou-se aos apelos de veteranos globais em tecnologia para interromper o desenvolvimento de tecnologias de IA ainda mais avançadas que o GPT-4, com o intuito de alertar sobre a taxa atual de progresso que é considerada “extremamente rápida”.
No mês passado, o Future of Life Institute (FLI), um prestigiado centro de pesquisa que se dedica a analisar os riscos tecnológicos para a sociedade humana, redigiu uma carta aberta que contou com a adesão de milhares de signatários de peso, dentre os quais se destacam personalidades como Elon Musk, da Tesla, o cofundador da Apple Steve Wozniak e o renomado historiador Yuval Harari. A carta alerta para os perigos da atual corrida em IA e solicita a criação de reguladores independentes que possam garantir a segurança dos sistemas futuros que serão implantados.
"Embora tenha recebido críticas de alguns profissionais que a acusam de disseminar medo em relação ao futuro da IA, a carta aberta elaborada pelo Future of Life Institute (FLI) angariou o apoio de diversos especialistas conceituados da China continental e de Hong Kong, que destacam a importância de se abordar as preocupações relacionadas ao ChatGPT. Este bot de bate-papo com IA, desenvolvido pela OpenAI, utiliza o poderoso modelo de linguagem GPT-4 (LLM).
Há muito tempo, muito antes do lançamento do ChatGPT em novembro, um intenso debate vem sendo travado a respeito da possibilidade de a IA se tornar mais inteligente do que os próprios seres humanos.
Segundo Cai Hengjin, professor do renomado Instituto de Pesquisa em Inteligência Artificial da Universidade de Wuhan, o lançamento do ChatGPT foi um verdadeiro golpe para os argumentos daqueles que duvidavam da possibilidade de a IA superar os seres humanos.
“Um indicador de quão rápido e poderoso o crescimento da IA seria além de nossa imaginação é o que está em jogo aqui. Algumas pessoas acreditavam que seu desenvolvimento seria lento e que ainda teríamos décadas ou mesmo centenas de anos de evolução pela frente”, declarou Cai em entrevista ao Post no último domingo. “Porém, essa não é a realidade… Temos apenas alguns anos, uma vez que a nossa evolução em IA tem ocorrido em um ritmo extremamente acelerado.”
As apreensões de Cai encontram eco entre muitos outros signatários chineses da carta aberta do FLI.
Zhang Yizhe, professor associado da Universidade de Ciência e Tecnologia de Nanjing, e Zhao Yaxiong, veterano da Amazon e CEO da Tricorder Observability, uma startup de software como serviço baseada em nuvem, levantaram preocupações sobre os desafios de segurança que a IA pode apresentar e pediram maior escrutínio.
Zhang afirmou ter assinado a carta aberta do FLI para apoiar as preocupações de segurança relacionadas à IA, destacando a necessidade de um sistema mais eficiente para coordenar as atividades de desenvolvimento de LLM em grandes empresas. Ele também ressaltou que não concorda plenamente com tudo o que foi mencionado na carta.
“De acordo com Zhang, o GPT-4 e outros modelos de IA maiores terão um impacto significativo na produtividade e poderão levar à perda de empregos em diversas áreas. Ele destaca a importância de discutir a segurança, a razoabilidade e a ética no desenvolvimento e uso desses modelos de linguagem supergrandes. Essa questão merece nossa atenção e consideração cuidadosa.”
Zhao, CEO da Tricorder Observability, chamou a tendência recente de se ter pesquisas avançadas como o ChatGPT na área de chatbots de IA de um sinal perigoso, indicando que já estamos permitindo que a IA assuma o julgamento de tarefas humanas.
Alfonso Ngan, reitor de engenharia da Universidade de Hong Kong, que também apoiou a carta, afirmou que irá solicitar aos estudantes que evitem o uso da tecnologia por um semestre, a fim de permitir que a instituição desenvolva uma posição clara sobre como ela pode ser adequadamente aplicada dentro do ambiente acadêmico.
“Não estamos proibindo isso permanentemente”, afirmou Ngan, acrescentando que IAs poderosas como o ChatGPT representam um desafio para o setor educacional.
Alfonso Ngan, reitor associado de engenharia da Universidade de Hong Kong, reconhece o valor da exposição dos alunos à tecnologia de IA, mas acredita que a potência das IAs poderosas, como o ChatGPT, representa um enigma para o setor educacional. “Por um lado, queremos que nossos alunos sejam expostos a essas tecnologias para aprender e até precisamos ensiná-las”, disse Ngan. “Mas, por outro lado, o setor educacional precisa de tempo para ajustar as operações, principalmente em relação à avaliação, trabalhos de casa e tarefas.”
Ngan e outros signatários, como Zhao da Tricorder e Chen Yongli, fundador da start-up Edgenesis, especializada em Internet das Coisas, reconhecem que o poder do ChatGPT não pode ser subestimado.
Cai argumentou que simplesmente contar com a compaixão das IAs mais poderosas e inteligentes é um erro grave. Ele enfatizou que não podemos presumir que essas máquinas serão racionalmente benevolentes e não adquirirão a natureza humana ruim. Cai ressaltou que o ChatGPT, por exemplo, foi treinado exclusivamente com dados em linguagem humana, o que significa que a IA pode ser facilmente influenciada pelos preconceitos humanos.
Cai sugeriu que podemos usar o tempo que temos para evoluir junto com a IA no metaverso e treiná-la para que tenha uma atitude positiva.
