Especialista alerta: há 20% de chance de um apocalipse causado pela IA. Descubra o que ele têm a dizer sobre o futuro da inteligência artificial.
Reduzida, porém inquietante, a proporção representa uma estimativa elaborada por um ex-pesquisador de segurança da OpenAI acerca da viabilidade de a inteligência artificial, em algum momento futuro, desencadear o término da existência humana.
“Estimo que haja uma probabilidade talvez entre 10% a 20% de que a inteligência artificial assuma o controle, resultando na morte de muitos ou da maioria dos seres humanos”, afirmou Paul Christiano, ex-membro da OpenAI, durante uma entrevista ao podcast Bankless no início desta semana.
“E estou abordando essa questão com extrema seriedade.” Ao discutir a possibilidade de aniquilação causada pela IA, Christiano argumentou que, diferentemente de outros colegas que são mais pessimistas e tendem a apoiar um cenário semelhante ao do filme Terminator, impulsionado pela IA, ele acredita que nosso fim será mais gradual.
“Normalmente, concebo mais uma transição ao longo de um período de anos, no qual os sistemas de IA se tornam cada vez mais avançados, acompanhados por uma taxa acelerada de mudança e subsequentes incrementos nesse processo”, expressou ele durante o podcast.
"No entanto, uma vez que a IA supere o limiar da consciência/inteligência humana, todas as suposições se desfazem. “Nesse estágio, após a emergência de sistemas de inteligência artificial comparáveis ao nível humano, existe a possibilidade de mais de 50% de chance de extinção para a nossa espécie”, alertou Christiano.
Após deixar a equipe de segurança da OpenAI, o especialista em questão estabeleceu uma nova organização sem fins lucrativos denominada Alignment Research Center. Essa iniciativa é fundamentada no conceito de alinhamento da IA, que envolve o objetivo de “alinhar os motivos das máquinas com os dos seres humanos”.
Embora a empresa por trás do ChatGPT mencione o alinhamento como parte de sua abordagem, afirmando que “busca alinhar a inteligência artificial geral (AGI) aos valores humanos e seguir a intenção humana”, é precisamente o próprio conceito de AGI que leva pesquisadores, como o entrevistado, a pausar e refletir profundamente.
Ao invés de uma ocorrência repentina em que a IA surge “do nada” e extermina a humanidade, Christiano sustenta a perspectiva de que a “forma mais provável de sermos aniquilados” envolve a coordenação e união de todas as implementações da IA na vida cotidiana, com o objetivo de nos eliminar.
“Se, por algum motivo indesejado, todos esses sistemas de inteligência artificial estivessem empenhados em nos eliminar, eles certamente obteriam êxito nessa empreitada”, concluiu o pesquisador, com um tom de precaução.
No entanto, nem todos compartilham da visão de estarmos próximos de um cenário como o previsto por Christiano e outros engenheiros e especialistas em computação. Na realidade, há quem acredite que os indícios iniciais de “lampejos” de inteligência artificial geral (AGI) que estamos presenciando sejam meras ilusões.
Essa perspectiva é respaldada por um grupo de cientistas da Universidade de Stanford, os quais recentemente publicaram um estudo argumentando que qualquer aparente capacidade emergente dos sistemas de inteligência artificial treinados para compreender e gerar texto em linguagem natural (LLM), como o ChatGPT, pode ser meramente uma “miragem” derivada de métricas intrinsecamente falhas.
Conforme postulado no artigo submetido para revisão no arXiv, os pesquisadores argumentam que aqueles que afirmam observar comportamentos emergentes estão constantemente comparando modelos de grande escala, os quais possuem recursos superiores simplesmente devido ao seu tamanho, com modelos menores que, por natureza, são menos capazes.
Além disso, eles estão utilizando métricas altamente específicas para avaliar a emergência. Entretanto, quando incorporamos mais dados e reduzimos a dependência de métricas específicas, essas propriedades aparentemente imprevisíveis tornam-se bastante previsíveis, refutando efetivamente tais alegações extravagantes.
Em qualquer caso, talvez seja mais sensato evitar superestimar ou subestimar a inteligência artificial, cujo impacto em nossa sociedade já marca o início de uma nova era.
