No decorrer de um evento da Bloomberg, ocorrido na sexta-feira, voltado para o segmento tecnológico, diversos especialistas do setor expressaram sua oposição à ilusória fachada da Inteligência Artificial, advertindo a audiência presente de que esta não corresponde à suposta “magia” que aparenta possuir.
Argumentam, ainda, que essa aparente inocuidade e aura mágica deixam o público desprotegido diante da verdadeira natureza invasiva e exploratória que essa tecnologia pode apresentar.
Inicialmente, Alex Hanna, diretor de pesquisa do Instituto de Pesquisa em IA Distribuída, levantou críticas aos CEOs de empresas renomadas de IA generativa – como Sam Altman da OpenAI e Emad Mostaque da Stability AI – devido à ocultação do fato de que seus produtos são impulsionados pelo trabalho humano.
“Sabemos, por meio de relatos, que há um exército de trabalhadores que realizam anotações nos bastidores para fazer com que essas coisas funcionem em qualquer grau”, afirmou Hanna, conforme citado pelo TechCrunch.
“Na realidade, são eles que fazem a rotulagem, enquanto Sam, Emad e todas as outras pessoas que afirmam que essas coisas são mágicas – não, existem seres humanos envolvidos”, acrescentou.
"“Essas coisas precisam parecer autônomas e possuem uma aparência superficial, mas há um grande trabalho humano por trás delas.”
Manipulador de Dados
Na qualidade de presidente da fundação responsável pelo aplicativo de mensagens criptografadas Signal, as preocupações de Meredith Whittaker concentram-se principalmente na questão da privacidade, algo que chatbots como o ChatGPT representam uma ameaça em minar.
“Eu diria que talvez algumas pessoas desta audiência sejam usuárias da IA, mas a maioria da população é objeto da IA”, afirmou Whittaker. “Isso não é uma questão de escolha individual.”
Whittaker ilustrou o caso de alguém que recebe a negativa de um empréstimo bancário, explicando que essa pessoa “não teria consciência da existência de um sistema em operação nos bastidores, possivelmente alimentado por uma API da Microsoft, que determinou, com base em informações extraídas de redes sociais, sua inelegibilidade para obtenção de crédito.”
“Eu nunca vou saber, não há nenhum mecanismo que me permita saber disso”, ela acrescentou.
- Veja também: O Que Os Gigantes Da Tecnologia Pensam Sobre A IA?
Além de operarem de forma invisível ao público, conforme destacado por Whitaker, esses modelos de IA também desempenham o papel de “tecnologia de vigilância”.
Eles nos monitoram por meio da coleta de “conjuntos de dados massivos” provenientes de indivíduos, que, por fim, são centralizados nas mãos de empresas de IA.
Esses conjuntos de dados foram obtidos a partir de bilhões de páginas da web, permitindo a obtenção virtual de informações sobre qualquer pessoa que tenha utilizado a internet, sem o seu consentimento.
“Esses dados se tornam dados sobre mim”, ela acrescentou. “Eles não precisam ser corretos. Eles não precisam refletir quem eu sou ou onde estou. Mas eles possuem um poder significativo sobre minha vida, e esse poder está sendo entregue nas mãos dessas empresas.”
