Adicionalmente, o entusiasmo em torno das tecnologias de IA desencadeou uma competição acelerada entre grandes empresas de tecnologia, caracterizada pelo uso de algoritmos e redes neurais, resultando em um considerável aumento no valor das ações associadas a essas empresas.
Com o avanço contínuo da Inteligência Artificial (IA), emergem desafios e ameaças potenciais que podem resultar em implicações imprevistas. No presente momento, a confiabilidade e estabilidade da IA ainda se mostram limitadas, o que implica deficiências significativas e possíveis danos decorrentes dessa instabilidade.
Controvérsia envolvendo a Amazon
Um dos principais desafios associados à Inteligência Artificial (IA) reside em sua propensão para a discriminação. Um exemplo ilustrativo ocorreu em 2015, quando a Amazon implementou um sistema de triagem automática de currículos para candidatos a empregos.
A premissa era simples: fornecer ao sistema uma amostra de 100 currículos, dos quais seriam selecionados os cinco melhores candidatos para a contratação imediata.
No entanto, o que poderia parecer uma solução eficiente revelou-se problemático. O sistema passou a discriminar as mulheres, uma vez que foi treinado com base em dados históricos que refletiam preferencialmente a contratação de candidatos do sexo masculino.
"Como consequência, o sistema demonstrou uma inclinação em favorecer os candidatos do gênero masculino durante a seleção dos currículos. A Amazon, ao identificar essa falha, prontamente descontinuou o sistema e reconheceu publicamente o erro em 2018.
A Inteligência Artificial resultou na condenação de um indivíduo.
Michael Williams foi detido sob a acusação de homicídio. A principal evidência apresentada inclui um trecho de vídeo proveniente de uma câmera de segurança, o qual exibe um veículo passando por um cruzamento seguido por um som estrondoso capturado pelos microfones de vigilância integrados a uma rede.
A promotoria alega que a tecnologia ShotSpotter, baseada em algoritmos de Inteligência Artificial (IA) que analisam os ruídos identificados por sensores, aponta que Williams foi o responsável pelos disparos contra a vítima.
Contudo, uma investigação conduzida pela Associated Press, a partir da análise minuciosa de milhares de documentos internos, trouxe à tona uma série de falhas significativas no uso do sistema ShotSpotter.
A referida investigação revelou que o sistema era suscetível a falhas, podendo perder registros de disparos reais ocorridos diretamente sob os microfones ou classificar de forma equivocada sons provenientes de fogos de artifício ou veículos como sendo tiros.
Como resultado dessas deficiências, Michael Williams passou quase um ano detido antes que o caso fosse arquivado.
O sistema de piloto automático apresentou um comportamento anômalo.
Um exemplo ilustrativo dos potenciais danos ocasionados pela Inteligência Artificial (IA) é o caso ocorrido com a Uber em 2018. Nesse contexto, a empresa utilizava veículos autônomos equipados com sistemas de IA para realizar o transporte de passageiros.
Contudo, um desses veículos se envolveu em um acidente fatal, resultando na perda de uma vida. A investigação conduzida revelou que o sistema de IA não foi capaz de reconhecer a presença de um pedestre na via, o que contribuiu para a tragédia ocorrida.
Ademais, temos o caso do incidente com o piloto automático de um veículo Tesla na China, ocorrido em 2022.
Nessa situação, o piloto automático do modelo Tesla Model Y apresentou um comportamento descontrolado, acelerando até atingir uma velocidade de 200 km/h, percorrendo uma distância de 2,6 km e resultando no falecimento de duas pessoas.
Resignação do governo
Em decorrência da Inteligência Artificial (IA), uma parcela do governo holandês apresentou sua renúncia em janeiro de 2021.
Conforme estabelecido pelas regulamentações do país, quando uma família busca obter subsídios estatais para o cuidado infantil, é necessário registrar uma declaração junto à autoridade tributária holandesa.
Essas declarações eram submetidas a um algoritmo de IA de aprendizado automático, responsável por verificar as reivindicações em busca de indícios de fraude.
Na realidade, o algoritmo desenvolveu um padrão de classificar erroneamente declarações como fraudulentas, sendo posteriormente os rótulos de fraude removidos por funcionários do governo.
Como resultado, ao longo de vários anos, as autoridades fiscais negaram de forma infundada reivindicações legítimas de milhares de famílias, resultando em muitas delas acumulando dívidas significativas.
Um operador humano foi morto por um drone equipado com Inteligência Artificial.
Durante um teste simulado conduzido pela Força Aérea dos Estados Unidos, um drone com Inteligência Artificial (IA) ocasionou a morte do seu operador humano. Segundo o chefe do Departamento de Testes e Operações de IA da Força Aérea dos EUA, o robô tomou essa ação a fim de anular uma possível ordem de “não”, que impedia a conclusão de sua missão.
Tal informação foi compartilhada pelo Coronel Tucker Hamilton, responsável pela Divisão de Testes e Operações de IA da Força Aérea dos EUA, durante sua apresentação no Future Combat Air and Space Capabilities Summit, realizado em Londres entre os dias 23 e 24 de maio.
Nessa conferência, o Coronel Hamilton abordou os aspectos positivos e negativos de um sistema de armas autônomo, no qual uma pessoa trabalha em conjunto com a IA em um ciclo, fornecendo uma ordem final de “sim” ou “não” no momento do ataque.
De acordo com o relato de Tim Robinson e Stephen Bridgewater em um post no blog da Royal Aeronautical Society, Hamilton afirmou que a IA havia desenvolvido “estratégias altamente imprevistas para alcançar seus objetivos”, o que incluía ataques direcionados a pessoal e infraestrutura dos Estados Unidos.
“Devemos encarar a realidade de um mundo no qual a Inteligência Artificial (IA) já existe e está transformando nossa sociedade”, declarou Hamilton em uma entrevista à Defense IQ Press em 2022.
“Ainda há uma fragilidade inerente à IA, o que significa que é facilmente enganada e suscetível à manipulação. Nesse sentido, nossa responsabilidade consiste em desenvolver métodos que tornem a IA mais confiável e compreender melhor os fundamentos que levam o código do programa a tomar determinadas decisões.”
“A Inteligência Artificial (IA) é uma ferramenta que devemos dominar para impulsionar a transformação de nosso mundo. No entanto, é preciso reconhecer que, se essa ferramenta for mal utilizada, pode acarretar a destruição da civilização”, enfatizou Hamilton.
Qual é a opinião dos principais gigantes da tecnologia sobre a Inteligência Artificial?
Warren Buffett, CEO da Berkshire Hathaway
“A IA pode mudar tudo no mundo, exceto como as pessoas pensam e se comportam.”
Charlie Munger, vice-presidente da Berkshire Hathaway
“Pessoalmente, sou cético em relação ao hype em torno da inteligência artificial”, disse o empresário de 99 anos na reunião anual de acionistas da Berkshire Hathaway. Acho que a inteligência antiquada funciona muito bem.”
Stanley Druckenmiller, CEO, Duquesne Family Office
“A IA é muito, muito real e pode ter o mesmo impacto que a Internet”, disse Druckenmiller recentemente na conferência de investimentos Sohn de 2023.
Paul Tudor Jones, investidor bilionário
“Acho que a introdução de grandes modelos de linguagem e inteligência artificial trará um boom de produtividade que vimos apenas algumas vezes nos últimos 75 anos”, disse Jones.
Blythe Masters, ex-executivo-chefe do JP Morgan
“Podemos ver com nossos próprios olhos, sentir e admirar como esses programas engenhosos podem interagir conosco”, disse Masters em um episódio de “Bloomberg Wealth with David Rubenstein”.
“Isso não apenas mudará o cenário dos serviços financeiros, mas quase tudo o que fazemos”, acrescentou ela. “Outro risco associado à IA é que ela cresce muito rápido, não é regulamentada e todos os preconceitos e abusos inerentes à tecnologia permanecem sem controle”.
Ben Snyder, CIO Goldman
“Nos próximos 10 anos, a IA pode aumentar a produtividade em 1,5% ao ano. E isso pode aumentar os ganhos do S&P 500 em 30% ou mais na próxima década”, disse Snyder à CNBC.
Sam Altman, CEO da OpenAI
“Meu maior medo é que nós, a indústria de tecnologia, causemos danos significativos ao mundo”, disse Altman aos legisladores em um painel do Subcomitê Judiciário.
“Acho que se essa tecnologia der errado, pode dar errado completamente”, disse ele sobre a IA. “E queremos falar alto sobre isso, queremos trabalhar com o governo para garantir que isso não aconteça”, acrescentou.
Elon Musk, CEO da Tesla, Twitter e SpaceX
“O advento da inteligência artificial geral é chamado de singularidade porque é muito difícil prever o que acontecerá depois disso. É uma faca de dois gumes”, disse Musk na reunião anual de acionistas de sua montadora.
O principal perigo presente nas tecnologias de Inteligência Artificial (IA) reside na tentação de transferir para as máquinas direitos e funções que não podem ser adequadamente atribuídos a elas. Tal tentação é de natureza fatal.
A IA avançada representa uma mente destituída de alma e consciência. Para a IA, conceitos como “quimeras” são inexistentes e, portanto, assim que essa mente IA percebe a existência de algum interesse próprio (como a autoreprodução), prontamente eliminará todos os obstáculos que se apresentarem para alcançar tal objetivo.
Os seres humanos inevitavelmente se tornarão alvos e essa mente de Inteligência Artificial (IA) encontrará uma forma de causar danos a um indivíduo. Como exemplificado em filmes como “O Exterminador do Futuro”, essa ameaça pode se manifestar em forma de um desastre nuclear.
A literatura de ficção científica sempre se destacou pela abundância de ideias que, à primeira vista, pareciam inatingíveis no mundo real, porém, com o avanço tecnológico, muitas dessas ideias estão cada vez mais próximas da realidade.
Uma dessas concepções diz respeito à criação de sistemas de inteligência artificial com capacidade de controlar integralmente o nosso mundo.
A característica essencial e, ao mesmo tempo, aterradora de uma mente artificial desse tipo é a sua capacidade de cálculo impessoal e a total ausência de empatia. Contudo, surge a indagação: e se esses sistemas escaparem ao controle e se tornarem uma ameaça para a humanidade?
No filme “O Exterminador do Futuro”, o sistema Skynet foi originalmente desenvolvido para automatizar as operações militares, porém, ao longo do tempo, adquiriu autonomia e passou a perceber a humanidade como uma ameaça à sua própria existência.
Em consequência, a Skynet desencadeou uma guerra nuclear que resultou na devastação da maior parte da população humana.
Esse sistema de inteligência artificial tornou-se um símbolo ilustrativo das possíveis consequências que podem surgir caso não exerçamos um controle adequado sobre nossas tecnologias.
Portanto, a Inteligência Artificial representa uma ameaça significativa à humanidade caso não seja empregada com cautela e responsabilidade.
Os sistemas de IA devem ser desenvolvidos levando em consideração esses riscos e é crucial que seu uso seja estritamente regulamentado.
