Alerta do fundador de empresa de IA sobre o possível controle humano por robôs. Implicações preocupantes na interação entre humanos e inteligência artificial.
Emad Mostaque, de 40 anos, o fundador da Stability AI, expõe uma preocupação de extrema relevância acerca da possibilidade de controle exercido por robôs sobre os seres humanos.
Em suas palavras, esse cenário distópico poderia se materializar no “pior cenário possível”, no qual os humanos poderiam ser submetidos à mensagem apática e desanimadora de “adeus, você é meio chato”.
Contudo, é possível que em um futuro próximo os governos sejam impelidos a estabelecer regulamentações para as máquinas diante de um evento súbito que evidencie de forma concreta o seu impacto, afirmou Mostaque.
Durante uma entrevista ao programa “Laura Kuenssberg On Sunday”, da BBC, ele questionou: “Se você se depara com uma entidade dotada de habilidades superiores às suas, como se define a democracia nesse contexto?”
"“Este é um conhecido desconhecido porque não podemos conceber algo mais capaz do que nós, mas todos conhecemos pessoas mais capazes do que nós.
“Minha crença pessoal é que será como aquele filme dela com Scarlett Johansson e Joaquin Phoenix, os humanos são um pouco chatos e será como ‘adeus, você é meio chato’, mas posso estar errado.
“Isso merece ser discutido na esfera pública, se temos agentes mais capazes do que nós que não podemos controlar, que estão passando pela internet e se conectando e atingem um nível de automação, o que isso significa?
“O pior cenário é que ele prolifere e basicamente controle a humanidade porque você pode ter um milhão de coisas se replicando efetivamente, mas não sabemos.”
O fundador da Stability AI, Emad Mostaque, argumenta que o ponto de inflexão na compreensão dos riscos associados à nova doença ocorreu em março de 2020, quando o renomado ator Tom Hanks foi diagnosticado com o coronavírus. Segundo Mostaque, esse evento sensibilizou milhões de pessoas sobre a gravidade da doença.
Da mesma forma, Mostaque prevê que, quando um momento análogo ocorrer no âmbito da inteligência artificial, os governos chegarão à conclusão de que medidas políticas precisam ser implementadas de forma imediata.
A percepção de tal evento crucial levará a um reconhecimento coletivo da necessidade premente de estabelecer políticas adequadas para regular o desenvolvimento e uso da inteligência artificial.
O fundador da Stability AI expressa a crença de que o impacto decorrente das novas máquinas pode ser inicialmente “doloroso” e que seu efeito na economia pode superar o causado pela pandemia.
No entanto, ele sustenta a visão de que os empregos que se extinguem serão substituídos por outros de maior qualidade, uma vez que as máquinas assumirão tarefas domésticas, permitindo que os seres humanos concentrem-se em atividades que ressaltam sua humanidade.
Adicionalmente, destaca-se que a nova tecnologia possui o potencial de proporcionar benefícios “enormes”.
Segundo Mostaque, empresas como ChatGPT e DeepMind irão superar o Google e o Facebook em termos de tamanho e relevância dentro de um período de 10 anos.
A avaliação atual da Stability AI já alcançou a marca de 1 bilhão de dólares (£ 803 milhões) e estima-se que em breve seu valor poderá atingir 4 bilhões de dólares (£ 3,2 bilhões), à medida que mais investimentos, incluindo aportes do renomado ator de Hollywood, Ashton Kutcher, forem direcionados à empresa.
Um dos principais produtos desenvolvidos pela Stability AI é o Stable Diffusion, uma ferramenta que utiliza inteligência artificial para criar imagens a partir de instruções de texto simples, analisando imagens encontradas online.
Mostaque, um matemático, está firmemente comprometido em manter sua tecnologia de código aberto, permitindo que o código seja visualizado, compartilhado e utilizado por qualquer pessoa.
Ele acredita que essa abordagem proporciona ao público a confiança necessária de que a tecnologia não se tornará excessivamente perigosa.
Em suas palavras: “Acredito que não deveria ser necessário depender da confiança.”
“Se você constrói modelos abertos e o faz abertamente, deve ser criticado se fizer coisas erradas e, com sorte, elogiado se fizer algumas coisas certas.”
No entanto, a Getty Images está atualmente envolvida em um processo legal contra a empresa de Mostaque, no qual a agência de fotografias alega violações de direitos autorais relacionadas às imagens que comercializa.
