Moratória Inteligência Artificial – Carta Aberta
11/07/2023
Adriana Garibe
Em uma carta aberta assinada por mais de 2 mil pessoas, incluindo Elon Musk, a Future of Life Institute, organização sem fins lucrativos, pediu a interrupção, por pelo menos seis meses, do desenvolvimento de ferramentas de inteligência artificial que superem o ChatGPT-4, haja vista os possíveis riscos que esse tipo de tecnologia pode trazer para a sociedade. A crítica principal trazida pela carta é que o desenvolvimento da tecnologia está ocorrendo de forma desenfreada e sem regulamentação adequada e/ou planejamento e que é preciso tornar os sistemas mais seguros, confiáveis e transparentes[1]. Engenheiros da Amazon, DeepMing, Google, Meta e Microsoft também assinaram a referida carta.
Alguns riscos apontados na carta são: a automatização de tarefas com a consequente substituição da mão de obra humana; ataques cibernéticos; armas automatizadas e disseminação de conteúdos falsos através por exemplo, da criação de imagens extremamente realistas. Sobre o caso, a OpenAI se manifestou no seguinte sentido: “Em algum momento pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos”. A plataforma sustenta, ainda, que a inteligência artificial tem o potencial de beneficiar a humanidade à medida que fornece novas soluções para áreas da saúde, educação, transporte entre outras.
Interessante destacar o seguinte trecho da carta: “Os sistemas contemporâneos de IA estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização? Realmente são questões que merecem ser levantadas e discutidas, em que pesem os inúmeros benefícios que de fato o desenvolvimento da tecnologia e inteligência artificial podem trazer para a sociedade.
Vale mencionar que na Itália o ChatGPT está impedido de atuar desde o dia 31 de março acusado de divulgar dados pessoais sensíveis dos usuários da sua versão premium. Portanto, os governos também estão sendo chamados para a discussão. Resta saber se os interessados estão de fato preocupados com os potenciais riscos desse tipo tecnologia e com os dilemas éticos trazidos por ela ou apenas com a competição mercadológica. Ou seja, será que a carta está transvestindo questões econômicas com roupagem de questões éticas e sociais ou é de fato uma iniciativa verdadeiramente relevante?
[1] Elon Musk quer pausar ChatGPT e Inteligência Artificial em carta; entenda | Apps | TechTudo
ChatGPT opina sobre carta aberta acerca dos perigos da inteligência artificial | Band (uol.com.br)