O Conselho Ecumênico de Igrejas está entre os 226 signatários de um documento que pede às empresas do setor e aos Estados que “parem de fornecer” sistemas de inteligência artificial para uso na “cadeia de assassinato militar” e que “tomem todas as medidas necessárias” para evitar violações do direito internacional humanitário e dos direitos humanos
Vatican News
A guerra “acelerada” pela inteligência artificial (IA) está se tornando “um meio de autorizar mortes rápidas e em larga escala”, enquanto atualmente não existem “soluções técnicas ou processuais para evitar as consequências letais e devastadoras” resultantes dos desafios que essas mudanças representam para o direito internacional. É à luz desse contexto preocupante que o Conselho Ecumênico de Igrejas (CEI), juntamente com outras 225 ONGs, associações, especialistas e indivíduos que trabalham em empresas do setor, assinou uma declaração conjunta contra o uso de IA na guerra.
Reunião da ONU em Genebra
O documento apela explicitamente às empresas envolvidas no desenvolvimento de IA e aos Estados para que “parem de fornecer” sistemas de inteligência artificial para uso na “cadeia de assassinato militar” e “tomem todas as medidas necessárias para garantir que outros sistemas de IA que forneçam não causem ou contribuam para violações do direito internacional humanitário e do direito internacional dos direitos humanos”. A ocasião para a assinatura desta declaração conjunta é a reunião que decorre em Genebra, de 15 a 17 de junho, organizada pelo Escritório das Nações Unidas para os Assuntos de Desarmamento, sobre o tema da IA no domínio militar e as suas implicações para a paz e segurança internacionais. Este é um relevante evento internacional, que ocorre apenas algumas semanas após o apelo do Papa Leão XIV para “desarmar a IA” feito na encíclica Magnifica humanitas.
O risco de “diluir” a responsabilidade humana
Todas as empresas, lê-se na declaração conjunta, incluindo as que têm contratos com agências militares governamentais, “devem tomar todas as medidas possíveispara garantir que os seus produtos e serviços não causem, contribuam para, ou estejam diretamente ligados a violações dos direitos humanos e crimes internacionais”. E “nos casos em que as empresas não consigam prevenir ou mitigar significativamente esses riscos, não devem celebrar ou executar tais contratos”. De acordo com diversas reportagens e declarações oficiais do Pentágono, a declaração afirma: “a rápida geração de alvos usando ferramentas de IA aumentou a velocidade, o alcance, a intensidade e a força destrutiva dos ataques dos EUA contra o Irã”. Avaliações semelhantes também podem ser feitas em relação aos sistemas usados pelas forças armadas israelenses. Todos esses sistemas diluem a “responsabilidade humana em decisões de vida ou morte” e “podem ajudar a ocultar crimes internacionais sob uma aparência de objetividade algorítmica, enquanto evitam a responsabilização”.
Uma deriva desumana
“Aplicações no mundo real indicam que a IA está, na verdade, facilitando métodos de guerra mais violentos, desumanizantes e destrutivos”, denunciam os 226 signatários da declaração, que incluem ONGs como a Anistia Internacional, bem como organizações locais que trabalham contra o rearmamento. “Em particular, estamos profundamente preocupados com o fato de que o uso de modelos de combate de longo alcance (LLMs) para geração e priorização de alvos esteja impulsionando os atores militares para uma forma de guerra na qual os princípios fundamentais do direito internacional humanitário — incluindo os princípios da distinção, proporcionalidade e precaução — não são, e provavelmente não podem ser, suficientemente respeitados. Dada a velocidade e o alcance de tais tecnologias, bem como a falta de confiabilidade, a parcialidade e a origem frequentemente ilegal dos dados de entrada, argumentamos ainda que essas dinâmicas correm o risco de facilitar violações de direitos humanos, crimes contra a humanidade e crimes de guerra. Além disso, a opacidade que caracteriza o uso dessas ferramentas compromete seriamente a capacidade de atribuir responsabilidade ética ou legal em caso de erros.”
Controle humano efetivo
Segundo os signatários da declaração, “mesmo quando os sistemas de IA usados para direcionar alvos não tomam a decisão final de matar, eles correm o risco de se tornarem mecanismos automáticos de aprovação para assassinatos em larga escala, pois apelam para falsas noções de objetividade e podem suplantar a responsabilidade e a devida diligência, o que pode, em última análise, contribuir para acelerar e facilitar assassinatos em massa”. Além disso, esses sistemas automatizam a desumanização, “reduzindo questões de vida ou morte a uma simples pergunta em um chat. A decisão de matar outro ser humano”, enfatizam, “carrega um grave peso ética e legal e nunca deve ser delegada à mera aceitação ou rejeição das recomendações dos sistemas de IA. Quando as forças armadas dependem da IA para acelerar a identificação de alvos com tamanha velocidade e padronização que qualquer revisão humana corre o risco de se tornar uma mera formalidade desprovida de supervisão humana efetiva, massacres em massa podem ocorrer, e frequentemente ocorrem, em violação direta do princípio da precaução consagrado no direito internacional humanitário”.
Maior responsabilização e transparência
A declaração assinada em Genebra apela explicitamente às empresas do setor para que se abstenham de “celebrar ou executar contratos com agências militares ou grupos armados que cometam potenciais violações do direito internacional, incluindo violações dos direitos humanos e crimes de atrocidade”. Em vez disso, os Estados são instados a “cessar a utilização de ferramentas de IA, incluindo modelos de linguagem em larga escala, na condução de operações militares de localização de alvos e a assegurar o cumprimento dos princípios do direito internacional humanitário e do direito internacional dos direitos humanos” e a “garantir a transparência sobre a forma como a IA é atualmente utilizada na condução das hostilidades”.
