Como Israel usou experimentos com IA para conseguir vantagens na guerra em Gaza

Israel desenvolveu novas ferramentas de inteligência artificial para obter vantagem na guerra; em certas ocasiões, essas tecnologias provocaram consequências mortíferas

Por Sheera Frenkel e Natan Odenheimer | The New York Times via O Estado de S.Paulo

No fim de 2023, Israel pretendia assassinar Ibrahim Biari, um importante comandante do Hamas radicado no norte da Faixa de Gaza que tinha ajudado a planejar os massacres de 7 de outubro. Mas agentes de inteligência israelenses não conseguiram encontrar Biari, que, acreditam eles, estaria escondido na rede de túneis sob Gaza.

Prédio é atingido por bombardeio israelense na Cidade de Gaza, no norte do enclave palestino Foto: Omar Al-qattaa/AFP

Então oficiais militares de Israel recorreram a uma nova tecnologia militar dotada de inteligência artificial, segundo afirmaram três autoridades israelenses e americanas informadas sobre os eventos. A tecnologia tinha sido desenvolvida uma década antes, mas nunca fora usada em combate. A busca por Biari criou um novo incentivo para aprimorar a ferramenta, então engenheiros da Unidade 8200 de Israel, o equivalente nos Estados Unidos à Agência de Segurança Nacional, logo integraram inteligência artificial no mecanismo, disseram as fontes.

Pouco depois, Israel passou a ouvir os telefonemas de Biari e testou a ferramenta de áudio associada à inteligência artificial, que forneceu uma localização aproximada de onde ele estava realizando suas chamadas. Usando essa informação, Israel ordenou ataques aéreos na área em 31 de outubro de 2023, matando Biari. Mais de 125 civis também morreram no ataque, de acordo com a organização de monitoramento de conflitos Airwars, sediada em Londres.

A ferramenta de áudio foi apenas um exemplo de como Israel usou a guerra em Gaza para testar e implementar rapidamente tecnologias militares dotadas de inteligência artificial em um nível nunca visto antes, de acordo com entrevistas com nove autoridades de defesa americanas e israelenses, que falaram sob condição de anonimato porque o trabalho é confidencial.

Nos últimos 18 meses, Israel também combinou inteligência artificial com softwares de reconhecimento facial para associar rostos parcialmente obscurecidos ou feridos a identidades reais, recorreu à IA para compilar alvos potenciais de ataques aéreos e criou um modelo de IA em língua árabe para alimentar um chatbot capaz de escanear e analisar mensagens de texto, postagens em redes sociais e outros dados, afirmaram duas fontes que conhecem os programas.

Muitos desses esforços decorreram de uma parceria entre soldados alistados na Unidade 8200 e militares da reserva que trabalham em empresas de tecnologia como Google, Microsoft e Meta, segundo três fontes com conhecimento sobre as tecnologias. A Unidade 8200 criou o que ficou conhecido como “O Estúdio”, um centro de inovação destinado a conectar especialistas a projetos de IA, disseram as fontes.

Erros

No entanto, mesmo com a corrida israelense para desenvolver um arsenal de IA, a implantação dessas tecnologias às vezes produziu identificações e prisões equivocadas, assim como mortes de civis, afirmaram autoridades israelenses e americanas. Algumas autoridades têm discutido as implicações éticas no uso das ferramentas da IA, que poderia resultar em um aumento na vigilância e mais mortes de civis.

Nenhuma outra nação tem sido tão ativa quanto Israel em experimentos com ferramentas de IA durante batalhas em tempo real, disseram autoridades de defesa europeias e americanas, descrevendo como tais tecnologias poderiam ser usadas em guerras futuras — e também como a IA pode errar.

“A necessidade urgente de lidar com a crise acelerou uma inovação em grande medida dotada de IA”, disse Hadas Lorber, chefe do Instituto de Pesquisa Aplicada em IA Responsável, do Instituto Holon de Tecnologia e ex-diretora sênior do Conselho de Segurança Nacional de Israel. “Isso ocasionou tecnologias revolucionárias no campo de batalha e vantagens que se mostraram cruciais em combate.”

Mas as tecnologias “também suscitaram sérias questões éticas”, disse Lorber. Ela alertou que a IA precisa de freios e contrapesos, acrescentando que humanos sempre devem tomar as decisões finais.

Uma porta-voz das Forças Armadas de Israel disse que não poderia comentar a respeito de tecnologias específicas devido à sua “natureza confidencial”. Israel “está comprometido com o uso legal e responsável de ferramentas de tecnologia de dados”, disse ela, acrescentando que as Forças Armadas estão investigando o ataque a Biari e “não podem fornecer mais informações até a investigação ser concluída”.

A Meta e a Microsoft não quiseram comentar. O Google afirmou ter “funcionários que servem como reservistas em vários países ao redor do mundo. O trabalho que esses funcionários realizam como reservistas não está conectado ao Google”.

Israel já utilizou os conflitos em Gaza e no Líbano para experimentar e aprimorar ferramentas tecnológicas para suas Forças Armadas — como drones, ferramentas de hackeamento telefônico e os sistemas de defesa Domo de Ferro, capazes de ajudar a interceptar mísseis balísticos de curto alcance.

Depois que o Hamas lançou os ataques transfronteiriços contra Israel em 7 de outubro de 2023, matando mais de 1,2 mil pessoas e fazendo 250 reféns, tecnologias de IA foram rapidamente liberadas para implantação, afirmaram quatro autoridades israelenses. Isso levou à cooperação no “Estúdio” entre a Unidade 8200 e soldados da reserva para desenvolver rapidamente novas capacidades de IA, disseram as fontes.

Inovação

Avi Hasson, presidente-executivo da Startup Nation Central, uma organização sem fins lucrativos israelense que conecta investidores e empresas, afirmou que os reservistas na Meta, no Google e na Microsoft se tornaram cruciais para impulsionar a inovação em drones e integração de dados.

“Os reservistas trouxeram conhecimento e acesso a tecnologias importantes, que não estavam disponíveis nas Forças Armadas”, afirmou.

As Forças Armadas de Israel logo utilizaram a inteligência artificial para aprimorar sua frota de drones. Aviv Shapira, fundador e presidente-executivo da XTEND, uma empresa de software e drones que trabalha com as Forças Armadas israelenses, afirmou que algoritmos com base em IA foram usados para construir drones que permitem localizar e perseguir alvos à distância.

“No passado, os recursos de orientação dependiam da localização em uma imagem do alvo”, afirmou. “Agora, a IA é capaz de reconhecer e perseguir o próprio alvo — seja um carro em movimento ou uma pessoa — com precisão letal.”

Ética

Shapira afirmou que seus principais clientes, as Forças Armadas de Israel e o Departamento de Defesa dos EUA, estão cientes das implicações éticas do uso de IA na guerra e discutem um uso responsável da tecnologia.

Uma ferramenta desenvolvida pelo “Estúdio” foi um modelo de IA em língua árabe conhecido como grande modelo de linguagem, afirmaram três oficiais militares israelenses familiarizados com o programa. (A existência desse grande modelo de linguagem foi revelada pelo site de notícias israelo-palestino Plus 972.)

Os desenvolvedores tiveram dificuldades para criar esse modelo devido à escassez de dados em língua árabe para treinar a tecnologia. Quando disponíveis, esses dados eram principalmente em árabe escrito padrão, que é mais formal do que as dúzias de dialetos presentes no árabe falado.

Os militares israelenses não tiveram esse problema, disseram os três oficiais militares. O país tinha décadas de mensagens de texto interceptadas, ligações telefônicas transcritas e postagens coletadas de redes sociais em dialetos do árabe falado. Assim, os militares israelenses criaram o grande modelo de linguagem nos primeiros meses da guerra e construíram um chatbot para realizar consultas em língua árabe. Uniram a ferramenta a bancos de dados multimídia, permitindo que analistas realizassem buscas complexas em imagens e vídeos, disseram quatro autoridades israelenses.

Quando Israel assassinou o líder do Hezbollah, Hassan Nasrallah, em setembro, o chatbot analisou as respostas em todo o mundo árabe, disseram três oficiais militares israelenses. A tecnologia diferenciou entre diferentes dialetos usados no Líbano para avaliar a reação do público, ajudando Israel a aferir se havia pressão pública por um contra-ataque.

Em certas ocasiões o chatbot não conseguiu identificar algumas gírias e palavras modernas que foram transliteradas do inglês para o árabe, disseram dois oficiais militares. Isso exigiu que agentes de inteligência israelenses com experiência em diferentes dialetos revisassem e corrigissem seu trabalho, disse um dos oficiais militares.

O chatbot também forneceu respostas erradas, por exemplo retornando fotos de canos em vez de armas, disseram dois agentes de inteligência israelenses. Mesmo assim, a ferramenta de IA acelerou significativamente a pesquisa e a análise, disseram eles.

Após os ataques de 7 de outubro de 2023, Israel também começou a equipar postos de controle temporários instalados entre o norte e o sul da Faixa de Gaza com câmeras capazes de escanear e enviar imagens de alta resolução de palestinos para um programa de reconhecimento facial dotado de IA.

Em certas ocasiões, esse sistema também teve problemas para identificar pessoas cujos rostos estavam obscurecidos. Isso levou a prisões e interrogatórios de palestinos identificados erroneamente pelo sistema de reconhecimento facial, afirmaram dois agentes de inteligência israelenses.

Inteligência

Israel também utilizou IA para analisar dados coletados por autoridades de inteligência sobre membros do Hamas. Antes da guerra, Israel construiu um algoritmo de aprendizado de máquina — de codinome “Lavender” — capaz de classificar dados rapidamente para procurar militantes de baixo escalão. A IA foi treinada com um banco de dados de membros confirmados do Hamas e tinha como objetivo prever quem mais poderia fazer parte do grupo. Embora as previsões do sistema fossem imperfeitas, Israel o utilizou no início da guerra em Gaza para ajudar a escolher alvos de ataques.

Poucos objetivos foram mais prementes do que localizar e eliminar a alta liderança do Hamas. Quase no topo da lista estava Biari, o comandante do Hamas que, segundo autoridades israelenses, desempenhou um papel central no planejamento dos ataques de 7 de outubro de 2023.

A inteligência militar de Israel interceptou rapidamente ligações entre Biari e outros membros do Hamas, mas não conseguia identificar sua localização. Então os agentes recorreram à ferramenta de áudio dotada de IA, que analisou diferentes sons, como bombas sônicas e ataques aéreos.

Após uma localização aproximada de onde Biari estava fazendo suas ligações ser deduzida, oficiais militares israelenses foram alertados de que a área, que incluía vários complexos de apartamentos, era densamente povoada, afirmaram dois agentes de inteligência. Um ataque aéreo precisaria atingir vários prédios para garantir a morte de Biari, disseram eles. A operação recebeu sinal verde.

Desde então, a inteligência israelense também utilizou a ferramenta de áudio associada a mapas e fotos do labirinto de túneis subterrâneos de Gaza para localizar reféns. Com o tempo, a ferramenta foi aprimorada para encontrar indivíduos com mais precisão, afirmaram dois oficiais militares israelenses. 

TRADUÇÃO DE GUILHERME RUSSO