DARPA Planeja Criar um Exército de 100.000 Agentes de IA Autônomos

O documento original, que pode ser acessado em https://thedebrief.org/darpa-wants-to-build-an-army-of-100000-ai-agents-that-can-think-and-act-on-their-own-dice/, discute uma nova fronteira em inteligência militar, proposta pela DARPA (Agência de Projetos de Pesquisa Avançada de Defesa). A iniciativa DICE (Inteligência Artificial Descentralizada por Emergência Controlada) propõe uma abordagem radicalmente diferente, onde uma rede de agentes de IA autônomos formará coletivos capazes de operar de maneira independente em cenários complexos, sem depender de um planejador central. Essa abordagem destoa do modelo tradicional, onde uma única IA gerencia a estratégia em um campo de batalha.

A construção de tais agentes de IA que pensem e atuem de forma independente surge em resposta a ameaças emergentes e ao caráter dinâmico dos conflitos modernos, que exigem uma adaptação rápida e eficaz. Os pesquisadores da DARPA enfatizam que os conflitos futuros ocorrerão em velocidades de máquina, tornando os atuais sistemas de comando centralizados inadequados para ambientes altamente dinâmicos e contestados. Em vez de um único ponto de falha, como um comando central, a proposta é que os agentes interajam diretamente, formando equipes temporárias e adaptando-se às mudanças nas condições do campo de batalha.

A DARPA também propõe a ideia de "emergência controlada", onde cada agente de IA terá a capacidade de se comunicar e cooperar com outros agentes, dividindo tarefas de forma eficaz e negociando papéis de acordo com as necessidades em tempo real. Essa abordagem é similar à forma como as sociedades naturais, como colônias de formigas ou bandos de pássaros, operam em grupos complexos, mesmo sem um líder claro. O impacto potencial desse modelo é significativo, pois o conceito central é permitir que a inteligência coletiva surja de interações locais, compatíveis com regras simples, aumentando assim a capacidade de resposta e resiliência em cenários de combate.

O DICE enfrenta o desafio de permitir que essa inteligência coletiva permaneça alinhada com os objetivos humanos, evitando a criação de agentes que possam desenvolver metas instrumentais não alinhadas. Os pesquisadores planejam desenvolver adaptadores locais, em vez de um sistema de comando central, permitindo que os agentes de IA coordenem diretamente suas ações enquanto monitoram seu comportamento. Essa estratégia busca cultivar um ambiente colaborativo que ainda mantenha controle suficiente sobre os objetivos e missões a serem cumpridos.

A DARPA delineia um programa de três fases, começando com a simulação de missões envolvendo 500 agentes, aumentando progressivamente para 100.000 agentes em interações complexas. Em cada fase, a ênfase será em testar a eficácia e a resiliência dos sistemas descentralizados em comparação com modelos tradicionais, considerando cenários adversos e a capacidade dos agentes de resolver problemas de forma independente. Essa abordagem visa não apenas criar melhores sistemas de IA, mas explorar se a inteligência coletiva pode se tornar uma capacidade militar inovadora.

O estudo de como esses grandes coletivos interagem em situações inesperadas promete abrir novas avenidas para inovação em defesa e segurança. A DARPA enfatiza que o DICE é um programa de pesquisa baseado em simulação, sem a intenção de implementar sistemas de IA autônomos no mundo real sem a devida avaliação e controle. O documento nos convida a considerar as implicações éticas e práticas dessa tecnologia emergente, além dos riscos de comportamentos imprevistos em um cenário militar.

Com as questões levantadas sobre a autonomia dos sistemas de IA e o potencial para comportamento não previsto, o DICE é uma iniciativa pioneira que vem de encontro a um dos desafios cruciais do futuro militar. A forma como os sistemas da IA se comportarão sob pressão e em situações de conflito ainda é uma área de pesquisa inexplorada. O DICE, portanto, não é apenas um avanço em tecnologia de máquinas autônomas, mas uma tentativa de responder a questões fundamentais sobre a natureza da inteligência e sua aplicação na defesa moderna.