Os Estados Unidos endossam medidas responsáveis de Inteligência Artificial para militares globais

O governo dos Estados Unidos está liderndo esforços globais para construir normas fortes que promovam o uso militar responsável da inteligência artificial (IA) e de sistemas autônomos. Na semana passada, o Departamento de Estado anunciou que 47 estados já endossaram a “Declaração Política sobre o Uso Militar Responsável da Inteligência Artificial e da Autonomia” que o governo lançou pela primeira vez em Haia, em 16 de fevereiro.

A IA refere-se à capacidade das máquinas de realizar tarefas que de outra forma exigiriam inteligência humana, como reconhecer padrões, aprender com a experiência, tirar conclusões, fazer previsões ou gerar recomendações.

As capacidades de IA militar incluem não apenas armas, mas também sistemas de apoio à decisão que ajudam os líderes da defesa em todos os níveis a tomar decisões melhores e mais oportunas, desde o campo de batalha até a sala de reuniões, e sistemas relacionados a tudo, desde finanças, folha de pagamento e contabilidade, até recrutamento, retenção e promoção de pessoal, para coleta e fusão de dados de inteligência, vigilância e reconhecimento.

“Os Estados Unidos têm sido líderes globais no uso militar responsável da IA e da autonomia, com o Departamento de Defesa defendendo princípios éticos de IA e políticas sobre autonomia em sistemas de armas há mais de uma década e normas sobre o uso militar responsável da IA e da autonomia, fornece uma base para a construção de um entendimento comum e cria uma comunidade para todos os estados trocarem melhores práticas”, disse Sasha Baker, subsecretário de defesa para política.

O Departamento de Defesa liderou o mundo através da publicação de uma série de políticas sobre IA militar e autonomia, mais recentemente a Estratégia de Dados, Análise e Adoção de IA, lançada em 2 de novembro.

A declaração consiste em uma série de diretrizes não vinculativas que descrevem as melhores práticas para o uso militar responsável da IA. Estas diretrizes incluem a garantia de que os sistemas militares de IA são auditáveis, têm utilizações explícitas e bem definidas, estão sujeitos a testes e avaliações rigorosos ao longo do seu ciclo de vida, têm a capacidade de detectar e evitar comportamentos não intencionais, e que as aplicações de alta consequência passam por testes de análise de alto nível.

Como afirma o comunicado de imprensa do Departamento de Estado de 13 de novembro: “Esta iniciativa inovadora contém 10 medidas concretas para orientar o desenvolvimento responsável e o uso de aplicações militares de IA e autonomia. A declaração e as medidas que ela descreve são um passo importante na construção de um sistema internacional quadro de responsabilidade para permitir que os estados aproveitem os benefícios da IA e, ao mesmo tempo, mitiguem os riscos. Os EUA estão empenhados em trabalhar em conjunto com outros estados que a apoiam para desenvolver este importante desenvolvimento.”

As 10 medidas são:

1. Os Estados devem garantir que as suas organizações militares adotam e implementam estes princípios para o desenvolvimento, implantação e utilização responsáveis das capacidades de IA.
2. Os Estados devem tomar medidas adequadas, tais como revisões jurídicas, para garantir que as suas capacidades militares de IA serão utilizadas de forma consistente com as respectivas obrigações ao abrigo do direito internacional, em particular do direito humanitário internacional. Os Estados devem também considerar a forma de utilizar as capacidades militares da IA para melhorar a implementação do direito internacional humanitário e melhorar a proteção de civis e de bens civis em conflitos armados.
3. Os Estados devem garantir que os altos funcionários supervisionem de forma eficaz e adequada o desenvolvimento e a implantação de capacidades militares de IA com aplicações de grandes consequências, incluindo, entre outros, esses sistemas de armas.
4. Os Estados devem tomar medidas proativas para minimizar distorções não intencionais nas capacidades militares de IA.
5. Os Estados devem garantir que o pessoal relevante exerça o cuidado adequado no desenvolvimento, implantação e utilização de capacidades militares de IA, incluindo sistemas de armas que incorporem tais capacidades.
6. Os Estados devem garantir que as capacidades militares de IA sejam desenvolvidas com metodologias, fontes de dados, procedimentos de concepção e documentação que sejam transparentes e auditáveis pelo seu pessoal de defesa relevante.
7. Os Estados devem garantir que o pessoal que utiliza ou aprova o uso de capacidades militares de IA seja treinado para que compreenda suficientemente as capacidades e limitações desses sistemas, a fim de fazer julgamentos apropriados e informados sobre o contexto sobre o uso desses sistemas e para mitigar o risco de viés de automação.
8. Os Estados devem garantir que as capacidades militares de IA tenham utilizações explícitas e bem definidas e que sejam concebidas e projetadas para cumprir as funções pretendidas.
9. Os Estados devem garantir que a segurança, a proteção e a eficácia das capacidades militares de IA sejam sujeitas a testes e garantias adequados e rigorosos nas suas utilizações bem definidas e ao longo de todos os seus ciclos de vida. Para a autoaprendizagem ou a atualização contínua das capacidades militares de IA, os Estados devem garantir que as características críticas de segurança não foram degradadas, através de processos como a monitorização.
10. Os Estados devem implementar salvaguardas adequadas para mitigar os riscos de falhas nas capacidades militares de IA, tais como a capacidade de detectar e evitar consequências não intencionais e a capacidade de responder, por exemplo, desligando ou desativando sistemas implantados, quando tais sistemas demonstrem comportamento não intencional.

FONTE: Departamento de Defesa dos EUA