A inteligência artificial, uma ferramenta de grande potencial, também se mostra um vetor para atividades ilícitas e de espionagem. Um relatório recente da Anthropic, empresa de IA sediada em San Francisco, revelou que nações como China e Irã utilizaram seus modelos para fins de vigilância e perseguição a dissidentes. Os incidentes, detectados e bloqueados entre janeiro e julho deste ano, acendem um alerta sobre os desafios éticos e de segurança na governança da IA em escala global.
A descoberta sublinha a complexidade de desenvolver e implementar tecnologias avançadas, que podem ser desviadas para usos maliciosos por atores estatais e outros grupos. As campanhas de vigilância identificadas visavam comunidades da diáspora e opositores políticos, reforçando padrões históricos de perseguição, mas agora com o auxílio de ferramentas de ponta.
O que você precisa saber
- A Anthropic detectou e bloqueou o uso indevido de seus modelos de IA por China, Irã e grupos na África Ocidental para espionagem.
- As campanhas de vigilância tinham como alvo ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem no exterior.
- Entre os usos, iranianos desenvolveram um método para identificar pessoas por suas contas em redes sociais, e um contratado no Mali usou IA para projetar software de coleta de inteligência.
- A empresa também bloqueou tentativas de desenvolver armas, realizar pesquisas biológicas problemáticas (vírus chikungunya, gripe aviária, varíola) e criar golpes românticos online.
- Desenvolvedores chineses foram acusados de usar o Claude da Anthropic para gerar respostas e, simultaneamente, “destilar” esses dados para aprimorar seus próprios modelos de IA.
Espionagem e Perseguição de Dissidentes: O Alvo da IA
Os regimes da China e do Irã foram identificados pela Anthropic como usuários de seus modelos de inteligência artificial em campanhas de vigilância. As vítimas principais eram grupos historicamente perseguidos, incluindo ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias, além de opositores do regime iraniano que vivem no exterior. Este uso da IA representa uma modernização das táticas de repressão, permitindo uma vigilância mais sofisticada e em larga escala.
No caso iraniano, a IA foi empregada para desenvolver métodos de identificação de indivíduos através de suas contas em redes sociais, um avanço preocupante para a privacidade e segurança de dissidentes. Na África Ocidental, especificamente no Mali, um contratado que trabalhava para as autoridades de segurança nacional utilizou a IA Claude da Anthropic para projetar o software subjacente que permitiu a coleta de inteligência. Tais incidentes demonstram como ferramentas de IA, projetadas para auxiliar em diversas tarefas, podem ser adaptadas e utilizadas para fins de controle e repressão estatal.
Além da Espionagem: Armas, Biotecnologia e Golpes
A amplitude do uso indevido detectado pela Anthropic vai além da espionagem. A empresa também relatou ter bloqueado tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online. Embora a intenção dos envolvidos nas pesquisas biológicas não tenha sido totalmente esclarecida, os estudos estavam concentrados em trabalhos relacionados ao vírus chikungunya, a uma cepa “altamente patogênica” de gripe aviária, a uma família de vírus que inclui a varíola e o mpox, além de venenos e outras toxinas.
A Anthropic, em seu relatório, destacou que as pessoas envolvidas nesses estudos eram cientistas e que não afirmava que tinham a intenção de causar danos. A decisão de não identificá-las ou a seus laboratórios visou protegê-las de riscos. Este cenário ressalta o dilema inerente ao desenvolvimento de tecnologias de duplo uso: como garantir que inovações benéficas não sejam cooptadas para fins prejudiciais, especialmente em áreas tão sensíveis como a biotecnologia.
A “Destilação” de Modelos de IA: Uma Questão de Propriedade Intelectual
Outra preocupação levantada pela Anthropic envolveu a prática da “destilação” de modelos. Desenvolvedores chineses foram acusados de utilizar o Claude de forma enganosa para gerar respostas a consultas de usuários e, simultaneamente, “destilar” esses dados para aprimorar seus próprios modelos de inteligência artificial. A destilação é um termo do setor que se refere ao processo de usar um modelo de IA para treinar outro.
Essa prática, quando realizada sem autorização, levanta questões significativas sobre propriedade intelectual, concorrência leal e a ética no desenvolvimento de IA. Não é a primeira vez que desenvolvedores chineses são acusados de empregar essa técnica sem permissão, indicando um desafio contínuo para empresas de IA em proteger suas inovações e garantir que seus modelos sejam usados de forma ética e legal.
O Desafio Global da Governança da Inteligência Artificial
Os casos revelados pela Anthropic sublinham a urgência e a complexidade da governança da inteligência artificial em um cenário global. A capacidade de regimes autoritários e outros atores usarem a IA para vigilância, desenvolvimento de armas ou manipulação online representa uma ameaça não apenas para a segurança individual, mas também para a estabilidade democrática e os direitos humanos em diversas partes do mundo. Para o Brasil, embora não haja um impacto direto imediato mencionado, o debate global sobre a ética e a regulamentação da IA é crucial. A compreensão desses riscos internacionais pode informar o desenvolvimento de políticas públicas e marcos regulatórios internos, visando proteger cidadãos e instituições contra usos maliciosos da tecnologia.
O que muda agora é a crescente conscientização sobre o uso dual da IA e a necessidade de empresas e governos colaborarem para estabelecer salvaguardas robustas. O leitor deve acompanhar os desenvolvimentos em regulamentação de IA e as medidas que as empresas de tecnologia estão tomando para coibir abusos. Os pontos ainda podem evoluir na medida em que a tecnologia avança e novos métodos de uso e contramedidas são desenvolvidos, exigindo vigilância contínua e adaptação das políticas de segurança.
Fontes consultadas
- Fonte 1 informada ao ViralNews pelo sistema de curadoria automatizada
