O Pentágono tem permissão para vigiar os americanos com IA? | Revisão de tecnologia do MIT
A inteligência artificial está a sobrecarregar a vigilância e a lei não a alcançou.
A disputa pública em curso entre o Departamento de Defesa e a empresa de IA Anthropic levantou uma questão profunda e ainda sem resposta: Será que a lei permite realmente que o governo dos EUA conduza vigilância em massa sobre os americanos?
Mais de uma década depois de Edward Snowden ter exposto a recolha de metadados em massa dos telefones dos americanos, efectuada pela NSA, os EUA ainda navegam num fosso entre o que as pessoas comuns pensam e o que a lei permite.
O ponto crítico no impasse entre a Anthropic e o governo foi o desejo do Pentágono de usar o AI Claude da Anthropic para analisar dados comerciais em massa sobre os americanos.
A Antrópica exigiu que a sua IA não fosse utilizada para vigilância doméstica em massa (ou para armas autónomas, que são máquinas que podem matar alvos sem supervisão humana).
Uma semana após o fracasso das negociações, o Pentágono designou a Antrópica como um risco na cadeia de abastecimento, um rótulo normalmente reservado a empresas estrangeiras que representam uma ameaça à segurança nacional.
Entretanto, a OpenAI, a empresa rival de IA por detrás do ChatGPT, selou um acordo que permitiu ao Pentágono utilizar a sua IA para “todos os fins legais” – linguagem que, segundo os críticos, deixou a porta aberta à vigilância doméstica.
No fim de semana seguinte, os usuários desinstalaram o ChatGPT em massa.
Os manifestantes escreveram mensagens a giz na sede da OpenAI em São Francisco: “Quais são os seus limites?” A OpenAI anunciou na segunda-feira que reformulou seu acordo para garantir que sua IA não será usada para vigilância doméstica.
A empresa acrescentou que seus serviços não serão utilizados por agências de inteligência, como a NSA.
O CEO Sam Altman sugeriu que a lei existente proíbe a vigilância doméstica pelo Departamento de Defesa (agora às vezes chamado de Departamento de Guerra) e que o contrato da OpenAI simplesmente precisava fazer referência a esta lei.
“O DoW concorda com esses princípios, reflete-os na lei e na política, e nós os incluímos em nosso acordo”, escreveu ele no X.
O CEO da Anthropic, Dario Amodei, argumentou o contrário.