A crescente capacidade da inteligência artificial (IA) de manipular e alterar imagens levanta preocupações sobre a privacidade e a integridade das fotos pessoais na era digital. Este artigo explora novas ferramentas desenvolvidas para combater a manipulação indesejada de imagens por sistemas de IA.
Resumo:
- Manipulação de Imagens por IA: A facilidade com que a IA generativa pode manipular imagens levou muitos a reforçar as configurações de privacidade em suas contas de mídia social. Com softwares de edição de imagem baseados em Stable Diffusion e aplicativos deepfake, é possível criar vídeos deepfake pornográficos ou editar roupas de fotos com poucos cliques.
- Ameaça Crescente: Embora a pornografia deepfake não consensual tenha sido usada para atormentar mulheres por anos, a nova geração de IA torna o problema ainda maior. Esses sistemas são mais fáceis de usar do que a tecnologia deepfake anterior e podem gerar imagens extremamente convincentes.
- Proteção contra Manipulação de IA: Uma nova ferramenta chamada PhotoGuard, criada por pesquisadores do MIT, pode ajudar a proteger imagens de manipulações de IA. Ela altera fotos de maneiras imperceptíveis para humanos, mas impede que sistemas de IA as modifiquem. Se alguém tentar editar uma imagem “imunizada” pelo PhotoGuard usando um modelo de IA generativa, o resultado parecerá irreal ou distorcido.
- Glaze: Outra ferramenta semelhante, chamada Glaze, foi desenvolvida para ajudar artistas a proteger suas obras e estilos artísticos de serem incorporados em conjuntos de dados de treinamento para modelos de IA. Glaze “oculta” imagens, aplicando alterações sutis que são quase imperceptíveis para humanos, mas impedem que modelos de IA aprendam os recursos que definem o estilo de um artista em particular.
- Limitações das Ferramentas: Embora essas ferramentas ofereçam soluções técnicas para o problema da edição de imagens por IA, elas não são perfeitas. Por exemplo, ainda é possível tirar uma captura de tela de uma imagem protegida pelo PhotoGuard e usar um sistema de IA para editá-la.
- Chamado para Plataformas de Mídia Social: A maneira mais eficaz de prevenir a manipulação de nossas imagens seria se as plataformas de mídia social e as empresas de IA fornecessem maneiras de imunizar imagens que funcionassem com todos os modelos de IA atualizados.
Conclusão:
A manipulação de imagens por IA é uma preocupação crescente na era digital. Embora novas ferramentas como PhotoGuard e Glaze ofereçam soluções promissoras, é essencial que plataformas de mídia social e empresas de IA adotem medidas proativas para proteger a integridade das imagens dos usuários.