TRAGO SUA FOTO NUA EM TRÊS DIAS

Um negócio tão nefasto diz muito sobre como questões de gênero e tecnologia se conectam.

Uma inovação tecnológica, que apareceu no Telegram, permite desnudar mulheres jovens em poucos dias. Trata-se de um negócio informal que nasceu na Índia e usa essa rede social para encontrar clientes. A negociação é digital: conversando com um chatbot, você envia a foto de uma mulher com roupa e o bot devolve a mesma foto com ela pelada. Tudo por menos de R$ 10. O corpo nu é renderizado com base em mais de 680 mil fotos semelhantes obtidas sem qualquer autorização, e os impactos de um negócio tão nefasto dizem muito sobre como questões de gênero e tecnologia se conectam.

O robô que atende você pela internet faz uso de uma aplicação de inteligência artificial chamada DeepNude AI, criada em 2019 para tirar roupa de mulheres. As tecnologias inventadas pelos humanos têm o potencial de ser neutras, mas é difícil argumentar isso quando há tantos aplicativos que fazem uma coisa só. Veja o exemplo: se você quiser desnudar um homem adulto, não há algoritmo para fazer isso. Já se quiser emular uma Lolita, sobram ferramentas desenvolvidas por aí.

O uso de inteligência artificial para gerar deep fakes, ou imagens falsas, é promissor e pode ser bem empregado. Os filmes da Pixar usam esse tipo de tecnologia; na medicina, o uso de deep fakes facilita a realização de diagnósticos; e, na arquitetura, há usos tão naturais de deep fake que você pode usá-los sem nem saber. Isso sem nem entrar no universo de games, que usam a tecnologia para criar avatares ou gerar universos inteiros nos jogos de RPG.

Mas a tecnologia pode também ser muito mal aplicada. Usar inteligência artificial para simular menores de idade nuas é nefasto. E estamos cercados de exemplos similares, que passam despercebidos. Pense na quantidade de buscas de usuários por vídeos "amadores" e do tipo "jovenzinhas" em sites como PornHub e Xvideos. Use sua memória para lembrar de celebridades vítimas de fotos vazadas e pense em quantos casos são de famosas e quantos, de famosos. Isso sem entrar em questões ainda mais complexas de diversidade de gênero.

Investigações para deter essa aplicação foram abertas em países como Estados Unidos, Coreia do Sul, Itália e Israel. No Brasil, não há registro de investigações do tipo. Até a Apple e o próprio Telegram implementaram restrições para banir o uso da tecnologia, mas estima-se que até hoje mais de 100 mil mulheres já foram despidas pelo serviço. Essas imagens circularam, em sua maior parte, na Rússia (que concentra 70% do uso do serviço, mas 6% dos usos acontecem em países latino-americanos. Além disso, 63% das imagens são de pedidos para tirar a roupa de pessoas da própria família ou conhecidas.

Saber que criamos uma tecnologia para tirar roupas de mulheres, e que há uma demanda para isso, nos faz refletir. Isso nos lembra a relevância de ter mais mulheres produzindo tecnologia e de aumentar a eficácia de leis de proteção de dados para proteger a privacidade. Além disso, nos obriga a perguntar: de onde surge essa demanda para criarmos tecnologia que desnude mulheres, em lote, e sem consentimento?

Fonte: Zero Hora/Fabro Steibel/Diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro (fabro@itsrio.org).