É revoltante ver como a inteligência artificial, uma ferramenta com tanto potencial, está sendo distorcida para se tornar uma nova arma de violência contra as mulheres. A internet, que deveria ser um espaço de conexão e informação, muitas vezes se transforma em um terreno fértil para a impunidade e para a perpetuação de violências que ultrapassam as barreiras do mundo físico.
Como a inteligência artificial se tornou uma ferramenta de violência?
Hoje, as chamadas deepfakes, imagens e vídeos gerados por IA com o nosso próprio rosto, estão sendo usadas para violentar mulheres de uma forma cruel. Mulheres que nunca postaram qualquer conteúdo sexual estão vendo seus rostos espalhados e perpetuados na internet em contextos que nunca consentiram. Isso é uma invasão brutal da privacidade e da dignidade.
Mas a violência não para por aí. Recentemente, acompanhei casos onde influenciadores estão usando inteligência artificial para simular mulheres com Síndrome de Down e vender esse tipo de conteúdo em plataformas como o OnlyFans. Isso é um absurdo! Além de ser um capacitismo inaceitável, desumaniza e fetichiza essas mulheres. Essas imagens são geradas por um filtro de IA que imita as feições de uma pessoa com Síndrome de Down, e esse rosto é então colocado em um corpo extremamente sexualizado. Esse tipo de conteúdo está sendo espalhado principalmente no TikTok e no OnlyFans.
Qual o papel das plataformas digitais nessa impunidade?
As plataformas têm uma responsabilidade enorme e, infelizmente, estão falhando. O TikTok, por exemplo, muitas vezes não reconhece esse filtro de IA como uma violação de direitos, o que demonstra uma falha gigantesca da empresa em fiscalizar o que é postado na sua própria plataforma.
No OnlyFans, a situação é ainda mais complexa. Por ser uma plataforma criada para conteúdo adulto, onde as pessoas pagam para acessar nichos específicos, a fiscalização se torna um desafio. Como se faz a denúncia de um conteúdo quando as pessoas estão pagando para assistir e, portanto, não o veem como uma violação? A desumanização e a fetichização que esse tipo de conteúdo gera é o que normaliza violências. É importante lembrar que, no Brasil, mulheres com deficiência são as principais vítimas de violação de direitos.
O que podemos fazer para combater essa violência online?
As plataformas precisam agir de forma contundente: remover esse conteúdo imediatamente e investir em algoritmos que consigam impedir e reconhecer quando esse tipo de coisa está sendo espalhada. A misoginia encontra na internet ferramentas e impunidade para violentar as mulheres, e isso não pode continuar.
É por esse motivo que nós precisamos de uma regulamentação das redes sociais e da inteligência artificial. Precisamos de leis e mecanismos que responsabilizem quem cria e quem permite a circulação desses conteúdos. E é por esse mesmo motivo que eu te convido a assinar o Basta Assinado, uma iniciativa que estamos promovendo pela proteção e pelo acolhimento de mulheres no estado de São Paulo. Você pode assinar acessando o link em rebecacristina.com. A sua assinatura faz a diferença nessa luta por um ambiente digital mais seguro para todas nós.
Em resumo
- A inteligência artificial está sendo utilizada para criar deepfakes e conteúdo sexualizado não consensual contra mulheres.
- Há casos de IA sendo usada para simular mulheres com Síndrome de Down em conteúdos sexualizados, o que configura capacitismo e desumanização.
- Plataformas como TikTok e OnlyFans falham em fiscalizar e remover esses conteúdos abusivos de forma eficaz.
- É urgente a regulamentação das redes sociais e da inteligência artificial para garantir a proteção e o acolhimento das mulheres online.
Perguntas frequentes
O que são deepfakes?
São imagens ou vídeos criados por inteligência artificial que simulam pessoas em situações que nunca aconteceram, frequentemente usados para fins maliciosos, como a disseminação de conteúdo sexual não consensual.
Como a IA afeta mulheres com deficiência?
Em alguns casos, a IA é utilizada para gerar conteúdo sexualizado que fetichiza e desumaniza mulheres com deficiência, tornando-as alvos de exploração e violação de direitos online.
O que as plataformas digitais deveriam fazer?
As plataformas devem investir em algoritmos de reconhecimento e remoção de conteúdo abusivo, implementar políticas claras e eficazes contra a violência gerada por IA e responsabilizar seus usuários por conteúdos ilegais.
Qual a importância da regulamentação da IA?
A regulamentação é fundamental para criar um ambiente digital mais seguro, estabelecendo limites para o uso da tecnologia, responsabilizando plataformas e desenvolvedores e protegendo as vítimas de violências mediadas pela inteligência artificial.