Polícia francesa realiza busca em escritórios da rede social X em investigação sobre pornografia infantil e deepfakes

A polícia francesa realizou buscas nos escritórios da rede social X, anteriormente conhecida como Twitter, em Paris nesta segunda-feira, de acordo com informações divulgadas pela promotoria local. A operação faz parte de uma investigação sobre moderação de conteúdo relacionada a pornografia infantil e deepfakes na plataforma de propriedade do bilionário Elon Musk.

Segundo o Ministério Público de Paris, as buscas ocorreram sob supervisão judicial e estão vinculadas a um inquérito preliminar aberto em julho de 2024. A investigação examina possíveis crimes incluindo a distribuição de imagens de abuso sexual infantil e o compartilhamento não autorizado de conteúdo manipulado digitalmente.

Contexto da investigação sobre moderação de conteúdo no X

A investigação francesa sobre moderação de conteúdo começou após autoridades identificarem preocupações crescentes com a circulação de material ilegal na plataforma. As autoridades não confirmaram se executivos da empresa foram questionados durante a operação, mas indicaram que o procedimento segue protocolos estabelecidos para casos dessa natureza.

A plataforma X enfrenta escrutínio crescente na Europa devido às suas práticas de moderação desde que Musk assumiu o controle em 2022. Após a aquisição, a empresa implementou mudanças significativas em suas equipes de segurança e políticas de conteúdo, gerando críticas de reguladores e organizações de direitos humanos.

Regulamentação europeia e responsabilidade das plataformas

A União Europeia intensificou a fiscalização de redes sociais com a entrada em vigor do Digital Services Act (DSA) em 2023. A legislação exige que grandes plataformas digitais removam rapidamente conteúdo ilegal e implementem sistemas robustos de moderação, sob pena de multas substanciais.

Além disso, empresas de tecnologia devem cooperar com investigações criminais e fornecer dados quando solicitado por autoridades judiciais. O não cumprimento dessas obrigações pode resultar em sanções que chegam a 6% do faturamento global anual da companhia.

Entretanto, a investigação francesa não está diretamente relacionada ao DSA, segundo fontes próximas ao caso. O inquérito foca especificamente em possíveis violações do código penal francês relacionadas à proteção de menores e privacidade digital.

Desafios da moderação de deepfakes e conteúdo sintético

A questão dos deepfakes representa um desafio crescente para plataformas digitais em todo o mundo. Imagens e vídeos manipulados por inteligência artificial tornaram-se mais sofisticados e difíceis de detectar, complicando os esforços de moderação automatizada.

Especialistas em segurança digital alertam que a tecnologia deepfake tem sido cada vez mais utilizada para criar conteúdo abusivo envolvendo menores. Consequentemente, reguladores pressionam empresas tecnológicas a desenvolverem ferramentas mais eficazes de identificação e remoção desse material.

Enquanto isso, o X não emitiu declaração oficial sobre as buscas realizadas em seus escritórios parisienses. A empresa reduziu significativamente sua equipe de comunicação global após a gestão de Musk assumir o controle da companhia.

Precedentes legais envolvendo executivos da plataforma

Esta não é a primeira vez que a plataforma enfrenta questões legais na França. Em agosto de 2024, Pavel Durov, fundador do Telegram, foi detido em território francês em uma investigação relacionada a crimes facilitados por sua plataforma, incluindo distribuição de material ilegal.

Ademais, autoridades francesas demonstraram disposição para responsabilizar executivos de tecnologia pessoalmente quando há evidências de negligência na moderação de conteúdo criminoso. Essa abordagem reflete uma tendência crescente entre países europeus de aplicar legislação mais rigorosa ao setor.

As autoridades francesas não divulgaram cronograma para conclusão da investigação sobre moderação de conteúdo no X. A promotoria indicou que os resultados das buscas serão analisados nas próximas semanas, mas não especificou quando possíveis acusações formais poderiam ser apresentadas.