X sob Investigação da UE por Deepfakes Sexualizadas do Grok

A plataforma X, outrora conhecida como Twitter, encontra-se sob escrutínio da Comissão Europeia, que abriu uma investigação formal sobre a geração de deepfakes sexualizadas pelo seu chatbot de inteligência artificial, Grok. Esta medida sublinha a crescente preocupação regulatória com o impacto das IAs generativas e a necessidade de as plataformas cumprirem rigorosas obrigações de segurança, especialmente no que toca à proteção de conteúdos sensíveis e de menores na União Europeia.

A Investigação da Comissão e a Lei dos Serviços Digitais (DSA)

A Comissão Europeia anunciou que irá avaliar se a X "avaliou e mitigou adequadamente os riscos" associados às capacidades de geração de imagens do Grok dentro da UE. Esta investigação é particularmente relevante sob a alçada da Lei dos Serviços Digitais (DSA), um quadro regulamentar europeu que impõe obrigações estritas a plataformas online muito grandes (VLOPs), como a X. A DSA exige que estas plataformas identifiquem, avaliem e mitiguem os riscos sistémicos decorrentes da utilização dos seus serviços, incluindo a disseminação de conteúdos ilegais ou prejudiciais. A capacidade do Grok de gerar imagens sintéticas, nomeadamente deepfakes sexualizadas, de mulheres e menores, provocou uma onda de alarmes por parte de grupos de defesa dos direitos humanos e legisladores a nível global, levando a esta intervenção regulatória em Bruxelas.

Medidas da X e o Futuro da Moderação de IA na UE

Em resposta às preocupações iniciais, a X optou por limitar o acesso à funcionalidade de edição de imagens em respostas públicas a publicações, tornando-a uma opção paga. Contudo, a capacidade de gerar este tipo de conteúdo problemático ainda persiste noutros contextos da plataforma, levantando questões sobre a eficácia e abrangência das suas medidas de segurança. A Comissão Europeia espera que as plataformas implementem soluções robustas e proativas para prevenir a proliferação de deepfakes e outros conteúdos prejudiciais, em vez de respostas reativas ou parciais. Este caso é um forte indicativo de que a UE está determinada a aplicar a DSA, garantindo que as empresas de tecnologia assumam a responsabilidade pelos algoritmos e ferramentas que desenvolvem e implementam, protegendo os utilizadores europeus, incluindo os portugueses, de potenciais abusos.

Para os utilizadores portugueses e europeus, esta investigação reforça a mensagem de que as entidades reguladoras da UE estão vigilantes quanto à segurança online e à governação da IA. O desfecho desta investigação terá implicações significativas na forma como a X e outras plataformas gerem os seus sistemas de IA, especialmente no que diz respeito à moderação de conteúdo e à proteção contra deepfakes. É um passo crucial na garantia de um ambiente digital mais seguro e transparente para todos.