Índia aperta regras de deepfakes e pressiona Instagram e X

Prepare-se: a Índia está jogando pesado contra os deepfakes. Com mais de 1 bilhão de usuários online, esse mercado jovem e vibrante acaba de anunciar regras duras para as redes sociais — como Instagram e X — que precisam remover conteúdos ilegais gerados por IA muito mais rápido e rotular claramente todo material sintético.

O recado é claro: nada de deixar deepfakes circulando sem controle. E o prazo para cumprir essas novas obrigações é curtíssimo, com as regras entrando em vigor em poucos dias.

O que isso significa na prática?

As novas Regras de Tecnologia da Informação da Índia exigem que plataformas adotem “medidas técnicas razoáveis e apropriadas” para:

• Impedir criação e compartilhamento de deepfakes ilegais em áudio e vídeo;
• Incorporar metadados permanentes ou mecanismos de proveniência nos conteúdos gerados por IA;
• Garantir que esses conteúdos carreguem rótulos visíveis e claros, como avisos verbais em áudios.

Ou seja, nada de passar pano para conteúdos sintéticos. As plataformas devem garantir transparência máxima para o usuário identificar o que é real e o que é gerado por IA.

Por que isso importa agora?

Detectar e rotular deepfakes não é tarefa fácil — sistemas como o C2PA tentam resolver isso anexando metadados invisíveis que mostram a origem e edição do conteúdo. Mas, convenhamos, a tecnologia ainda está engatinhando.

Mesmo gigantes como Meta, Google e Microsoft usam o C2PA, mas parte do conteúdo escapa, e plataformas como o X sequer implementaram sistemas de rotulagem. Com as novas regras, o X tem apenas nove dias para se adaptar, sob risco de penalidades.

“As plataformas não podem mais permitir que metadados sejam removidos ou ocultados, mesmo que acidentalmente.”

Como as regras vão impactar o mundo?

Por ser um dos maiores mercados digitais do planeta, o que a Índia regula tende a virar padrão global. Se as plataformas conseguirem cumprir as regras, teremos um avanço na moderação de deepfakes e maior confiança nas redes sociais.

Por outro lado, a pressão também revela a urgência de soluções mais robustas e interoperáveis para identificação de conteúdo sintético — um desafio que vai além da Índia e interessa a todos no ecossistema digital.

Como começar?

Se você trabalha com tecnologia, mídia ou governança digital, este é o momento de ficar atento às novas demandas regulatórias e investir em ferramentas que garantam rastreabilidade e transparência de conteúdo gerado por IA.

Na comunidade IA com Propósito, discutimos diariamente os impactos dessas mudanças e compartilhamos hacks e estratégias para navegar esse cenário complexo. Quer fazer parte? Clique aqui.

O que ninguém te contou

• Metadados do C2PA podem ser removidos acidentalmente durante uploads;
• Apps open-source e “nudify apps” ainda burlam o sistema voluntário de rotulagem;
• O prazo de 3 horas para remoção de deepfakes ilegais é um desafio técnico e operacional enorme para as plataformas.

A Índia não está só protegendo seus usuários — está puxando o tapete para o mundo inteiro repensar como lidar com a era dos deepfakes e da IA generativa.

Prof. Leandro de Jesus
Administrador | Palestrante | Especialista em Inteligência Artificial
Mentor em Automações Inteligentes e Criador da Comunidade IA com Propósito
Instagram: @prof.leandrodejesus | Contato: (69) 99224-2552
💡 “Dominar IA é dominar oportunidades.”