A Advocacia-Geral da União (AGU), a Secretaria de Comunicação Social (Secom) e o Ministério da Saúde acionaram o Google para remover 97 canais no YouTube que usavam inteligência artificial para simular profissionais de saúde. Os avatares promoviam tratamentos e e-books sem comprovação científica, voltados principalmente ao público idoso. A notificação estabeleceu o prazo de 72 horas para a derrubada das contas e reacendeu a discussão sobre a responsabilidade das plataformas digitais.
Desafios de moderação e a detecção de avatares
A investigação revelou que as produções utilizavam softwares de síntese de voz e imagem para criar perfis hiper-realistas com visual de consultório. Com custos reduzidos e automação, as redes de desinformação conseguem publicar conteúdos em volume massivo.
“Os conteúdos usam avatares de aparência humana apresentados como médicos ou especialistas, atribuem qualificações profissionais fictícias e recorrem a linguagem alarmista para conferir credibilidade às informações”, diz nota do Ministério da Saúde (MS).
Criados para identificar pirataria e violações de termos de uso tradicionais, os sistemas de moderação das redes sociais hoje esbarram em limitações técnicas para checar se uma identidade virtual é real. Por causa disso, os vídeos fraudulentos continuam no ar até que as plataformas recebam e processem denúncias formais.
O debate sobre a responsabilidade das plataformas
O episódio reabre a discussão jurídica sobre o papel das empresas de tecnologia na prevenção de fraudes. Atualmente, a legislação brasileira prevê que as plataformas atuem majoritariamente após a notificação de irregularidades, sem a obrigação de uma filtragem prévia ampla de todo conteúdo publicado.
Por isso, o debate técnico agora se volta para a criação de novas regras de controle. Entre as principais propostas estão a verificação obrigatória de registro profissional para canais que oferecem orientações de saúde e a inserção de rótulos claros em produções geradas por inteligência artificial.
Anonimato e barreiras na identificação dos autores
Enquanto propostas de regulamentação da IA tramitam no Congresso Nacional, a identificação dos criadores dos 97 canais enfrenta barreiras técnicas. O uso de redes privadas e meios de pagamento descentralizados dificulta o rastreamento dos responsáveis pelas autoridades policiais.
Como o processo de remoção e investigação depende de trâmites administrativos e judiciais, entidades de defesa do consumidor reforçam que a prevenção primária ainda depende do alerta aos usuários.
- Produção automatizada: ferramentas de IA permitem a criação rápida e em escala de novos canais fraudulentos.
- Integração de dados: a moderação das redes não realiza cruzamento direto com os bancos de dados do Conselho Federal de Medicina.
- Monetização: os vídeos seguem o fluxo normal de exibição de anúncios até o bloqueio definitivo da conta.
A notificação do governo federal marca uma nova etapa na cobrança por políticas ativas de segurança cibernética nas plataformas digitais, enquanto o setor aguarda definições sobre o modelo de regulação da inteligência artificial no país.
*Com edição de Nicoly Souza