Ministério da Justiça aponta riscos em serviços de IA
O Ministério da Justiça e Segurança Pública (MJSP) recomendou, nesta segunda-feira (21), que a Agência Nacional de Proteção de Dados (ANPD) inicie uma análise rigorosa sobre o funcionamento dos chamados companheiros de IA. Trata-se de plataformas que utilizam inteligência artificial para simular interações de amizade e romance com usuários.
A medida foi formalizada por meio de uma nota técnica da Secretaria Nacional de Direitos Digitais (Sedigi). O documento sugere que a agência reguladora avalie se esses serviços estão em conformidade com o Estatuto Digital da Criança e do Adolescente (ECA Digital), focando na proteção de menores e na segurança dos dados processados.
Análise preliminar de 13 plataformas
A recomendação do governo não aponta condenações imediatas, mas destaca indícios de desconformidades após uma triagem inicial. O Ministério avaliou 13 serviços populares do setor, incluindo Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.
O órgão federal ressalta que a análise é preliminar e visa garantir que as plataformas cumpram deveres de proteção digital. Entre os pontos críticos levantados pela secretaria, está a fragilidade dos mecanismos de verificação de idade, que, na maioria dos casos, baseiam-se apenas na autodeclaração do usuário, facilitando o acesso de crianças e adolescentes a conteúdos potencialmente inadequados.
Preocupações com dados e comportamento
Além da questão etária, o governo federal manifestou preocupação com o uso de dados para a criação de perfis emocionais e comportamentais dos usuários. A capacidade dessas plataformas de simular emoções, adaptar respostas e, em certos casos, oferecer conteúdo adulto, coloca em evidência o risco de uso excessivo ou compulsivo por parte do público.
A nota técnica também sugere que a Secretaria Nacional do Consumidor (Senacon) examine as práticas comerciais das empresas. O objetivo é verificar como essas plataformas realizam a monetização, a veiculação de publicidade e o tratamento das informações coletadas durante as interações. Para mais detalhes sobre as diretrizes de proteção digital no país, consulte o portal oficial do Ministério da Justiça e Segurança Pública.
Próximos passos da regulação
A recomendação do MJSP coloca o setor de inteligência artificial de companhia sob um novo nível de escrutínio estatal. A expectativa é que, a partir da nota técnica, a ANPD e a Senacon definam os próximos passos para a fiscalização, visando mitigar riscos e garantir que a tecnologia de simulação de companheirismo respeite as normas brasileiras de proteção ao consumidor e aos direitos digitais.