Publicações

ECA Digital e a trend das frutas em IA, conteúdo impróprio que se esconde sob estética infantil

As micronovelas de frutas geradas por Inteligência Artificial aparentam ser inofensivas, com linguagem simples, estética colorida, personagens frutas humanizadas, narrativa rápida, que por si só geram curiosidade e captam atenção do público mais jovem. No entanto, muitas das publicações abordam temas polêmicos, inapropriados a crianças e adolescentes, como: sexualização, violência doméstica, traição, entre outros conteúdos.

Já se sabe que o algoritmo costuma entregar o que desperta mais curiosidade ao público. Quando conteúdos desse tipo geram retenção, comentários e compartilhamentos, o algoritmo tende a ampliar sua distribuição. Assim, os criadores percebem que, para manter alcance e relevância, vale tensionar ainda mais os limites do aceitável, criando conteúdos mais apelativos.

Em conformidade com a Lei nº 15.211/2025 (ECA Digital) e o Decreto nº 12.880/2026, as plataformas de redes sociais que veiculem conteúdo inadequado para crianças e adolescentes devem implementar mecanismos que garantam a proteção desse público. Tais mecanismos incluem, alternativamente, a criação de uma versão segregada da plataforma destinada exclusivamente a crianças e adolescentes, ou a exigência de um processo robusto de verificação de idade para acesso ao conteúdo restrito.

Vale ressaltar que, as plataformas possuem responsabilidade compartilhada na proteção on-line e o algorítimo não deve recomendar ou sugerir este tipo de conteúdo indiscriminadamente. Se a trend trata de sexualização explícita, erotização ou narrativas materialmente impróprias, o debate deixa de ser apenas de “mau gosto” e passa a envolver deveres concretos de restrição de acesso.

Além disso, surgem outros pontos relevantes, como a engenharia de engajamento baseada no formato viciante e o conteúdo que se apresenta com códigos visuais de infância, mas entrega uma substância incompatível com a infância e desafia a moderação e verificação etária.

Não obstante a entrada em vigor do ECA Digital, que impõe às plataformas a obrigatoriedade de implementar mecanismos de verificação de idade e de restringir a rolagem infinita, observa-se que conteúdos como as “novelas de frutas” geradas por inteligência artificial conseguem transpor os filtros algorítmicos. Tal fenômeno ocorre devido à sua estética visualmente segura e infantilizada, que não aciona os critérios de restrição estabelecidos pela legislação.

Constata-se uma lacuna significativa, tanto nas plataformas digitais quanto na legislação vigente, no que concerne à eficácia dos sistemas de moderação algorítmica. Tais sistemas deveriam garantir a segurança de crianças e adolescentes no ambiente digital, prevenindo a ampla divulgação de conteúdos nocivos disfarçados sob uma aparência inofensiva. Nesse contexto, torna-se imperativo que os pais ou responsáveis acompanhem ativamente o consumo de conteúdo digital por seus filhos, empregando os meios de supervisão parental disponíveis e adequados.