ECA Digital contra a manipulação de crianças pelas IAs nas escolas

A saúde mental dos jovens vem sendo afetada por modelos de negócio das grandes empresas de tecnologia que priorizam engajamento e tempo de tela. A falta de regras mais claras permite que plataformas coletem e utilizem dados de crianças e adolescentes de forma cada vez mais intensa.

A aprovação de uma regulamentação do Marco da Inteligência Artificial pelo Congresso Nacional pode criar mecanismos de proteção e reduzir práticas que exploram vulnerabilidades comportamentais. Ao mesmo tempo, o excesso de conteúdos produzidos por algoritmos e inteligência artificial pode prejudicar a atenção, a aprendizagem e o desenvolvimento cognitivo. É fundamental que o Estado atue para garantir um ambiente digital mais seguro para crianças e adolescentes.

Escolas e instituições de ensino estão adotando novas tecnologias sem discutir de forma suficiente como essas plataformas utilizam dados e quais interesses econômicos estão por trás de seus modelos de negócio. Estudos recentes têm levantado preocupações sobre os possíveis impactos do uso excessivo de assistentes virtuais e aplicativos digitais na saúde emocional de crianças e adolescentes.

Muitas dessas ferramentas são projetadas para manter os usuários conectados por longos períodos, enquanto coletam informações pessoais valiosas. Ao mesmo tempo, a legislação atual ainda não oferece respostas adequadas para os desafios criados pelas novas tecnologias.

O desafio agora não é apenas ter leis de proteção, mas garantir sua aplicação efetiva no ambiente digital. Crianças e adolescentes precisam de mecanismos reais de proteção contra práticas que exploram seus dados, sua atenção e suas vulnerabilidades, assegurando que a educação, presencial ou online, permaneça voltada ao aprendizado e ao desenvolvimento, e não aos interesses comerciais das plataformas digitais.

Os governos e o Congresso precisam investir mais em educação digital para que crianças e adolescentes aprendam a identificar informações falsas, conteúdos manipulados e estratégias usadas para influenciar seu comportamento na internet. Também é importante ampliar a transparência das tecnologias utilizadas em serviços públicos e nas escolas, permitindo que estudantes compreendam como funcionam os algoritmos e as plataformas digitais que fazem parte de sua rotina. O objetivo é formar cidadãos mais críticos, capazes de tomar decisões com autonomia e consciência.

Da mesma forma, é necessário criar regras que garantam o uso responsável da inteligência artificial em áreas sensíveis, como educação, justiça e previdência social. A sociedade deve exigir sistemas mais transparentes, seguros e livres de discriminação, reduzindo riscos de erros e preconceitos automatizados. Mais do que uma discussão sobre tecnologia, trata-se de proteger a capacidade das pessoas de pensar por si mesmas e participar de forma consciente da vida pública.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].