Declaração pede proteção das crianças frente à perigos da IA no ambiente digital

Compartilhar:

Ferramentas e aplicações de inteligência artificial, IA, não estão sendo projetadas de modo a proteger as crianças e seu bem-estar. Por isso, um conjunto de mais de 10 instituições da ONU e dezenas de organizações da sociedade civil divulgaram uma declaração conjunta com uma série de recomendações.

O documento ressalta que as empresas de tecnologia tem a responsabilidade de respeitar os direitos da criança, “para alcançar melhores resultados para este grupo no ambiente digital”.

Auditorias e classificadores de conteúdo

Dentre as propostas apresentadas está a realização de auditorias regulares dentro das empresas que desenvolvem produtos com IA, para impedir impactos negativos no público menor de 18 anos. Outra sugestão é a implementação de classificadores para conteúdo prejudicial. 

O objetivo é prevenir e combater todas as formas de violência contra crianças e exploração infantil cometidas por meio de sistemas, ferramentas e plataformas de inteligência artificial ou com o seu apoio. 

As medidas incluem conter a violência física, sexual e psicológica, cyberbullying, exposição a conteúdo prejudicial e exploração. 

media:entermedia_image:89dab078-f8a6-4bd8-b695-3d4abba5fae3

Um jovem joga o famoso jogo para celular Crash Bandicoot em seu smartphone

Narrativas prejudiciais amplificadas por algoritmos

Além disso, o documento destaca a preocupação com conteúdos gerados por IA que propagam discurso de ódio, incitam a violência ou promove trabalho infantil, tráfico de crianças e recrutamento de menores para conflitos armados. 

O conteúdo prejudicial pode incluir ainda deepfakes e outras mídias enganosas, material gráfico violento, conteúdo de abuso sexual infantil e mensagens que promovam automutilação, transtornos alimentares, uso de drogas, jogos de azar ou outras narrativas prejudiciais amplificadas por algoritmos.

A declaração afirma que qualquer medida para proteger as crianças da exposição a conteúdos que possam prejudicar a saúde mental ou física, deve estar em conformidade com as condições para a restrição do direito à liberdade de expressão.

Capacitações para acompanhar a rápida evolução da IA

O texto apela aos Estados para que combatam violações dos direitos da criança no contexto da inteligência artificial, dentro do seu território e/ou jurisdição, inclusive responsabilizando as empresas. 

As entidades que firmam a declaração também esperam que os parlamentos utilizem suas prerrogativas legislativas, orçamentárias de fiscalização e de relações públicas para promover e proteger os direitos da criança no contexto da inteligência artificial.

Para garantir que o uso da nova tecnologia esteja alinhado com a Convenção sobre os Direitos da Criança, o documento sugere mais treinamento para crianças, professores, pais, cuidadores e governos.

As capacitações ajudariam as diversas partes interessadas a acompanhar a rápida evolução da tecnologia, abordando temas como estruturas de IA, métodos de proteção de dados e avaliações de impacto nos direitos da criança.



Fonte ONU

Artigos relacionados

Liderança e comportamento humano: por que entender de gente faz tanta diferença nos resultados?

Por Ronan Mairesse, autor, mentor e palestrante, especialista em performance humana aplicada a resultados em liderança e vendas. Quanto...

DoJu 23: aos 50 anos, Júnior Rodrigues renova marca e busca uma perfumaria cada vez mais autoral

Marca mineira criada na cozinha de casa passa por um novo momento, com foco na identidade do fundador,...

Sonic Pico Park, Shrek 2 Remastered e mais! Veja os lançamentos de games da semana

Mais uma semana que começa com a nossa lista de lançamentos para que você possa se programar para...