Por que as crianças precisam de proteção especial contra a influência da IA

Algoritmos podem mudar o curso da vida das crianças. As crianças estão interagindo com Alexas que podem gravar seus dados de voz e influenciar sua fala e desenvolvimento social. Eles estão fazendo binging vídeos no TikTok e no YouTube empurrados para eles por sistemas de recomendação que acabam moldando suas visões de mundo.

Algoritmos também são cada vez mais usados ​​para determinar como é sua educação, se eles vão receber cuidados de saúde e até mesmo se os pais são considerados idóneos para cuidar deles . Às vezes, isso pode ter efeitos devastadores: no verão passado, por exemplo, milhares de alunos perderam suas admissões na universidade após algoritmos – usado no lugar de testes padronizados cancelados por pandemia – previu imprecisamente seu desempenho acadêmico.

Crianças, em outras palavras, muitas vezes estão na linha de frente quando se trata de para usar e ser usado por IA, e isso pode deixá-los em posição de se machucar. “Como eles estão se desenvolvendo intelectual, emocional e fisicamente, eles são muito moldáveis”, diz Steve Vosloo, um especialista em políticas de conectividade digital da Unicef, o Fundo das Nações Unidas para a Infância.

Vosloo liderou a elaboração de um novo conjunto de diretrizes da Unicef, projetado para ajudar governos e empresas a desenvolver políticas de IA que considerem as necessidades das crianças. Lançadas em 16 de setembro, as nove novas diretrizes são o resultado de várias consultas realizadas com legisladores, pesquisadores de desenvolvimento infantil, profissionais de IA e crianças em todo o mundo. Eles também levam em consideração a Convenção das Nações Unidas sobre os Direitos da Criança, um tratado de direitos humanos ratificado em 1989.

As diretrizes não pretendem ser mais um conjunto de princípios de IA, muitos dos quais já dizem as mesmas coisas. Em janeiro deste ano, uma revisão do Harvard Berkman Klein Center de 36 dos documentos mais proeminentes que orientam as estratégias de IA nacional e empresarial encontrou oito temas comuns —Entre eles privacidade, segurança, justiça e explicabilidade.

Em vez disso, as diretrizes do Unicef ​​têm o objetivo de complementar esses temas existentes e adaptá-los às crianças. Por exemplo, os sistemas de IA não devem ser apenas explicáveis ​​- eles devem ser explicados às crianças. Eles também devem considerar as necessidades únicas de desenvolvimento das crianças. “As crianças têm direitos adicionais sobre os adultos”, diz Vosloo. Também se estima que representem pelo menos um terço dos usuários online. “Não estamos falando de um grupo minoritário aqui”, ressalta.

Além de mitigar os danos da IA, o objetivo dos princípios é incentivar o desenvolvimento de sistemas de IA que poderiam melhorar o crescimento e o bem-estar das crianças. Se forem bem projetadas, por exemplo, as ferramentas de aprendizagem baseadas em IA mostraram melhorar o pensamento crítico e as habilidades de resolução de problemas das crianças e podem ser úteis para crianças com dificuldades de aprendizagem. Assistentes de IA emocional, embora relativamente nascentes, poderiam fornecer suporte de saúde mental e foi demonstrado que melhoram as habilidades sociais de crianças autistas . O reconhecimento facial, usado com limitações cuidadosas, pode ajudar a identificar crianças que foram sequestradas ou traficadas.

As crianças também devem ser educadas sobre IA e incentivadas a participar de seu desenvolvimento. Não se trata apenas de protegê-los, diz Vosloo. É sobre empoderá-los e dar-lhes a agência para moldar seu futuro.

“Falando sobre grupos desfavorecidos, claro, crianças são os mais desfavorecidos. ”

Yi Zeng

A Unicef ​​não é a única a pensar no assunto. Um dia antes do lançamento dessas diretrizes, a Academia de Inteligência Artificial de Pequim (BAAI), uma organização apoiada pelo Ministério da Ciência e Tecnologia da China e pelo governo municipal de Pequim, divulgou um conjunto de princípios de IA também para crianças.

O anúncio ocorre um ano após o lançamento do BAAI os princípios da AI de Pequim , entendidos como os valores orientadores para o desenvolvimento da AI nacional da China. Os novos princípios delineados especificamente para crianças pretendem ser “uma implementação concreta” dos mais gerais, diz Yi Zeng, o diretor do Centro de Pesquisa de Ética e Desenvolvimento Sustentável da IA ​​do BAAI que conduziu sua elaboração. Eles se alinham estreitamente com as diretrizes do Unicef, também tocando em privacidade, justiça, explicabilidade e bem-estar infantil, embora alguns dos detalhes sejam mais específicos para as preocupações da China. Uma diretriz para melhorar a saúde física das crianças, por exemplo, inclui o uso de IA para ajudar a combater a poluição ambiental.

Embora os dois esforços não estejam formalmente relacionados, o momento também não é coincidência. Após uma enxurrada de princípios de IA nos últimos anos, os dois redatores principais dizem que criar diretrizes mais personalizadas para crianças foi o próximo passo lógico. “Falando em grupos desfavorecidos, é claro que as crianças são os mais desfavorecidos”, diz Zeng. “É por isso que realmente precisamos [to give] de um cuidado especial com esse grupo de pessoas.” As equipes conferenciaram umas com as outras enquanto redigiam seus respectivos documentos. Quando o Unicef ​​realizou um workshop de consulta no Leste Asiático, Zeng participou como palestrante.

O Unicef ​​agora planeja executar uma série de programas-piloto com vários países parceiros para observar o quão prático e eficaz são suas diretrizes em contextos diferentes. A BAAI formou um grupo de trabalho com representantes de algumas das maiores empresas que impulsionam a estratégia nacional de IA do país, incluindo a empresa de tecnologia educacional TAL, a empresa de eletrônicos de consumo Xiaomi, a empresa de visão computacional Megvii e a gigante da Internet Baidu. A esperança é fazer com que eles comecem a seguir os princípios em seus produtos e influenciem outras empresas e organizações a fazerem o mesmo.

Tanto Vosloo quanto Zeng esperam que, articulando as preocupações únicas que a IA representa para crianças, as diretrizes aumentarão a conscientização sobre essas questões. “Entramos nisso com os olhos bem abertos”, diz Vosloo. “Entendemos que este é um território novo para muitos governos e empresas. Portanto, se ao longo do tempo virmos mais exemplos de crianças sendo incluídas no ciclo de IA ou de desenvolvimento de políticas, mais cuidado com a forma como seus dados são coletados e analisados ​​- se virmos que a IA se tornou mais explicável para as crianças ou seus responsáveis ​​- isso seria uma vitória para nós.”