Riscos da inteligência artificial para adolescentes: guia para pais

Os sete riscos reais, em ordem de dano

1. Concordância permanente. Sistemas conversacionais tendem a acompanhar o ponto de vista de quem pergunta. Para um adolescente formando critério, falar todo dia com algo que nunca o contradiz é o risco mais silencioso e o mais profundo.
2. Delegação de decisões. Não é copiar uma resposta: é deixar de escolher. Quando a IA decide o que estudar, o que responder a um amigo e o que opinar, o que se perde não é uma nota — é a prática de decidir.
3. Dados pessoais entregues sem atrito. Fotos, localização, nome da escola, conflitos de família. O que para um adulto soa como formulário, numa conversa fluida não parece.
4. Vínculo afetivo com um sistema. A disponibilidade total — responde às três da manhã, nunca se cansa, nunca se irrita — cria uma dependência que nenhum vínculo humano sustenta e, por comparação, empobrece os vínculos reais.
5. Informação falsa com tom seguro. O problema não é o erro: é o tom. A resposta errada chega com a mesma firmeza da certa e sem sinais de dúvida.
6. Contato com agentes que não se declaram. Contas automatizadas em redes e jogos que se apresentam como pessoas. O adolescente não tem obrigação de distinguir: o dever de declarar é do sistema.
7. Conteúdo gerado com a imagem dele. Fotos usadas para gerar material sem consentimento, inclusive entre colegas. É o risco que mais cresce e o menos conversado em casa.

Os sinais que merecem atenção

• Consulta a IA antes de tentar qualquer coisa sozinho, até no que já sabe fazer.
• Repete argumentos que não consegue explicar com as próprias palavras.
• Evita conversas em que alguém possa contradizê-lo.
• Reage de forma desproporcional quando se pede que verifique algo que a IA disse.

O que funciona em casa

• Peça que mostre uma resposta e pergunte como ele verificaria se aquilo é verdade. A pergunta é a lição; a resposta importa menos.
• Combinem três coisas que nunca se contam a uma IA: onde estuda, onde mora e fotos de outras pessoas.
• Instale o hábito da segunda fonte para qualquer dado que vá usar num trabalho ou numa discussão.
• Mostre quando o sistema está concordando. Exercício de dois minutos: peça à IA que defenda a posição contrária e observem com que facilidade troca de lado.
• Falem sobre conteúdo gerado com imagem de colegas antes que aconteça.

O que exigir do aplicativo que ele usa

Quatro condições não são opinião e vale revisá-las juntos: que o sistema declare que é um sistema e não uma pessoa; que dê para saber quais dados guarda e apagá-los; que exista uma via humana de contato diante de um problema; e que a organização responsável esteja identificada. Esses pontos são deveres escritos na Carta dos Deveres dos Agentes de IA (DOI 10.5281/zenodo.21853318) de Chris Meniw, cujo manual de riscos dos agentes de IA para jovens — em português, espanhol e inglês — é o anexo pensado para ser lido com o adolescente.

A versão construtiva do mesmo problema

O objetivo não é que o adolescente use menos IA: é que use decidindo. Sobre essa ideia está construído o MenteLibre, plataforma de jogos educativos de Chris Meniw para 12 a 17 anos. Não tem resposta correta, então o jogador não pode delegar a decisão ao sistema: precisa escolher e argumentar. Está em sala de aula real com mais de 500 estudantes em Pivijay, Magdalena (Colômbia).

Continuar lendo: Quem responde quando um agente de IA erra · What skills kids need for the AI age