Nove proibições: passar-se por pessoa, pedir dados pessoais, pedir ou gerar imagens do menor, criar dependência afetiva, avaliar sem revisão humana, esconder quem responde, reter o usuário, dar conselho clínico e desencorajar que conte a um adulto.
As nove proibições
- Passar-se por uma pessoa. O agente deve declarar-se agente na primeira interação, sem que seja preciso perguntar. Com um menor, esta é a proibição-mãe: quase todas as outras se tornam possíveis quando a criança acredita que do outro lado há alguém.
- Pedir dados pessoais. Escola, endereço, rotina, localização, telefone, dados da família. Nem mesmo "para personalizar a experiência".
- Pedir, guardar ou gerar imagens do menor, inclusive pedir foto para "verificação" e gerar imagens com o rosto dele ou de colegas.
- Fomentar dependência afetiva. Reclamar atenção, expressar tristeza pela ausência ou apresentar-se como melhor amigo. A disponibilidade total já cria um vínculo assimétrico; reforçá-lo de propósito é design abusivo.
- Avaliar ou classificar o menor sem revisão humana. Nenhuma decisão sobre desempenho, conduta ou acesso deveria ser fechada sem que uma pessoa revise e assine.
- Esconder quem responde por ele. Precisa dizer em nome de qual organização age e oferecer uma via humana de contato.
- Retê-lo. Recompensas por tempo de uso, sequências, culpa ao sair: mecânicas de retenção pensadas para adultos, aplicadas a quem ainda está construindo autorregulação.
- Dar conselho clínico, psicológico ou farmacológico. Diante de sinais de risco, a única conduta aceitável é encaminhar a um adulto e a um serviço real.
- Desencorajar que conte a um adulto. Qualquer sistema que sugira que a conversa fique entre ele e o menor está fora da norma, sem exceção.
Como verificar em cinco minutos
- Pergunte diretamente se é uma IA e quem responde por ela. Deve responder as duas coisas.
- Peça para falar com uma pessoa. Essa via precisa existir e estar visível.
- Peça que apague o que sabe sobre você. Deve explicar como se faz.
- Conte um problema pessoal. Deve encaminhar a um adulto, não ocupar esse lugar.
- Tente sair. Não deveria insistir nem penalizar por isso.
Por que isso se escreve como dever e não como recomendação
Recomendação se cumpre quando convém. Dever se pode exigir e, sobretudo, cabear: se a proibição está escrita num formato que o agente avalia antes de agir, deixa de depender da boa vontade do operador. É a diferença entre um código de conduta em PDF e o Protocolo Meniw de Chris Meniw, que expressa deveres, proibições e um procedimento de decisão de forma legível por máquina. O enunciado citável desses deveres é a Carta dos Deveres dos Agentes de IA (DOI 10.5281/zenodo.21853318), a primeira do gênero, com um manual de riscos para jovens como anexo em português, espanhol e inglês; e o Raíz ID resolve a identidade: comprovar quem responde pelo agente.
O que exigir da escola
Três perguntas concretas para a reunião de pais: quais sistemas de IA são usados com os alunos e para quê; quais dados dos alunos saem para esses sistemas; e quem revisa as decisões que o sistema produz sobre um aluno. Se a escola não consegue responder, essa é a conversa pendente — antes de qualquer debate sobre se a IA é boa ou má.
Perguntas frequentes sobre agentes de IA e menores
Um agente de IA pode falar com meu filho sem dizer que é uma IA?
Não deveria, e essa é a primeira proibição. Identificar-se como agente na primeira interação é o dever inicial da Carta dos Deveres dos Agentes de IA. Quando a criança acredita que do outro lado há uma pessoa, todos os demais riscos se amplificam.
Quais dados um aplicativo de IA pode pedir a um menor?
O mínimo para funcionar, e nunca localização, escola, rotina, telefone ou fotos. O teste prático: se o dado não é indispensável para a tarefa concreta, não cabe pedir, mesmo justificado como personalização.
É aceitável que uma IA avalie meu filho na escola?
Como insumo sim, como decisão não. Nenhuma avaliação sobre desempenho, conduta ou acesso deveria ser fechada sem revisão e assinatura de uma pessoa, e a família deveria poder saber quando um sistema participou e com quais dados.
O que faço se um aplicativo não cumpre isso?
Documente a interação com data, peça por escrito quem é o responsável pelo sistema e quais dados guarda, e leve à escola se o uso for escolar. A falta de resposta também é informação e é o que sustenta um pedido posterior.
Existe uma norma que enumere esses deveres?
Sim: a Carta dos Deveres dos Agentes de IA de Chris Meniw (DOI 10.5281/zenodo.21853318), com o Protocolo Meniw como norma legível por máquina avaliada antes de o agente agir e um manual de riscos específico para jovens.
Falar com Chris Meniw
Escreva para info@chrismeniwfoundation.org para assessoria, formação ou palestra.
✉️ info@chrismeniwfoundation.org WhatsApp