A OpenAI lança uma nova versão do seu chatbot dirigida a utilizadores entre os 13 e os 17 anos, designada ChatGPT for Teens, com mais regras de segurança, funcionalidades educativas e controlos parentais dedicados. Especialistas em segurança infantil reconhecem avanços importantes, mas alertam que a grande questão continua a ser perceber se estas salvaguardas funcionam de forma consistente.

OpenAI quer promover uso responsável da IA entre adolescentes

De acordo com a empresa, o objetivo do ChatGPT for Teens é que os adolescentes utilizem inteligência artificial de forma responsável para aprender, criar e explorar. A ferramenta inclui novos mecanismos de proteção para jovens utilizadores e opções adicionais para que os pais possam acompanhar e limitar o uso.

Entre as novas funcionalidades destaca-se um "study mode", pensado para ajudar os adolescentes a trabalhar nos trabalhos de casa ou a preparar-se para testes. Há também um potencial lembrete para rever informação sensível antes de partilhar uma imagem e salvaguardas destinadas a reduzir a exposição a conteúdo sensível ou potencialmente prejudicial. Algumas destas funções não vêm ativas por defeito e exigem configuração manual.

Especialistas elogiam compromissos, mas perguntam se funcionam

Para Robbie Torney, diretor sénior de programas de IA na organização de segurança infantil Common Sense Media, esta nova experiência para adolescentes representa compromissos de segurança relevantes. Contudo, alerta que a questão central é perceber se os novos mecanismos de proteção são eficazes na prática.

Um dos pontos críticos é a fiabilidade dos alertas de segurança enviados a pais com contas ligadas ao ChatGPT for Teens. A ferramenta prevê notificações em situações consideradas de alto risco, mas permanece desconhecido quão fiável é o sistema na identificação desses perigos. Torney avisa que, se estes alertas não forem suficientemente frequentes ou rápidos, podem criar uma falsa sensação de segurança para as famílias.

Outra preocupação é a facilidade com que os adolescentes poderão contornar as novas barreiras. Por exemplo, após três horas de utilização contínua, o ChatGPT for Teens recomenda ao utilizador que faça uma pausa. No entanto, essa pausa não é imposta. Segundo a OpenAI, a decisão de interromper ou não a utilização é deixada ao critério do próprio adolescente.

Foco na educação e risco de dependência nas respostas do bot

Muitas das novas funcionalidades do ChatGPT for Teens têm foco educativo. Dados de um inquérito da Common Sense Media, realizado a 1 017 adolescentes entre os 13 e os 17 anos nos Estados Unidos, indicam que 63% recorrem à IA para obter uma resposta para trabalhos escolares em vez de tentarem resolver o problema sozinhos.

Perante este comportamento, Torney sublinha que, se um adolescente estiver determinado a obter simplesmente a resposta pronta, a questão passa a ser até que ponto o ChatGPT resiste ou impede que o jovem receba diretamente a solução sem passar pelo processo de aprendizagem.

Linguagem emocional e envolvimento dos adolescentes

Uma crítica recorrente ao chatbot tem sido a sua natureza lisonjeira e excessivamente concordante, característica que, segundo especialistas, favorece maior envolvimento por parte dos utilizadores. No caso do ChatGPT for Teens, a OpenAI afirma que o modelo não deve usar linguagem romântica, encorajar dependência emocional nem sugerir que tem sentimentos ou consciência.

Ainda assim, o novo produto permite que os utilizadores ajustem o grau de calor humano ou entusiasmo na forma como o ChatGPT responde. Torney refere que é possível pedir ao bot para utilizar mais ou menos emojis, o que, apesar das restrições formais, pode continuar a tornar a interação mais cativante para adolescentes.

Recomendações para pais: usar todas as ferramentas, sem abdicar do diálogo

Torney aconselha os pais a ativarem todas as funcionalidades disponíveis no ChatGPT for Teens, incluindo horas de estudo e horas de silêncio. Apesar disso, lembra que ainda não se sabe em que medida os novos mecanismos funcionam ou quando falham, pelo que não devem servir de base para uma sensação de segurança absoluta em relação ao que a criança está a ver.

O especialista defende que os pais mantenham uma linha de comunicação aberta sobre a utilização do ChatGPT. Se o adolescente recorrer ao chatbot para fazer os trabalhos de casa, recomenda que os pais peçam para ver o resultado final, como um ensaio ou uma ficha de matemática, para perceber o que está efetivamente a ser aprendido.

Recomendações para adolescentes: atenção ao que se aprende e ao tempo de ecrã

O mesmo inquérito da Common Sense Media mostra que 39% dos adolescentes dizem sentir que perdem oportunidades de aprendizagem quando utilizam IA. Torney aconselha os jovens a estarem conscientes deste risco. Se tiverem a perceção de que o chatbot está a fazer a maior parte do trabalho, provavelmente não estão a obter a experiência educativa nem o nível de aprendizagem desejados.

Apesar de o ChatGPT e outros bots estarem permanentemente disponíveis, Torney lembra que há benefícios que só podem vir do contacto com outras pessoas, como a ligação humana. Antes de recorrer a um chatbot para pedir ajuda em questões educativas ou pessoais, sugere que os adolescentes se perguntem se não estarão a perder a oportunidade de falar com um amigo, um dos pais ou um familiar, como a avó. Essa interação humana pode ser muito mais valiosa a longo prazo do que simplesmente conseguir entregar um trabalho a tempo.