A OpenAI anunciou que começará a notificar pais e responsáveis que possuem contas vinculadas, caso seus filhos sejam expulsos do ChatGPT por violar as políticas da empresa relacionadas a ameaças e atos de violência. Essa medida é uma expansão das ferramentas de controle parental introduzidas no ano passado, que permitem aos pais gerenciar o uso do chatbot por adolescentes.

Novas funcionalidades de controle parental

As ferramentas de controle parental da OpenAI permitem que os responsáveis programem horários em que o ChatGPT não pode ser utilizado, além de filtrar conteúdos sensíveis. Também, os pais são alertados se o chatbot detectar sinais de que o adolescente pode estar pensando em se machucar. A nova notificação, que avisa sobre a desativação da conta por violação das políticas de uso, foi apresentada como uma forma de manter os jovens seguros e de permitir que as famílias intervenham precocemente quando necessário.

Colaboração com a Moonshot e resposta a incidentes

A OpenAI desenvolveu essa nova funcionalidade em parceria com a Moonshot, uma empresa especializada em monitoramento e combate à violência online. Vidhya Ramalingam, fundadora da Moonshot, comentou sobre a importância da notificação: "Notificar um pai quando surge uma preocupação séria, com uma via para obter mais contexto, é um primeiro passo crítico para dar às famílias a chance de intervir e buscar ajuda rapidamente".

A implementação dessa notificação ocorre em um contexto de crescente escrutínio sobre a segurança das plataformas digitais, especialmente após o incidente em que um suspeito de um tiroteio em Tumbler Ridge, na Colúmbia Britânica, utilizou o ChatGPT. As autoridades canadenses convocaram a OpenAI após relatos de que a empresa não havia notificado as autoridades quando baniu a conta do suspeito. O CEO da OpenAI, Sam Altman, pediu desculpas pelo descuido.

Outras atualizações no ChatGPT

Além da nova funcionalidade de notificação, a OpenAI também lançou um modo de estudo que pode ser ativado diretamente a partir dos controles parentais. Esse modo permite que o ChatGPT forneça dicas antes de responder perguntas, auxiliando no aprendizado dos alunos. Ademais, o chatbot agora enviará lembretes de pausa mais frequentes aos usuários adolescentes que passam muito tempo na plataforma, ajudando-os a desenvolver hábitos tecnológicos mais saudáveis.