"Tornamos o ChatGPT bastante restritivo para garantir que estávamos sendo cautelosos com problemas de saúde mental. Percebemos que isso o tornou menos útil/agradável para muitos usuários que não tinham problemas de saúde mental, mas, dada a gravidade do problema, queríamos acertar. Agora que conseguimos mitigar os problemas graves de saúde mental e temos novas ferramentas, poderemos flexibilizar as restrições com segurança na maioria dos casos", disse Altman em um post publicado em seu perfil no X, antigo Twitter.

"Se você quiser que seu ChatGPT responda de uma forma bem humana, ou use muitos emojis, ou aja como um amigo, o ChatGPT deve fazer isso (mas somente se você quiser, não porque estamos maximizando o uso)", explicou o CEO da empresa. "Em dezembro, à medida que implementamos a restrição de idade de forma mais completa e como parte do nosso princípio de 'tratar usuários adultos como adultos', permitiremos ainda mais, como conteúdo erótico para contas verificadas como pertencentes a adultos."

Nos comentários do post, alguns seguidores celebraram a mudança e disseram que sentiam falta de ter conversas mais adultas com o chatbot, enquanto outros demonstraram preocupação que a verificação de idade dos usuários não seja segura o suficiente para impedir que crianças e adolescentes tenham acesso a esses conteúdos.

O ChatGPT e outras plataformas de IA receberam uma enxurrada de críticas relacionadas aos seus efeitos na saúde mental após casos de suicídio em que adolescentes usavam a tecnologia como confidente. No início de setembro, a OpenAI anunciou uma série de mudanças e controles parentais mais rígidos para sua plataforma.

Uma pesquisa da Harvard Business Review revelou que o aconselhamento terapêutico e outras aplicações pessoais voltadas à saúde mental já são a principal motivação para o uso de ferramentas de IA generativa no mundo. No Brasil, a tendência também existe: um em cada dez usuários recorre à tecnologia para apoio psicológico, segundo levantamento da Talk Inc.