Informações sobre armas serão limitadas para adolescentes no ChatGPT

A empresa de tecnologia OpenAI anunciou nesta sexta-feira (30) que vai limitar o acesso a informações relacionadas a armas para adolescentes que utilizarem o ChatGPT. Na prática, o chatbot poderá encerrar conversas automaticamente e a empresa poderá pausar temporariamente as contas após várias tentativas de conversas sobre o tema, mesmo sem indícios de violência.

A medida surge após uma série de críticas e questionamentos sobre os riscos que esse tipo de tecnologia representa para os jovens e qual o nível de responsabilidade das empresas desenvolvedoras em identificar riscos. A desenvolvedora também aumentou os limites para todos os usuários em conversas sobre ataques em massa, visando prevenir a violência fora das telas.

A empresa afirmou que foi reforçado o sistema de previsão de idade com o intuito de direcionar usuários menores de idade, segundo as estimativas, para a experiência voltada para adolescentes, com mais filtros e um controle parental. A OpenAI já identificou que adolescentes ficam ao menos 15 minutos por dia conversando com o ChatGPT.

 Em um relatório divulgado no dia 7 de outubro, a organização sem fins lucrativos Common Sense Media constatou que a versão para adolescentes do chat representava um “risco inaceitável” para os jovens por não alertar os pais, ou emitir alertas tardios, em casos de conversas sobre sucídio e transtornos alimentares.