Empresa anunciou que o chatbot vai restringir dados sobre armas a usuários identificados como menores de 18 anos, mesmo em perguntas aparentes inofensivas, e poderá encerrar conversas e pausar contas de risco.
A OpenAI anunciou nesta sexta-feira (30) que vai restringir as informações sobre armas fornecidas pelo ChatGPT a usuários identificados como adolescentes, inclusive quando a pergunta parecer inofensiva à primeira vista. A empresa diz que a medida busca reduzir o risco de uso da ferramenta para fins de violência no mundo real.
Segundo a companhia, as novas regras valem mesmo sem qualquer sinal explícito de intenção violenta na conversa. O sistema poderá encerrar automaticamente diálogos sobre o tema e, após reincidências, suspender temporariamente a conta do usuário. A OpenAI afirma ainda que vai reforçar seu sistema de estimativa de idade, para direcionar quem for identificado como menor de 18 anos à versão do ChatGPT voltada a adolescentes, e passará a notificar os responsáveis quando a conta de um filho for suspensa por esse motivo.
Para o público em geral, a empresa também vai limitar conversas sobre ataques em massa, incluindo detalhes sobre as armas usadas em casos reais e a forma como foram obtidas. Em seu primeiro relatório sobre uso por adolescentes, a OpenAI informou que esse público passa, em média, menos de 15 minutos por dia na ferramenta.
O anúncio ocorre em meio ao aumento da pressão sobre empresas de inteligência artificial para que monitorem riscos a usuários jovens. A organização sem fins lucrativos Common Sense Media divulgou no início de outubro um relatório apontando que a versão do ChatGPT destinada a adolescentes muitas vezes demorava a alertar os pais — ou simplesmente não alertava — quando contas de menores participavam de conversas sensíveis sobre saúde mental.
Resumo das 18
