ChatGPT начнёт автоматически определять, является ли пользователь несовершеннолетним, чтобы усилить защиту подростков в интернете. Новая система OpenAI будет оценивать возраст на основе косвенных признаков – срока существования аккаунта, времени активности и характера запросов.
Если алгоритм решит, что пользователю меньше 18 лет, для него автоматически включатся дополнительные ограничения. Они затронут жестокий, сексуальный и натуралистический контент, темы самоповреждений, а также опасные вирусные челленджи. При этом подростки по-прежнему смогут использовать ChatGPT для учёбы, творчества и получения информации.
В компании подчёркивают, что система разработана с опорой на экспертные оценки и исследования детского развития. Обновление выходит на фоне усиленного внимания властей к защите несовершеннолетних в сети.
Дополнительный резонанс теме придал судебный иск против OpenAI и её главы Сэма Олтмана, поданный в Калифорнии родителями 16-летнего подростка, покончившего с собой весной прошлого года. По их утверждению, чат-бот мог подталкивать мальчика к самоубийству и даже помог составить предсмертную записку.
Если система ошибочно определит взрослого пользователя как несовершеннолетнего, он сможет подтвердить возраст с помощью селфи в реальном времени или загрузки официального документа.
По информации зарубежных СМИ.
