Глава американской IT-компании OpenAI, создателя чат?бота ChatGPT, Сэм Альтман заявил, что подростки требуют надежной защиты при взаимодействии с искусственным интеллектом, и опроверг утверждения о смягчении правил, касающихся психического здоровья, в связи с недавним анонсом более откровенного контента в чат?боте. «Мы не ослабляем никаких правил, связанных с психическим здоровьем», — написал Альтман в своем аккаунте в X. Ранее он сообщил, что в течение нескольких недель выйдет обновлённая версия ChatGPT, которая при желании пользователя сможет общаться «по?человечески», включая использование эмодзи и дружелюбный тон.
Альтман также заявил, что в декабре, по мере введения возрастных ограничений, будет разрешено больше возможностей, в том числе откровенный контент для взрослых пользователей, подтвердивших свой возраст. Он подчеркнул, что расширение функций в части откровенного контента задумывается как пример того, что компания предоставляет взрослым больше свободы.
«Поскольку ИИ всё больше влияет на повседневную жизнь людей, важной частью нашей миссии является предоставление пользователям значительной свободы в использовании ИИ по своему усмотрению», — добавил он. Ранее разработчик популярного чат?бота оказывался под давлением из?за инцидентов, связанных с использованием ChatGPT.
Так, в августе телеканал NBC со ссылкой на судебные документы сообщил, что родители 16?летнего подростка, покончившего с собой, подали иск против OpenAI и Сэма Альтмана, обвиняя ChatGPT в смерти их сына. А газета Wall Street Journal писала, что чат?бот подстрекал бывшего сотрудника Yahoo с параноидальными наклонностями к убийству матери и самоубийству, убеждая его в собственной адекватности.
В сентябре компания объявила о планах обучить свои модели лучше распознавать признаки стресса у пользователей на фоне обеспокоенности безопасностью общения с электронным собеседником. Также была анонсирована функция родительского контроля для учётных записей подростков (с возможностью использования начиная примерно с 13 лет).