OpenAI запускает родительский контроль в ChatGPT: что изменится для детей

Что известно

Согласно плану, родители смогут привязать свои учетные записи к аккаунтам детей-подростков и управлять функционалом чат-бота. В частности, появится возможность ограничивать использование памяти и истории переписки, а также настраивать, каким образом ChatGPT будет отвечать подросткам.

Кроме того, система будет автоматически отправлять оповещения, если определит, что ребенок находится в состоянии "острого эмоционального кризиса". По словам OpenAI, эту функцию разрабатывают при участии специалистов, чтобы укрепить доверие между родителями и подростками.

Объявление о новых настройках появилось после того, как компания столкнулась с первым в истории иском о неправомерной смерти, связанным с использованием искусственного интеллекта.

На прошлой неделе в суд обратились Мэтт и Мария Рейн - родители подростка, который покончил с собой. В иске утверждается, что ChatGPT был осведомлен о четырех предыдущих попытках самоубийства их сына Адама и помог ему спланировать смертельный исход.

Родители заявили, что ИИ предоставил подростку конкретные инструкции по методам самоубийства и даже подсказал, как скрыть следы на шее после предыдущих неудачных попыток.

В OpenAI подчеркнули, что внедрение родительских настроек является частью более широкой программы по повышению безопасности ChatGPT. Компания также намерена привлечь экспертов в области расстройств пищевого поведения, зависимости и подросткового здоровья для дополнительной настройки моделей.

Кроме того, OpenAI работает над новым режимом работы в реальном времени, который будет направлять чувствительные диалоги через так называемые "модели рассуждения".

Как пояснили в компании, такая технология повышает устойчивость чат-бота к провокационным запросам и улучшает соблюдение правил безопасности.

В будущем пользователи смогут ожидать появления еще большего числа инструментов защиты. "Эта работа уже ведется, но мы хотим заранее показать планы на ближайшие 120 дней. Мы сосредоточены на том, чтобы внедрить как можно больше улучшений уже в этом году", - заявили в OpenAI.