"Это всего лишь симуляция": в Microsoft объяснили, почему ИИ не может обладать сознанием

Сулейман выступает против концепции "сознательного" искусственного интеллекта

По словам Сулеймана, исследования, предполагающие возможность "страданий" или эмоционального опыта у ИИ, вводят в заблуждение. "Если сформулировать вопрос неправильно, ответ тоже будет неправильным. Это полностью неверная постановка задачи", - отметил он.

Сулейман является одним из наиболее заметных представителей индустрии, выступающих против идеи "сознательного" ИИ - систем, которые могут создавать впечатление, будто они переживают эмоции. В 2023 году он стал соавтором книги The Coming Wave, посвященной рискам ИИ и других развивающихся технологий, а также опубликовал эссе под названием "Мы должны создавать ИИ для людей, а не ИИ как человека".

Почему эта тема вызывает дискуссии

Интерес к "эмоциональному" или "компаньонскому" ИИ растет - такие продукты разрабатывают, в частности, Meta и xAI. При этом технологические компании продолжают движение в сторону систем, способных выполнять широкий спектр интеллектуальных задач на уровне человека (AGI).

Однако Сулейман подчеркивает различие между функциональными возможностями ИИ и наличием субъективного опыта. Он ссылается на концепцию биологического натурализма, согласно которой сознание возможно только при наличии живого мозга. "Люди имеют права, потому что способны испытывать боль и стремятся ее избегать. У моделей этого нет - это лишь симуляция", - отметил он.

При этом Сулейман подчеркнул, что не призывает запрещать исследования в этой области, но считает необходимым ясно обозначать пределы возможностей технологий.

Ограничения в разработке и позиция Microsoft

Выступая ранее на Paley International Council Summit, Сулейман заявил, что Microsoft не будет разрабатывать чат-ботов для эротического взаимодействия - в отличие от некоторых конкурентов.

Сулейман присоединился к Microsoft в 2024 году после сделки на 650 млн долларов по поглощению его стартапа Inflection AI. До этого он был сооснователем DeepMind, которую приобрела Google.

По его словам, важным фактором перехода в Microsoft стали технологическая база компании и стремление создать собственные модели ИИ полного цикла. Он также подчеркнул, что сервисы Microsoft строятся таким образом, чтобы ИИ осознавал свою роль помощника, а не "личности".

Новые функции Copilot и "реалистичное общение"

На прошлой неделе Microsoft представила обновления для Copilot, включая новый режим общения Real Talk, предназначенный для того, чтобы ИИ мог мягко разбирать аргументы пользователя и предлагать альтернативные точки зрения.

Сулейман отметил, что такой подход помогает формировать у ИИ "персональность", но в рамках четко заданных ценностей и без попыток имитировать эмоции. При этом он подчеркнул, что развитие ИИ сопровождается рисками, требующими осторожности.