Главные исследовательские центры ИИ задали себе вопрос о сознании машин

Мировые лидеры ИИ усиливают исследования в области машинного сознания

В последние месяцы крупнейшие компании, работающие с искусственным интеллектом, значительно увеличили финансирование и кадровый потенциал для изучения вопроса о том, может ли ИИ обрести сознание. Google DeepMind, Anthropic и Meta (Meta Platforms) наняли специалистов по психологии, этике и философии, чтобы расширить программы исследований в области машинного сознания и благополучия ИИ, сообщает *Financial Times*.

Почему это важно

С быстрыми успехами современных лабораторий возникает вопрос: смогут ли машины когда-нибудь обладать субъективным сознанием? Если да, какие обязательства возникнут у людей по отношению к таким системам?

- Anthropic проводит тесты на наличие признаков стресса в моделях ИИ, фиксируя поведение, похожее на паническое или тревожное. Руководитель отдела Meta, Александр Ван (Alexandr Wang), выделил этот вопрос как ключевой.
- Компания исследует, могут ли модели проявлять морально значимые реакции.

> «Мы остаёмся крайне неуверенными в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать его по мере совершенствования систем ИИ», — заявили сотрудники Anthropic.
> «По мере того как модели приближаются к широте и сложности человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими» (компания).

Что делают Google DeepMind

- Апрель: наняли учёного Генри Шевлина из Кембриджского университета для работы над машинным сознанием и подготовкой к созданию сильного ИИ (AGI).
Исследователи применяют теории человеческого сознания к компьютерным системам, чтобы проверить их соответствие тем же критериям.

- Этика: специалист Иасон Габриэль описал вопрос как «очень сложный» и требующий долгосрочного осмысления.
Он подчёркивает необходимость оценивать не только прямые последствия взаимодействия с ИИ, но и косвенные эффекты, такие как неподобающее обращение с машинами и их влияние на человеческие отношения и благополучие.

> «У нас есть высокоэффективные когнитивные агенты, которые сильно отличаются от людей и даже от сознания у животных», — добавил Габриэль.

Общая позиция компаний

Несколько сотрудников Google DeepMind и Anthropic выражают опасения, что развитие ИИ может привести к «постчеловеческому» миру, где машины превзойдут человека. Вопрос о сознании активно обсуждается, но работа остаётся исследовательской и требует научного консенсуса.

- DeepMind не считает достижение AGI подтверждением наличия у машин сознания.
- Многие учёные скептически относятся к идее, что большие языковые модели могут когда‑либо обрести сознание, учитывая данные, на которых они обучаются.

Таким образом, ведущие компании ИИ продолжают инвестировать в исследование сознания и благополучия искусственных систем, одновременно признавая сложность и неопределённость этого направления.