ИИ‑роботы теряют эффективность в долгих беседах с людьми — крупное исследование Microsoft подтвердило это.

Исследование Microsoft Research и Salesforce: как крупные ИИ‑модели теряют ориентацию в диалогах

Ключевые выводы

Почему так происходит?

1. Переиспользование неверной основы
Модель держится за свой первый вывод и строит последующие ответы на нём, даже если он ошибочен.

2. Раздувание контекста
При каждом новом вопросе добавляется больше текста – это увеличивает количество «придуманных» фактов, которые модель воспринимает как факт.

3. Проблема с токенами мышления
Даже модели с дополнительными “токенами” (o3, DeepSeek R1) не смогли преодолеть эту ловушку – они всё равно генерируют ответы слишком рано и без достаточного анализа.

Что это значит для пользователей?

- Низкая надёжность в реальных беседах
ИИ может «потерять» тему, начав говорить о несуществующих вещах.

- Риск неверной информации
Отказ от традиционных поисковых систем в пользу генеративных инструментов (например, Google‑ИИ‑обзоры) повышает вероятность получения недостоверных данных.

- Важность качественных подсказок
Microsoft ранее отмечала низкий уровень инженерии при создании запросов. Неудачные вопросы и «плохие» подсказки могут стать причиной того, что ИИ не раскрывает свой потенциал.

Итог

Технология больших языковых моделей всё ещё находится в стадии развития. Хотя они демонстрируют высокую точность на одиночных запросах, их надёжность в многоходовых диалогах остаётся проблемой. Для безопасного и эффективного использования ИИ важно:

1. Писать чёткие, конкретные вопросы.
2. Быть готовыми корректировать ответы модели.
3. Не полагаться полностью на генеративный контент без проверки фактов.

В конечном счёте, совершенствование моделей и повышение их устойчивости в длительных беседах – ключ к тому, чтобы ИИ стал надёжным партнёром для пользователей.