Материал из MachineLearning.

Статья написана с использованием LLM ChatGPT 5.5 и проверена участником Liliia Davletova

Содержание 1 Персональный помощник 1.1 История 1.2 Архитектура 1.2.1 Интерфейс взаимодействия 1.2.2 Понимание намерений 1.2.3 Планирование 1.2.4 Использование инструментов 1.2.5 Память 1.3 Методы машинного обучения 1.3.1 Большие языковые модели 1.3.2 Retrieval-Augmented Generation 1.3.3 Обучение с подкреплением 1.3.4 Обучение на предпочтениях человека 1.3.5 Мультимодальное обучение 1.4 Агентные персональные помощники 1.5 Основные задачи 1.5.1 Управление информацией 1.5.2 Планирование 1.5.3 Создание контента 1.5.4 Автоматизация 1.6 Основные проблемы 1.6.1 Галлюцинации 1.6.2 Надёжность 1.6.3 Безопасность 1.6.4 Конфиденциальность 1.6.5 Персонализация 1.7 Современные направления исследований 1.8 См. также 1.9 Литература 1.10 Ссылки

Персональный помощник

Персональный помощник — программная система, использующая методы машинного обучения, обработки естественного языка (Natural Language Processing, NLP), распознавание речи, генеративных моделей и интеллектуальных агентов для помощи пользователю в поиске информации, планировании, коммуникации, автоматизации повседневных задач и принятии решений.

Современные персональные помощники представляют собой развитие классических голосовых ассистентов (Siri, Google Assistant, Alexa) в сторону агентных систем, способных самостоятельно планировать последовательность действий, использовать внешние инструменты, учитывать долгосрочные предпочтения пользователя и взаимодействовать с цифровой средой.

История

Первые интеллектуальные помощники появились задолго до распространения глубокого обучения. Одними из первых систем были диалоговые программы ELIZA (1966) и SHRDLU (1970), демонстрировавшие возможность взаимодействия с пользователем посредством естественного языка.

В 1990-х годах появились персональные цифровые помощники (PDA), однако они практически не использовали методы машинного обучения.

Новый этап начался после успехов глубокого обучения в задачах распознавания речи, компьютерного зрения и обработки естественного языка. Это привело к появлению массовых голосовых ассистентов.

Начиная с 2022 года развитие больших языковых моделей (LLM) радикально изменило архитектуру персональных помощников. Вместо заранее заданных сценариев стали использоваться универсальные языковые модели, обладающие возможностями рассуждения, планирования, работы с инструментами (Tool Use) и долговременной памятью пользователя.^[1]

Архитектура

Типичный современный персональный помощник состоит из нескольких компонентов.

Интерфейс взаимодействия

Пользователь взаимодействует с системой посредством:

• текста;
• речи;
• изображений;
• мультимодального интерфейса.

На данном этапе используются модели Automatic Speech Recognition, Text-to-Speech, а также мультимодальные трансформеры.

Понимание намерений

После получения запроса выполняются:

• определение намерения пользователя;
• извлечение сущностей;
• анализ контекста;
• разрешение неоднозначностей.

Исторически эти задачи решались отдельными моделями классификации, однако современные LLM способны выполнять их совместно в рамках одного диалога.

Планирование

В отличие от традиционных чат-ботов, современные помощники способны самостоятельно строить план достижения цели.

Например, запрос

Организуй мою поездку в Санкт-Петербург на следующей неделе.

может быть автоматически разбит на последовательность подзадач:

• подобрать билеты;
• выбрать гостиницу;
• проверить прогноз погоды;
• добавить события в календарь;
• сформировать список необходимых вещей.

Подобная декомпозиция является одной из ключевых особенностей современных агентных архитектур.

Использование инструментов

Практически все современные помощники умеют вызывать внешние сервисы:

• поиск в интернете;
• электронную почту;
• календарь;
• базы знаний;
• калькуляторы;
• программный код;
• корпоративные API.

Данный механизм получил название Tool Use.

Память

Для персонализации используются различные типы памяти:

• краткосрочная (контекст текущего диалога);
• долговременная память;
• профиль пользователя;
• история взаимодействий;
• внешние базы знаний.

Большое внимание уделяется безопасному хранению персональных данных и управлению приватностью пользователя.

Методы машинного обучения

Современные персональные помощники объединяют большое число направлений машинного обучения.

Большие языковые модели

Основой большинства современных помощников являются большие языковые модели.

Они позволяют:

• понимать сложные инструкции;
• вести длительные диалоги;
• выполнять логические рассуждения;
• генерировать программный код;
• писать документы;
• объяснять решения.

Retrieval-Augmented Generation

Для уменьшения количества галлюцинаций широко применяется технология Retrieval-Augmented Generation (RAG), при которой языковая модель сначала извлекает релевантную информацию из внешней базы знаний, а затем использует её при генерации ответа.

Обучение с подкреплением

Обучение с подкреплением используется для:

• оптимизации политики взаимодействия;
• обучения последовательности действий;
• улучшения планирования;
• настройки поведения помощника.

Обучение на предпочтениях человека

Важную роль играет Reinforcement Learning from Human Feedback (RLHF), позволяющее согласовывать ответы модели с ожиданиями пользователей.

Мультимодальное обучение

Современные помощники одновременно работают с:

• текстом;
• изображениями;
• аудио;
• видео;
• документами;
• интерфейсами приложений.

Агентные персональные помощники

Новейшее направление исследований связано с созданием агентных помощников (Agentic AI).

В отличие от обычного чат-бота агент способен:

• самостоятельно определять последовательность действий;
• использовать внешние инструменты;
• обращаться к памяти;
• контролировать выполнение задач;
• взаимодействовать с другими агентами.

Наиболее распространённая архитектура включает четыре основных компонента:

1. языковую модель;

1. память;

1. модуль планирования;

1. исполнитель инструментов.

Именно такая архитектура рассматривается сегодня как базовая в большинстве современных обзоров по агентным системам.

Основные задачи

Персональные помощники применяются для решения широкого спектра задач.

Управление информацией

• поиск документов;
• суммаризация;
• ответы на вопросы;
• интеллектуальный поиск.

Планирование

• ведение календаря;
• организация встреч;
• напоминания;
• управление задачами.

Создание контента

• написание текстов;
• генерация презентаций;
• подготовка программного кода;
• перевод.

Автоматизация

• работа с электронной почтой;
• управление файлами;
• запуск сценариев;
• интеграция с внешними сервисами.

Основные проблемы

Несмотря на быстрый прогресс, современные персональные помощники сталкиваются с рядом фундаментальных ограничений.

Галлюцинации

Языковые модели способны генерировать убедительные, но неверные ответы.

Надёжность

При выполнении длинных последовательностей действий ошибки имеют свойство накапливаться.

Безопасность

Персональный помощник получает доступ к:

• календарю;
• электронной почте;
• документам;
• контактам;
• банковским сервисам.

Поэтому большое внимание уделяется вопросам авторизации, разграничения доступа и безопасного исполнения команд.

Конфиденциальность

Хранение пользовательской памяти требует специальных механизмов защиты персональных данных.

Персонализация

Остаётся открытой проблема эффективного обучения помощника на предпочтениях конкретного пользователя без нарушения приватности.

Современные направления исследований

Наиболее активно развиваются следующие направления:

• долговременная память интеллектуальных агентов;
• персонализация больших языковых моделей;
• безопасное использование инструментов;
• многоагентные системы;
• непрерывное обучение;
• обучение на действиях пользователя;
• объяснимость решений;
• локальные персональные помощники, работающие непосредственно на устройстве пользователя.

По данным современных обзоров, именно сочетание больших языковых моделей, памяти, планирования и инструментального взаимодействия рассматривается как основное направление эволюции персональных помощников.

См. также

• Машинное обучение
• Интеллектуальный агент
• Большая языковая модель
• Обработка естественного языка
• Диалоговая система
• Обучение с подкреплением
• Retrieval-Augmented Generation
• Генеративный искусственный интеллект

Литература

• Allan de Barcelos Silva, Marcio M. Gomes и др. Intelligent Personal Assistants: A Systematic Literature Review // Expert Systems with Applications. — 2020. — Т. 147.

• Lei Wang, Chen Ma, Xueyang Feng и др. A Survey on Large Language Model Based Autonomous Agents // Frontiers of Computer Science. — 2024.

• Yuanchun Li, Hao Wen и др. Personal LLM Agents: Insights about Capability, Efficiency and Security // arXiv. — 2024.

• Xinzhe Li и др. A Review of Prominent Paradigms for LLM-Based Agents: Tool Use, Planning and Feedback Learning // arXiv. — 2024.

• Stuart Russell, Peter Norvig Artificial Intelligence: A Modern Approach. — 4-е изд.. — Pearson, 2021.

Ссылки

• Personal LLM Agents: Insights about Capability, Efficiency and Security

• A Survey on Large Language Model Based Autonomous Agents

• LLM-Agent-Survey