AWS опубликовала описание готовой архитектуры для создания корпоративной системы управления знаниями, которая использует голосового аватара и генеративные ИИ-технологии. Решение, представленное в блоге AWS Machine Learning Blog, предназначено для компаний, сталкивающихся с потерей экспертизы при уходе ключевых сотрудников. Система позволяет сохранять и передавать накопленный опыт через естественный диалог с ИИ-аватаром, который отвечает на вопросы, основываясь на внутренних документах организации.
В основе решения лежит Retrieval Augmented Generation (RAG) — подход, при котором языковая модель генерирует ответы, опираясь на релевантные фрагменты из корпоративной базы знаний. Документы загружаются в Amazon S3, затем автоматически разбиваются на части и преобразуются в векторные представления с помощью модели Amazon Titan Text Embeddings. Векторы хранятся в Amazon OpenSearch Serverless, а за поиск и генерацию ответов отвечает Amazon Bedrock Knowledge Bases. Такой подход гарантирует, что каждый ответ подкреплен конкретными источниками из внутренних материалов, снижая риск галлюцинаций.
Ключевая особенность — голосовой аватар, который может взаимодействовать с пользователем через речь или текст. Это делает систему доступной для сотрудников без технической подготовки: они могут задавать вопросы так же, как коллеге, и получать устные ответы. Для рабочих сред, где руки заняты (например, в цехах или лабораториях), предусмотрен режим hands-free. По словам AWS, аватарный интерфейс повышает доверие и adoption среди не технических пользователей по сравнению с обычными чат-ботами.
Голосовой аватар с поддержкой текста и речи снижает порог входа для не технических сотрудников.
Архитектура включает несколько компонентов: Amazon Cognito для аутентификации, Amazon API Gateway для управления доступом, AWS Lambda для оркестрации и Amazon DynamoDB для кэширования ответов. Кэширование позволяет снизить затраты на повторные запросы, что особенно важно при высокой частоте обращений. Однако стоит учитывать, что OpenSearch Serverless имеет постоянную базовую стоимость — несколько сотен долларов в месяц, независимо от нагрузки. Это самый крупный фиксированный компонент расходов, поэтому при бюджетировании его нужно закладывать отдельно.
Развертывание системы занимает около 30 минут и не требует глубоких знаний в области ИИ. Знаниевые владельцы могут просто загружать документы в S3, после чего они автоматически становятся доступными для поиска. Это упрощает процесс по сравнению с традиционными системами управления знаниями, которые требуют ручной разметки и настройки пайплайнов. Решение подходит для разных отраслей: от производственных предприятий, где нужно сохранить опыт техников перед их выходом на пенсию, до медицинских учреждений и государственных органов.
Подход AWS контрастирует с более простыми решениями, такими как текстовые чат-боты, которые не обеспечивают голосового взаимодействия и часто требуют больше усилий для интеграции. В то же время, компании могут выбрать и полностью кастомные разработки на базе Amazon Bedrock, но предложенное решение выделяется готовностью к использованию и ориентацией на не технических пользователей.
