Попробуйте RAG на практике: на нашем сайте доступна демо-версия интеллектуального помощника, отвечающего на вопросы о продуктах и технологиях компании DataVera.


Развитие больших языковых моделей (LLM) и конкуренция между ними привлекают интерес к этим технологиям. Наверное, вы уже попробовали самостоятельно пообщаться с ChatGPT или другой моделью, и убедились в их необыкновенных способностях. Но применения LLM в бизнесе все еще остаются ограниченными. Несмотря на обещания всяческих выгод и требования всюду применять ИИ, реальных историй успеха в этой области совсем немного.

В этой статье мы дадим несколько конкретных рецептов того, как применить ИИ в бизнесе, получить выгоду и избежать рисков.

Как применяется ИИ в экономиках развитых стран?

Посмотрим сначала, как идет коммерциализация ИИ на мировом рынке. Корпоративные расходы в США на генеративный ИИ, к которому относятся LLM, выросли в 2024 году до 13.8 млрд. $ (здесь и далее – данные Menlo Ventures) и увеличились в 6 раз по сравнению с 2023 годом. При этом 1/3 руководителей в США пока не понимают, как именно генеративный ИИ может быть применен на их предприятиях. Только 40% затрат на ИИ идут из операционных бюджетов, тогда как 60% средств расходуются из бюджетов инновационного развития – это говорит о том, что основная масса проектов по внедрению ИИ воспринимается управленцами как эксперименты. TOP-5 типов задач, решаемых с помощью генеративного ИИ, таковы:

  • 51% предприятий, участвовавших в опросе Menlo Ventures, используют автоматизацию создания программного кода. Это специфическая задача ИТ-компаний, мало актуальная для бизнесов "реального сектора экономики".
  • 31% предприятий используют чат-боты и других инструментов поддержки клиентов или сотрудников. Это важное направление, однако очевидно, что даже полная автоматизация службы поддержки лишь незначительно сократит издержки крупных компаний. К тому же, переход на полностью автоматическое обслуживание клиентов может снизить их лояльность, поскольку в B2C очень важен эмоциональный контакт с клиентом, задействование социальных и коммуникативных механизмов, недоступных роботу.
  • 28% компаний имеют инструменты поиска, извлечения, преобразования информации на основе AI. С этой категорией близка и выделенная авторами опроса задача извлечения инсайтов из данных (27%).
  • 24% компаний используют автоматическое создание протоколов встреч и звонков. Конечно, при удаленной работе и в распределенных командах составление протоколов становится утомительным занятием, однако его сложно назвать проблемой, существенно влияющей на производительность труда персонала.

Как видим, картина не очень радостная. Технология применяется для решения задач, которые имеют для бизнеса не первостепенное и даже не второстепенное значение. Автоматизация труда специалистов поддержки и секретарей – явно не то, во что стоит вкладывать миллиардные инвестиции, и не та область, в которой предприятие может получить существенную выгоду (кстати, ИИ тоже работает не бесплатно). С точки зрения экономического эффекта эти use case'ы похожи на попытки сэкономить на клининге или доставке воды для кулеров. Поиск и извлечение информации – более перспективный сценарий, о котором мы поговорим далее, но и здесь нужно принимать во внимание уровень его реализации: например, если речь идет только о поиске по базе корпоративной переписки, ценность решения будет не очень высока.

Не удивительно, что по данным опроса Lucidworks 42% компаний отметили, что проекты внедрения генеративного ИИ еще не принесли существенной выгоды.

Способны ли LLM на что-то большее, чем помогать в создании протоколов совещаний, генерировать код и не давать клиенту добраться до оператора службы поддержки? Безусловно – да, но для этого нужно немного изменить мышление, и не смотреть на LLM как на "волшебную палочку", которая сама по себе является универсальным инструментом решения любых задач. В отчете Gartner за 2024 год говорится о том, что технологии генеративного AI миновали пик раздутых ожиданий, а путь к практическому внедрению лежит в том числе через создание композитных решений AI, сочетающих разные типы инструментов, таких как традиционный ML, корпоративные графы знаний и NLU (Natural Language Understanding). Именно в этом направлении работает наша компания.

Как и обещали, в этой статье мы приведем несколько конкретных примеров решения практических бизнес-задач с помощью LLM, NLU, ML и корпоративных графов знаний. За каждым из этих примеров стоят реальные решения, созданные нашей компанией. Мы будем рады предложить и реализовать идеи по внедрению инструментов искусственного интеллекта и машинного обучения в бизнес-процессы и вашего предприятия.

Как получить выгоду от ИИ?

Перечислим способы монетизации технологий ИИ для бизнеса.

1. Снизить издержки за счет замены людей на ИИ-агентов. Эта мысль обычно приходит менеджерам в первую очередь, но это точно не самый эффективный способ извлечь прибыль из ИИ. В некоторых случаях действительно можно добиться экономии, но такой подход несет и ряд рисков. Сюда же отнесем и технологии, которые контролируют труд людей, не помогая им.

2. Повысить продуктивность труда людей. Этот способ обещает больший успех. Технологии, которые помогают людям лучше справиться с работой, а не заменяют их, могут не только сократить издержки, но и повысить выручку и прибыль. Этого можно добиться за счет увеличения числа обслуживаемых клиентов, повышения объема реализуемой продукции и других вариантов масштабирования бизнеса.

3. Идеальный вариант – если применение AI позволяет создавать новые цифровые продукты и услуги, открывать новые бизнес-процессы, решать такие задачи, которые человек не может решить в принципе. Такое возможно не во всех сферах деятельности, но если в вашем случае это так – экономический эффект будет наибольшим.

Оценим возможный экономический эффект от каждого способа.

1. Снижение издержек в лучшем случае может повысить рентабельность предприятия на несколько процентов.

2. Повышение производительности труда при благоприятных условиях может повысить выручку и прибыль в несколько раз.

3. Создание новых продуктов и процессов может окупить сделанные вложения в десятки раз и более.

Выбрали направление? Перейдем к конкретным сценариям использования ИИ для решения бизнес-задач.

Сценарии использования AI в бизнесе

В этом разделе мы опираемся только на собственный опыт реализации проектов с использованием AI. Все приведенные ниже сценарии точно работают и могут приносить прибыль!

1. Обработка обращений в службу поддержки. Полностью заменить Service Desk на чат-бота – сомнительная идея, но улучшить бизнес-процессы поддержки с помощью AI совершенно реально. Алгоритмы NLU и ML можно применить для группировки поступающих обращений: автоматически определять их тему и важность, чтобы маршрутизировать нужному специалисту. Из текста обращения можно выделить существенные детали, например – к какому продукту и классу проблемы оно относится. Можно автоматически подобрать готовые ответы из базы знаний, или сгенерировать индивидуальный ответ с использованием LLM и RAG (об этой технологии расскажем далее). Наконец, можно автоматически выявлять массовые инциденты и оповещать о них дежурных, связывать между собой все сообщения об одной проблеме.

2. Автоматизация комплаенса – контроля выполнения определенных условий. Процедуры комплаенса встречаются не только в бизнес-процессах финансовых организаций, но и в работе юридических департаментов корпораций. Обычно существует большой объем нормативных и организационно-распорядительных документов, содержащих определенные требования. Нужно проконтролировать соответствие этим требованиям конкретных сделок или контрагентов. Для этого надо извлечь из документов информацию, которая имеет отношение к выполнению известных требований, и оценить ее на соответствие им. Это отличный пример задачи, в которой оптимально применение композитного AI – ансамбля моделей и инструментов, в совокупности позволяющих достичь результата. Подчеркнем, что в подобных задачах AI не должен принимать окончательное решение за человека. Он должен лишь сэкономить ему время, подготовив сводку необходимой информации и аргументы. Именно такой способ позволяет повысить производительность труда, оставляя саму рабочую функцию (и ответственность) за человеком.

3. Бывает, что людям тяжело разобраться в самих нормативных требованиях. Тогда можно применить технологии NLU, дополненные корпоративным графом знаний, для извлечения требований из различных документов, их группировки по предмету, к которому относится требование, обстоятельствам его применения и так далее. Это позволит создать базу знаний, с помощью которой можно быстро подсказывать сотруднику требования, применимые в конкретном случае, а в комбинации с описанным выше подходом – и формировать сводку по их соблюдению.

4. Если компания работает с большим объемом входящих документов, будь то кредитные договоры или спецификации на поставку оборудования, их обработку можно автоматизировать. Технологии NLU способны извлечь ключевые факты из каждого документа, классифицировать его, аннотировать и поместить в базу данных, а также сделать доступным для поиска. LLM может суммаризировать содержимое документа, включив в резюме ключевые факты.

5. Диалоговый режим взаимодействия с данными. В решениях такого класса применятся технологии RAG (Retrieval-Augmented Generation). Суть технологии состоит в том, что LLM генерирует ответ на вопросы пользователя, опираясь на структурированные данные. Например, пользователь спрашивает – "Каков баланс моего лицевого счета?". Инструменты NLU определяют, о чем задан вопрос, и формируют контекст для ответа, извлекая информацию из базы данных бизнес-приложения или из DWH. В нашем примере контекст будет содержать значение текущего остатка по лицевому счету клиента. LLM сгенерирует ответ, используя это значение.

Технология RAG позволяет LLM "быть в курсе" актуальных данных, не переобучая ее. Решения на основе RAG позволяют создать инструменты самообслуживания клиентов в мобильном приложении или на сайте компании, а также интерактивных помощников для сотрудников предприятия. Они повышают доступность информации и могут быть компонентом корпоративной системы управления знаниями, системы интеллектуального поиска, предоставляющей сотрудникам доступ ко всей информации, накопленной на предприятии.

6. Для предприятий, закупающей широкую номенклатуру изделий, инструменты NLU помогут в определении характеристик предлагаемых товаров и их сравнении. Допустим, поставщик прислал Excel-файл с перечнем товаров и цен, где характеристики изделий указаны одной строкой, например "Двигатель 3200 кВт 500 об/мин СДН3-1776". Инструменты NLU определят класс изделия – двигатель, его мощность – 3200 кВт, частоту вращения – 500 об/мин, и модель – СДНЗ-1776. Это позволит определить, соответствует ли предложенное оборудование вашему запросу, и ранжировать предложения разных поставщиков. На основе таких инструментов можно создавать сервисы подбора аналогов изделий, автоматического разбора спецификаций/закупочных ведомостей и их приведения к стандартной номенклатуре, интеграции с торговыми площадками.

Похожим образом можно разбирать и другие текстовые строки, содержащие частично структурированную информацию – например, почтовые адреса.

В этом списке мы перечислили только те варианты использования NLU и LLM, которые применяли сами. Есть и множество других способов извлечь пользу из этих технологий. Если в вашем бизнесе есть задачи, которые можно решить с их помощью – обращайтесь, мы предложим вам провести пилотный проект, чтобы подтвердить эффективность решения. Это может быть автоматизация сбора информации из Интернета, генерация описаний товаров, отчетов о происшествиях и многое другое.

Рецепты успеха во внедрении ИИ

В заключение поделимся еще несколькими соображениями, которые нужно принимать во внимание при внедрении ИИ в бизнес-процессы вашего предприятия.

Gartner в отчете по развитию AI за 2024 год подчеркивает важность подготовки данных для использования с инструментами ИИ: человек имеет хотя бы шанс заметить сомнительные данные, а AI принимает любую информацию как истинную. Если на вашем предприятии существуют проблемы разрозненности и низкого качества данных, стоит начать с их решения – по крайней мере в части той информации, которую будет использовать AI.

Важно не следовать "туннельному мышлению" и не принимать автоматически определенные технологии и инструменты, продвигаемые экспертами. Нужно рассчитать планируемую экономическую эффективность внедрения, определить состав доступных исходных данных, описать желаемый конечный результат, а затем выбрать те средства, которые позволят его достичь в рамках существующих ресурсных ограничений. В том числе это касается использования технологий композитного AI: использовать RAG поверх структурированных данных может быть гораздо выгоднее, чем дообучать модель с применением этих данных.

При использовании AI нужно уделять внимание вопросам безопасности. Передача данных в модель – это тоже передача данных. Если вы намерены использовать стороннюю модель, такую как ChatGPT, нужно определить – позволяет ли законодательство и ваши обязательства перед контрагентами передавать определенную информацию третьим лицам? Если это не так, нужно использовать локально разворачиваемые инструменты ИИ. Но и в этом случае надо удостовериться, что, например, диалоговый ИИ-помощник ни при каких обстоятельствах не сообщит пользователю ту информацию, к которой он не должен иметь доступа (с инструментами RAG этого гораздо легче достичь, чем с дообучаемыми моделями).

И, конечно же, нельзя упускать из виду этические вопросы использования AI. Убедитесь, что внедряемое решение принесет пользу сотрудникам компании и ее клиентам, а не снизит чьи-то доходы или ухудшит качество услуг.

Свяжитесь с нами