Norbit GPT

Основные статьи:

• Распознавание речи (технологии, рынок)
• Речевые технологии: на пути от распознавания к пониманию
• Нейросети (нейронные сети)

2024

Запуск на серверах с GPU

Норбит обновил собственную большую языковую модель – Norbit GPT. Теперь она еще быстрее интегрируется в ИТ-контур клиента и менее требовательна к инфраструктуре, так как запускается на более бюджетных серверах с GPU (Graphics processing unit, графический процессор). Данная версия дообучена на массиве данных российского законодательства, эффективнее взаимодействует с запросами на естественном языке. Об этом компания сообщила 4 декабря 2024 года.

Для версии 2.0 значительно упростили процесс развертывания в цифровом ландшафте компании: решение поставляется в виде docker-контейнера, включая личные кабинеты сотрудника и администратора. Именно on-premise вариант (размещение на серверах заказчика) в приоритете у большинства клиентов, так как он минимизирует риски утечки персональной и конфиденциальной информации, создает дополнительный уровень безопасности и надежности при обработке данных.Российский рынок облачных ИБ-сервисов только формируется 2.1 т

Norbit GPT получила раздел для упрощения работы со структурированными или реляционными данными - сложными запросами к аналитическому хранилищу на естественном языке. Кроме того, был добавлен модуль цензурирования и уточнения ответов. С его помощью снижается вероятность галлюционирования модели при генерации текстов. Также он позволяет определять темы, на которые ИИ-ассистент не должен давать ответы.

Нейросеть была дообучена на материалах российского законодательства. Это повышает ее точность в анализе документов, автоматизации юридических процессов, консультировании по правовым вопросам. Пользователи смогут опираться на актуальную информацию для всех изменений и доработок норм и законов.

Технологии в сфере ИИ меняются стремительно. Чтобы оставаться конкурентными, нашим клиентам необходимо быть еще быстрее. Norbit GPT - прекрасный инструмент для такого ускорения. Тем более, что мы сделали модель еще более умной, эффективной, простой в подключении и главное – безопасно, сказал Дмитрий Демидов, руководитель лаборатории инноваций НОРБИТ.

Представление решения Norbit GPT

Департамент искусственного интеллекта Норбит (входит в группу ЛАНИТ) разработал собственную большую языковую модель (LLM, Large Language Model) -Norbit GPT. Решение позволит российским компаниям быстро внедрять в бизнес-процессы инструменты генеративного ИИ, повышая производительность, снижая издержки и обеспечивая конкурентные качества. Об этом Норбит сообщил 15 февраля 2024 года.

Модель подходит для генерации текстов, суммаризации, обработки и анализа данных, а также для подготовки ответов на обращения пользователей в службу поддержки или запросов в базу знаний компании. Решение дообучено на большом массиве русскоязычных данных. Его легко кастомизировать под специфику и задачи клиента. Для этого в качестве датасетов могут использоваться внутренние данные – регламенты, библиотеки, сервисные обращения и многое другое.

Norbit GPT может быть развернута как в облаке, так и на серверах клиента, что значительно минимизирует риски утечки персональной и конфиденциальной информации. Решение также имеет API (Application Programming Interface — программный интерфейс приложения) для подключения к корпоративным информационным системам, который упрощает интеграцию и взаимодействие с имеющейся инфраструктурой.

Модель позволяет решать большой круг рутинных задач, экономя время сотрудников самых разных профессий. В том числе помогает маркетологам в создании креативных материалов, менеджерам по продажам – в написании клиентских писем, ассистирует ИТ-специалистам в разработке кода, для HR - генерирует тренинги, проверяет документы и классифицирует резюме при массовом найме. Norbit GPT пилотируется в нескольких CRM-, SRM- и HRM-проектах, а также в корпоративных чат-ботах.

GPT-технологии кардинально меняют бизнес, модифицируют подходы к созданию контента, управлению и решению рутинных задач. В НОРБИТ уже накоплены компетенции и экспертиза по ML, собрана сильная экспертная команда. Это позволило нам в числе первых создать собственную языковую модель. Я уверен, что наши клиенты будут использовать все ее плюсы для активного развития и поиска новых точек роста. Если в ваших бизнес-процессах есть направления, в которых задействованы большие объемы текстовых данных, мы можем предложить пилотный проект автоматизации на основе Norbit GPT и варианты его интеграции в корпоративную информационную инфраструктуру, сказал Дмитрий Демидов, руководитель лаборатории инноваций НОРБИТ.