Longlivety для организацийДля организаций → Инфраструктура
ИИ-инфраструктура,
которая остаётся вашей
Нижний слой поставки — вычислительный контур для мощных языковых моделей внутри объекта. Платформа превентивного здоровья становится первой рабочей нагрузкой на нём, но не единственной: на свободных мощностях организация разрабатывает и проверяет собственные методики оздоровления.
Ваша площадка для собственных методик и расчётов
Запас по мощности
Контур рассчитан на модели от 250 до 700 миллиардов параметров при расширении кластера. Вы не упираетесь в потолок через год и не покупаете вторую инфраструктуру под следующую задачу.
Свой и сторонний софт
На том же контуре разворачивается программное обеспечение, которое нужно организации, и собственные разработки её команды. Инфраструктура не замкнута на одного поставщика.
Площадка для собственных расчётов
Контур — это не только наша платформа. На нём организация считает свои задачи: обрабатывает накопленные наблюдения, проверяет методики и подходы, гоняет собственные модели. Мощности и данные при этом не покидают объект, а внешний счёт за вычисления не растёт с объёмом работы.
Модели под ваши данные
Дообучаем модель на материалах организации: внутренних методиках, регламентах, накопленных документах. Результат остаётся внутри контура.
Накопленное остаётся вашим
Данные, дообученные модели, адаптеры и внутренние методики хранятся в контуре организации и защищены его мерами. Со временем это становится активом, который не привязан ни к нам, ни к поставщику модели.
LoRA-адаптеры
Отдельный адаптер под конкретную задачу подключается к базовой модели и не привязывает контур к ней. Базовую модель можно заменить на более сильную, наработки сохраняются.
Почему это выгоднее аренды и облачных подписок
Локальный ИИ-контур — это вычислительное оборудование с языковыми моделями, установленное внутри периметра организации: инференс, хранение и расчёты идут на её собственных серверах, а не во внешнем сервисе. Медицинские данные при этом не покидают объект, внешний канал нужен только для обновления программного обеспечения.
Сравнение имеет смысл вести не с чат-ботом по подписке, а с тем, во что обходится доступ к сопоставимым вычислениям.
| Вариант | Что получаете | Ограничения |
|---|---|---|
| Облачный API по подписке | Доступ к модели без вложений | Медицинские данные уходят внешнему обработчику. Платёж растёт вместе с использованием, актив не накапливается |
| Аренда вычислительных узлов | Мощность без капитальных затрат | Данные в чужом дата-центре. Платёж бессрочный: за два года набегает стоимость собственного контура |
| Своя сборка силами ИТ-отдела | Оборудование в собственности | Прикладной части нет. Подбор конфигурации, развёртывание моделей и эксплуатация ложатся на вашу команду |
| Контур Longlivety | Инфраструктура в собственности и работающая платформа на ней | Требуется помещение, выделенная линия питания и участие ИТ-службы на этапе внедрения |
Оборудование мы закупаем на средства заказчика и передаём по счетам поставщиков, без наценки. Вы платите нам за прикладную часть, развёртывание и сопровождение, а не за перепродажу железа.
Вопросы к инфраструктурному слою
Мы сможем запускать на этом контуре свои задачи?
Да. Контур остаётся вашим, и состав рабочих нагрузок определяете вы. Мы разграничиваем ресурсы так, чтобы прикладная платформа и ваши задачи не мешали друг другу, и передаём порядок работы вашей ИТ-службе.
Что значит «дообучить модель на наших данных»?
Мы берём материалы организации — внутренние методики, регламенты, накопленные документы — и обучаем на них адаптер к базовой модели. Данные не покидают контур, результат принадлежит заказчику.
Не привяжет ли нас адаптер к одной модели?
Нет. Адаптер отделён от базовой модели: когда выходит более сильная модель, вы меняете основу и переносите наработки. Модельная независимость контура сохраняется.
До какого размера моделей можно расти?
Базовая конфигурация закрывает текущие рабочие задачи платформы. При расширении кластера контур рассчитан на модели от 250 до 700 миллиардов параметров. Конфигурацию под вашу нагрузку подбираем на диагностике.
Кто эксплуатирует всё это после запуска?
Мониторинг кластера, обновления моделей и методических правил входят в сопровождение. Вашей ИТ-службе остаётся площадка и сеть.
Что публично, а что передаём адресно
Открыто
Назначение слоёв, возможности контура, порядок работ и распределение ответственности.
После соглашения о конфиденциальности
Спецификация оборудования, состав моделей, результаты нагрузочных замеров, схема разграничения ресурсов и смета под вашу конфигурацию.
Подобрать конфигурацию под ваши задачи
На диагностике считаем нагрузку: сколько специалистов и клиентов, какие ещё задачи вы хотите держать на контуре, нужно ли дообучение на ваших материалах. На выходе — конфигурация и смета.
Запросить диагностику