Не начинайте с выбора модели
Спор «какая модель круче» интересен инженерам. Для предприятия первый вопрос другой: можно ли этим данным выходить наружу и на каком процессе ИИ вообще нужен.
Когда локальный контур оправдан
- конструкторка, технология, ГОЗ, персональные и коммерческие тайны;
- политика ИБ: «в публичные API нельзя»;
- нужна предсказуемая среда без «модель обновилась и поведение поплыло»;
- аудит: кто что видел, где крутился инференс.
Если документ нельзя отправить юристу на личную почту, его же нельзя бездумно отправить в чужой чат.
Когда облако, GigaChat, Алиса или гибрид нормальны
- данные уже обезличены или публичны;
- политика прямо разрешает внешнего провайдера;
- нужен быстрый эксперимент на нечувствительном куске;
- локальные GPU пока не окупаются, а риск приемлем.
Публичные и корпоративные чаты (в том числе GigaChat, Алиса, зарубежные API) нормальный старт для черновиков и обучения. Проблема начинается, когда туда же тащат чертежи, персональные данные или то, что «нельзя юристу на личную почту».
Гибрид часто честнее, чем «всё только у себя» на словах и Excel в Telegram на деле.
Цена, о которой забывают
В локальный стек входит не один контейнер.
- железо и электричество;
- обновления и мониторинг;
- кто чинит, когда в пятницу вечером «не отвечает»;
- оценка качества ответов, не разовая демка.
Поэтому пилот должен быть узким: один процесс, одна метрика, понятный хозяин.
Процесс важнее железа
Можно купить сервер и всё равно получить мусор: если as-is не собран, модель будет уверенно ошибаться внутри периметра. Безопасный бред всё ещё бред.
Связка, которая работает:
- разобрать процесс;
- решить, какие данные входят в контур;
- выбрать архитектуру (локально / гибрид);
- пилот → метрика → решение.
См. также: почему ИИ на регламенте не взлетает, определение APRE.
Контур на заводе часто ставит ГК «ФОРОНЕЙ»: GraphRAG, SGLang, Qwen на GPU заказчика. Тот же периметр у продукта ДОКА, инвойсы не уходят в облако. Кто есть ФОРОНЕЙ: разбор.
Когда ставить, когда нет
Локальный ИИ нужен, когда риск утечки или потери контроля выше, чем экономия на чужом API. Он не нужен как статусная галочка «у нас свой LLM», если процесс не разобран и эффекта не измерить.
Павел Наумов