Локальный ИИ для компании
Локальный ИИ для компании — это языковая модель, которая работает на вашем сервере или в выбранном вами дата-центре, поэтому документы и данные клиентов не уходят во внешние облака. Подходит клиникам, финансовым компаниям и всем, кто хранит биометрию или чувствительные документы. Проект стоит от $15 000, срок от 8 недель.
Облачные модели удобны, но каждый запрос уходит на серверы поставщика. Для многих задач это допустимо. Для части данных нет: после поправок к закону «О персональных данных» (ЗРУ-1125 от 26 марта 2026 года) биометрические и генетические данные, а также данные абонентов операторов связи должны храниться и обрабатываться только в Узбекистане. Остальные данные можно передавать за рубеж при условиях, которые перечисляет закон, например в страны из утверждённого списка с «равнозначной защитой».
Когда нужен локальный ИИ
Признаки, что облака недостаточно
- вы обрабатываете биометрию, медицинские или генетические данные
- вы оператор связи или работаете с данными абонентов
- договоры с клиентами запрещают передачу данных третьим лицам
- служба безопасности не согласует внешние API
- нужна работа без интернета, например на производстве
Какую модель поставить
Открытые модели (Qwen, Llama, Mistral, Gemma и другие) за последние два года догнали облачные на типовых задачах: разбор документов, ответы по базе знаний, классификация заявок. Слабее они там, где нужны длинные рассуждения. Размер модели определяет железо; ниже ориентиры с 4-битным сжатием по открытым руководствам, точные цифры мы меряем на ваших задачах.
| Класс модели | Видеопамяти нужно | Подходит для |
|---|---|---|
| 7–8 млрд параметров | около 6–8 ГБ | классификация заявок, извлечение полей из документов |
| 30–32 млрд | около 20–24 ГБ | база знаний, ответы клиентам, черновики документов |
| 70 млрд | около 48 ГБ и больше | сложные ответы, длинные документы, несколько отделов сразу |
Ориентиры по открытым руководствам при 4-битной квантизации; длинный контекст добавляет память
Что входит в проект
Подбор модели под ваши задачи с замером качества, расчёт и закупка (или аренда) сервера, установка, подключение базы знаний и агентов, права доступа и журнал запросов, обучение администратора. Проект стоит от $15 000 без стоимости оборудования, срок от 8 недель.
Если полностью локальная схема дорога, есть гибрид: чувствительные данные обрабатывает локальная модель, остальное облачная. Какие данные можно отправлять в ChatGPT, разобрано в статье «ИИ и персональные данные в Узбекистане», а выбор модели и железа подробно в статье «Локальная нейросеть для компании».
Хуже ли локальная модель, чем ChatGPT?
На узких задачах вроде разбора документов разница часто небольшая; на сложных рассуждениях облачные модели сильнее. Мы сравниваем обе на ваших примерах до покупки железа.
Можно ли разместить модель в дата-центре в Узбекистане?
Да, это закрывает требование о локализации без собственной серверной.
Кто обновляет модель?
Мы, в рамках сопровождения от $390 в месяц, или ваш администратор после обучения.

