Обучение нейросети на своих данных
NDDev обучает нейросети на данных компании: дообучаем языковые модели методами LoRA и QLoRA под ваш стиль, формат и терминологию, обучаем модели классификации и компьютерного зрения на ваших примерах. Вы получаете веса модели, код обучения и отчёт с метриками на отложенной выборке. Подходит компаниям с накопленными размеченными данными. NDDev работает с 2019 года.
Кому подходит?
Компаниям, у которых накоплены примеры: обращения с верными категориями, документы с заполненными полями, фотографии с отмеченными дефектами, переписка в фирменном стиле.
- LoRA и QLoRA для языковых моделей
- Модели на PyTorch и Transformers
- Эксперименты в MLflow
- Веса и код обучения у вас
Когда модели стоит учиться на ваших данных
Сначала проверяем, нужно ли обучение. Если задача в ответах по документам, обычно хватает поиска по базе знаний. Дообучение даёт выигрыш, когда модели нужен строгий формат, узкая терминология или стиль компании, а промпты дают нестабильный результат. Для классификации, извлечения полей и задач на изображениях своя небольшая модель часто работает быстрее и дешевле большой языковой.
- аудит данных и план разметки
- разметка и чистка примеров
- базовая модель для сравнения
- дообучение LoRA или QLoRA, обучение своей модели
- журнал экспериментов в MLflow
- отчёт с метриками на отложенной выборке
- веса модели, код обучения и инструкция по запуску
Большая часть работы идёт на данные. Чистим и размечаем примеры, делим их на обучающую, проверочную и отложенную выборки и считаем результат простой базовой модели. Языковые модели дообучаем методами LoRA и QLoRA на согласованном оборудовании, остальные обучаем на PyTorch, Transformers или YOLO. Каждый запуск с параметрами и метриками записываем в MLflow.
Если заранее неизвестно, достижимо ли нужное качество, начинаем с исследовательского этапа: пробуем методы от простого к сложному и сразу показываем промежуточные результаты. Итогом становится рабочая модель или обоснованный вывод, что на этих данных цель недостижима.
Этапы обучения модели
Задача и метрика
Договариваемся, что делает модель и по какой метрике мы поймём, что она справляется.
Данные
Проверяем объём и качество примеров, при необходимости размечаем и дополняем их.
Базовый результат
Обучаем простую модель или пробуем промпты, чтобы было с чем сравнивать.
Эксперименты
Подбираем архитектуру и параметры, каждый запуск записываем в MLflow.
Проверка и передача
Измеряем модель на отложенной выборке, разворачиваем у вас и передаём веса и код.
Вопросы об обучении на своих данных
Сколько данных нужно?
Это видно после аудита данных. Смотрим, сколько у вас примеров, насколько они однородны и размечены ли они, и прямо говорим, хватит ли их или сначала нужна разметка.
Можно обучать модель на наших серверах?
Да. Обучение запускаем на вашем оборудовании или в согласованном облаке, данные и полученные веса остаются там.
Гарантируете ли вы точность модели?
Мы отвечаем за согласованный процесс, эксперименты, отчёт и документацию. Целевую метрику фиксируем до начала и измеряем на отложенной выборке, которую модель при обучении не видела. Если цель на этих данных недостижима, вы узнаёте об этом на исследовательском этапе.
Кому принадлежит обученная модель?
Права на веса и код обучения передаём по договорённости, условия фиксируем в договоре.
Сколько стоит обучение?
Цена «от» в блоке стоимости относится к нашей работе. На итог влияют объём данных и разметки, размер модели и число экспериментов. Вычислительные мощности и внешняя разметка оплачиваются отдельно по факту.
от 560 000 ₽
- Бесплатная гарантия
- 80 дней
Цены указаны «от» и носят информационный характер; они не являются публичной офертой. Итог фиксируем в ТЗ.
Языковые модели и знания компании
По теме
Опишите задачу и данные, которые у вас есть
Расскажите, что должна делать модель и сколько примеров накоплено. Мы оценим, хватит ли данных, и предложим план.
Ответим в течение 24 часов