ПродвинутыйИнженерия
LLM Engineer: от локального запуска до продакшна
Практический курс для ML-инженеров: локальный инференс с Ollama, RAG-пайплайны, LoRA/QLoRA файн-тюнинг и production-деплой с vLLM, guardrails и LLMOps. На основе mlabonne/llm-course (Apache 2.0).
3модуля
9уроков
320 минобщее время
ML-инженеры, строящие production LLM-системыкому подходит
Модуль 1
Запуск LLM локально
Ollama, квантизация, эмбеддинги, RAG-пайплайн и продвинутый гибридный ретривал.
Модуль 2
Файн-тюнинг
Когда файн-тюнить, подготовка датасета, LoRA/QLoRA адаптеры и экспорт модели.
Модуль 3
Продакшн и безопасность
vLLM, Flash Attention, безопасность LLM и LLMOps с RAGAS + W&B.