СреднийИнженерияopen-source LLMs

Hugging Face LLM Course: Практика с трансформерами

Практический курс по работе с открытыми языковыми моделями через Hugging Face: от первого pipeline до деплоя на Spaces и тонкой настройки с PEFT/LoRA.

3модуля

9уроков

350 минобщее время

Разработчики, которые хотят работать с open-source моделями через Hugging Faceкому подходит

Модуль 1

Трансформеры и токенизация

Pipeline API, глубокое понимание токенизации и навигация по Hugging Face Hub.

Pipeline API: запускаем модели за три строки

Hugging Face pipeline() позволяет запускать задачи NLP без знания архитектуры модели.

35 мин

Токенизация: BPE, WordPiece, SentencePiece

Токенизатор разбивает текст на субслова и превращает их в числа, которые понимает модель.

40 мин

Hugging Face Hub: поиск и загрузка моделей

Hub — главный репозиторий open-source моделей, датасетов и Spaces с миллионами ресурсов.

30 мин

Модуль 2

Тонкая настройка

Подготовка датасетов, обучение с Trainer API и эффективная тонкая настройка с PEFT/LoRA.

Подготовка датасета: load_dataset и токенизация

datasets library позволяет загрузить, обработать и токенизировать данные для обучения.

40 мин

Trainer API: тонкая настройка классификатора

Trainer берёт на себя training loop, логирование, evaluation и сохранение чекпоинтов.

45 мин

PEFT и LoRA: тонкая настройка без полного обучения

PEFT обучает только малый процент параметров (адаптеры), сохраняя базовую модель замороженной.

45 мин

Модуль 3

Продвинутые возможности

Serverless инференс, деплой на Spaces с Gradio и запуск TGI с инструментальными агентами.

Hugging Face Inference API: serverless инференс

Inference API позволяет вызывать модели с Hub без GPU — через HTTP или InferenceClient.

35 мин

Gradio + Spaces: деплой ML-демо за 10 минут

Gradio превращает Python-функцию в веб-интерфейс, а HF Spaces публикует его бесплатно.

35 мин

TGI + Agents: инференс-сервер и инструментальные агенты

Text Generation Inference — продакшн-сервер для LLM со streaming и tool use.

45 мин