Hugging Face LLM Course: Практика с трансформерами · Урок 1
Pipeline API: запускаем модели за три строки
Hugging Face pipeline() позволяет запускать задачи NLP без знания архитектуры модели.
Практическое задание
Что сделать после урока
Запустите три разных pipeline (sentiment, ner, summarization) на русском тексте с multilingual моделями. Сравните качество и скорость. Замените модель по умолчанию на более свежую с Hub.
Готовый промпт
Шаблон под задачу урока
Скопируйте и адаптируйте под свой контекст. Текст в треугольных скобках — то, что нужно заменить.
Помоги выбрать pipeline для задачи. Задача: <…> Язык: <…> Есть GPU: <да/нет> Предложи тип pipeline и 2-3 модели с Hub.
Типичные ошибки
На чём чаще всего спотыкаются
- Забывают device=0 при наличии GPU — работает на CPU в 10x медленнее.
- Используют английскую модель по умолчанию для русского текста.
Лайфхаки
Что работает, но в гайдах не пишут
- batch_size=8 в pipeline ускоряет батчевую обработку.
- return_all_scores=True показывает вероятности всех классов.