AI безопасность и этика · Урок 1
Ландшафт угроз AI: что может пойти не так
Таксономия рисков AI: галлюцинации, предвзятость, утечки данных, prompt injection, отравление модели и атаки на цепочку поставок.
Практическое задание
Что сделать после урока
Составьте карту рисков для AI-инструмента, который вы используете чаще всего: определите топ-3 угрозы и базовые меры защиты.
Готовый промпт
Шаблон под задачу урока
Скопируйте и адаптируйте под свой контекст. Текст в треугольных скобках — то, что нужно заменить.
Проведи анализ рисков для [AI-ИНСТРУМЕНТ] в контексте [СФЕРА ДЕЯТЕЛЬНОСТИ]: 1. Перечисли топ-5 угроз по критичности 2. Для каждой — вероятность (высокая/средняя/низкая) и потенциальный ущерб 3. Предложи конкретные меры защиты
Типичные ошибки
На чём чаще всего спотыкаются
Считать, что риски AI касаются только технических команд. Любой сотрудник, работающий с AI, является точкой риска.
Лайфхаки
Что работает, но в гайдах не пишут
Используйте фреймворк STRIDE (Spoofing, Tampering, Repudiation, Information Disclosure, Denial of Service, Elevation) для систематизации угроз.