Никаких записей курсов — только живое общение
Курсы
Наши курсы
Программирование
Тестирование
Анализ данных
TeachMeSkills в Ютубе
Здесь мы публикуем годный контент, подробные разборы и практический опыт учителей
Дистанционный курс — 6 месяцев
LLM инженер
Собирай RAG и агентов как инженер, а не как пользователь за 6 месяцев.
Свяжемся в течение рабочего дня
Нажимая на кнопку, я соглашаюсь на обработку персональных данных
Старт групп
LLM01-onl — 24 ноября
Дни и время занятий
ВТ, ЧТ, 19:00 — 22:00
Кем ты станешь?
Курс «LLM-инженер» — это путь от «я умею писать промпты» до полного владения стеком проектирования и разработки AI-систем. Вы научитесь строить настоящие производственные решения: RAG-ассистентов, инструментальных агентов, сервисы со стейт-машинами, мониторингом, безопасностью и CI/CD. Мы фокусируемся на инженерии: архитектуре, пайплайнах, оптимизации, интеграции в продукты и контроле качества. Курс подходит тем, кто хочет стать go-to специалистом по AI-фичам в команде или создать собственный AI-продукт.
Что я смогу делать после курса?
- Поймёте, как собираются AI-системы: ingestion → retriever → LLM → мониторинг → деплой.
- Создадите Docs-QA систему со своим корпусом данных, векторными бд и метриками.
- Соберёте агента с инструментами, логами, fallback-ветками и трассировкой.
- Научитесь использовать Ragas, DeepEval, Langfuse, Prometheus, Grafana.
- Научитесь деплоить и оптимизировать LLM-сервисы, включая self-host модели через vLLM/TGI.
- Поймёте основные векторные угрозы, jailbreak-атаки и защитные меры.
Зарплата LLM инженеров
Источник данных: HH.ru
1200 $ - 2000 $
На рынке не хватает LLM инженеров
107вакансий с LLM инженерингом в требованиях размещено на hh.ru, LinkedIn и других платформах
Программа курса LLM инженер
184 академических часа
Составлена практикующими IT-специалистами.
Основы LLM-инженерии (вводный)
Архитектура и принципы работы LLM
- токены, логиты, контекстное окно
- temperature, top-p, top-k, penalties
- галлюцинации, дрейф, позиционная амнезия
- стоимость запросов и latency
- ограничения по длине и стоимости
Архитектура LLM-приложений
- слои: клиент → API → оркестрация → ретривер → модель
- синхронный/асинхронный/стриминг запрос
- точки отказа и фолбэки
- SLO/SLI: latency и стоимость
- метрики качества и ошибок
Основы промптинга
- completion / chat / structured output
- system, developer, user — роли и приоритет
- delimiters и инварианты
- few-shot и zero-shot подходы
- CoT и critique prompting
Prod-first фундамент
Structured outputs и валидация
- JSON Schema / Pydantic v2
- обработка невалидного JSON (repair, ask again, fallback)
- версионирование схем
- телеметрия форматных ошибок
- backward compatibility
Tool / Function calling
- сигнатуры инструментов
- идемпотентность и retry/backoff
- дедлайны и таймауты
- MCP — стандарт взаимодействия
- журналирование вызовов и защита
Стоимость и кэширование
- бюджет токенов, холодный/горячий старт
- кэш ответов и ретривера
- TTL и инвалидация
- канареечные релизы
- профилирование узких мест
Инжест и эмбеддинги
ETL корпусов
- обработка PDF/HTML/Office/OCR
- нормализация и очистка данных
- таблицы, формулы, код
- дедупликация и near-dup
- метаданные и мониторинг пайплайна
Чанкинг и построение индексов
- длина чанков и overlap
- спецструктуры: таблицы, списки, заголовки
- инкрементальное обновление индексов
- контроль дыр и связности
- nightly reindex
Эмбеддинги и качество
- модели BGE, E5, GTE
- косинус vs dot, нормализация
- детект дрейфа и outliers
- версионирование чекпоинтов
- хранение и воспроизводимость
Реранкеры
- cross-encoder rerank (BGE, Cohere)
- интеграция в пайплайн
- влияние на top-k и качество
- цена vs выигрыш
- precision@k, MRR
Хранилища
Postgres + pgvector
- индексы IVFFlat / HNSW
- фильтрация payload
- миграции и обновления коллекций
- тюнинг производительности
- когда достаточно pgvector
Qdrant и Milvus
- HNSW/IVF, compound-запросы
- ACL, snapshots, масштабирование
- latency профили
- мульти-коллекции
- сравнение с pgvector
Redis и кэширование
- Redis VSS и когда он уместен
- кэш ответов/ретривера
- TTL и горячие сегменты
- слои кэша (in-proc, Redis, CDN)
- интеграция в пайплайн
RAG 1.0 — база
Dense и hybrid retrieval
- BM25 + dense
- негативы и hard-negatives
- фильтры по метаданным
- пороги релевантности
- recall@k и precision@k
Генерация с grounding
- контекстные окна и цитирование
- no-answer и confidence
- структурированный JSON
- анти-галлюцинации
- пост-процессинг ответов
Мини-проект Doc-QA v1
- ingestion и индекс
- API REST/stream
- шаблон промпта
- fallback при пустом ответе
- smoke-тестирование
RAG 2.0 — усиления
Query-rewrite и multi-query
- переформулировка запросов
- тематические словари
- HyDE подход
- отрицательные примеры
- A/B тестирование
Graph-RAG и multi-hop
- шаги рассуждения
- маршрутизация между узлами
- дедуп контекста
- ранний останов и timeout
- метрики многокроковых задач
Anti-drift и кэширование
- KV-кэш и refresh
- мониторинг дрейфа
- адаптивные окна
- защита бюджета
- авто-обновление
Агенты и оркестрация
Инструменты и маршрутизация
- DSL промптов
- таймауты, retry, backoff
- routing по интентам
- fallback-ветки
- телеметрия инструментов
LangGraph — основы
- состояние, узлы, рёбра
- memory и ветвления
- реактивные события
- идемпотентность шагов
- минимальный граф-ассистент
Планирование агентов
- planner-executor
- ReAct, ToT, HITL
- когда что использовать
- борьба с избыточной агентностью
- детерминизм действий
Аудит и edge-cases
- контракт-тесты и сухие прогоны
- реплеи инцидентов
- трассировка веток
- контроль версий
- чек-лист приёмки
Мини-проект “Инструментальный агент”
- поиск + калькулятор + таблицы
- FSM и откаты
- телеметрия стоимости/латентности
- демонстрация работы
- анализ
Безопасность LLM
OWASP LLM Top-10
- prompt injection
- data exfiltration
- excessive agency
- insecure output handling
- кейсы «красной команды»
PII и контент-фильтры
- маскирование и логирование
- shields и defense-in-depth
- политика хранения
- аудит событий
- фильтрация до и после генерации
Безопасные адаптеры
- sandbox exec
- least privilege
- schema-enforced I/O
- контроль доступа к FS/DB/HTTP
- регламенты на инциденты
Тонкая настройка и пост-тренинг
Инструкционное дообучение (SFT)
- сбор и очистка данных
- синтетика и лицензии
- баланс классов
- регуляризация
- логирование экспериментов
LoRA и QLoRA
- выбор слоёв и адаптеров
- квантованное дообучение
- trade-offs качество/скорость
- экспорт/совместимость
- применение в проде
DPO и self-consistency
- предпочтения без RLHF
- генерация пар и негативов
- e2e-метрики
- риски смещения
- тестирование подхода
Практикум “Малая модель vs RAG”
- дообучение под домен
- сравнение подходов
- гибрид tuned+RAG
- стоимость и эффективность
- финальные выводы
Качество, трассировка, наблюдаемость
Автометрии LLM-функций
- extract / route / summarize KPI
- golden set стратегия
- LLM-as-judge
- калибровка и валидация
- отчёты регресса
Langfuse и аналитика
- трейсинг промптов и инструментов
- версия промптов/моделей
- стоимость и токены
- аннотации и sampling
- дашборды
OpenTelemetry и SLO
- распределённые трейсы FastAPI/gRPC
- корреляция LLM-спанов
- SLI/SLO и алерты
- Prometheus и Grafana
- budget-алерты
Регресс-тесты и CI
- канареечные прогоны
- контроль деградаций
- версия промптов и пайплайнов
- откаты и fallback
- ночные проверки
Сервинг и масштабирование
vLLM и TGI
- батчинг и стриминг
- paged-attention и KV-reuse
- маршрутизация моделей
- health-check
- профилирование throughput
Квантование моделей
- bitsandbytes / AWQ / GPTQ
- смешанная точность
- A/B тесты
- trade-offs по качеству
- применение в проде
API-слой и контракты
- REST + gRPC
- FastAPI и OpenAPI
- идемпотентность операций
- схемы ошибок
- обратная совместимость
Безопасность API
- JWT / OAuth2
- rate-limits и burst-контроль
- WAF и секреты
- аудит и трассировка
- политика доступа
Кэш и артефакты
- Redis для ответов и ретрива
- CDN для корпусов
- TTL и инвалидация
- измерение выгоды
- CI/CD пайплайн
CI/CD для LLM
- Docker и Compose
- миграции весов и эмбеддингов
- промотирование окружений
- уязвимости и SBOM
- playbooks
Вертикальные кейсы
Helpdesk-ассистент
- многоязычные корпуса
- SLA и эскалации
- no-answer стратегии
- отчётность и утечки
- масштабирование
FinOps-ассистент
- табличные инструменты и проверки
- риски и комплаенс
- объяснимость ответов
- аудит операций
- бизнес-метрики
Капстоны
Production RAG проект
- собственный корпус
- метрики и мониторинг
- деплой и нагрузка
- защита проекта
- презентация
Tool-Augmented Agent
- 2–3 инструмента
- граф и трассировка
- rollback-механика
- отчёт по SLO и стоимости
- финальная защита
Учебный процесс
Преподаватели курса LLM инженер
Учись у лучших. Все наши преподаватели - практикующие специалисты в международных IT-компаниях
Алексей
Ваше резюме после обучения
Профессиональные навыки:
- Проектирование и сборка RAG-систем (ingestion, retrievers, векторные БД: Qdrant, Milvus, pgvector).
- Разработка агентов и workflow в LangGraph / LangChain.
- Работа с LLM-моделями: ChatGPT, Gemini, DeepSeek, Mistral, LLaMA.
- Self-host модели: vLLM, TGI (деплой, оптимизация, инференс).
- Создание AI-фич и сервисов на FastAPI / gRPC.
- CI/CD и контейнеризация: Docker, GitLab/Gitea CI.
- Безопасность LLM-систем (анти-jailbreak, валидация контекста).
- Интеграция LLM через API (OpenAI, Gemini, DeepSeek, Mistral).
Помощь в трудоустройстве
Опытные HR-специалисты отвечают на вопросы, готовят к собеседованию и помогают каждому студенту получить работу мечты.
Раз
Рекомендации по составлению портфолио и резюме
Два
Подготовка к собеседованию в компаниях-партнёрах
Три
Персональные консультации по развитию карьеры
Стоимость обучения
Полная разовая оплата
165 000₽
Возможен вариант оплаты по банковской рассрочке от 6 до 18 месяцев. Более подробную информацию по программам рассрочки и кредитования можно узнать у менеджеров.
Оплата в рассрочку
Запись на обучение
Свяжемся в течение рабочего дня
Нажимая на кнопку, я соглашаюсь на обработку персональных данных