← All courses
Intermediate · 10 lessons
Практический AI Product Engineering Playbook
Десять оригинальных уроков от основ LLM до production operations: без демо-магии, с упором на проверяемые решения и архитектурную дисциплину.
- 01Как работает современный LLM: токены, embeddings и inferenceРазбираем, что модель видит в токенах, как устроено контекстное окно, что такое embeddings и почему инференс — это вероятностный следующий токен, а не запрос к базе знаний.60 min
- 02Промптинг, роли и структурированный вывод без хаосаКак выстроить иерархию инструкций, использовать few-shot примеры как контракт формата и добиваться валидного JSON с контролируемым циклом validate → repair → retry.75 min
- 03RAG и векторный поиск: как отвечать по своим документамКогда retrieval полезнее fine-tuning, как резать документы на чанки, зачем гибридный поиск и reranking и почему citations важнее красивого ответа.90 min
- 04Агенты и tool use: когда модель начинает действоватьКонтракты инструментов, агентный цикл с бюджетами, разделение планирования и исполнения, обработка ошибок инструментов и human-in-the-loop для рискованных действий.90 min
- 05Оценка и наблюдаемость: как не выпускать «вроде работает» в продGolden set и rubric, калибровка LLM-судьи, regression gate в CI при смене модели или промпта и трассировка, которая связывает каждый провал с конкретной цепочкой вызовов.75 min
- 06Безопасность LLM-систем: prompt injection, permissions и audit trailThreat model для систем с LLM, механика direct и indirect prompt injection, least privilege для инструментов, approval gates и журналирование, пригодное для расследования.75 min
- 07Multimodal AI: текст, изображения и смешанные входыКогда брать VLM, когда классический OCR, как строить structured extraction из изображений с confidence по полям и не смешивать прочитанное с домысленным.75 min
- 08Локальные и open-weight модели: privacy, cost и fallbackHosted API, open-weight на своей инфраструктуре и локальный runtime: арифметика памяти и квантизации, лицензии, выбор по своим evals и routing-политика с честным fallback.90 min
- 09Деплой и оптимизация: как обслуживать модель быстро и дёшевоАнатомия LLM serving (prefill/decode, continuous batching, KV cache), ручки оптимизации с их ценой, SLO и backpressure, и rollout, при котором ускорение не ломает качество.90 min
- 10Production agent operations: запуск, контроль, инциденты и postmortemЧеклист production-readiness, promotion flow с eval gates, runbooks и алерты по симптомам, и blameless postmortem-петля, превращающая каждый инцидент в новый guard и eval-кейс.90 min