Лекції

У цій лекції ви розберетеся, що таке LLM‑агент і чим він відрізняється від «прямих» викликів MCP‑tools у ChatGPT App. Також зʼясуєте, з яких частин складається агент (LLM, інструкції, інструменти, стан), як влаштовані ролі повідомлень ( system/ user/ assistant/ tool) і run‑цикл (agent loop). Окремо поговоримо про практики продакшн‑рівня: як підвищувати передбачуваність (детермінізм) через промпти, параметри та guardrails і чому інструменти мають бути ідемпотентними, якщо агент може повторювати виклики.

Розглянемо інструменти (tools) з погляду LLM‑агента: чим tools відрізняються від MCP-tools, як інструмент задають контрактом через name/ description/ parameters (JSON Schema), як працює семантична маршрутизація (вибір інструмента та формування аргументів) і чому помилки мають бути «спостережуваними» ( Error as Observation) — зі структурованими кодами, повідомленнями й retryable, а не з «сирим» 500 і стек-трейсом.

У цій лекції розберемося, чому агентам потрібна явна памʼять поза історією повідомлень; як проєктувати шар session state (короткотривалий прогрес розмови) і persistent state (довгострокові дані користувача); а також як використовувати checkpoints для відновлення, налагодження й аудиту. На прикладі GiftGenius покажемо типи на TypeScript, звʼязок run-циклу з інструментами та практику «гігієни памʼяті» (контекст, вартість токенів, приватність, PII і TTL).

Розбираємося, що таке багатокроковий run в агентних системах і чим він відрізняється від «разового» виклику інструмента. Поговоримо про те, як модель планує кроки; коли й чому зʼявляються послідовні та паралельні виклики tools; як спроєктувати workflow (на прикладі GiftGenius); де провести межу між свободою моделі та жорсткою оркестрацією; як виставляти ліміти ( maxSteps, timeoutMs), відстежувати повтори викликів і формалізувати критерії завершення. Наприкінці повʼязуємо Agents SDK зі стеком Apps SDK → MCP → backend і розбираємо типові помилки продакшн-дизайну багатокрокових процесів.

У цій лекції розглянемо «продакшн-мислення» для AI-агентів: як обмежувати права через набір дозволених інструментів ( allowedTools) і ролі користувача; як ізолювати виконання (sandbox, ліміти кроків, часу та викликів інструментів); як зберігати секрети лише на сервері (через process.env і менеджери секретів); як мінімізувати PII в контексті; а також як увімкнути спостережуваність: структуровані логи, метрики та базовий трейсинг для кожного agent_run_id.