Cloudflare Agents SDK (актуальная версия 0.20.x) — это фреймворк для построения AI-агентов, которые работают на edge-серверах Cloudflare. Главная идея: агент не на вашем сервере и не в облаке AWS — он на ближайшем к пользователю edge-узле. Это снижает задержку до единиц миллисекунд. Разбираем, что изменилось и когда это полезно.
Что такое edge AI agents
Традиционная архитектура: пользователь → сервер (Virginia, Frankfurt, Tokyo) → ответ. Latency — 50–200ms на каждый запрос. Для AI-агента, который делает несколько вызовов LLM — это секунды ожидания.
Edge-архитектура: пользователь → ближайший edge-узел Cloudflare (330+ городов) → ответ. Latency — менее 20ms для большинства пользователей. Агент работает на том же узле, что и CDN, DDoS-защита, Workers.
Ключевые компоненты SDK
Durable Objects
Объекты, которые постоянно работают на edge. Каждый агент — это Durable Object с собственным состоянием. Пример: чат-бот помнит контекст разговора без внешней базы данных.
Workers AI
Платформа для инференса моделей на edge. Под капотом использует движок Infire — высокопроизводительный Rust-движок для LLM инференса. Можно запускать модели (до 7B параметров) прямо на edge. Для крупных моделей — проксирование во внешний API (OpenAI, Anthropic).
Workflows
Оркестрация многошаговых agentic workflows. Пример: агент получает запрос → ищет в интернете → анализирует → генерирует ответ → сохраняет в память. Всё это на одном edge-узле.
Сравнение с альтернативами
| Платформа | Edge deployment | State management | LLM inference | Цена |
|---|---|---|---|---|
| Cloudflare Agents SDK | Да (330+ городов) | Durable Objects (до 10 GB) | Workers AI + прокси | $5/мес + $0.60/млн запросов |
| Vercel AI SDK | Да (Edge Functions) | External (Redis/DB) | Прокси к OpenAI/Anthropic | Open-source, цена зависит от хостинга |
| LangChain | Да (через LangChain.js) | External (DB) | Прокси к любому API | Open-source |
| AWS Lambda | Ограниченно (CloudFront) | DynamoDB | SageMaker / Bedrock | $0.20/млн запросов |
Практические примеры
Чат-бот с контекстом
Durable Object хранит историю разговора. Агент отвечает за <50ms. Пример: служба поддержки-бот, который помнит предыдущие обращения клиента.
Web scraping agent
Агент на edge парсит веб-страницы, извлекает данные, сохраняет в Durable Object. Latency минимальный, потому что агент работает на том же CDN, что и целевые сайты.
Real-time translation
Агент получает текст, отправляет в Workers AI для перевода, возвращает результат. Всё на edge — задержка <100ms для небольших текстов.
Ограничения
- Размер моделей: на edge можно запускать только небольшие модели (до 7B параметров). Для крупных — нужно проксировать во внешний API.
- Память: Durable Objects имеют ограничение на размер состояния (10 GB на объект с SQLite storage).
- Cold start: Workers используют V8 isolates без классических cold starts. Активация Durable Object может занимать до ~50ms.
- Экосистема: SDK активно развивается (248 зависимостей, 645 версий), но экосистема ещё формируется по сравнению с LangChain.
Когда использовать Cloudflare Agents SDK
| Задача | Подходит? | Альтернатива |
|---|---|---|
| Чат-бот с низкой задержкой | ✅ | Vercel AI SDK |
| Web scraping agent | ✅ | Puppeteer + Lambda |
| Real-time перевод | ✅ | Google Translate API |
| Крупный анализ данных | ❌ | AWS SageMaker |
| Training ML models | ❌ | Google Vertex AI |
Часто задаваемые вопросы
Cloudflare Agents SDK — это замена LangChain?
Нет. LangChain — это библиотека для построения цепочек LLM-вызовов. Cloudflare Agents SDK — это платформа для развёртывания агентов на edge. Они дополняют друг друга.
Можно ли запускать GPT-4 на edge?
Нет. GPT-4 слишком большой для edge-серверов. Cloudflare Agents SDK проксирует крупные модели через Workers AI или внешний API (OpenAI, Anthropic).
Сколько стоит?
Базовый план Workers Paid — $5/мес (включает 20 млн запросов и 30 млн ms CPU). Дополнительно: $0.60 за каждый дополнительный миллион запросов. Для небольшого агента — $5–20/месяц. Для высокого трафика — сотни долларов.
Когда выйдет стабильная версия?
Cloudflare не раскрыла сроков. SDK активно развивается, обновления выходят регулярно (текущая версия 0.20.x).
