Ограниченная автономность: между свободой воли и детерминизмом
Bounded Autonomy: Between Free Will and Determinism
Агентные системы работают надёжнее, когда их автономия ограничена: меньше контекста, курируемая документация вместо интернета и простые системы с быстрой обратной связью.
- Документация вместо интернета — по словам спикера, модели плохо отличают рекламные тексты от пользовательских отзывов и поддаются SEO, поэтому при исследовании конкурентов им лучше давать качественную документацию. Контекст работает как мягкое ограничение, и главная задача теперь в том, чтобы отсекать шум.
- Намеренные ограничения — спикер советует проверять, сколько контекстного окна можно не использовать и всё равно выполнить задачу, а также собирать собственный harness, память и compaction, чтобы лучше понимать поведение модели.
- Простота вместо сложности — модели склонны предлагать самые сложные решения. В примере со своим резюме простой HTML сработал лучше сложного приложения, поэтому идею стоит быстрее проверять на реальных пользователях.
- Кластеризация соцсетей — по словам спикера, LLM сгруппировала 50 тысяч твитов в стратегии и отобрала показательные посты, что раньше занимало у команды гораздо больше времени.
Кому полезно: тем, кто строит агентов для генерации контента или аналитики и видит, что сложная схема работает хуже простой.
Статья по теме
Главы
Похожие доклады
Эпоха агентов
AI Engineer Summit 2023
Близко по содержанию
ИИ ничего не меняет
AI Engineer Code 2025
Близко по содержанию
Зачем агентным системам нужны онтологии
AI Engineer World's Fair 2026
Близко по содержанию
Как определить, когда AI agent может работать без надзора
Близко по содержанию

