Coding agent должен заниматься инженерией AI-систем
Your Coding Agent Should Do AI System Engineering
Coding агенты могут писать CUDA-ядра, дообучать модели по промпту и вести исследования, если опираются на открытые примитивы.
- Память GPU как узкое место — по словам спикера, H100 выполняет около петафлопса в секунду, но пропускная способность памяти около 3 TB/s, поэтому GPU часто простаивает в ожидании тензоров. Кастомные ядра вроде FlashAttention повышают арифметическую интенсивность: больше вычислений на каждое чтение и запись.
- Ядра как пакеты на Hub — библиотека
kernelsхранит ядра в репозиториях Hub с TOML-файлом, где указаны совместимые GPU и версии CUDA. Так ядро под конкретное железо можно найти и подключить, не собирая его вручную. - Skills как few-shot примеры — файлы с примерами кода переводят агента от zero-shot к few-shot. Библиотека
upskillсравнивает модели на одном skill по точности и расходу токенов, помогая заменить дорогую модель дешёвой. - Исследовательская команда агентов — планировщик ведёт очередь гипотез, воркеры запускают обучение на HF Jobs, а reporter пишет метрики в Trackio. У Trackio данные лежат в Parquet, поэтому агент может строить собственные визуализации.
Кому полезно: тем, кто хочет ускорить инференс на своём железе или автоматизировать серии экспериментов по обучению моделей.
Статья по теме
Главы
Похожие доклады
Как coding agents навсегда меняют разработку ПО
AI Engineer Summit 2025
Близко по содержанию
Могут ли LLM писать быстрые multi-GPU kernels?
AI Engineer World's Fair 2026
Близко по содержанию
Agentic engineering: работаем с ИИ, а не просто используем его
AI Engineer Europe 2026
Близко по содержанию
Создание агентов, которые пишут собственный код
AI Engineer Summit 2025
Близко по содержанию

