← Каталог

· AI Engineer Europe 2026

Coding agent должен заниматься инженерией AI-систем

Your Coding Agent Should Do AI System Engineering

Coding агенты могут писать CUDA-ядра, дообучать модели по промпту и вести исследования, если опираются на открытые примитивы.

  • Память GPU как узкое место — по словам спикера, H100 выполняет около петафлопса в секунду, но пропускная способность памяти около 3 TB/s, поэтому GPU часто простаивает в ожидании тензоров. Кастомные ядра вроде FlashAttention повышают арифметическую интенсивность: больше вычислений на каждое чтение и запись.
  • Ядра как пакеты на Hub — библиотека kernels хранит ядра в репозиториях Hub с TOML-файлом, где указаны совместимые GPU и версии CUDA. Так ядро под конкретное железо можно найти и подключить, не собирая его вручную.
  • Skills как few-shot примеры — файлы с примерами кода переводят агента от zero-shot к few-shot. Библиотека upskill сравнивает модели на одном skill по точности и расходу токенов, помогая заменить дорогую модель дешёвой.
  • Исследовательская команда агентов — планировщик ведёт очередь гипотез, воркеры запускают обучение на HF Jobs, а reporter пишет метрики в Trackio. У Trackio данные лежат в Parquet, поэтому агент может строить собственные визуализации.

Кому полезно: тем, кто хочет ускорить инференс на своём железе или автоматизировать серии экспериментов по обучению моделей.

Статья по теме

Главы

Похожие доклады