全自动算子优化框架和实现

论文:[2608.25570] Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
论文审稿结束后会开源相关代码

原理TL;DR:LLM 大力出奇迹找到一组初始解,在优化初始解的过程中学习面向特定硬件的优化经验,以此在类似于 K1/K3 这样新兴的语料稀少的硬件上快速提升基于 LLM 的自动算子优化能力和效果。

2 个赞

26.09.11更新:

  • 支持了编译缓存热重载,目前K3 pico-ITX 单板可以做到同时 测速 2.2个/min,正确性 2.4 个/min
  • 支持了产物唯一性监测,可以做到分布式精确匹配,以支持历史运行记录查询和集群部署功能