编译器对所有 make_block_ptr 做一刀切检查,没有区分"这个 tensor 是否需要完全驻留在 Scratchpad 上。
如果要改,需要做两件事:
-
修改编译器的 MAX_TENSOR_NUMEL 检查,让它区分"tile 内 tensor"和"全局 tensor"
-
确保生成的代码只把 tile 数据加载到 Scratchpad,而不是整个 tensor
编译器对所有 make_block_ptr 做一刀切检查,没有区分"这个 tensor 是否需要完全驻留在 Scratchpad 上。
如果要改,需要做两件事:
修改编译器的 MAX_TENSOR_NUMEL 检查,让它区分"tile 内 tensor"和"全局 tensor"
确保生成的代码只把 tile 数据加载到 Scratchpad,而不是整个 tensor