函数规格
classify if this is urgent
Program-as-Weights · 研究
编译一次,保存程序,在本地反复调用。
修复格式错误的 JSON、筛选需要处理的日志、根据用户意图匹配页面——这些函数容易用语言说清楚,却难以写成一套完整的规则。Program-as-Weights(PAW)提出模糊函数编程,把函数说明编译成可保存、可加载、可重复调用的神经程序。
PAW 让大模型承担构建工具的工作。编译器读取函数说明,生成供小模型执行的程序;共享的神经解释器加载程序,处理每一次新输入。函数的行为由文本伪程序和生成的参数共同表达。
PAW 论文图 1 用下面的消息分类说明编译与执行的分工。
classify if this is urgent
Need your signature by EOD!
urgent
先把“判断消息是否紧急”编译成一个程序并保存。之后每收到一条消息,就把它交给加载了该程序的小模型。下一条消息继续使用同一个函数。 论文图 1 ↗
把难以穷举规则的行为写成函数说明,编译为神经程序,再从普通代码中调用。
程序包含文本伪程序和参数高效模块。PAW 实现并比较了前缀向量与 LoRA 适配器两种程序表示。
PAW 发布 FuzzyBench,并提供 Python、JavaScript 和浏览器运行路径,让编译后的程序进入实际软件。
论文原文:编程抽象(§2) · 编译器与解释器(§3) · FuzzyBench(§5) · 本地执行(§9)
PAW 使用函数说明、输入和输出样本训练编译器,让它学会从说明生成程序。FuzzyBench 提供一千万条样本,覆盖分类、解析、格式转换、模糊匹配等任务。
训练好的 PAW 编译器根据新函数的描述,一次前向传播生成 LoRA 权重,无需为这个新函数再做梯度训练。编译结果可以保存、缓存和版本管理,随后交给配套的解释器运行。
每次函数调用都由本地解释器完成。程序和解释器下载到设备后,执行过程不再调用远程大模型。
Yuntian Deng 在 2026 年 6 月 5 日的文章 From AI as Problem Solver to AI as Tool Builder 中提出,让预训练模型生成小型神经程序。人们用自然语言创建和更新这些工具,再把它们放到电脑、手机或机器人上运行。PAW 把这个方向落实为函数、程序、编译器和解释器。
Yuntian Deng ·
Compile by Training:在编译时训练程序
首次 arXiv 提交
EMNLP 2026 System Demonstrations
Compile by Training 延续 PAW 的程序格式和本地解释器。教师模型根据函数说明生成训练样本,PAW 的快速编译器提供初始程序,再用这些样本训练该函数的 LoRA 适配器。训练完成后保存程序,本地执行不再调用教师模型。
神经编译阅读清单 · 全部论文 · 模糊函数指南(英文)
PAW 的编程范式、编译器与解释器接口、本地神经程序见原始 PAW 论文。在编译阶段生成样本并训练适配器的方法见 Compile by Training。
Wentao Zhang, Liliana Hotsko, Woojeong Kim, Pengyu Nie, Stuart Shieber, Yuntian Deng. The Fortieth Annual Conference on Neural Information Processing Systems, 2026.
@inproceedings{zhang2026programasweights,
title = { {Program-as-Weights: A Programming Paradigm for Fuzzy Functions} },
author = {Zhang, Wentao and Hotsko, Liliana and Kim, Woojeong and Nie, Pengyu and Shieber, Stuart and Deng, Yuntian},
year = {2026},
booktitle = {The Fortieth Annual Conference on Neural Information Processing Systems},
url = {https://arxiv.org/abs/2607.02512}
}
Yuntian Deng, Pengyu Nie, Stuart Shieber. Proceedings of the 2026 Conference on Empirical Methods in Natural Language Processing: System Demonstrations, 2026.
@inproceedings{deng-etal-2026-compile,
title = { {Compile by Training: Turning Natural-Language Specifications into Local Neural Functions} },
author = {Deng, Yuntian and Nie, Pengyu and Shieber, Stuart},
year = {2026},
booktitle = {Proceedings of the 2026 Conference on Empirical Methods in Natural Language Processing: System Demonstrations},
publisher = {Association for Computational Linguistics},
pages = {830--839},
doi = {10.18653/2026.emnlp-demos.78},
month = {October},
address = {Budapest, Hungary},
isbn = {979-8-89176-461-3},
editor = {Agrawal, Sweta and Abad, Alberto},
url = {https://aclanthology.org/2026.emnlp-demos.78/}
}