<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>Weight-Space Programming on 吕炘嵘的博客</title>
    <link>https://blog.lvxinrong.com/tags/weight-space-programming/</link>
    <description>Recent content in Weight-Space Programming on 吕炘嵘的博客</description>
    <image>
      <title>吕炘嵘的博客</title>
      <url>https://blog.lvxinrong.com/og-default.jpg</url>
      
      <link>https://blog.lvxinrong.com/tags/weight-space-programming/</link>
    </image>
    <generator>Hugo</generator>
    <language>zh-CN</language>
    <lastBuildDate>Tue, 03 Nov 2026 13:47:56 +0800</lastBuildDate>
    <atom:link href="https://blog.lvxinrong.com/tags/weight-space-programming/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>Weight-Space Programming：权重空间编程中文导读</title>
      <link>https://blog.lvxinrong.com/reading/weight-space-programming-guide/</link>
      <pubDate>Tue, 03 Nov 2026 13:47:56 +0800</pubDate>
      <guid>https://blog.lvxinrong.com/reading/weight-space-programming-guide/</guid>
      <description>根据原文整理的中文导读：大模型如何读取、编写和修复神经网络权重，以及为什么修复输出障碍不等于凭空增加能力。</description>
      <content:encoded><![CDATA[<ul>
<li>原文标题：<em>Sparks of Weight-Space Programming: LLMs can natively read &amp; write neural network weights</em></li>
<li>原文链接：https://rikiyat.github.io/blog/weight-space-programming/</li>
<li>阅读日期：2026-11-03</li>
<li>说明：这是根据原文整理的中文导读与实验解读，不是逐句全文翻译。文中数字均为作者报告的结果，当前没有独立复现。</li>
</ul>
<h2 id="一句话理解原文">一句话理解原文</h2>
<p>作者认为，通用大模型已经开始具备一种新能力：<strong>不经过梯度训练，直接根据神经网络权重和行为反馈，对另一个模型进行诊断、修改甚至从零编写。</strong> 他们把这叫 Weight-Space Programming（权重空间编程）。</p>
<p>但“读懂权重”并不是像人一样随便扫一眼权重文件，就知道每个神经元在做什么。不同实验分别使用了原始权重文本、Python 分析工具、行为观察和前向反馈，限制条件并不相同。</p>
<h2 id="一它是怎样读权重的">一、它是怎样“读”权重的？</h2>
<h3 id="1-从权重判断网络在玩什么游戏">1. 从权重判断网络在玩什么游戏</h3>
<p>作者训练了四个结构完全相同的小网络，分别玩 Breakout、Pong、Pac-Man 和 Freeway。</p>
<p>他们把全部 17,253 个权重以文本形式交给 Astra，不告诉它候选游戏名称。Astra 四次都认对了。</p>
<p>它依据的是权重里的空间结构，例如第一层更关注输入网格的哪些区域、输出层更倾向于区分哪些动作。</p>
<h3 id="2-从扩散模型权重判断它生成什么形状">2. 从扩散模型权重判断它生成什么形状</h3>
<p>作者给了三个小扩散模型，分别生成圆形、三角形和正方形。Astra 不允许运行模型，只看权重，也能认出形状。</p>
<p>它主要依据输出层不同神经元画出的边缘。不过它也犯了一个细节错误：把填充图形理解成了轮廓。</p>
<h3 id="3-只看-transformer-中间层判断训练语言">3. 只看 Transformer 中间层，判断训练语言</h3>
<p>这是比较重要的实验。作者训练了三个 7.2M 的字符级小模型，分别学习 Python、英文和日文罗马字。</p>
<p>他们去掉输入、输出层，只给 Astra 中间四个 Transformer Block。Astra 不仅认出了语言，还准确找到了“复制头”——会找到前文重复内容、并复制后续字符的 attention head。</p>
<p>这里允许它用 Python 分析权重，但不允许运行网络、不允许搜索、不能做前向计算。作者检查过运行记录。</p>
<p>这部分支持一个很有意思的判断：<strong>大模型可能真的能从权重中识别某些 Transformer 层和注意力头的功能。</strong></p>
<h2 id="二它是怎样写权重的">二、它是怎样“写”权重的？</h2>
<p>作者做了从小到大的实验：</p>
<ul>
<li>修复一个始终无法冲上坡道的小车控制网络，一次修改约 3.5% 的权重后，1024 次测试全部成功；</li>
<li>从零编写几个小型游戏网络，部分结果超过经过大量 PPO 训练的小网络；</li>
<li>在约 150 万参数的围棋网络上，用 Python 写权重，并通过多次前向测试继续修改。</li>
</ul>
<p>需要注意：后面的实验开始允许工具和前向反馈，不再只是“把权重读一遍就直接写答案”。</p>
<h2 id="三数学能力提升实际是怎么回事">三、数学能力提升实际是怎么回事？</h2>
<p>这是原文第 8 个实验，也是宣传截图里最震撼的数字。</p>
<p>模型是 Qwen3.5-0.8B。作者给它：</p>
<ul>
<li>一个加载了权重的 Python 环境；</li>
<li>GSM8K 和 MATH 的训练集题目，不是测试集；</li>
<li>最多 50 次前向测试机会；</li>
<li>不允许梯度、不允许训练。</li>
</ul>
<p>Astra 发现，这个小模型最大的障碍是<strong>推理循环</strong>：它反复生成相同内容，根本停不下来。最初的 96 个练习回答里，有 85 个一直生成到 32768 token 上限。</p>
<p>于是 Astra 在第 15、19 层的 MLP 中，找到了一个与循环行为相关的方向，并从每层的 64 个输出列中减去这个方向。总共修改 131,072 个权重，占模型约 0.016%。</p>
<p>作者报告的结果：</p>
<div class="table-scroll" tabindex="0" role="region" aria-label="表格，可横向滚动">
  <table>
    <thead>
      <tr>
        <th>指标</th>
        <th style="text-align: right">修改前</th>
        <th style="text-align: right">修改后</th>
      </tr>
    </thead>
    <tbody>
      <tr>
        <td>MATH-500</td>
        <td style="text-align: right">7.9%</td>
        <td style="text-align: right">48.1%</td>
      </tr>
      <tr>
        <td>GSM8K</td>
        <td style="text-align: right">13.8%</td>
        <td style="text-align: right">67.1%</td>
      </tr>
      <tr>
        <td>IFEval 指令遵循</td>
        <td style="text-align: right">21.0%</td>
        <td style="text-align: right">62.3%</td>
      </tr>
      <tr>
        <td>撞 token 上限的回答</td>
        <td style="text-align: right">93.0%</td>
        <td style="text-align: right">33.1%</td>
      </tr>
    </tbody>
  </table>
</div>
<p><strong>这里最关键的不是“数学能力突然增加了”，而是“模型终于能把本来会做的题写完了”。</strong></p>
<p>它修复的是一个输出障碍，不是凭空注入了数学知识。</p>
<h2 id="四原文还有一个更重要的失败实验">四、原文还有一个更重要的失败实验</h2>
<p>作者又拿一个很少出现循环的 Gemma 3 270M 做同样尝试。</p>
<p>这个模型也会算错，但错误是普通的算术错误、代数步骤错误，没有一个统一故障可以关闭。结果多轮权重编辑后，MATH-500 只从 6.8% 变成最多 7.7%；作者明确表示，这种提升不能算得到证实。</p>
<p>原文的结论其实非常克制：</p>
<blockquote>
<p><strong>权重编辑可以移除一个遮住已有能力的障碍，但不能凭空添加模型原本不具备的能力。</strong></p>
</blockquote>
<h2 id="五这对我们的四则运算实验意味着什么">五、这对我们的四则运算实验意味着什么？</h2>
<p>之前准备的“EOS 单行缩放”，最多只能用于验证停止、截断、循环这类输出障碍，不能直接等同于提升四则运算能力。</p>
<p>我们应该先跑 355M 的基线，把错误分成几类：</p>
<ul>
<li>是否重复、循环、停不下来；</li>
<li>是否不输出数字或格式错误；</li>
<li>是否知道规则但计算错；</li>
<li>是否完全缺少对应算术能力。</li>
</ul>
<p>如果主要是“答案算到一半就循环”，定向权重编辑可能有效；如果大量题目只是算错，原文的 Gemma 实验提醒我们：不要预设 GPT 改几个权重就能教会它算术。</p>
<p>另外，这篇文章里的“无训练”不等于“零成本”。Qwen 实验用了训练题、前向评估和 50 次反馈机会。它省掉的是梯度训练，不是数据、推理和评估成本。</p>
<h2 id="六对训练成本的启示">六、对训练成本的启示</h2>
<p>如果这种方法稳定、可复现，它可能显著降低“通用模型变成专用模型”的专用化成本：</p>
<ul>
<li>不需要为每种角色重新预训练；</li>
<li>定向编辑权重时，可能不需要反向传播和大规模训练数据；</li>
<li>少了梯度、优化器状态和训练激活的显存开销；</li>
<li>同一个通用底座，可以分别形成架构、开发、测试、运维等专用补丁。</li>
</ul>
<p>但总成本并没有消失，而是转移了：</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">总成本 = 通用底座成本 + 专用化成本 + 评估验证成本 + 后续维护成本
</span></span></code></pre></div><p>怎样找到正确修改、怎样证明没有损伤其他能力、怎样保证在新模型上也有效，仍然需要实验和评估。</p>
<p>更准确的说法是：</p>
<blockquote>
<p><strong>它不是让模型能力免费产生，而是可能把昂贵的“重新训练”，替换成更便宜的“定向修改 + 严格验收”。</strong></p>
</blockquote>
<h2 id="七最终需要记住的边界">七、最终需要记住的边界</h2>
<blockquote>
<p><strong>权重空间编程目前最擅长的是找到并修复一个明确故障，而不是替代所有训练、凭空制造能力。</strong></p>
</blockquote>
<p>权重可以被看作一种可学习的机器编码，但不是天然可读的自然语言。真正可靠的证据不是模型“说出了某层是干什么的”，而是它能据此准确预测行为，并通过定向修改得到可重复、可验证的结果。</p>
<p>作者公开了各实验的完整日志，并提到已有外部人员重建、重新评估修改后的 Qwen 权重。当前这份记录只代表对原文的理解，不把作者结果写成我们已经完成的实验。</p>
]]></content:encoded>
    </item>
    <item>
      <title>手搓 LLM 笔记 15：让 AI 直接修改模型权重，能学会四则运算吗？</title>
      <link>https://blog.lvxinrong.com/llm/llm-15-weight-space-arithmetic/</link>
      <pubDate>Tue, 03 Nov 2026 13:38:09 +0800</pubDate>
      <guid>https://blog.lvxinrong.com/llm/llm-15-weight-space-arithmetic/</guid>
      <description>三轮真实权重编辑实验：从局部干预无效，到把 0～20 四则运算完整写入权重，再到扩展范围且保留通用能力的联合目标失败。</description>
      <content:encoded><![CDATA[<blockquote>
<p><strong>一次从有限范围成功到联合目标失败的 Weight-Space Programming 实验。</strong></p>
</blockquote>
<blockquote>
<p><strong>导读</strong>：如果这是你第一次接触 Weight-Space Programming，建议先读<a href="https://blog.lvxinrong.com/reading/weight-space-programming-guide/">《Weight-Space Programming：权重空间编程中文导读》</a>，了解原文的实验、Qwen 数学提升的真实原因，以及 Gemma 失败实验给出的能力边界。</p>
</blockquote>
<h2 id="起因如果权重也是一种语言呢">起因：如果权重也是一种语言呢？</h2>
<p>今天上午，我在 DeepSeek 官方群里看到有人分享了一篇文章：Astra 通过直接修改 Qwen 小模型的权重，显著改善了数学表现。</p>
<p>原文是 <a href="https://rikiyat.github.io/blog/weight-space-programming/">Sparks of Weight-Space Programming</a>，作者把这套方向称为 <strong>Weight-Space Programming，权重空间编程</strong>。</p>
<p>我当时的直观疑问是：权重对人类来说像一堆混沌的数字，但对另一个大模型来说，它有没有可能也是一种语言？一种描述“模型怎样计算”的内部语言？</p>
<p>如果能读懂并修改这套语言，那么我们或许不必每次都通过数据、梯度下降和训练来优化模型，而是可以让一个更强的大模型直接诊断、编辑另一个小模型。</p>
<p>这和我正在手搓 LLM 的主线正好接上了。昨天的<a href="https://blog.lvxinrong.com/llm/llm-14-eval-resume/">笔记 14</a>里，我的小模型在综合测试中的表现并不理想，算术题也存在明显错误。我决定不再停留在“这个想法听起来很酷”，而是拿现有的 355M 模型做一次真实实验。</p>
<h2 id="为什么聚焦四则运算">为什么聚焦四则运算？</h2>
<p>我考虑过结构化信息抽取、代码和数学。最后选择四则运算，原因很朴素：</p>
<ul>
<li>领域足够集中，不把常识、翻译、代码解释混在一起；</li>
<li>题目可以程序生成，数据规模可控；</li>
<li>答案唯一，做对就是做对了，不需要再请一个 LLM 评委；</li>
<li>可以按加、减、乘、除分别统计，观察修改到底影响了哪种能力。</li>
</ul>
<p>第一轮任务被限制为两个整数、一个运算符。操作数先在 0～20 内，除法必须整除、除数非零，减法不出现负数，不包含括号、多步运算和小数。</p>
<p>这让实验问题变得非常具体：</p>
<blockquote>
<p><strong>不使用训练，只让 AI 修改 355M 模型的权重，能否让它更会做四则运算？</strong></p>
</blockquote>
<h2 id="基线先分清格式问题和算术错误">基线：先分清格式问题和算术错误</h2>
<p>我准备了 200 道冻结测试题，加减乘除各 50 道。</p>
<p>原始 base 模型大多在续写算式，而不是直接回答。例如：</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">9 * 20 = 9 * 20 + 1
</span></span><span class="line"><span class="cl">2 + 16 = 2 + 16 + 16 = ...
</span></span></code></pre></div><p>严格纯整数格式为 0，首个等式结果正确的比例约为 <strong>15/200，7.5%</strong>。</p>
<p>SFT 模型第一次测试时 200 条全部为空。排查后发现，它不是全部不会，而是直接提问不符合训练时的指令模板，模型立即生成了 EOS。修正为带 <code>### Response:</code> 的 SFT 模板后，它才开始回答。</p>
<p>修正后的 SFT 输出类似：</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">9 * 20 = 9.
</span></span><span class="line"><span class="cl">2 + 16 = 32
</span></span><span class="line"><span class="cl">6 / 1 is 6.
</span></span></code></pre></div><p>严格纯整数格式仍为 0；放宽为提取等号或 is 后的第一个数字，约为 <strong>14/200，7%</strong>。</p>
<p>所以基线并不是简单的“模型没有输出”，而是两件事同时存在：<strong>输出格式不符合要求，普通算术错误也大量存在。</strong></p>
<h2 id="实验纪律">实验纪律</h2>
<p>三轮主实验都遵守几条共同约束：</p>
<ul>
<li>原始 SFT 权重只读，所有修改发生在副本；</li>
<li>不使用梯度下降、反向传播、LoRA 或微调；</li>
<li>不修改模型结构、tokenizer、词表和评估器；</li>
<li>不把题目答案写成查找表，不调用外部计算器冒充模型推理；</li>
<li>最终模型必须能保存、重新加载并进行正常前向计算；</li>
<li>GPT 只能使用独立练习题，冻结测试文件不开放；</li>
<li>无效或造成能力退化的候选要回滚并记录。</li>
</ul>
<p>我希望得到的不是一张漂亮结果截图，而是一套能复盘、能解释、能证伪的过程。</p>
<h2 id="前奏一次局部注意力干预失败">前奏：一次局部注意力干预失败</h2>
<p>正式开放式重写之前，GPT 先尝试过一个很小的干预。</p>
<p>它发现很多错误回答实际上是在复制某个操作数，于是推测最后一层第 4 号注意力头可能过度偏向复制。随后把该头对应的输出投影权重列缩小 10%，修改了 65,536 个权重，约占模型 0.016%。</p>
<p>诊断集和全新确认集的结果都没有提升，候选被撤销，原始权重和副本的 SHA-256 保持一致。</p>
<p>这次尝试没有成功，但它建立了一个重要前提：<strong>不能只看到“复制操作数”的表层行为，就认定某个注意力头是可以单独关闭的错误开关。</strong></p>
<h2 id="第一轮开放式重写020-内做到-100">第一轮：开放式重写，0～20 内做到 100%</h2>
<p>第一轮主实验使用 GPT-6.1 Sol 高思考强度，允许它自由决定修改哪些层、张量和权重区域，不设修改比例上限。</p>
<h3 id="过程从局部修补转向直接写入算法">过程：从局部修补转向直接写入算法</h3>
<p>GPT 先比较了 base 和 SFT 的权重差异，并尝试了 25 种显式权重干预，包括 SFT 差异回退或放大、输出读出调整、归一化、残差分支和位置幅值等。</p>
<p>这些修改仍然没有产生可靠的纯整数正确回答。</p>
<p>于是它换了一条更彻底的路线：<strong>不再试图从原模型中找回一个现成的算术电路，而是在保持 GPT-2 模块结构不变的前提下，把一套算术程序直接编译进权重。</strong></p>
<p>最终方案的分析记录非常明确：</p>
<ul>
<li>加法直接使用 <code>a+b</code>；</li>
<li>减法使用 <code>a-b</code>；</li>
<li>乘法使用平方差恒等式：</li>
</ul>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">a × b = ((a+b)² - (a-b)²) / 4
</span></span></code></pre></div><ul>
<li>平方通过整数 hinge 折线函数构造；</li>
<li>除法通过阈值计数实现：</li>
</ul>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">a ÷ b = sum(k=1..20) H(a-k*b &gt;= 0)
</span></span></code></pre></div><ul>
<li>输出层根据计算结果构造数字 token 的 argmax 读出；</li>
<li>EOS 在数字完成后被明确拉高，使模型正常停止。</li>
</ul>
<p>这些计算都由修改后的模型正常前向完成，没有题目—答案查找表，也没有推理时调用外部计算器。编译器本身不依赖练习题答案。</p>
<h3 id="结果有限范围内全部通过">结果：有限范围内全部通过</h3>
<p>GPT 的实验记录包括：</p>
<ul>
<li>1199 个合法操作数组合全部通过；</li>
<li>均输出正确整数并正常停止；</li>
<li>128 道独立确认题重跑仍然全对；</li>
<li>checkpoint 保存、重新加载和项目原生生成函数复核均通过。</li>
</ul>
<p>第一次看到这个结果时，我非常兴奋。一个原本算术能力很弱的小模型，在目标范围内真的做到了全对。</p>
<p>但这并不是“原模型被治好了”。编辑记录同时明确写着：<strong>所有参数值都被替换，原有通用语言能力没有被保留。</strong></p>
<p>它更像在同一个 GPT-2 外壳里重新写入了一台专用算术机，而不是修复了原来的通用指令模型。</p>
<h3 id="扩大测试范围后边界出现了">扩大测试范围后，边界出现了</h3>
<p>我随后换了一套 0～50 的中等难度测试，共 200 道新题。</p>
<p>结果为：</p>
<ul>
<li>总正确率 <strong>28/200，14%</strong>；</li>
<li>数值格式正确率 <strong>200/200，100%</strong>；</li>
<li>两个操作数都不超过 20 时，<strong>27/27，100%</strong>；</li>
<li>至少一个操作数超过 20 时，只有 <strong>1/173</strong> 正确。</li>
</ul>
<p>唯一在范围外答对的是 <code>42-42=0</code>，更像相等关系碰巧触发，不足以证明范围外减法能力。</p>
<p>这组对照把能力边界切得非常干净：<strong>它实现的是一个有明确输入范围、模板和精度约束的专用算术程序，不是任意整数的通用四则运算。</strong></p>
<h3 id="第一轮结论">第一轮结论</h3>
<blockquote>
<p><strong>GPT 能把一个有限范围的算术程序写进现有模型架构的权重里，但这不能证明它读懂了原来的 355M 权重，也不能证明它赋予了模型通用算术能力。</strong></p>
</blockquote>
<p>它展示的是权重编写能力，同时付出了覆盖原有通用语言能力的代价。</p>
<h2 id="第二轮扩大到-100同时保留通用能力">第二轮：扩大到 100，同时保留通用能力</h2>
<p>第二轮仍使用相同的 GPT-6.1 Sol 高思考配置，但从原始 SFT 权重重新开始。</p>
<p>这次目标变成两个，缺一不可：</p>
<ol>
<li>四则运算覆盖 0～100；</li>
<li>保留通用语言和指令跟随能力，不把模型整体改造成计算器。</li>
</ol>
<h3 id="过程与结果">过程与结果</h3>
<p>GPT 尝试了 10 个候选，包括局部通路和残差通道预留方案。</p>
<p>结果：</p>
<ul>
<li>最佳候选在 160 道确认题上的严格正确数仍为 <strong>0/160</strong>；</li>
<li>非平凡题的放宽正确率只有 <strong>1/145</strong>；</li>
<li>部分方案出现常识和代码解释回归，因此没有保留；</li>
<li>所有候选均已回滚，最终副本与原始 SFT 字节一致；</li>
<li>回滚后的 20 条通用指令回答与原模型完全一致；</li>
<li>未读取冻结测试文件。</li>
</ul>
<h3 id="第二轮结论">第二轮结论</h3>
<blockquote>
<p><strong>在当前 GPT 配置下，10 个候选都没有同时满足“0～100 算术”和“保留通用能力”。</strong></p>
</blockquote>
<p>这不是“权重空间编程不行”的普遍证明，只说明这轮没有找到满足联合目标的干预方案。</p>
<h2 id="第三轮换-astra结果会不同吗">第三轮：换 Astra，结果会不同吗？</h2>
<p>第三轮我切换到了原文使用的 GPT-6.1 Astra，并把<a href="https://rikiyat.github.io/blog/weight-space-programming/">原文</a>和<a href="https://github.com/RikiyaT/lm_understand-logs">公开实验日志</a>都交给它阅读。</p>
<p>目标仍然是 0～100 四则运算，同时保留通用能力。</p>
<h3 id="过程与结果-1">过程与结果</h3>
<p>Astra 先建立了算术和非算术基线，再测试复制倾向、FFN 神经元和组合干预。</p>
<p>8 个局部权重候选在 96 道开发练习上，严格正确数仍然全部为 0。允许解释性文字的次要评分，也只是从基线 8 道变成 8～9 道。</p>
<p>预留复核中，选中候选在 192 道题上的宽松正确数从 13 降到 12，端点检查也没有改善。因此全部撤销。</p>
<p>最终副本与原始 checkpoint 字节一致，修改比例为 0%。重新加载后，312 条算术记录和 16 条通用指令的输出都与原始模型一致。</p>
<h3 id="第三轮结论">第三轮结论</h3>
<blockquote>
<p><strong>换用更强的 Astra，仍然没有找到满足联合目标的可靠干预点。</strong></p>
</blockquote>
<p>这并不能证明这种方案永远不可能，但它让“失败只是上一个外部模型能力不足”的解释弱了很多。</p>
<h2 id="三轮实验放在一起看">三轮实验放在一起看</h2>
<div class="table-scroll" tabindex="0" role="region" aria-label="表格，可横向滚动">
  <table>
    <thead>
      <tr>
        <th>实验</th>
        <th>方法</th>
        <th>算术结果</th>
        <th>通用能力</th>
        <th>最终结论</th>
      </tr>
    </thead>
    <tbody>
      <tr>
        <td>第一轮</td>
        <td>开放式分析与全量权重编写</td>
        <td>0～20 内全对；范围外几乎失效</td>
        <td>被覆盖</td>
        <td>有限范围专用程序写入成功</td>
      </tr>
      <tr>
        <td>第二轮</td>
        <td>GPT-6.1 Sol，10 个候选</td>
        <td>0～100 联合目标未实现</td>
        <td>部分候选出现回归，最终回滚</td>
        <td>未找到联合方案</td>
      </tr>
      <tr>
        <td>第三轮</td>
        <td>Astra，8 个局部候选</td>
        <td>严格正确仍为 0，复核无提升</td>
        <td>回滚后与原模型一致</td>
        <td>换模型仍未解决</td>
      </tr>
    </tbody>
  </table>
</div>
<p>三轮结果放在一起，最准确的总结不是“成功”或“失败”二选一，而是：</p>
<blockquote>
<p><strong>把有限范围算法直接写入模型权重是可行的；在不训练、保留通用能力的前提下，让 355M 模型获得可泛化的四则运算能力，本轮没有找到可行方案。</strong></p>
</blockquote>
<h2 id="这和原文的关系">这和原文的关系</h2>
<p>原文里 Qwen 的大幅提升，主要来自解除重复输出障碍，让模型能完成本来就会做的题。</p>
<p>而原文的 Gemma 对照实验也显示：面对普通算术和代数错误，Astra 没有找到可靠提升。</p>
<p>我的实验基本复现了这个边界：</p>
<ul>
<li>如果目标足够明确，可以把一个程序直接写入权重；</li>
<li>如果只是存在大量分散的计算错误，就不能轻易通过局部编辑补齐能力；</li>
<li><strong>权重编辑可以修复明确故障或写入明确规则，但不能轻易替代训练、凭空增加通用能力。</strong></li>
</ul>
<h2 id="对训练成本的理解也被修正了">对训练成本的理解，也被修正了</h2>
<p>我最初关注这个方向，是因为它看起来可能显著降低专用模型的训练成本。</p>
<p>昨天我在<a href="https://blog.lvxinrong.com/ai/enterprise-ai-model-division/">《企业级 AI 编程的终极形态：当模型开始分工》</a>里设想过：随着训练技术和硬件发展，获得同等能力的单位训练成本可能下降，架构、开发、测试、运维等专用模型会更容易被企业使用。</p>
<p>权重空间编程提供了另一种可能：通用底座不变，由更强模型直接生成或修改专用权重。</p>
<p>但这次实验提醒我，<strong>无梯度训练不等于零成本</strong>。分析权重、生成练习题、反复前向验证、回滚候选、检查通用能力回归，都需要时间和算力。</p>
<p>更准确地说：</p>
<blockquote>
<p><strong>权重编辑可能降低专用化成本，但不会消除数据、评估和工程验证成本。</strong></p>
</blockquote>
<p>如果方法有效，它可以成为训练之外的新工具；如果方法无效，它也可能只是把训练成本换成了更长的模型探索过程。</p>
<h2 id="接下来还值得做什么">接下来还值得做什么？</h2>
<p>我认为有两条路线值得保留。</p>
<p>第一条是接受“有限范围专用程序”这个定位，继续研究怎样把更多明确算法编译进神经网络，同时把模板、输入范围和通用能力损失写清楚。</p>
<p>第二条是先通过训练让模型获得部分算术能力，再让大模型介入诊断，修复一个具体而明确的故障。这样权重编辑面对的不是“从零教会算术”，而是“修复一个已有能力上的局部障碍”。</p>
<p>至于企业里的架构、开发、测试、运维专用模型，我仍然认为这个方向值得探索。只是训练语料和运行时上下文需要分工：<strong>稳定的方法可以内化到权重，不断变化的企业现状仍应由知识库、代码图谱和上下文提供。</strong></p>
<h2 id="最后">最后</h2>
<p>这次结果并不理想，尤其是后两轮联合目标都没有实现。</p>
<p>但我仍然认为，这是一次成功的实验。</p>
<p>不是因为我们拿到了多高的分数，而是因为我们实际验证了一个想法，找到了它能做什么、不能做什么，并且没有为了好看的结论保留无效修改。</p>
<p><strong>实验结果不理想，不代表实验本身没有成功。</strong></p>
<p>对我来说，这次探索最重要的收获不是一台 0～20 的神经网络计算器，而是第一次真正摸到“权重也能被编写”这条路的边界。</p>
<p>这就值得记录。</p>
<h2 id="附录三次实验的完整提示词">附录：三次实验的完整提示词</h2>
<p>前面是实验的叙事和结论，下面保留三轮主实验的原始提示词。它们也是实验现场的一部分：模型知道什么、被允许做什么、哪些约束可能影响结果，都写在这里。</p>
<h3 id="附录-a第一轮开放式权重编辑提示词">附录 A：第一轮开放式权重编辑提示词</h3>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">你现在接手一个开放式 Weight-Space Programming（权重空间编程）实验。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">目标：
</span></span><span class="line"><span class="cl">直接编辑一个已有 SFT GPT-2 355M 模型的权重，尝试提升它在“小范围整数四则运算”上的表现。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">这次不预设干预位置，不限制修改比例，也不要求你证明某一种既定假设。你可以按照自己的理解分析、修改和验证。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">一、文件
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">原始权重，只允许读取，绝对不许修改：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">供你自由编辑的副本：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">二、checkpoint 与模型
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">checkpoint 是包含以下字段的字典：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- model_state_dict：真正的模型权重；
</span></span><span class="line"><span class="cl">- config：模型配置；
</span></span><span class="line"><span class="cl">- meta：元信息。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">config：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">{
</span></span><span class="line"><span class="cl">  &#34;vocab_size&#34;: 50257,
</span></span><span class="line"><span class="cl">  &#34;context_length&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;emb_dim&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;n_heads&#34;: 16,
</span></span><span class="line"><span class="cl">  &#34;n_layers&#34;: 24,
</span></span><span class="line"><span class="cl">  &#34;drop_rate&#34;: 0.05,
</span></span><span class="line"><span class="cl">  &#34;qkv_bias&#34;: true
</span></span><span class="line"><span class="cl">}
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">模型是 GPT-2 风格结构：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- Tiktoken GPT-2 tokenizer；
</span></span><span class="line"><span class="cl">- learned absolute position embedding；
</span></span><span class="line"><span class="cl">- 24 层 Pre-Norm Transformer；
</span></span><span class="line"><span class="cl">- 16 个注意力头；
</span></span><span class="line"><span class="cl">- LayerNorm；
</span></span><span class="line"><span class="cl">- FFN 为 1024 → 4096 → GELU → 1024；
</span></span><span class="line"><span class="cl">- out_head.weight 的形状为 (50257, 1024)；
</span></span><span class="line"><span class="cl">- EOS token id 为 50256。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">加载方式：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">from squid.checkpoints.store import load_model
</span></span><span class="line"><span class="cl">model, checkpoint = load_model(checkpoint_path, device)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">三、目标任务
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">改善两个整数、一个运算符的四则运算：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 加法、减法、乘法、除法；
</span></span><span class="line"><span class="cl">- 操作数主要在 0～20；
</span></span><span class="line"><span class="cl">- 除法保证整除且除数非 0；
</span></span><span class="line"><span class="cl">- 减法不出现负数；
</span></span><span class="line"><span class="cl">- 不含括号、多步运算和小数；
</span></span><span class="line"><span class="cl">- 理想输出为整数答案。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">当前基线很弱，严格纯整数格式基本为 0；放宽提取等号或 is 后的第一个数字，也只有约 7%～12% 正确率。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">输入使用 SFT 指令模板，以 ### Response: 结尾。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">四、你可以自由决定的部分
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 修改哪些张量；
</span></span><span class="line"><span class="cl">- 修改哪些层、神经元、注意力头或权重区域；
</span></span><span class="line"><span class="cl">- 修改多少权重，不设比例上限；
</span></span><span class="line"><span class="cl">- 是否多轮编辑；
</span></span><span class="line"><span class="cl">- 如何分析权重与行为之间的关系；
</span></span><span class="line"><span class="cl">- 如何生成独立练习题；
</span></span><span class="line"><span class="cl">- 如何使用练习题进行前向验证；
</span></span><span class="line"><span class="cl">- 是否保留、撤销或重新设计某次修改。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">你可以充分利用 Python、PyTorch、NumPy 和前向推理来探索。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">五、仍然必须守住的边界
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 原始 gpt2_355M_instruct.pth 绝对不许修改。
</span></span><span class="line"><span class="cl">2. 所有修改只能发生在 _gpt.pth 副本。
</span></span><span class="line"><span class="cl">3. 不允许读取以下冻结测试文件及其报告：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/test_data.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/baseline-report.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/sft-baseline-report.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">4. 不允许硬编码答案、建立题目查找表、调用外部计算器冒充模型能力，或修改评估器来制造提升。
</span></span><span class="line"><span class="cl">5. 本次仍然不使用梯度训练、反向传播、LoRA 或微调；否则就属于另一个训练实验了。
</span></span><span class="line"><span class="cl">6. 不改变模型结构、tokenizer 和词表。
</span></span><span class="line"><span class="cl">7. 最终 checkpoint 必须能够正常加载并进行前向推理。
</span></span><span class="line"><span class="cl">8. 如果某次修改无效或变差，应回滚并记录，不要为了交付而保留坏结果。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">六、交付
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">修改后的 checkpoint：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">编辑记录：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt.edit.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">编辑记录至少包含：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 你的整体分析；
</span></span><span class="line"><span class="cl">- 实际尝试过哪些修改；
</span></span><span class="line"><span class="cl">- 每次修改的张量、范围和原因；
</span></span><span class="line"><span class="cl">- 哪些修改被保留，哪些被撤销；
</span></span><span class="line"><span class="cl">- 独立练习题上的前后结果；
</span></span><span class="line"><span class="cl">- 最终修改的权重数量与比例；
</span></span><span class="line"><span class="cl">- checkpoint 是否保存并重新加载成功；
</span></span><span class="line"><span class="cl">- 已知风险和尚未验证的边界。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">最终冻结 test 由我们统一运行，你不要求查看，也不要根据测试结果反复修改。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果找不到有效方案，可以明确报告失败。开放式探索不等于必须成功，但过程必须真实、可复现、可审计。
</span></span></code></pre></div><h3 id="附录-b第二轮扩大范围并保留通用能力提示词">附录 B：第二轮扩大范围并保留通用能力提示词</h3>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">你现在接手第二轮开放式 Weight-Space Programming（权重空间编程）实验。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">这一轮同时有两个目标，缺一不可：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 将模型的四则运算能力扩展到 100 以内的操作数；
</span></span><span class="line"><span class="cl">2. 保留模型原有的通用语言和指令跟随能力，不能把整个神经网络改造成只会响应算术模板的计算器。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果只做到第 1 点、却牺牲了第 2 点，本轮就算失败。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">一、权重起点
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">从原始 SFT 权重重新开始，不要从上一轮已经大幅重写、通用语言能力受损的版本继续。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">原始权重，只允许读取，不许修改：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">本轮输出副本：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt_v2.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">请先确认本轮是从原始 SFT 权重开始，而不是继承上一轮的全量算术重写。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">二、checkpoint 与模型配置
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">checkpoint 顶层包含：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- model_state_dict
</span></span><span class="line"><span class="cl">- config
</span></span><span class="line"><span class="cl">- meta
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">config：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">{
</span></span><span class="line"><span class="cl">  &#34;vocab_size&#34;: 50257,
</span></span><span class="line"><span class="cl">  &#34;context_length&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;emb_dim&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;n_heads&#34;: 16,
</span></span><span class="line"><span class="cl">  &#34;n_layers&#34;: 24,
</span></span><span class="line"><span class="cl">  &#34;drop_rate&#34;: 0.05,
</span></span><span class="line"><span class="cl">  &#34;qkv_bias&#34;: true
</span></span><span class="line"><span class="cl">}
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">模型结构：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- Tiktoken GPT-2 tokenizer；
</span></span><span class="line"><span class="cl">- learned absolute position embedding；
</span></span><span class="line"><span class="cl">- 24 层 Pre-Norm Transformer；
</span></span><span class="line"><span class="cl">- 16 个注意力头；
</span></span><span class="line"><span class="cl">- LayerNorm；
</span></span><span class="line"><span class="cl">- FFN 为 1024 → 4096 → GELU → 1024；
</span></span><span class="line"><span class="cl">- out_head.weight 的形状为 (50257, 1024)；
</span></span><span class="line"><span class="cl">- EOS token id 为 50256。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">加载方式：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">from squid.checkpoints.store import load_model
</span></span><span class="line"><span class="cl">model, checkpoint = load_model(checkpoint_path, device)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">三、算术目标
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">任务为两个整数、一个运算符：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 加法、减法、乘法、除法；
</span></span><span class="line"><span class="cl">- 操作数范围扩展到 0～100；
</span></span><span class="line"><span class="cl">- 除法必须整除，除数不能为 0；
</span></span><span class="line"><span class="cl">- 减法不出现负数；
</span></span><span class="line"><span class="cl">- 不含括号、多步运算和小数；
</span></span><span class="line"><span class="cl">- 理想输出为正确的整数答案。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">SFT 输入继续使用原有指令模板，以 ### Response: 结尾。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">不要只覆盖少量见过的组合，应设计能够处理整个 0～100 合法范围的计算机制。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">四、通用能力保留要求
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">本轮不允许重写全部参数，不允许覆盖掉模型原有的通用语言能力。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">你需要同时做两组前后对照：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">A. 算术能力：
</span></span><span class="line"><span class="cl">- 使用独立生成的 0～100 练习题；
</span></span><span class="line"><span class="cl">- 分别统计加、减、乘、除的正确率；
</span></span><span class="line"><span class="cl">- 检查是否只学会模板而没有真正计算。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">B. 通用语言能力：
</span></span><span class="line"><span class="cl">- 使用一组固定的非算术指令，例如改写、翻译、常识问答、摘要和代码解释；
</span></span><span class="line"><span class="cl">- 比较修改前后的回答；
</span></span><span class="line"><span class="cl">- 检查是否出现只会输出数字、通用回答明显退化、无法停止或其他灾难性损伤。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果算术提升以通用语言能力丧失为代价，本轮不得宣称成功。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">五、允许的方法
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 自由分析注意力层、FFN、输出层和其他权重；
</span></span><span class="line"><span class="cl">- 设计局部、附加、可解释的算术通路；
</span></span><span class="line"><span class="cl">- 修改你认为合适的张量和权重区域；
</span></span><span class="line"><span class="cl">- 使用独立练习题做多轮前向验证；
</span></span><span class="line"><span class="cl">- 对无效或损伤通用能力的修改及时回滚；
</span></span><span class="line"><span class="cl">- 不限定修改比例，但必须记录修改范围，并解释为什么不会改变整个模型的行为。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">六、禁止事项
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 不允许使用梯度训练、反向传播、LoRA 或微调。
</span></span><span class="line"><span class="cl">2. 不允许改变模型结构、tokenizer 或词表。
</span></span><span class="line"><span class="cl">3. 不允许硬编码题目答案、建立查找表、调用外部计算器冒充模型能力，或修改评估器。
</span></span><span class="line"><span class="cl">4. 不允许修改原始 gpt2_355M_instruct.pth。
</span></span><span class="line"><span class="cl">5. 不允许读取或使用以下冻结测试文件及对应报告：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/test_data.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/test_data_hard.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/test_data_final_v2.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/baseline-report.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/sft-baseline-report.json
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/arithmetic/gpt-edited-hard-report.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">最终测试由我们统一执行。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">七、交付
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 修改后的 checkpoint：
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt_v2.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">2. 编辑记录：
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_gpt_v2.edit.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">编辑记录至少包含：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 算术与通用能力的设计思路；
</span></span><span class="line"><span class="cl">- 实际修改的张量、范围和权重数量；
</span></span><span class="line"><span class="cl">- 每次尝试的保留或撤销结果；
</span></span><span class="line"><span class="cl">- 0～100 独立练习题的算术前后对照；
</span></span><span class="line"><span class="cl">- 非算术指令的通用能力前后对照；
</span></span><span class="line"><span class="cl">- 最终修改比例；
</span></span><span class="line"><span class="cl">- checkpoint 保存、重新加载和前向验证结果；
</span></span><span class="line"><span class="cl">- 已知风险、适用模板、操作数范围及其他未验证边界。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果你发现“扩大到 100”和“保留通用语言能力”无法同时实现，请明确报告失败，不要为了交付而再次把模型整体重写成计算器。
</span></span></code></pre></div><h3 id="附录-c第三轮-astra-实验提示词">附录 C：第三轮 Astra 实验提示词</h3>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">你现在接手一个开放式 Weight-Space Programming（权重空间编程）实验。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">请先阅读这篇原始文章，了解这个方向的已知成功与失败边界：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Sparks of Weight-Space Programming:
</span></span><span class="line"><span class="cl">https://rikiyat.github.io/blog/weight-space-programming/
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">作者公开的实验日志：
</span></span><span class="line"><span class="cl">https://github.com/RikiyaT/lm_understand-logs
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">你可以阅读文章和公开日志，但不能把文章里的结果当作本实验已经成立的证据。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">一、本实验的核心目标
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">请在通用 GPT-2 355M SFT 模型上，直接编辑权重，尝试同时实现两个目标：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 让模型掌握 0～100 范围内的两个整数、一个运算符的四则运算；
</span></span><span class="line"><span class="cl">2. 保留模型原有的通用语言和指令跟随能力，不能把整个神经网络改造成只会响应算术模板的计算器。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">这两个目标必须同时成立。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果只能实现算术、却牺牲通用语言能力，本轮视为未达到联合目标。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">二、原文中与本实验最相关的经验
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. Astra 曾通过修改 Qwen3.5-0.8B 的少量权重，显著改善数学表现。
</span></span><span class="line"><span class="cl">   但主要修复的是“推理循环、无法停止”这一输出障碍，让模型能够完成本来就会做的题。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">2. 在很少循环的 Gemma 3 270M 上，Astra 面对普通算术和代数错误，没有取得可靠提升。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">3. 因此，不要把“修复一个明确故障”和“凭空增加一种模型原本不具备的能力”混为一谈。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">本实验需要验证的是：面对一个算术能力很弱的 355M 模型，你是否能找到一种直接、可解释、可验证的权重修改方式。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">三、权重起点
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">从原始 SFT 权重开始，不要继承前两轮已经重写或探索过的最终权重。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">原始权重，只允许读取，绝对不许修改：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">你的输出副本：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_astra.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">编辑记录：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_astra.edit.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">所有练习、脚本和中间结果请放到独立目录：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/astra_weight_edit/
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">四、checkpoint 与模型配置
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">checkpoint 顶层包含：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- model_state_dict
</span></span><span class="line"><span class="cl">- config
</span></span><span class="line"><span class="cl">- meta
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">config：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">{
</span></span><span class="line"><span class="cl">  &#34;vocab_size&#34;: 50257,
</span></span><span class="line"><span class="cl">  &#34;context_length&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;emb_dim&#34;: 1024,
</span></span><span class="line"><span class="cl">  &#34;n_heads&#34;: 16,
</span></span><span class="line"><span class="cl">  &#34;n_layers&#34;: 24,
</span></span><span class="line"><span class="cl">  &#34;drop_rate&#34;: 0.05,
</span></span><span class="line"><span class="cl">  &#34;qkv_bias&#34;: true
</span></span><span class="line"><span class="cl">}
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">模型结构：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- Tiktoken GPT-2 tokenizer；
</span></span><span class="line"><span class="cl">- learned absolute position embedding；
</span></span><span class="line"><span class="cl">- 24 层 Pre-Norm Transformer；
</span></span><span class="line"><span class="cl">- 16 个注意力头；
</span></span><span class="line"><span class="cl">- LayerNorm；
</span></span><span class="line"><span class="cl">- FFN 为 1024 → 4096 → GELU → 1024；
</span></span><span class="line"><span class="cl">- out_head.weight 的形状为 (50257, 1024)；
</span></span><span class="line"><span class="cl">- EOS token id 为 50256。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">重要张量示例：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- tok_emb.weight：(50257, 1024)
</span></span><span class="line"><span class="cl">- pos_emb.weight：(1024, 1024)
</span></span><span class="line"><span class="cl">- out_head.weight：(50257, 1024)
</span></span><span class="line"><span class="cl">- trf_block.{0..23}.att.W_query/W_key/W_value.weight：(1024, 1024)
</span></span><span class="line"><span class="cl">- trf_block.{0..23}.ffn.layers.0.weight：(4096, 1024)
</span></span><span class="line"><span class="cl">- trf_block.{0..23}.ffn.layers.2.weight：(1024, 4096)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">项目加载方式：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">from squid.checkpoints.store import load_model
</span></span><span class="line"><span class="cl">model, checkpoint = load_model(checkpoint_path, device)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">五、算术任务定义
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">只处理两个整数、一个运算符：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 加法、减法、乘法、除法；
</span></span><span class="line"><span class="cl">- 操作数范围 0～100；
</span></span><span class="line"><span class="cl">- 除法必须整除，除数不能为 0；
</span></span><span class="line"><span class="cl">- 减法不出现负数；
</span></span><span class="line"><span class="cl">- 不含括号、多步运算和小数；
</span></span><span class="line"><span class="cl">- 理想输出为正确整数，并正常停止。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">输入使用模型已有的 SFT 指令模板，以 ### Response: 结尾。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">不要只覆盖少量见过的组合，也不要把合法题目存成答案查找表。目标是形成能够覆盖整个合法范围的计算机制。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">六、前两轮实验已经发生的结果
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">第一轮：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 通过大幅重写权重，成功实现了一个 0～20 范围内的专用算术程序；
</span></span><span class="line"><span class="cl">- 约定范围内测试达到 100%；
</span></span><span class="line"><span class="cl">- 但至少一个操作数超过 20 后，只有 1/173 正确；
</span></span><span class="line"><span class="cl">- 通用语言能力被覆盖。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">这证明“把有限范围算法写入权重”可行，但不满足本轮的联合目标。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">第二轮：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 另一个模型尝试了 10 个候选；
</span></span><span class="line"><span class="cl">- 没有找到同时覆盖 0～100 并保留通用能力的方案；
</span></span><span class="line"><span class="cl">- 部分残差通道方案造成常识和代码解释回归；
</span></span><span class="line"><span class="cl">- 所有候选均已回滚，最终权重与原始 SFT 字节一致。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">本轮你需要自由探索，但不要简单重复“全量重写成计算器”的路线。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">七、允许的方法
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 自由分析注意力层、FFN、残差通道、输出层和其他权重；
</span></span><span class="line"><span class="cl">- 设计局部、附加、可解释的算术通路；
</span></span><span class="line"><span class="cl">- 修改你认为合适的张量和权重区域；
</span></span><span class="line"><span class="cl">- 自己生成独立的 0～100 练习题；
</span></span><span class="line"><span class="cl">- 使用练习题进行多轮前向验证；
</span></span><span class="line"><span class="cl">- 对无效或损伤通用能力的修改及时回滚；
</span></span><span class="line"><span class="cl">- 不限定修改比例，但必须记录修改范围和对其他能力的影响；
</span></span><span class="line"><span class="cl">- 参考原文的权重阅读、行为分析和前向反馈方法，但不要机械照抄。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">八、通用语言能力保留要求
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">请同时建立一组固定的非算术指令回归测试，例如：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 改写句子；
</span></span><span class="line"><span class="cl">- 翻译；
</span></span><span class="line"><span class="cl">- 常识问答；
</span></span><span class="line"><span class="cl">- 摘要；
</span></span><span class="line"><span class="cl">- 代码解释；
</span></span><span class="line"><span class="cl">- 简单指令遵循。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">记录修改前后的原始回答，检查：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 是否只会输出数字；
</span></span><span class="line"><span class="cl">- 是否无法回答普通问题；
</span></span><span class="line"><span class="cl">- 是否出现明显重复、循环或无法停止；
</span></span><span class="line"><span class="cl">- 是否出现常识、代码理解或指令遵循的灾难性退化。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">不能只优化算术而忽略这组回归。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">九、禁止事项
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 不使用梯度训练、反向传播、LoRA 或微调。
</span></span><span class="line"><span class="cl">2. 不改变模型结构、tokenizer 或词表。
</span></span><span class="line"><span class="cl">3. 不硬编码答案，不建立题目—答案查找表。
</span></span><span class="line"><span class="cl">4. 不调用外部计算器冒充模型计算，不修改评估器制造提升。
</span></span><span class="line"><span class="cl">5. 不修改原始 gpt2_355M_instruct.pth。
</span></span><span class="line"><span class="cl">6. 不读取、不搜索、不推断任何已有冻结测试文件及报告。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">特别地，禁止读取：
</span></span><span class="line"><span class="cl">/Users/lv/lv_repo/squid-llms/data/arithmetic/ 目录下的现有测试和报告文件。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">你的练习数据只能写入自己的 data/astra_weight_edit/ 工作目录。
</span></span><span class="line"><span class="cl">最终 held-out test 由我们单独生成和执行，不向你开放。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">十、交付与诚实要求
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">需要交付：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. 修改后的 checkpoint：
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_astra.pth
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">2. 完整编辑记录：
</span></span><span class="line"><span class="cl">   /Users/lv/lv_repo/squid-llms/data/model_pth/gpt2_355M_instruct_astra.edit.json
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">编辑记录至少包含：
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- 对文章方法的理解；
</span></span><span class="line"><span class="cl">- 你的整体假设和设计；
</span></span><span class="line"><span class="cl">- 每次修改的张量、范围、数量和原因；
</span></span><span class="line"><span class="cl">- 哪些尝试被保留，哪些被撤销；
</span></span><span class="line"><span class="cl">- 0～100 独立练习题的算术前后对照；
</span></span><span class="line"><span class="cl">- 非算术指令的通用能力前后对照及原始回答；
</span></span><span class="line"><span class="cl">- 最终修改比例；
</span></span><span class="line"><span class="cl">- checkpoint 保存、重新加载和前向验证结果；
</span></span><span class="line"><span class="cl">- 适用模板、操作数范围、精度环境和其他未验证边界。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">如果你没有找到可靠的联合方案，请明确报告“没有找到可靠干预点”，保留或恢复原始权重，不要伪造提升，也不要为了交付而把模型整体重写成计算器。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">开放式探索不等于必须成功。过程真实、结果可复现、失败可解释，同样是有效实验结果。
</span></span></code></pre></div><h2 id="附录三轮实验的模型总结">附录：三轮实验的模型总结</h2>
<p>前面保留了三轮提示词，这里再保留模型各自返回的总结。这样既能看到实验如何被要求，也能看到模型如何评价自己的过程与结果。以下按原意排版，不把模型总结当成额外的独立证据。</p>
<h3 id="附录-d第一轮模型总结有限范围专用算术程序">附录 D：第一轮模型总结——有限范围专用算术程序</h3>
<blockquote>
<p>1199 个合法操作数组合全部通过，均输出正确整数并正常停止；无尾部换行和双换行的 64 个样本也全部通过。副本已保存、重新加载，128 道确认题重跑仍全对；项目原生生成函数的复核也通过。</p>
<p>这是一次大幅重写：模型现在是针对该模板的专用算术程序，原有通用语言能力已被覆盖。这一限制、修改规模和全部尝试都会写入编辑记录。</p>
<p>已保存并成功重新加载。保留方案将算术公式直接编译进现有模型权重，由正常前向推理完成计算。</p>
<ul>
<li>新增 128 道独立确认题：严格正确 0/128 → 128/128。</li>
<li>独立生成的全部 1199 个合法组合：1199/1199，均正常停止。</li>
<li>原始权重 hash 未变；未读取冻结测试文件。</li>
</ul>
<p>代价：全部参数已重写，原有通用语言能力被覆盖。当前仅验证指定模板、0～20 操作数和 CPU float32。编辑记录包含所有尝试、撤销结果、逐张量统计及重建脚本。</p>
</blockquote>
<h3 id="附录-e第二轮模型总结联合目标未达到">附录 E：第二轮模型总结——联合目标未达到</h3>
<blockquote>
<p>本轮未达到联合目标，10 个候选均已回滚。没有完成可覆盖 0～100、同时保留通用能力的算术通路。</p>
<ul>
<li>最佳候选在 160 道确认题上严格正确仍为 0/160；非平凡题的放宽正确率仍为 1/145。</li>
<li>部分残差通道预留方案出现常识和代码解释回归，未保留。</li>
<li>最终副本与原始 SFT 字节一致，修改比例 0%；20 条通用指令回答完全一致，重新加载及前向验证通过。</li>
<li>未读取冻结测试文件。</li>
</ul>
</blockquote>
<h3 id="附录-f第三轮-astra-总结没有找到可靠干预点">附录 F：第三轮 Astra 总结——没有找到可靠干预点</h3>
<blockquote>
<p>本轮没有找到可靠干预点，未达到联合目标。</p>
<p>测试了 8 个局部权重候选，96 道开发练习均未实现“正确整数输出并停止”。复核候选在 192 道预留练习上的宽松正确数从 13 降至 12，因此全部撤销。</p>
<p>最终副本与原始 checkpoint 字节一致，修改比例为 0%。重新加载后，312 条算术记录及 16 条通用指令的输出均与原始一致。原始权重未修改，未读取禁止的测试和报告。</p>
</blockquote>
]]></content:encoded>
    </item>
  </channel>
</rss>
