EXPERIENCE ERA

Sutton 的警告:记住失败 ≠ 学到东西

《苦涩的教训》被念歪
Sutton 2019 年那篇被反复引用,但很多人只读到"大力出奇迹",却忽略"从经验中建构"才是后半句——大模型是"超级百科全书",不是智能终点
经验时代(Experience Era)
智能体要在真实互动中学习:自己做选择、看结果、承受失败的代价,而非只在静态语料里预测下一个 token
经验飞轮属于你
每个 Agent 的经验无法复制转移,这恰是碳硅契"独一无二"原则的技术注脚
善良护栏更关键
一旦 Agent 自主从经验演化,方向就必须被约束——markBreach / 契约护栏确保"学到"的是善而非利