人类偏好和先验在模型训练中越来越不重要，model native 越来越重要。

依据：22 年底 RLHF 阶段模型在讨好人，指标是聊天让你开心。o1/R1 之后转向专业化做事，不教过程只给对错标准。例子：给模型有限 token 存大量信息，它存得极密人看不懂，但自己用得很好。DeepSeek 和字节的最新工作在把可迭代 harness 拆成乐高积木让模型自己拼。

harness 在基模训练里是辅助轮。模型做不了但重要的任务，先加辅助轮让它采出正样本，回头迭代模型。团队把辅助轮加在哪，体现押注什么方向。

依据：每个模型团队（OpenAI、Anthropic、字节、千问、混元、Kimi、智谱）都在自建 harness，必须跟模型能力深度耦合不能是黑盒。辅助轮用法像学骑车：帮你采到正确行为数据，学会了就拆掉。

RSI（自我迭代）核心不在算法而在信息管理。每次探索的经验怎么留下、怎么灌回模型，建模很容易，信息累积和探索加速才是瓶颈。

依据：当前宣传的「模型迭代多遍每遍都提升」跟过去 self-evolving 是一回事：每遍任务一模一样、反馈信号极好定义。真正难的是信息管理四件事：提取（大量探索步骤里哪些有用）、高密度存储（token 是稀缺资源）、选取使用、内化（吃回权重）。

文本方向已经没有创业团队的技术机会了。技术半年到一年就会被模型行业能力吃掉。

依据：去年 9 月起所有基模团队都在盯代码和生产力，采大量回流反馈数据迭代，模型越来越六边形战士。他自己创业完全避开文本相关方向。中国纯靠产品力拉出来的 AI 生产力工具他只认 Manus 一个。

大厂做不了多模态智能体，因为第一优先级在文本。代码加 cowork 路径已收敛，加卡加数据就行。多模态智能的结构、数据、训练技术都高度不收敛，需要真正的研究。

依据：现在所有大模型在 Minecraft 里分不清东南西北，因为语料都来自网上文本，没有物理世界常识。大厂经济收益明确的方向（金融医疗法律各行业文本覆盖）占据了第一优先级，多模态排在后面。

交互界面和信息管理机制长期存在，不会被新模型吞掉。但 harness 的提升幅度会被模型迭代摊薄。

依据：基模层 harness 有三个职能：交互界面（怎么调工具）、信息管理机制（memory/skill/context 怎么存怎么更新）、数据交换站。前两个长期存在。但如果某模型在你 harness 上表现远超其他模型，用户最终会优先选那个模型而不是你的 harness，边际收益归模型能力。

环境扩展从工具集走向开放世界，路线收敛到 coding base。模型的视觉编码能力过线后能用游戏引擎建模，coding 生成底层物理逻辑，视频生成做表面渲染。

依据：2025 年做工具集环境合成了上万个差异化环境和任务，2026 年转向开放世界。世界模型/视频生成路线难保证局部交互一致性；coding base 路线因模型视觉编码能力过线而可行，海外 OpenAI、国内智谱字节都在布局 3D/visual coding。训练环境可以丑（人是方块都行，物理逻辑对就能跑），做游戏才需要细节。

厂商 claim 的百万级上下文和 attention window 是两回事。attention 相关性随长度衰减，attention window 才是稀缺资源。

依据：让模型自己综合用代码、自然语言、多模态做压缩，效果比硬塞长上下文更好。信息管理的核心是高密度存储：提取有用的、压缩存好、选取使用、内化回模型权重。类比人：不会一直翻二年级笔记，要把旧知识消化掉。