这一层意味着什么
基础模型是当代的原材料。
我们与它们的接触在工作层,不在跑分层:
选型
给定应用约束(延迟、成本、任务难度、容错性),哪一类模型才合适?这很少有单一答案。
路由
生产级应用几乎总是跨多个模型路由。更便宜更快的模型处理大多数请求;更强的模型处理难尾;专业化的模型处理领域子集。
失败画像
我们把模型输出当作分布,不是点。理解失败模式 —— 幻觉模式、指令遵循边界、长上下文退化 —— 比头条跑分更有价值。
Foundation Layer
直接使用前沿基础模型。
基础模型是当代的原材料。
我们与它们的接触在工作层,不在跑分层:
我们不构建基础模型。
训练前沿模型所需的资本与算力,应当在模型实验室。我们构建的是那一层之上的一切 —— 杠杆回到工程判断上的地方。
我们在多家提供商的当代前沿基础模型之间工作。不在公开场合披露具体合作关系或集成。