Cerebras（Cerebras）公共端点提供多个模型，包括 OpenAI GPT OSS（gpt-oss-120b，1200亿参数，免费65k/付费131k上下文，约3000 tokens/秒）和 Qwen 3.8 27B（qwen-3.8-27b，270亿参数，免费64k/付费128k上下文，约1500 tokens/秒）。这些模型可通过免费试用和按量付费层级使用，受速率限制和定价约束。如需更多模型系列、预留容量、更高吞吐量和生产级服务等级协议，可查看专用端点。所有公共端点模型均为原始未剪枝版本。
正文
Cerebras 公共端点上的所有模型均可在免费试用和按量付费层级使用，受速率限制和定价约束。如需更多模型系列、预留容量、更高吞吐量和生产级 SLA，请参阅专用端点。
可用模型
| 模型名称 | 模型 ID | 参数 | 上下文（免费/付费） | 速度（tokens/秒） |
| --- | --- | --- | --- | --- |
| OpenAI GPT OSS | gpt-oss-120b | 1200亿 | 65k / 131k | ~3000 |
| Qwen 3.8 27B | qwen-3.8-27b | 270亿 | 64k / 128k | ~1500 |
模型压缩
我们托管社区的各种开源模型，目前公共端点上不提供剪枝模型，所有模型均为原始未剪枝版本。我们研究 REAP 等剪枝技术，但剪枝模型仅在 Hugging Face 上供研究使用，不通过共享 API 提供。所有公共模型均未剪枝。 Cerebras 仅在存储时使用选择性权重量化以保持最高质量，权重按部分 16 位/8 位/4 位存储，敏感层以全精度存储并即时反量化，操作在高精度下进行。激活值、注意力和 KV 缓存保持全精度且未量化。
常见问题
你们会不经通知就改变模型架构吗？
不会。我们承诺为所有现有端点提供原始模型，不做修改。我们不会对托管模型进行剪枝。未来若采用额外压缩技术，会以独立端点形式提供，并附上剪枝特定名称。
在哪里可以找到你们的 REAP 剪枝模型？
REAP 剪枝模型可在 Hugging Face 上获取，用于研究和实验：Cerebras REAP 合集。这些模型不通过生产 API 提供。
什么是压缩、量化和剪枝？
压缩是减少模型大小或计算需求的技术的总称。常见技术包括： * 量化：降低表示模型权重的数值精度（如从 FP16 转为 FP8），减少内存使用而不改变模型架构。 * 剪枝：永久移除模型的部分结构（如层或专家），改变模型架构，生成不同的模型。
评论
讨论气氛两极分化：一方面惊叹于1500 tok/s的恐怖速度，另一方面大量用户抱怨实际编码体验受限于工具调用失败、定价无缓存、账户和客服问题。多数人认为“快”不等于“好用”，少数人认为对特定场景（如即时问答）有革命性价值。
速度惊人，但实际编码体验未必更好
- 输出速度确实快，但模型在读取输入、工具调用（如浏览器控制）上并不快，且失败率高，导致整体等待时间与DS4等100-200 tok/s模型相差无几（较多人）
- 用户实测发现，输出快反而让用户需要更频繁地阅读结果，瓶颈从生成转移到人类阅读，反而让人怀念慢速模型的“甜点区”（较多人） > 输出快得离谱，但我还是得花同样时间读它写的东西，这让我重新觉得100-200 tok/s才是好选择（@hexa00）
定价和缓存问题让代理任务成本过高
- 没有提示缓存（或缓存不影响价格），对于需要大量重复上下文的代理编码任务，成本迅速失控（高赞）
- 虽然输入价格比OpenRouter便宜4倍，但输出更贵，且无缓存，整体对代理工作流不友好（较多人）
- 公共端点的150k TPM速率限制对编码任务几乎不可用，企业账户的计费系统混乱，甚至出现无法添加付款信息、错误提示误导的严重问题（少数人）
只托管小模型，不托管2.4T版本，引发架构质疑
- 用户猜测晶圆间I/O和互连带宽受限于芯片巨大的“海岸线”面积，导致无法高效运行超大模型（少数人） > 为什么只托管小模型而不是2.4T版本？是不是因为芯片太大，晶圆间的海滩面积有限，导致I/O和互连性能差？（@porphyra）
客服和账户体验是主要槽点
- 客服仅通过Discord提供，且Discord会误判用户为机器人；部分邮箱域名被列入黑名单，注册时陷入重定向循环（较多人）
- 企业账户的计费状态混乱，用户被错误提示“模型不存在”而实际是计费问题，且销售团队在讨论速率限制后直接消失（少数人）
有价值的补充
- 本地推理已有替代方案：ninfer在RTX 5090上可达200 tok/s，并发请求超400 tok/s，对同等强度模型已足够快（@pllbnk）
- Gemma4 31B被Qwen 3.8替换出PayGo计划，暗示当前LLM真实世界主导用途仍是代码生成，而非增强商业产品——因为几乎没人用Gemma做代理任务（@dshat）
- 有用户调侃“正常人用tok/s或t/s，精神病用tok/SEC”，反映社区对速度单位混乱的幽默态度（@trvz）