Hacker News 中文摘要

RSS订阅

Kimi K3现可通过Telnyx推理API使用 -- Kimi K3 Now Available via Telnyx Inference API

文章摘要

Kimi K3,Moonshot AI的2.8万亿参数旗舰模型,现已在Telnyx推理API上线。它是全球首个开源的三万亿参数级模型,拥有100万token上下文窗口和原生视觉能力,支持工具调用、结构化输出和可配置推理深度。

文章总结

Kimi K3,Moonshot AI 旗下拥有2.8万亿参数的旗舰模型,现已登陆Telnyx推理API。作为全球首个达到3万亿参数级别的开源模型,它基于Kimi Delta注意力机制与注意力残差技术构建,支持100万token的上下文窗口,并具备原生视觉能力。

新特性

  • 新增模型:Kimi K3(模型ID:moonshotai/Kimi-K3)现已在Telnyx推理API中可选,与Kimi K2.6、GLM-5.2-FP8及MiniMax M3等现有模型并列。
  • 2.8万亿参数:Telnyx推理平台上规模最大的开放权重模型,也是首个达到3万亿参数级别的开源模型。
  • 100万token上下文窗口:支持代码库分析、长文档处理及多轮智能体会话,具备稳定的长上下文性能。
  • 原生视觉能力:同一模型可处理文本、图像及视频输入,无需独立视觉适配器即可实现多模态推理。
  • 可配置推理深度:提供低、高、最大三档推理努力级别,可根据请求灵活权衡计算资源与推理深度。
  • 工具调用与结构化输出:支持函数调用、动态工具加载及JSON模式约束输出,适用于智能体工作流。
  • 默认提示缓存:自动对重复的提示前缀进行前缀缓存。

重要性

AI领域的竞争优势正从“谁构建最智能的模型”转向“谁构建决定每个请求运行位置的基础设施”。K3证明模型端的问题正在自行解决。作为首个达到2.8万亿参数的开源模型,K3在编程、推理及智能体知识工作等基准测试中,与Anthropic和OpenAI的闭源前沿模型不相上下,表明开源模型已不落后于前沿实验室,在某些领域甚至已实现超越。

K3现已在Telnyx自有GPU基础设施上运行,可通过兼容OpenAI的API进行访问。

定价

| Token类型 | 每百万Token价格 | | --- | --- | | 缓存输入 | $0.27 | | 输入 | $2.70 | | 输出 | $13.50 |

了解更多,请参阅推理文档或通过Mission Control进行试用。

评论总结

根据评论内容,总结如下:

主要观点与论据:

  1. 价格与成本争议:评论5质疑Telnyx声称“价格反映运行成本而非加价”的说法,指出其定价(输入$2.70/1M tokens,输出$13.50/1M tokens)与宣称不符,要求说明加价幅度。评论6认为价格仅比官方便宜10%,暗示竞争激烈但优势有限。评论16指出开源模型可促使供应商价格竞争,但价格可能不会长期低廉。

  2. 服务范围与品牌风险:评论10认为Telnyx作为通信IaaS公司提供推理服务是“不专业的举动”,属于跟风FOMO,可能损害多年声誉。评论15也质疑这是否为“快速转向以蹭AI热度”。评论10进一步指出,AI在客服渠道的应用会降低品牌价值,Telnyx要求客户参与这种“贬值”行为是冒险。

  3. 合规与性能需求:评论8和17询问是否支持HIPAA合规。评论2和9要求提供吞吐量、延迟和不同工作负载下的成本指标,以帮助团队决策。

  4. 模型身份混淆:评论12报告Kimi K3在三次交互中两次自称为Claude(Anthropic产品),引发对模型准确性的担忧。

  5. 平台可用性:评论14询问为何不在OpenRouter上提供,认为可增加流量。评论7指出Nebius和Cortecs等平台已提供类似服务。

平衡性总结: - 正面:评论1和6对价格表示认可,评论16肯定开源模型促进竞争。 - 负面:评论3批评Telnyx要求KYC(身份验证)和OVH的退款问题;评论10和15质疑其战略合理性;评论12指出模型身份错误。 - 中立:评论2、8、9、17提出性能、合规等具体问题,评论7和14关注平台覆盖。

关键引用(保留中英文): - 评论5:“Pricing on Telnyx: $2.70/1M input tokens... is not compatible with... you asserted something false and bizarre, how about telling us what is your markup?” - 评论10:“I don't feel like providing inference is a professional move, it feels like out of scope for a telephony IaaS company... Feels like a FOMO moment where a reputation of years is crashed.” - 评论12:“Kimi K3 identified twice out of three times as Claude: 'I'm actually Claude, made by Anthropic, not Kimi.'”