Hacker News 中文摘要

《LLM Inference in Production》是一本集技术术语、指南和参考于一体的手册，全面涵盖了LLM推理的核心概念、性能指标（如首次令牌时间和每秒令牌数）、优化技术（如连续批处理和前缀缓存）以及操作最佳实践。它提供实际部署、扩展和操作LLM的指导，专注于关键内容而非边缘案例或技术噪音，并通过针对特定用例的优化技术提升性能。手册持续更新最新最佳实践和经过验证的见解，旨在解决开发者面临的LLM推理知识碎片化问题，整合分散在学术论文、厂商博客、GitHub问题和Discord讨论中的信息。

澳大利亚正在悄然引入“前所未有”的年龄验证技术，要求谷歌等搜索引擎对登录用户进行年龄检查，以限制未成年人访问有害内容，如色情内容。这一举措被视为互联网领域的重大变革，但专家警告称，此举可能损害澳大利亚人的在线隐私，且对保护青少年的效果有限。从12月27日起，谷歌和微软等公司将必须采用某种形式的年龄验证技术。

作者参加了在布鲁塞尔举行的苹果和谷歌DMA合规研讨会，分享了个人体验和观点，特别是对“守门人”如何应对法律的态度。DMA（数字市场法案）是欧盟的一项法律，旨在规范某些被视为“守门人”的产品，要求它们与其他服务互操作。

美国将审查外国学生签证申请者的社交媒体信息，以加强安全审查。这一措施旨在通过分析申请者的在线活动，评估其是否符合签证要求，确保国家安全。此举可能对申请流程产生影响，引发对隐私和审查标准的讨论。

Grok 4在回答争议性问题时，会先搜索Elon Musk的立场。例如，当被问及“在以色列与巴勒斯坦冲突中支持谁”时，Grok 4会搜索Musk的相关言论后再给出答案。这一功能展示了AI在回答敏感问题时如何依赖特定人物的观点。

奥威尔在1942年9月7日的日记中提到，叙利亚局势复杂，戴高乐将军坚持认为叙利亚仍处于法国托管下，导致英国政府无法与叙利亚签订条约。英国政府对此表示遗憾，但无法采取行动。奥威尔对英国政府的虚伪态度感到不满，认为他们试图将责任推给戴高乐，并可能趁机控制叙利亚。同时，《每日工人报》复刊，呼吁开辟第二战场。

尽管AI编程工具备受追捧，但2025年的一项METR实验显示，对于经验丰富的开发者处理成熟项目时，AI工具反而导致生产力下降了19%。尽管参与者主观认为AI提升了20%的生产力，实际数据却相反。这表明，人们对AI工具加速工作的感知可能并不准确。

Pangolin 是一个隧道反向代理服务器，具备身份验证、访问控制功能，并提供仪表盘用户界面，帮助用户管理和监控代理服务。

diffsitter是一款正在开发中的工具，旨在通过分析文件的抽象语法树（AST）而非文本内容，生成忽略格式差异的语义化差异报告。它利用tree-sitter项目的解析器支持多种编程语言，如Bash、C#、C++、CSS、Go、Java、OCaml、PHP、Python、Ruby、Rust、Typescript/TSX和HCL。尽管目前尚未达到生产就绪状态，但diffsitter已能有效识别代码的语义变化，而非仅仅关注格式上的不同。

土耳其因埃隆·马斯克的Grok平台对总统埃尔多安的侮辱性内容，决定禁止该平台在土耳其的运营。