Sweep Next-Edit是一个1.5B参数的代码编辑预测模型，采用Q8_0量化GGUF格式，基于Qwen2.5-Coder开发。它能在本地500毫秒内预测程序员下一步代码编辑，性能超过4倍大小的模型。支持8192token上下文长度，需搭配llama-cpp-python运行。

模型简介

Hugging Face平台上的sweepai/sweep-next-edit-1.5B是一个专为代码编辑场景设计的1.5B参数模型，采用Q8_0量化的GGUF格式。该模型能够预测开发者即将进行的代码修改，并在本地笔记本电脑上以低于500毫秒的响应时间运行（结合推测解码技术），其性能甚至超过部分参数量4倍以上的同类模型。

核心特性

• 格式与架构：GGUF量化格式（Q8_0），基于Qwen2.5-Coder架构
• 参数规模：15亿参数
• 上下文长度：支持8192个token
• 高效推理：通过推测解码实现毫秒级响应

使用方法

1. 下载run_model.py脚本及模型文件
2. 安装依赖项：
   bash uv pip install llama-cpp-python huggingface_hub
3. 运行脚本：
   bash python run_model.py

应用场景

模型通过整合文件上下文、近期代码差异（diffs）和当前状态生成预测，具体输入格式可参考run_model.py示例。

扩展资源

• 技术博客：详细性能基准测试与实现原理
• JetBrains插件：集成至开发环境的自动化工具

许可协议

Apache 2.0开源许可

以下是评论内容的总结：

1. 对技术实现的认可

   • 多位用户赞赏next-edit框架比token级自动补更贴近实际重构场景，并对其技术细节表示兴趣。
     "The next-edit framing matches how real refactors happen much better" (plutodev)
     "I love how it went into the technical details" (syntaxing)

2. 模型训练与成本

   • 用户关注1.5B模型在8×H100上4小时完成训练的低成本（每小时1-10美元），推测基于Qwen模型是降低成本的关键。
     "SFT cost less only low hundreds of dollars?" (bangaladore)
     "Presumably basing this of Qwen is the reason" (同上)

3. 集成需求与工具支持

   • 多人询问是否支持主流编辑器（VSCode、JetBrains、Neovim等），部分用户已试用JetBrains插件并给予好评。
     "Any way to make it work with vscode?" (syntaxing)
     "I use Sweep’s Jetbrains plugin daily" (mgz)

4. 概念疑问与比较

   • 有用户不清楚next-edit与FIM模型的区别，希望获得明确解释。
     "Difference between next-edit and FIM model?" (kamranjon)

5. 数据与算法问题

   • 用户对训练数据生成方法和遗传算法的应用表示好奇。
     "How you generated next edit training data?" (martianlantern)
     "How genetic algorithm worked here?" (whimsicalism)

6. 发布与商业化质疑

   • 个别评论认为此次发布可能出于融资目的，基于现有模型（Qwen2.5）优化。
     "Seems like a 'why not/resume embellish/show VC' release" (dcreater)

7. 未来期待

   • 用户期待更大模型（3B/7B）发布和更多应用场景探索。
     "Plan to release Sweep 3B/7B on HF?" (rationably)
     "Waiting for what you guys cook next" (martianlantern)

争议点：
- JetBrains的AI实现质量引发讨论，有用户认为其表现不佳催生了第三方解决方案。
"Surprising how badly Jetbrains implemented AI" (esquire_900)