最新动态 | 周中柱（Charlie）

最新动态

所有动态按时间从新到旧排列。

活动 · 13 论文 · 24 项目 · 11 报告 · 8 学术服务 · 9 实习 · 3 全职 · 1 荣誉 · 8

2026/10/28
荣誉获得 OpenKernelChallenge 的 Prefill 任务排行榜第一名！
排行榜
2026/10/28
报告我将于 2026 年 11 月 20–21 日在北京举办的奇点智能大会·C++ 及系统软件技术大会演讲，主题为“不止于论文：2-bit KV Cache 的工程落地之路”。期待与大家见面！
会议官网
2026/10/22
活动我们将于 10 月 26 日在 EMNLP 2026 主会展示 Osprey，期待与大家见面！
论文
2026/10/19
论文论文 ORL：On-Policy Residual Learning for Diffusion Language Models 已上线 arXiv，目前审稿中。项目、代码、推理引擎与模型均已公开。
论文项目代码代码（推理引擎）Hugging Face
2026/10/19
项目 Together Post-Training 正式发布！支持灵活的 RL 与 SFT、自定义训练循环、Multi-LoRA 和全参数训练。很高兴分享我们团队的工作。
项目代码（Cookbook）
2026/10/12
荣誉获得 NVIDIA SOL-ExecBench Kernel Leaderboard 量化集合（Quantization Collections）第一名！
排行榜
2026/10/05
报告我于 2026 年 10 月 5 日在 GlobalAI-2026 作了报告。
会议日程
2026/10/05
论文 Linear RNN Scaling Laws: When Longer Sequences Beat More Sequences 已上线 arXiv。
论文
2026/09/30
论文新论文 QATFactory: A Versatile, Deployment-Aligned Framework for Quantization-aware Training and Distillation of LLMs 已上线 arXiv。
论文代码
2026/09/30
论文论文 When Does a Speech Model Know to Hand Off? Reading Competence from Hidden States for Real-Time Escalation 获 NeurIPS 2026 Workshop RTCA 接收。
2026/09/28
论文 Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers 获 NeurIPS 2026 接收。
论文
2026/09/24
论文 OSCAR: Offline Spectral Covariance-Aware Rotation for 2-bit KV Cache Quantization 获 NeurIPS 2026 接收。
论文项目代码 Hugging Face
2026/09/22
学术服务担任 WACV 2027（IEEE/CVF 冬季计算机视觉应用会议）审稿人。
2026/09/11
论文 Osprey: Target-agnostic Pre-training Makes Stronger Drafters in Speculative Decoding 获 EMNLP 2026 接收，论文与官方代码已公开。Osprey 通过目标无关预训练和目标特定适配，从预训练小语言模型构建可迁移的草稿模型。
论文代码 Hugging Face
2026/09/03
报告我于 2026 年 9 月 30 日在 Pluralis Research 作线上特邀报告：Toward AGI: Efficient Compression across the Data–PostTraining–Inference Loop，介绍以压缩为中心、贯穿数据、后训练与推理的算法—架构—系统协同设计。
2026/09/02
论文新论文 Tail-Likelihood Reinforcement Learning（TailRL）已上线 arXiv，目前审稿中。TailRL 直接优化奖励分布尾部，提高稀有高奖励轨迹的权重，使强化学习更新与 Best-of-k 推理时扩展保持一致。
论文项目代码
2026/09/01
论文 Massive Activations in Hybrid Linear Attention Large Language Models 获机器之心 Pro 深度采访，阅读量达 3,839。报道介绍了我们在混合线性注意力大模型中发现的注意力前尖峰与尖峰间平台。
论文代码媒体报道
2026/08/28
学术服务受邀担任第十五届国际学习表征会议（ICLR 2027）审稿人。
2026/08/18
项目我们发表了 0 train-infer mismatch for Open-weight MoE RL：使 XoRL 与 SGLang 的 logprob 逐比特一致，将 Wordle 解题率从 63.9% 提升至 77.4%。
项目（英文）项目（中文）项目文档代码
2026/08/12
论文新论文 Massive Activations in Hybrid Linear Attention Large Language Models: Pre-Attention Spikes and Inter-Spike Plateaus 已上线 arXiv，目前审稿中。我们首次系统研究交替堆叠的混合线性注意力大模型中的巨大激活，跨架构、混合配置、数据领域与模型规模识别注意力前尖峰和尖峰间平台。
论文代码媒体报道
2026/08/01
报告我将在 Cornell RL Seminar Weekly 作关于 Aurora 强化学习的报告，介绍如何将自适应推测训练建模为在线强化学习问题。
论文项目项目代码
2026/07/22
报告我在 Amazon 作了特邀报告：Compression-Centric Systems for Large-Model Post Training & Inference。感谢 Amazon 团队的邀请与交流！
2026/07/09
论文论文 I-DLM: Introspective Diffusion Language Models 与 Squeeze Evolve: Unified Multi-Model Orchestration for Verifier-Free Evolution 获 COLM 2026 接收！
论文（I-DLM）论文（Squeeze Evolve）项目（I-DLM）项目（Squeeze Evolve）代码（I-DLM）代码（Squeeze Evolve）Hugging Face (I-DLM)
2026/06/26
项目很高兴看到社区推动 OSCAR 进入 vLLM 推理流程。感谢贡献者们将可部署的旋转式 KV Cache 量化引入主流大模型服务。
论文项目代码 Hugging Face
2026/06/26
论文两篇扩展规律论文已上线 arXiv，目前审稿中：Sketched Linear Contrastive Learning: Approximation, Optimization, and Statistical Scaling，以及 From One-Pass SGD to Data Reuse: Mini-Batch Scaling Laws in Sketched Linear Regression。祝贺 Andy！
Sketched Contrastive Learning Mini-Batch Scaling Laws
2026/06/19
项目 OSCAR 获 Towards AI、ModelScope、MarkTechPost、量子位与机器之心等媒体报道，跨平台阅读量超过 10 万。感谢大家对可部署 2-bit KV Cache 量化的关注。
论文项目代码 Hugging Face Towards AI MarkTechPost
2026/06/18
项目发布 Taylor-Calibrate: Principled Initialization for Hybrid Linear Attention Distillation。代码使用 Taylor 级数引导初始化，再进行分阶段蒸馏，将 Qwen/Llama Softmax 注意力 Transformer 转换为基于 GatedDeltaNet 的混合线性注意力学生模型。
论文代码
2026/06/17
学术服务获提名担任第 64 届计算语言学协会年会（ACL 2026）审稿人，期待为 NLP 与高效语言模型社区作出贡献。
2026/06/15
论文 OSCAR: Offline Spectral Covariance-Aware Rotation for 2-bit KV Cache Quantization 已上线 arXiv。
论文项目代码 Hugging Face
2026/06/10
项目感谢开源社区！OSCAR 已获得 500 个 GitHub Star，并支持 llama.cpp 本地使用，让本地大模型部署更容易尝试 2-bit KV Cache 量化。
论文项目代码 Hugging Face
2026/05/29
学术服务很高兴担任 ACL 2026 首届可持续与高效语言、视觉和动作模型研讨会（SELVA 2026）程序委员会成员。研讨会汇聚高效基础模型、多模态系统、模型压缩、高效推理与具身智能等方向的研究，期待阅读大家的投稿！
2026/05/29
报告我将于 6 月 5 日在硅谷 Plug and Play Tech Center 的 AI-tonomy Summit（Models & Agents）AI Researcher Forum 作报告：Frontier Research: Scaling Agentic RL & Verified Reasoning。期待与智能体系统研究者交流！
活动
2026/05/26
项目感谢开源社区！OSCAR 发布首周获得超过 100 个 GitHub Star。感谢试用 rotation zoo、提交问题和分享项目的朋友。2-bit KV Cache 工作刚刚开始，后续将提供更多 SGLang 集成与推理模型方案。
论文项目代码 Hugging Face
2026/05/19
项目发布 OSCAR: Offline Spectral Covariance-Aware Rotation for 2-bit KV Cache Quantization。INT2 KV Cache 推理的有效精度为每元素 2.28 bit，在 Qwen3-4B/8B/32B 和 GLM-4.7-FP8 上以接近 BF16 的精度实现约 8 倍 KV 显存缩减与最高约 7 倍大批量吞吐提升。
论文项目代码 Hugging Face
2026/05/18
论文论文 Aurora: When RL Meets Adaptive Speculative Training — A Unified Training-Serving System 获 ICML 2026 接收！首尔见！
论文项目项目代码
2026/04/03
活动我将参加在里约热内卢举行的 ICLR 2026，期待与各位研究者交流，里约见！
2026/02/25
项目 Aurora 完整版发布！现在可以像训练在线 RL 智能体一样训练推测模型了！🎮
论文项目项目代码
2026/02/25
项目分享 CoderForge-Preview：用于训练高效编程智能体的领先开放数据集。
项目 Hugging Face
2026/02/04
项目发布 Aurora: When RL Meets Adaptive Speculative Training — A Unified Training-Serving System。
论文项目项目代码
2026/01/30
活动我将以 HPCA 2026 网站主席身份参加 HPCA / PPoPP / CGO / CC 2026，期待与大家见面。
2026/01/27
论文论文 KITTY: Accurate and Efficient 2-bit KV Cache Quantization with Dynamic Channel-wise Precision Boost 获 MLSys 2026 接收！祝贺 Haojun！
论文代码
2026/01/27
论文论文 CARE: Covariance-Aware and Rank-Enhanced Decomposition for Enabling Multi-Head Latent Attention 获 ICLR 2026 接收！
论文项目代码
2025/11/13
报告我将参加关于跨境数字技术生态中 AI 的圆桌讨论，主题涵盖基础设施、平台与全球孵化平台。
2025/10/01
学术服务加入第 32 届 IEEE 高性能计算机体系结构国际研讨会（HPCA 2026）组织团队，担任网站主席。
2025/09/02
论文我的首篇强化学习理论研究已上线 arXiv，欢迎交流！
2025/07/18
全职我自 2024 年 5 月起在 Together AI 的 Turbo & Kernel 团队担任高级研究科学家。
2025/07/01
学术服务获提名担任第三十九届神经信息处理系统大会（NeurIPS 2025）审稿人。
2025/06/15
荣誉研究进度评估达到满意或优秀等级，感谢悉尼大学！开始准备学位论文！
2025/05/02
论文 Ladder-Residual 获 ICML 2025 接收，祝贺 Muru！加拿大温哥华见！
论文代码
2025/04/24
活动我将参加在新加坡举行的 ICLR 2025，期待与各位研究者交流，新加坡见！
2025/03/16
活动我将参加在加州圣何塞举行的 NVIDIA GTC 2025，期待与 GPU 领域的朋友交流！
2024/12/07
论文综述 RenAIssance 获 TPAMI 接收！祝贺 Bobby！
论文
2024/09/26
论文 CorDA 获 NeurIPS 2024 接收。
论文代码 Hugging Face
2024/07/10
活动我将线上参加 USENIX ATC 2024，期待交流！
2024/06/15
荣誉研究进度评估达到满意或优秀等级，感谢悉尼大学！
2024/06/06
论文 Quant-LLM 获 USENIX ATC 2024 接收，再次祝贺 Haojun！
论文代码
2024/05/01
实习加入 Together Computer，担任高级研究科学家。
2024/03/01
实习加入 Dolby，担任研究实习生。
2023/11/22
荣誉获得 APR Intern Program 奖学金（SC3600），感谢悉尼大学与 Dolby！
2023/10/06
论文 DeepSpeed4Science 正式发布！期待参与更多 AI4Science 项目！
论文项目项目代码
2023/07/13
学术服务加入 ASPLOS 2024 工件评估委员会（AEC）。
2023/06/20
论文 Flash-LLM 获 VLDB 2024 接收，祝贺 Haojun！
论文代码
2023/06/15
荣誉研究进度评估达到满意或优秀等级，感谢 Dolby 与悉尼大学！
2023/04/04
论文我参与的 DeepSpeed Chat 项目本周位列知乎第 11、GitHub 第 7：DeepSpeed-Chat: Easy, Fast and Affordable RLHF Training of ChatGPT-like Models at All Scales。
论文项目代码
2023/04/03
学术服务获提名担任第三十七届神经信息处理系统大会（NeurIPS 2023）审稿人。
2023/03/25
活动我将线上参加 ASPLOS 2023，期待与大家交流！
2023/03/01
实习加入微软 DeepSpeed 团队，担任研究实习生。
2023/03/01
学术服务加入悉尼大学 Computer Science Research Methods（CSRM 2023）INFO5993 / INFO4990 程序委员会。
2022/11/13
活动我将线上参加 SC 2022，期待与全球高性能计算社区交流！
2022/10/01
荣誉获得京东科技人工智能研究奖学金，感谢京东与悉尼大学！
2021/12/16
活动我将线上参加中国计算机大会（CNCC 2021）。
2021/11/14
活动我将线上参加 SC 2021，期待参加这一充满启发的高性能计算盛会！
2021/07/01
荣誉获得中山大学海外访学与合作研究项目资助，感谢中山大学！
2021/06/24
活动我将线上参加 ISC 2021，期待与全球高性能计算专家交流！
2021/06/14
活动我将线上参加 ISCA 2021。
2020/07/11
报告我将在 ICSE 2020 作 JSidentify 报告，期待交流！
论文（DOI）论文报告
2020/05/23
活动我将线上参加高性能大数据与智能系统国际会议（HPBD&IS 2020）。