断网展台跑完千问9B RISC-V数据流芯片亮相

   发布时间:2026-11-22 18:07 作者:小沃

11月20日至21日,2026开放原子开发者大会在郑州国际文化交流中心举行,主题为看见开源,看见改变。现场有2000余名开发者与行业代表,18场技术论坛、120余场演讲,开放体验区集中了50余个开源项目和70多家企业。

主论坛与AI Infra论坛上,Arm、PyTorch基金会、众智FlagOS 2.0等带来了架构、生态和适配进展。FlagOS 2.0给出的数字是18家厂商、32款AI芯片、497个算子。芯片在大会上的出现方式各不相同,有的在演讲中谈生态,有的在适配清单里露出型号,有的藏在整机产品内部,还有的以贡献单位身份出现在授牌环节。

睿芯展台面积不大,桌上摆着高光D35开发板和SmarCo AI工作站“小金刚”。开发板预装openEuler,千问9B权重完整加载在板载内存中,整个过程不联网。工作人员拔掉网线、关闭无线,把键盘交给观众,由观众连续追问多轮。

端侧部署9B模型,难点不只在能否启动。权重常驻、访存带宽、任务调度都会影响逐token生成。高光D35单芯片最高支持128GB内存,而主流边缘AI芯片常见4GB到64GB区间,英伟达Jetson AGX Orin顶配为64GB。更大的内存空间让9B模型可以整份放入,也让多轮对话的上下文有位置保存。

另一套演示没有接实体摄像头,而是由浏览器生成移动红灯视频流,板卡本地运行YOLOv5s交通灯检测。检测框跟随目标移动,推理计数和单帧延迟实时显示。这个演示关注的是动态目标下检测链路的稳定性,而不仅是单张图片的识别结果。

高光D35采用数据流架构。传统冯·诺依曼架构需要在存储和计算之间搬运数据,有研究认为搬运可占AI计算总能耗六成以上。数据流在数据就绪后触发计算,不依赖指令逐条调度,数据在计算单元之间直接流动。静态编译调度把每一步在编译阶段排好,使什么时候计算、计算多久更可预期。

现场体验中,观众问一句,模型答一句,响应速度差别不大。对于机器人、工业产线和路口感知,稳定延迟比平均延迟更关键,控制环路不能接受偶发抖动。高光D35使用全自研高性能RISC-V CPU内核,指令集、微架构、编译器和工具链形成闭环,也降低了对接开源生态的门槛,openEuler可以直接安装运行。相关成果曾获ISCA 2026国际计算机体系结构顶会最佳论文提名。

睿芯在本次大会主论坛没有演讲位,也没有战略发布和签约仪式,展期动作集中在两块板子、两套演示和一个新上线的社区。团队从龙芯时代走来,2011年Godson-T众核处理器被《Microprocessor Report》评为全球服务器领域十大事件,是当年唯一入选的学术界芯片。2020年公司成立,2026年9月高光D35量产交付,成为全球首款量产的RISC-V数据流物理AI芯片。

首次公开的光荣社区把SDK、文档中心、模型库、在线实训和算力申请集中开放,参考代码与示例工程采用Apache-2.0、MIT许可。数据流有认知门槛,社区选择将门槛做成入口。参会者的问题也很具体,机器人团队关心延迟和功耗,工业视觉与安防集成商关心多路视频长时间运行的稳定性,智能驾驶方案商关心模型迁移、算子适配和编译部署。

两天展期结束后,展台留下的是翻旧的技术文档、现场注册的社区账号和约好寄样评估的联系方式。开源大会散场很快,展板拆除后会场很快更换主题。社区中的代码、文档和问题单会继续留下来。数据流不是捷径,它需要重新教育开发者、重新编写工具链、重新积累算子库。在郑州这两天,一块板子在断网状态下跑完了9B模型,并让观众自己出题。

 
 
更多>同类内容
全站最新
热门内容