标签

从原型到落地:后端工程师的 AI Agent 生产化实践——FastAPI、Kafka 与 K8s 构建分布式多智能体系统

让 Agent 真正走进生产环境,核心难题并非让模型"懂得调用工具",而是确保:面对重试、扩容、断连与下游异常等场景,同一条用户消息最终只会触发一次可追溯的业务操作。本文以电商售后客服为切入点,探讨 FastAPI、Kafka、Redis 与 Kubernetes 在工程落地中的能力边界。试想这样一个电商售后场景:用户咨询"订单 123 是否已完成退款"。Agent 需查询订单与退款进度;若退款尚未发起,可在用户权限充足且信息完整的前提下创建售后工单。同时,回答中必须给出判断依据,且绝不允许模型自行拼接

2026-09-05 08:08:00  |  2 阅读

AI算力架构:分布式计算的核心模式解析

感谢您的关注请关注本号关于投资、并购、招标及策划等相关业务动态。在 AI 基础设施架构里,分布式计算(Distributed AI / Distributed AI Computing) 是目前大模型时期至关重要的算力调度手段。它不局限于狭义的“多智能体分布式人工智能”,而是指:把 AI 训练、调优、推理时的计算任务、模型参数、数据、优化器状态、激活值等,依据特定策略拆解到多台设备或节点上并行处理,并通过高速互联与集合通信协作以达成整体目标。其核心目的在于打破单芯片、单机乃至单集群的算力瓶颈、显存瓶颈及通

2026-09-05 08:06:24  |  2 阅读

直播预告丨AI推理性能深度优化:openFuyao InferNex如何大幅降低TTFT

当算力规模迈入万卡集群、单日Token处理量迈入万亿级别的今天,传统推理架构在KVCache的高效复用、长上下文显存调度、Prefill/Decode资源协同等关键环节遭遇全新的技术挑战。毫秒级的延迟波动与显存资源的无效占用在大规模推理业务场景下会被持续放大,不仅显著推高运营成本,也对终端用户体验带来不利影响。InferNex作为openFuyao面向多样化算力与灵衢高性能总线协议打造的云原生分布式推理加速套件,依托智能路由、PD分离式弹性伸缩决策框架、分布式KVCache管理、推理全链路可观测四大核心子

2026-08-11 15:19:22  |  53 阅读

学术报告丨可扩展 AI 基础设施的全链路端到端解析

RESEARCH SEMINAR · 学术报告可扩展 AI 基础设施端到端视角◂ 左右滑动查看 ▸📢 香港科技大学(广州)功能枢纽微电子学域联合 IEEE EDA 广州分会,特邀香港中文大学(深圳)余旻晨助理教授带来题为《Towards Scalable AI Infrastructure: An End‑to‑End View》的专题学术报告。讲座主题:Towards Scalable AI Infrastructure: An End‑to‑End View●时间2026‑08‑13(周四)10:00

2026-08-11 11:24:37  |  17 阅读

探秘首个十万卡国产AI集群:基础设施自主化进展如何?

点击蓝字 关注我们从处理器到超算网络,国产人工智能底座经受了一场全面整合考验封面 | 高工智算作者 | Phillip7月10日,光合组织2026智能计算应用大会期间,中科曙光发布消息,国内首座全自主十万卡AI大规模集群——曙光8000(登峰)正式建成,并同步接入国家超算互联网。作为我国首个达到十万卡规模、采用全本土技术路径构建的AI大型集群,曙光8000(登峰)涵盖运算、连接、存储、液冷、软件平台及运营管理等核心环节,意味着AI底座建设开始从万卡阶段迈向十万卡级别部署。相较于单纯提升计算规模,曙光800

2026-07-11 17:24:29  |  27 阅读

李飞宏博士提出新型REQ损失函数提升SVM鲁棒性

该文提出一种新型重新缩放指数商(REQ)损失函数,显著提升了系数支持向量模型的鲁棒性,并构建了REQ支持向量模型。由于REQ损失具有非凸特性,研究者通过共轭函数将其转化为每个变量均为凸的二元形式,进而推导出新优化问题的一阶最优性条件。在此基础上,引入工作集机制,充分挖掘REQ损失的稀疏结构,设计出基于半二次优化的快速交替方向乘子法框架,并严格证明了其全局收敛性。针对分布式场景中因可扩展性或隐私约束而无法与中央节点直接通信的问题,论文进一步构建了基于共识优化的分布式REQ支持向量机,并开发了高效求解算法。此

2026-07-10 06:34:01  |  26 阅读

前神经人工智能:回归生命本源,拓展智能新界

当下人工智能正面临一道“隐形的壁垒”——无论是大语言模型还是脉冲神经网络,其底层架构始终难以摆脱对动物神经系统的模仿。这种依赖神经回路的路线,长久以来束缚了我们对智能本质的洞察:真正的智能,是否必须依托神经元的脉冲放电?近年来,基础认知科学与合成生物学的重大突破,借助大量无神经生物的适应性行为给出了否定答案:智能的源头,远比我们认知的更为久远。本文 introduce 前神经人工智能(Pre-neural Artificial Intelligence, PNAI)这一前沿研究领域,系统阐述其理论核心、建

2026-07-06 06:18:12  |  30 阅读

魅视科技:视听融合 AI,领跑智能调度新赛道

在数字化治理浪潮下,指挥调度、智慧城市、轨道交通及应急安防等场景,对音视频传输、全域协同与智能研判的国产化提出了更高要求。扎根广州的国家级专精特新“小巨人”——广东魅视科技股份有限公司,依托自研分布式视听底座与 AI 边缘计算的双轮驱动,稳居国内政企显控领域第一梯队企业概况introduceAVCiT 魅视坚持以科研创新为基石,身为国家高新技术企业、软件企业及广州市企业研究开发机构,在国内率先引入“类区块链”技术,成功研发出无中心服务器、完全去中心化的“分布式系统”。该系统早在 2015 年便通过了省、市

2026-07-03 08:42:11  |  93 阅读

OceanBase掌门人杨冰:AI浪潮催生基础软件重定义契机

日前,OceanBase首席执行官杨冰撰文《AI浪潮催生基础软件重定义契机》。文中强调,随着大模型功能日趋同质化,AI竞赛的重心已从“哪家模型更胜一筹”转向“谁能助力AI深度理解业务”,数据库因此被推向AI基础设施的关键地位。杨冰表示,AI数据库并非对旧有产品的细微改良,而是底层基础设施的彻底重塑——中国首次迎来从基础软件规范“跟跑者”跃升为“共创定义者”的机遇。完整内容如下:人工智能正重新塑造基础设施,数据底座作为AI新型架构的关键环节,其战略意义正逐渐被重视。当各家大模型的通用本领日益趋同,竞争的焦点

2026-07-02 19:03:55  |  36 阅读

AI芯片封装挑战与存储技术演进

AI芯片封装中的翘曲问题使得行业领先地位受到影响,同时存储技术面临短缺挑战,DDR4被重新启用并通过分布式缓存提升效率。全球AI投资推动通胀,预计2025至2029年AI相关支出将大幅增长,AI财富效应明显。 1. AI芯片封装挑战 • 翘曲问题影响: ◦ 芯片封装过程中出现的翘曲问题可能导致行业领先地位不及预期。 ◦ 为了在一年内推出新一代产品,原先的双螺带封装方案被放弃。 • 工程难题增多: ◦ 随着芯片发展,AI服务器面临的工程难题逐渐增加。 2. 存储技术短缺与应对方案 • 存储短缺现状: ◦ D

2026-07-02 00:07:58  |  24 阅读

英伟达联手伙伴布局家庭AI计算中心

目前,人工智能在家庭领域的应用需求不断上升,终端设备的AI计算能力缺口日益明显,计算资源开始向消费者端拓展,行业内出现了新的硬件趋势。据HackerNews报道,英伟达的合作伙伴正准备发布面向消费者的家庭AI计算中心,该产品基于英伟达消费级Blackwell架构图形处理器构建,通过多卡组合形成小型计算单元,能够满足个人开发者和微型团队进行本地化AI推理及小规模模型训练的需要。与传统的大型集中式数据中心不同,这类家庭计算节点可以利用住宅空闲空间进行布置,让用户自主管理计算资源,既实现了低延迟操作,又能充分利

2026-06-29 09:12:37  |  15 阅读

AI存储难题破解:ParaStor实战落地全解析

AI大模型训练与推理加速扩张,存储瓶颈是否正拖慢你的项目节奏?海量数据如何高效读写?高并发下训练卡顿如何应对?存储架构与AI业务适配困难又该从何突破?6月25日(周四)17:00,资深存储产品经理徐剑涛,深入AI训练与推理全场景,全面剖析ParaStor分布式统一存储的落地实践。从痛点梳理到方案设计,从架构优势到真实案例,助力售前与销售团队快速构建面向AI训推的推广逻辑与交付体系,精准把握AI领域商机。扫描海报二维码,锁定直播⬇️

2026-06-24 19:52:18  |  31 阅读

AI重塑能源产业!天合富家金锐力推「AI in all」,智能化驱动能源变革

分布式光伏正经历一场静默的模式转型。装机规模固然关键,但电站能否盈利远比装机量更重要。峰谷价差持续收窄、电价实时波动、储能调度难以依赖人工监控——这些挑战在过去两年间密集涌向工商业光储业主。天合富家的破局之道,是将AI深度融入。并非流于表面概念,而是彻底重构调度算法。"按时充放"模式走向终结165号文明确废止行政性分时电价,对光储行业的冲击远超表象。既往运营逻辑近乎固化:电价低谷充电、高峰放电,运维人员依时执行即可。此模式虽简易,却依赖一个前提——峰谷时段相对稳定,波动有限。如今这一前提已

2026-06-22 16:43:50  |  26 阅读

程思琪与喻国明:AI浪潮下人机交互变迁与心智重构

《AI浪潮下人机交互变迁与心智重构》程思琪喻国明2026.5内容提要人工智能技术的普及应用正从根本上改变着人机交互的基础形态。人机关联正从单纯的工具性配合,渐渐转变为包含执行配合、认知协作与情感陪伴的多维交互样态。依托分布式认知视角,各异的人机交互方式对人类心智产生着双向效应:一则,AI能延展并提升个体的认知效能;二则,它亦可能引发部分认知机能的萎缩与衰退。往后针对人机关联的理论剖析及交互设计的实践落地,皆须寻求此消长张力的均衡与调控法则,彰显人机协同对人类心智的正向赋能,遏制交互过程对人类心智的负面侵蚀

2026-06-19 21:37:20  |  54 阅读

网信办公开征询分布式数字身份互通应用规范意见

为推动分布式数字身份创新发展与互通互认应用,构建完善的分布式数字身份公共服务体系,支撑国家区块链网络基础共性服务能力建设,依据相关法律法规,我办联合相关部门起草了《促进分布式数字身份互通互认应用规定(征求意见稿)》,现面向社会公开征询意见。社会各界可通过以下渠道反馈意见: 1.发送电子邮件至:did@cac.gov.cn。 2.以信函方式邮寄意见至:北京市海淀区阜成路15号国家互联网信息办公室信息化发展局,邮编100048,信封请注明"促进分布式数字身份互通互认应用规定"。 意见反馈截止日期为2026年7

2026-06-18 18:57:18  |  40 阅读