全部 未讀 (37688) ★ 收藏 (0) 🤖 人工智能 (14292) 📊 商业科技 (6631) 📁 媒体资讯 (5216) 📁 投资财经 (3200) 📁 生活文化 (2769) 💻 软件编程 (2049) 📁 个人成长 (1953) 📁 体育运动 (995) 🎨 产品设计 (531) 📁 AI 产品 (39)
篩選中: 🏷️ AI Infra 共 44 篇 ✕ 清除篩選
37690
全部文章
37688
未讀
198
今日新增
0
收藏
📡 Poller 最後抓取: 45 分鐘前 (08-06 18:00)
BestBlogs 精選 (37617)

🏷️ 熱門標籤

AI Agent 3156 政策解读 1593 投资与市场 1382 AI 编程 1325 宏观经济 1264 产业动态 1248 国际新闻 1150 LLM 1147 Anthropic 1087 Claude Code 1038 社会议题 983 国内新闻 958 地缘政治 924 OpenAI 891 科技新闻 879 AI 智能体 788 生活方式 688 开源 683 足球 671 个人成长 661
AI Infra 进阶:如何让大模型输出确定的结果
📌 一句话摘要 本文深入剖析了大模型推理中 Batch Invariance(批次不变性)缺失的底层技术根源,指出 GPU 算子动态调度策略(如 Split-K、BLOCK_K 变化)导致的浮点加法顺序改变是导致结果波动的核心原因,并探讨了在 AI Infra 层面的优化与 Trade-off。
📅 2026-08-05 17:25 (1 天前) 腾讯技术工程 人工智能 2 分鐘 ★ 90
AI Infra GPU GEMM vLLM
对话盛颖:xAI,Infra 的浪漫,SGLang,开源,平权与“甄嬛传”
📌 一句话摘要 本文深度对话 xAI 前推理团队负责人盛颖,讲述她从数学理论、形式化验证到创建开源推理引擎 SGLang、加入 xAI 并最终创立 RadixArk 的成长历程与心路。 📝 详细摘要 本文是《硅谷 101》对盛颖的深度视频访谈的文字整理版。盛颖是 xAI 前推理团队负责人,也是开
📅 2026-08-05 12:45 (1 天前) 硅谷101 人工智能 2 分鐘 ★ 89
AI Infra LLM SGLang xAI
E247|对话盛颖:xAI,Infra 的浪漫,SGLang,开源,平权与“甄嬛传”
📌 一句话摘要 对话 SGLang 发起人、RadixArk CEO 盛颖,深度剖析 AI Infra 的“美感”与“浪漫”,并从学术低谷、xAI 创业到开源平权的个人史诗中,理解其如何驱动技术创新。 📝 详细摘要 本期播客是对 AI 推理引擎 SGLang 发起人、RadixArk 联合创始人
📅 2026-08-05 12:30 (1 天前) 硅谷101 人工智能 2 分鐘 ★ 91
AI Infra SGLang 推理引擎 创业故事
“榨”出硅的极限:怎么让 GPU 不“闲着”?
📌 一句话摘要 本文结合专家访谈与行业数据,系统拆解 AI Infra 的四层架构,解释 GPU 利用率低下的原因,并剖析 KV Cache 复用、连续批处理、PD 分离、投机采样等关键技术如何把算力效率榨到极限。 📝 详细摘要 在推理需求爆发与 GPU 短缺并存的背景下,AI Infra 成为
📅 2026-08-01 15:49 (5 天前) 硅谷101 人工智能 2 分鐘 ★ 88
AI Infra 模型训练与推理 LLM GPU
148. 对游凯超 3 小时访谈:开源 Infra、和模型 Co-design 、“如果 vLLM 失败,我们会后悔一辈子”
📌 一句话摘要 vLLM 核心维护者游凯超深度分享从算法研究者到 AI 系统创业者的心路历程,揭秘开源项目如何演变为 1.5 亿美元种子轮公司的抉择与思考,并前瞻模型与推理引擎协同设计的时代方向。 📝 详细摘要 本期节目是商业访谈录对 Inferact 联合创始人兼首席科学家游凯超的长篇深度访谈
📅 2026-07-28 08:00 (9 天前) 张小珺 人工智能 2 分鐘 ★ 92
开源商业模式 AI Infra 大模型推理 vLLM
模型越来越强之后,Infra 将被 AI 接管?
📌 一句话摘要 探讨 AI 模型架构复杂化与国产算力崛起背景下,AI Infra 面临的异构管理、多模态推理及 K8s 调度挑战,并展望 Infra 将向高阶规划转型。 📝 详细摘要 本文基于 AICon 直播内容,由华为、vLLM 及范式智能的专家共同探讨 AI 基础设施(AI Infra)的
📅 2026-07-24 12:43 (13 天前) InfoQ 中文 人工智能 2 分鐘 ★ 87
AI Infra 多模态推理 异构计算 vLLM
不同模型厂同一家 Agentic Infra,AGI 时代的地基终于浮出水面
📌 一句话摘要 本文深度剖析了无问芯穹这家 AI Infra 公司如何凭借技术优势和战略布局,成为国产四大模型厂(Kimi、智谱、MiniMax、阶跃星辰)的共同选择,解析了其在效果保证、成本优化和稳定性方面的核心技术和商业模式。 📝 详细摘要 文章以量子位媒体的视角,深入分析了无问芯穹在 AI
📅 2026-07-20 18:33 (17 天前) 克雷西 人工智能 2 分鐘 ★ 88
AI Infra Agentic AI 模型部署 算力优化
Kimi K3 爆红背后的算力经济学
📌 一句话摘要 Kimi K3 上线后需求激增导致服务器压力巨大,引发了关于 AI 核心叙事是算力的讨论。 📝 详细摘要 随着 Kimi K3 在 OpenRouter 排名迅速上升,其日均 Token 使用量巨大,但也导致了严重的服务器延迟和吞吐量下降。该推文引入了 Deedy 的观点,指出
📅 2026-07-20 12:00 (17 天前) AI Will 人工智能 1 分鐘 ★ 84
Kimi K3 Compute Economics AI Infrastructure Moonshot AI
行业迎来大洗牌!4 万 Agent 挤进一个机柜,AI Infra 要如何构建?
📌 一句话摘要 随着 Agent 规模化应用,AI 基础设施正从单纯堆 GPU 转向 CPU 与 GPU 耦合的系统重构,涉及计算链路、资源调度与数据中心布局的深层变革。 📝 详细摘要 文章基于浪潮信息副总经理赵帅的观点,分析了 Agent 时代 AI 基础设施的结构性变革。过去以 GPU 为中
📅 2026-07-19 10:15 (18 天前) InfoQ 中文 人工智能 2 分鐘 ★ 85
AI Agent AI Infra GPU CPU
AI 作为基础设施部署 vs 软件工具
📌 一句话摘要 文章总结 AI 作为基础设施直接改变运行层,真正赢家可能是外表不像 AI 的公司。 📝 详细摘要 Thread 第 7 条,总结核心观点:把 AI 当软件卖是工具,当基础设施部署是改变运行层,引用原文章链接。 📊 文章信息 AI 初评:82 来源:AI Will(@Financ
📅 2026-07-14 15:55 (23 天前) AI Will 商业科技 1 分鐘 ★ 82
AI Infrastructure Digital Transformation Business Strategy
[随笔]什么是 AI Native
📌 一句话摘要 本文是作者关于 AI Native 的深度随笔,提出核心观点:AI Native 的本质应是「Human as a Copilot for AI Model」,即人做模型的副驾驶,而非模型做人的副驾驶。 📝 详细摘要 这是一篇以随笔形式展开的技术思考文章。作者首先分享了自己回避复
📅 2026-07-11 17:12 (26 天前) zartbot 人工智能 4 分鐘 ★ 86
AI Native 模型架构 访存瓶颈 思维模型
OpenAI and Oracle Sign 4.5 GW Deal for Stargate
📌 一句话摘要 OpenAI announces a deal with Oracle for an additional 4.5 gigawatts of capacity to power the Stargate project. 📝 详细摘要 Sam Altman announces a
📅 2026-07-10 06:03 (27 天前) 花叔 人工智能 2 分鐘 ★ 84
AI Infrastructure OpenAI Stargate Oracle
OpenAI 推出 GPT‑5.6 系列并推出 ChatGPT Work 桌面整合应用
📌 一句话摘要 OpenAI 发布 GPT‑5.6 系列模型(Sol、Terra、Luna),并将 ChatGPT 与 Codex 合并为一体化桌面应用,推出可自主执行任务的 ChatGPT Work 功能,标志着其向 AI 生产力平台的转型。 📝 详细摘要 OpenAI 今日发布 GPT‑5.
📅 2026-07-10 02:39 (27 天前) 宝玉 人工智能 2 分鐘 ★ 92
AI Infrastructure OpenAI GPT-5.6 ChatGPT Work
不用 NVLink,如何通过 AI Infra 工程优化拉满 Cosmos 3 训练吞吐
📌 一句话摘要 本文详细介绍了百度百舸团队在无 NVLink 的国内主流 GPU 环境下,通过系统性 AI Infra 工程优化,将 Cosmos3 模型训练吞吐提升 99.3% 并实现 12 节点 98.3% 扩展效率的完整实践。 📝 详细摘要 文章以 NVIDIA 开源的具身智能模型 Cos
📅 2026-07-08 18:00 (29 天前) 百度Geek说 人工智能 8 分鐘 ★ 88
AI Infra 模型训练优化 具身智能 GPU 优化
首个面向 AI Infra 的运维智能体评测基准开源!基于近百亿条真实数据,考验 Agent 的问题解决能力
📌 一句话摘要 中国信通院联合无问芯穹推出首个面向 AI Infra 运维智能体的评测基准 AISHPerf,基于近百亿条真实运维数据,考验智能体在真实集群中的故障排查与修复能力。 📝 详细摘要 文章介绍由中国信息通信研究院推出、无问芯穹技术支持的首个面向 AI 基础设施运维智能体的评测基准——
📅 2026-07-04 13:16 (07-04 13:16) InfoQ 中文 人工智能 8 分鐘 ★ 85
AI Agent AI 运维 评测基准 AI Infra
NVIDIA 的 Cosmos 3 火了,但企业如何真正用起来?
📌 一句话摘要 本文以 Cosmos3 为例,介绍百度百舸通过数据加载、算子迁移、编译适配等 AI Infra 优化,在国产 GPU 上实现启动加速 89 倍、吞吐提升 99.3%,MFU 超越官方基准的工程实践。 📝 详细摘要 文章聚焦百度百舸对 NVIDIA Cosmos3-Nano-Pol
📅 2026-07-02 15:24 (07-02 15:24) CSDN 人工智能 8 分鐘 ★ 82
AI Infra 模型训练与推理 具身智能 大模型
中国信通院发布 AI Infra 运维领域首个评测基准
📌 一句话摘要 中国信通院发布 AI Infra 运维领域首个评测基准,基于百亿级真实运维数据,覆盖 5 种国产芯片,旨在推动智算运维从理论考核转向实战能力评估。 📝 详细摘要 文章报道了中国信通院在 2026 年“众智”大模型开放智算生态协同高级别研讨会上发布的 AISHPerf 人工智能软硬
📅 2026-06-30 15:20 (06-30 15:20) 量子位的朋友们 人工智能 1 分鐘 ★ 82
AI Infra 运维智能体 评测基准 国产芯片
首个面向 AI Infra 的运维智能体评测基准,开源了!
📌 一句话摘要 中国信通院联合无问芯穹推出首个面向 AI Infra 的运维智能体评测基准 AISHPerf,基于百亿条真实运维数据构建评测用例,并开源配套故障模拟器与评测框架。 📝 详细摘要 文章介绍首个面向 AI 基础设施运维智能体的评测基准 AISHPerf,由中国信通院推出、无问芯穹提供
📅 2026-06-29 18:51 (06-29 18:51) GitHubDaily 人工智能 11 分鐘 ★ 85
AI Agent AI Infra 模型评测与基准 GPU集群
收购仅一年即“决裂”!创始人贾扬清出走英伟达:黄仁勋不满运营效果,20 亿美金的 AI Infra 突围为何折戟?
📌 一句话摘要 文章深度剖析英伟达收购 LeptonAI 一年后创始人贾扬清出走事件,揭示 GPU 硬件垄断无法复制到 AI Infra 层面,以及 Agentic Coding 对中间件平台的颠覆性冲击。 📝 详细摘要 文章以半导体调研机构 SemiAnalysis 的爆料为引,详细梳理了英伟
📅 2026-06-29 13:00 (06-29 13:00) AI前线 商业科技 2 分鐘 ★ 87
AI Infra 商业分析 开源 GPU 云
直击 GPU 集群真实故障,首个 AI Infra 运维智能体基准开源
📌 一句话摘要 本文介绍由中国信通院推出、无问芯穹技术支持的首个 AI Infra 运维智能体评测基准 AISHPerf,基于真实生产数据开源评估框架与配套故障模拟器。 📝 详细摘要 文章详细介绍了 AISHPerf-智算运维智能体评测基准的设计背景、数据来源、技术栈覆盖、开放式评测模式、配套混
📅 2026-06-29 19:02 (06-29 19:02) PaperWeekly 人工智能 2 分鐘 ★ 86
AI Agent GPU集群 运维 AI Infra