编者按算力网络有一个美好的愿景，就是希望算力和算网，能像电力和电网一样：算力可以标准化，有统一的计量单位。类似电力计量的千瓦时，或称为度数。有很多算力中心生产算力，类似电厂生产电力。生产出来的算力，通过接入算网，最终供应给算力的客户。类似电厂的电力，通过电网接入千家万户。算力“随时随地，无处不在”...
编者按随着大模型的广泛流行，GPU集群计算的规模越来越大（单芯片算力提升有限，只能通过扩规模的方式来提升整体算力），千卡、万卡已经成为主流，十万卡、百万卡也都在未来3-5年的规划中。集群计算的网络可以分为两类：南北向流量，也就是俗称的外网流量；东西向流量，也就是俗称的内网流量。集群计算的网络连接数 S = ...
编者按半个世纪以前，芯片行业只有IDM模式，芯片公司自己设计、制造并封装芯片，典型的公司如Intel、未拆分前的AMD、TI等公司。1987年，台积电TSMC成立。台积电定位芯片制造，并不涉及芯片设计。从此，芯片行业产生了分工，IDM分为了两类企业：芯片设计企业（Fabless，如NVIDIA、拆分后的AMD、高通、博通、Marvell、华为...
编者按之前文章中，我们介绍过复杂计算的概念，今天又给出了一个新的概念：融合计算。两者的区别在哪里？复杂计算是对需求的描述，而融合计算是对解决方案的描述。很多计算解决方案，聚焦具体算法、具体场景，而忽略了变化、迭代，以及平台和生态的建设：“不谋万世者，不足谋一时”。计算的软硬件演进非常快，我们在考虑...
编者按云计算已经发展了20年，是到了变革的时候了。但变革成什么样子，目前还在混沌中。未来将形成的新的业态，我们姑且称之为“算力网络”吧！趁着AI大模型的东风，智算基础设施建设如火如荼。以智算（智算”力”，是算力的一个子集）为重心，更综合更全面的算力网络和算力中心建设，24-26这几年会是一个高潮。目前，行业发...
一直以来，我都认为算力网络是行业整合的过程，通过算力网络运营商把全国的算力资源统筹到一起，形成高效的统一算力供应。但与此同时，总感觉这种模式不对。算力芯片技术日新月异，从底层芯片，到上层业务，方方面面创新迭代极为迅猛。完全统一的算力供应根本跟不上技术创新的步伐。
编者按2023年12月底，由国家发展改革委、国家数据局、中央网信办、工业和信息化部、国家能源局五部门联合印发的《关于深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》正式公布。算力网络是未来数字经济发展的核心基础设施。要想实现算力网络的伟大愿景，还有非常多的底层技术挑战需要解决。接下来若干篇系...
编者按前面专门写过一篇“软硬件融合”的系统性介绍文章，之后有很多朋友私信交流。不断汲取大家对软硬件以及软硬件相互协作方面的观点，逐步深化和完善“软硬件融合”概念和技术体系。简单总结一下。一方面，大家对未来认识的大方向是趋同的，就是“软硬件要深度结合/协同”。但另一方面，对软硬件融合观点的认识，也存在如下...
编者按AI大模型的热潮不断，预计未来十年，AGI时代即将到来。但目前支撑AI发展的GPU和AI专用芯片，都存在各种各样的问题。那么，在分析这些问题的基础上，我们能不能针对这些问题进行优化，重新定义一款能够支持未来十年AGI大模型的、足够灵活通用的、效率极高性能数量级提升的、单位算力成本非常低廉的、新的AI处理器类...
编者按作为技术类的公众号，今天这篇文章，我们聊点技术之外的一些更宏观的发展话题：）最近跟一个朋友，交流了一些不那么“纯技术”的话题：后进如何赶超先进？在交流的过程中，也引发了我对技术发展的一些更深层次的思考。关于后进赶超先进，网上有太多的文章和视频。作为常年从事计算机算力芯片相关工作的我，今天就从...
编者按大家一直有个误解，觉得通用和专用，是对等的两个选择。例如，牧本波动（Makimoto's Wave），是一个与摩尔定律类似的电子行业发展规律，它认为集成电路有规律的在“通用”和“专用”之间变化，循环周期大约为10年。我们的观点则是：相比专用，通用是更高级的能力。集成电路等各种事物发展规律的常态是通用，“通用到专...
编者按关于“弯道超车”，行业内很多人士对此嗤之以鼻，他们认为：做事情要脚踏实地，持之以恒，才有可能超越。但这两者并不矛盾：在已有的不断发展的领域，我们需要“数十年如一日”不断的努力，才有可能逐渐追赶上世界先进水平，才有可能从追赶到齐头并进甚至超越；比如航天科技领域。但在一些行业变革期，我们需要尽早布...
随着ChatGPT的火爆，AGI（Artificial General Intelligence，通用人工智能）逐渐看到了爆发的曙光。短短一个月的时间，所有的巨头都快速反应，在AGI领域“重金投入，不计代价”。
GPT等大模型为什么没有突破万亿参数？核心原因在于在现在的GPU平台上，性能和成本都达到了一个极限。想持续支撑万亿以上参数的更大的模型，需要让性能数量级提升，以及单位算力成本数量级的下降。这必然需要全新架构的AI计算平台。
三大运营商都在积极地推广“算力网络”的相关技术概念落地，互联网公司有类似的概念叫“分布式云”。个人理解，两个概念的技术实现基本相同，不同点在于：算力网络站在基础计算环境的视角，着眼于算力资源的整合；分布式云从业务服务的视角，着眼于计算以何种形式提供。
我们介绍了一种新的处理器类型：超异构处理器HPU，公众号文章链接：一种新的处理器类型：通用超异构处理器。HPU可以理解成多种异构融合而成的一种新型的计算架构。
欢迎关注软硬件融合公众号：编者按ChatGPT等AI大模型的发展，对算力的需求每两个月增加一倍。OpenAI每年的支出费用高达10多亿美金。如果将ChatGPT部署到谷歌搜索中，需要512,820 个 A100 HGX服务器和总共4,102,568 个 A100 GPU，服务器和网络的总硬件成本超过1,000亿美元。算力，成为制约AI发展的最关键因素。如果算力能...
经常有软件的同学会问到一个尖锐的问题：在超异构软硬件融合的时代，操作系统等软件是不是需要重构，是不是要打破现有的整个软件体系。我赶紧解释：“超异构软硬件融合不改变现有的软件体系，所有的软件该是什么样还是什么样。”
在过去的一年（2022年），软硬件融合公众号的很多文章，都围绕着“超异构计算”这个重要的主题展开。也和很多朋友交流超异构计算相关的话题，大家提到的最主要的一个问题是：超异构和异构的本质区别在哪里？
通过软硬件融合的“纽带”，认识了很多汽车界的朋友。最近半年来，跟很多汽车界的大佬深入交流了汽车底层的软硬件发展。惊奇地发现，汽车软硬件的相关技术，跟数据中心大同小异，非常接近。
