老潘用triton有两年多了，一直想写个教程给大家。顺便自己学习学习，拖了又拖，趁着这次换版本的机会，终于有机会了写了。
量化大型语言模型(llm)是减少这些模型大小和加快推理速度的最流行的方法。在这些技术中，GPTQ在gpu上提供了惊人的性能。与非量化模型相...
当面向行业的数百个AI大模型出现，承载大模型的数据中心正在悄然发生变化。大模型需要大算力，一方面，数据中心将提供多样性计算综合能...
此前我们说过，实现万物互联的梦想，不仅要关注光纤、5G所打通的智能联接，更要关注短距传输所支撑的最后一段距离。
联合发起方：NVIDIA，Microsoft Reactor特邀赞助合作伙伴：创乐博，合众恒跃（排名不分先后）尊敬的老师和同学们，我们非常荣幸邀请您参...
OpenAI近期召开了开发者大会，同时也发布和开放了一些新的功能特性，比如新版本GPT-4 Turbo，支持128k上下文，知识截止更新到2023年4月...
珠三角和长三角类似，对汽车散发独特的魅力，不管从产业还是人才都有非常高的聚集度和活跃度，例如比亚迪，广汽，小鹏，华为等都在珠三...
数源AI 最新论文解读系列论文链接：[链接]开源代码：[链接]引言大型语言模型（LLM） 领域的最新进展使其处于学术讨论的最前沿，因为它们...
随着大模型的爆火，向量数据库也越发成为开发者关注的焦点。为了方便大家更好地了解向量数据库，我们特地推出了《Hello, VectorDB》系列...
今天也来凑个热闹，说说OpenAI的事。本来不想写的，但是看到自媒体又开始胡说八道，所以根据我自己得到的消息和理解说一说我的看法，这...
熟悉毫米波雷达技术的朋友知道，该无线电技术的频段为30-300GHz，而目前主要使用的频段为24GHz、60GHz、77GHz。在文章《关于毫米波雷达...
当地时间 11 月 16 日，由美国商务部工业与安全局 (BIS) 发布的芯片和半导体设备出口限制新规（下文简称芯片出口限令）正式生效。
这两天AI圈最热闹的消息，应该就OpenAI高层内讧，标志性人物、原CEO Sam Altman被董事会解雇，数位科学家和高层离职。
最近Gartner发布2024年十大战略技术趋势，AI显然成为其背后共同的主题。全民化的生成式人工智能、AI增强开发、智能应用......我们正在进...
*本文为麻省理工学院（MIT）学者罗鸿胤独家供稿，「甲子光年」经其授权后编辑发布。罗鸿胤是人工智能领域的青年科学家、MIT 计算机学与...
Receptance Weighted Key Value（RWKV）是pengbo提出的一个新的语言模型架构，它使用了线性的注意力机制，把Transformer的高效并行训练...
CogVLM 是一个强大的开源视觉语言模型（VLM）。CogVLM-17B 拥有 100 亿视觉参数和 70 亿语言参数。
近年来,我国数字经济快速发展,作为数字经济的基础设施,新型数据中心建设也日益受到重视。中国智能计算产业联盟秘书长安静在近期举办的第...
现代的人工智能硬件架构(例如，Nvidia Hopper, Nvidia Ada Lovelace和Habana Gaudi2)中，FP8张量内核能够显著提高每秒浮点运算(FLOPS)，...
OpenAI的开发者日活动后，GPTs模式引发了新一轮的AI热潮，开发者调用过分火爆，甚至导致OpenAI服务器一度宕机。随后，花式把玩GPTs的经...
大环类化合物是指由 12 个以上原子组成的小分子或肽。相较于其他小分子化合物，大环类化合物在结构和性能上有着诸多优势，也因此被视为...
近半年来如火如荼的「百模大战」让越来越多的终端厂商卷进来，机器人、音箱、手表、眼镜等硬智能硬件产品加持大模型能力，让产品快速接...
自动驾驶技术的发展依赖于感知、决策和控制系统的高效集成。传统的数据驱动方法和基于规则的方法在处理复杂驾驶环境和理解其他道路用户...
上面的图像，类型(A)显示了检索到的数据或文档回答查询的位置。LLM仅使用NLG从提供的数据中格式化答案。
近日， “2023英特尔客户端解决方案论坛”在珠海举行，此次论坛以“百岛城 百川归海有渠道，珠江口 珠联璧合领芯潮”为主题，英特尔分享了其...
集微网报道 （文/陈兴华）在生成式AI浪潮的强势席卷下，AI PC正成为整个行业发展焦点，这得益于产业链的技术升级以及端侧AI具备安全独立...
集微网消息，存储芯片近年来行情持续承压，虽然一直有触底的声音，但在今年上半年DRAM和NAND的价格仍在进一步下跌，直到Q3开始，DRAM和N...
集微网报道 （文/陈兴华）随着AI大模型成为新型智算基础设施，行业巨头在AI芯片赛道上打得愈发火热。近日，除了微软首次推出两款自研芯...
大语言模型带来的智能涌现，让人们意识到：强人工智能的时代真正来临。大语言模型与强化学习的结合让机器与人类的行为实现对齐，甚至体...
2022 年 11 月，ChatGPT 发布掀起 AI 狂潮。时隔 1 年，2023 年 11 月，ChatGPT 之父、Sam Altman 的一项人事巨变，再次掀起了一场 AI ...
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
