本文主要是对LLM PTQ量化方向的几个经典算法(GPTQ、SmoothQuant、AWQ)的代码实现进行介绍，一方面是为了加深对算法的理解，另一方面也是...
近两年，以大模型为代表的生成式AI技术，成为引爆数字原生最重要的技术奇点，人们见证了各类文生应用的进展速度。Gartner预测，到2026年...
在今年的政府工作报告中，“人工智能+”首次被写入报告，同时“大力推进现代化产业体系建设，加快发展新质生产力”也被列为2024年的首项政府...
大语言模型的发展让研究人员专注于建立尽可能大的模型。但是其实较小的模型在某些任务中表现会优于较大的模型时，例如：Llama 3-8B在MML...
本文主要对近年流行和经典的LLM PTQ量化算法论文进行一些汇总和分析。由于每篇详解的文章很多，本文不会逐篇做非常细致的讲解，主要对LL...
大模型竞速赛鸣枪开跑后，苹果似乎已经脱离了第一梯队，曾经的行业风向标并没有像其他大厂那样频繁地宣讲 AI，加之缺乏能够参与竞争的「...
2023年10月召开的中央金融工作会议指出，金融要为经济社会发展提供高质量服务，要求“做好科技金融、绿色金融、普惠金融、养老金融、数字...
首先应安装 PyTorch。此外，还应安装 TorchVision，并将其作为模型合集（model zoo）。
这篇论文研究了在3D医学图像分割领近年引入了许多新的架构和方法，但大多数方法并没有超过2018年的原始nnU-Net基准。作者指出，许多关于...
引言：在拟定了本文的题目《AI PC选型指南》之后，我觉得这个帽子可能有点大，所以就在后面加了个 (1)。这样后续我就可以再不断补充，另...
今年二月Sora横空出世，我们正在跑步进入视频生成时代。同时，Sora巨大的部署难题也引爆了长序列的DiT推理方法研究热潮。面对这个问题，...
如果你最近办过银行业务，一定有过这样的体验：一边和电话客服聊着天，一边手机短信就收到了刚刚咨询过的内容。这种爽感不禁让人感叹，...
2022 年 7 月，不老男神林志颖突发车祸，作为专业赛车手的他驾驶的特斯拉 Model X 在行驶过程中忽然偏离既定轨迹，一头撞向路边的隔离带...
自ChatGPT推出以来，仅仅一年多的时间里，公众对于“人工智能”（AI）的认识已经发生了根本性的变化。这种变化部分源于公众意识的提高，更...
在产业整合与技术革新的共同驱动下，新⼀轮汽车革命已经从以“电动化”为核心的上半场，转入以“智能化”为核心的下半场。与此同时，大模型...
宣传一下我们的工作I-LLM，（据我们所知）这是第一个在LLM上实现了integer-only量化的方法，精度逼近浮点，超过Smooth/Omini/Affine Qua...
1831年，科学家迈克尔·法拉第发现了电磁感应现象，但这跟其他行业和普通人没太大关系。直到近半个世纪之后，1879年，爱迪生发明了白炽灯...
比亚迪电子、西门子、泰瑞达和 Alphabet 旗下公司 Intrinsic采用 NVIDIA Isaac 机器人平台开发自主机械臂、人形机器人和移动机器人
联邦学习是一种分布式的机器学习方法，其中多个客户端在一个中央服务器的协调下合作训练模型，但不共享他们的本地数据。一般情况下我们...
「二维纳米膜自组装成三维微结构」被认为是制造下一代微电子器件的重要途径，对于即将到来的先进电子和光电子应用至关重要。然而，二维...
