这一周完成了 vllm 迁移到 SGLang 的工作，其实迁移本身非常简单，基本上将之前 vllm 的 serving 指令更换为 SGLang 的 serving 指令即...
本文介绍来自华为诺亚方舟实验室、清华大学和香港中文大学联合在大语言模型量化上的最新工作 FlatQuant (Fast and Learnable Affine Tra...
大家好，今天我们继续vllm源码的解析，一起来看下它最近总是被频繁提起、也是较不好理解的一个创新点：Prefix Caching（本文同时也是Blo...
无论是「西部世界」中的 3D 生物打印、「星球大战」中卢克天行者的机械手臂、还是「黑客帝国」中 AI 创造的虚拟世界，这些科幻片中的丰...
过去大半年里，很多人对大模型的前景寄予厚望。主流观点认为，每个行业、每款产品都可以通过大模型“重做一遍”。
时隔一年，美国再次发起新禁令。当地时间10月17日美国商务部工业和安全局（BIS）发布新规，295页的文件除扩大半导体制造设备的出口管控...
10月31日，集微咨询（JW Insights）发布10月23日-10月29日（第33期）《出口管制情报预警》周报，详情如下：
在追求高效的自动内容生成和程序生成的过程中，利用可修改参数和基于规则的系统出现作为一种有前途的方法。然而，鉴于其复杂性质，需要...
特别是近年来，诸如GPT-4、BERT等大模型的出现，不仅在自然语言处理、图像识别等领域取得了令人瞩目的成就，还推动了人工智能技术向更广...
前段时间 ChatGPT 进行了一轮重大更新：多模态上线，能说话，会看图！微软发了一篇长达 166 页的 GPT-4V 测评论文，一时间又带起了一阵...
英伟达推出了自家最新430亿参数大语言模型——ChipNeMo。对于它的用途，英伟达在官方披露消息中也是非常的明确，剑指AI芯片设计。具体而言...
英伟达最新AI AgentEureka ，用GPT-4生成奖励函数，结果教会机器人完成了三十多个复杂任务。
当前，以 5G、AI 为代表的数字生产力正在掀起新一轮智能化浪潮，在引领智能物联网、汽车电子等产业创新发展的同时，也进一步推动着国内...
虚拟桌宠模拟器：VPet-Simulator，一个开源的桌宠软件, 可以内置到任何WPF应用程序虚拟桌宠模拟器 一个开源的桌宠软件, 可以内置到任何W...
集微网报道 ChatGPT等生成式AI系统的发布将推动AI未来长达十年的繁荣，也将生态的问题推至前台。
AI 应用
开发平台
阿里云倚天
AVH on 百度云
龙蜥操作系统
Arm STEM 教育
星辰教学平台
安谋科技XPU
Arm 大计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
OPEN AI LAB
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
LiveVideoStack 
智东西
