这一周完成了 vllm 迁移到 SGLang 的工作，其实迁移本身非常简单，基本上将之前 vllm 的 serving 指令更换为 SGLang 的 serving 指令即...
本文介绍来自华为诺亚方舟实验室、清华大学和香港中文大学联合在大语言模型量化上的最新工作 FlatQuant (Fast and Learnable Affine Tra...
大家好，今天我们继续vllm源码的解析，一起来看下它最近总是被频繁提起、也是较不好理解的一个创新点：Prefix Caching（本文同时也是Blo...
4 月 18 日，Meta 宣布开源 Llama 3，这个号称「迄今为止最好的开源大模型」一经发布，立刻引爆科技圈！
自 1928 年亚历山大·弗莱明发现青霉素开始，抗生素作为人类医药史上最重要的发现之一，已经彻底改变了现代医学。然而，在实际的诊疗中，...
本文从技术应用架构以及AI大模型赋能角度介绍腾讯文档AI智能助手的探索和实践之路。作为一款集多功能为一体的AI产品，腾讯文档全品类与A...
从2023年的ChatGPT，到2024年的Sora，AI和大模型正以不可思议的发展速度颠覆着业界的认知，但大模型的火热登场，也进一步引爆了智能算力...
生成式人工智能 (Generative AI) 涵盖了当下广为人知，且备受关注的大语言模型 (LLM)，如今也已落地边缘侧的移动设备。这意味着，无论是...
科技云报道原创。大模型加速狂飙，AI商业化却陷入重重困境。一方面，传统企业不知道怎么将AI融入原始业务，另一方面，AI企业难以找到合...
在微观世界里，每一个细胞都是一个繁忙的城市，而分子们则是这个城市中的居民。想象一下，如果我们能够追踪这些居民的每一个动作，或许...
上海AI Lab，香港中文大学等研究机构提出的InternLM-XComposer2-4KHD（简写为IXC2-4KHD）模型让这成为了现实。
近日，京东创始人刘强东化身「采销东哥 AI 数字人」，在京东家电家居和超市的采销直播间开启了自己的直播首秀。此次直播活动观看人次超 ...
【导读】近日，Picsart AI Resarch等团队联合发布了StreamingT2V，可以生成长达1200帧、时长为2分钟的视频，一举超越Sora。同时，作为开...
随着以大模型为代表的AIGC时代拉开序幕，算力需求持续爆发，AI与边缘深度融合已是大势所趋，越来越多的企业开始积极布局GenAI。
今天给大家带来的是国内的Maker刘鹏的自动化鱼缸方案，该项目将先进技术与传统养鱼艺术相结合，打造智能化、自动化、观赏性极强的鱼缸。
Chat with RTX 是 Nvidia 发布的一款 Demo 应用程序，以此可以个性化 GPT 大语言模型 (LLM)，使其连接到您自己的内容（文档、笔记、视频...
大型语言模型（LLM）已经在各种任务上展示了最先进的表现。然而，LLM的推理延迟和大量的GPU内存消耗限制了它们的部署性能。近来，一些有...
知名科技杂志《连线》创始主编凯文·凯利曾预测：“在未来的 100 年里，人工智能将超越任何一种人工力量，将人类引领到一个前所未有的时代。”
[NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型（Spider vs BIRD）全面对比优劣分析[Text2SQL、Text2DSL]]([链接])
[NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型（Spider vs BIRD）全面对比优劣分析[Text2SQL、Text2DSL]]([链接])
新的GPT还没来，AI数据中心先遇到困难了。作者｜艾伦编辑｜王博 赵健模型微调平台OpenPipe创始人Kyle Corbitt近期爆了一个料。他与微软...
图像作为一种重要的信息载体，不仅承载了消逝的时光与故事，也记录着人类对历史的探索和传承。然而，由于早期保存条件的限制，许多图像...
[NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型（Spider vs BIRD）全面对比优劣分析[Text2SQL、Text2DSL]]([链接])
自2019年，上海市率先探索以“一张网”形式为城市运行管理服务，并提出了“一屏观天下，一网管全城”的目标，“一网统管”就成为了提高城市治...
北京冬奥运AI 虚拟人手语主播、杭州亚运会数字人点火、新华社数字记者、数字航天员小诤......当随着越来越多数字人出现在人们生活中，整...
衰老，从古至今困扰了无数仁人志士。无论是千古一帝秦始皇，还是雄才大略汉武帝，亦或者挥斥方遒唐太宗，这些伟大的帝王无一例外的都留...
本篇文章与2023年底尝试挖掘并探寻以chatGPT为代表的LLM和以AlphaGO/AlphaZero及当下AlphaDev为代表的RL思想的背后底层理论及形式上的统...
Text-to-SQL（或者Text2SQL），顾名思义就是把文本转化为SQL语言，更学术一点的定义是：把数据库领域下的自然语言（Natural Language，N...
【导读】近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码，通过手搓84个新的矩阵乘法内核，将Llama的推理速度提高了5...
世界是复杂的，没有人知道未来会怎样，但如果单纯从技术的角度，我们总是能够沿着技术发展的路径，找到一些主导未来趋势的脉络。
FlashAttention（FA）是一系列针对Transformer模型训练和推理加速方案。自从去年（2022年）五月发布以来，历经了多次迭代，并借着其节省...
生成式人工智能（AIGC）已然成为了全球科技行业最热门的领域，对于亚马逊而言，一方面加大了投资，一方面正在加紧自研模型，这能否让其...
工业世界里，高纯气体被广泛应用于半导体制造、光纤生产、科学研究、医疗健康、环保能源等诸多领域。例如，半导体行业，高纯气体是芯片...
AI 应用
开发平台
阿里云倚天
AVH on 百度云
龙蜥操作系统
Arm STEM 教育
星辰教学平台
安谋科技XPU
Arm 大计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
OPEN AI LAB
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
LiveVideoStack 
智东西
