北京冬奥运AI 虚拟人手语主播、杭州亚运会数字人点火、新华社数字记者、数字航天员小诤......当随着越来越多数字人出现在人们生活中，整...
衰老，从古至今困扰了无数仁人志士。无论是千古一帝秦始皇，还是雄才大略汉武帝，亦或者挥斥方遒唐太宗，这些伟大的帝王无一例外的都留...
本篇文章与2023年底尝试挖掘并探寻以chatGPT为代表的LLM和以AlphaGO/AlphaZero及当下AlphaDev为代表的RL思想的背后底层理论及形式上的统...
Text-to-SQL（或者Text2SQL），顾名思义就是把文本转化为SQL语言，更学术一点的定义是：把数据库领域下的自然语言（Natural Language，N...
【导读】近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码，通过手搓84个新的矩阵乘法内核，将Llama的推理速度提高了5...
世界是复杂的，没有人知道未来会怎样，但如果单纯从技术的角度，我们总是能够沿着技术发展的路径，找到一些主导未来趋势的脉络。
FlashAttention（FA）是一系列针对Transformer模型训练和推理加速方案。自从去年（2022年）五月发布以来，历经了多次迭代，并借着其节省...
生成式人工智能（AIGC）已然成为了全球科技行业最热门的领域，对于亚马逊而言，一方面加大了投资，一方面正在加紧自研模型，这能否让其...
工业世界里，高纯气体被广泛应用于半导体制造、光纤生产、科学研究、医疗健康、环保能源等诸多领域。例如，半导体行业，高纯气体是芯片...
Continuous Batching现已成为大型模型推理框架的关键技术，也是框架性能优化的主战场。通过将多个在线请求进行批处理（Batching），可以...
随着产业界对模型落地的态度逐渐回归理性，企业客户的认知从原来的“觉得大模型什么都能做”的阶段，已经收敛到“大模型能够给自身业务带来...
去年十月，美商务部禁令的出现，使中国客户无法使用NVIDIA H100/H200旗舰芯片。一时间，各种NV存货、中国限定卡型、其他厂商NPU纷至沓来...
大模型是一种利用海量数据进行训练的深度神经网络模型，其特点是拥有庞大的参数规模和复杂的计算结构。通过在大规模数据集上进行训练，...
今年的《政府工作报告》中，“大力推进现代化产业体系建设，加快发展新质生产力”，被列为2024年十大工作任务之首。
卡塔尔世界杯自 2010 年荣膺举办权，直至 2022 年辉煌成功举办，累计投入资金高达约 2,290 亿美元。相较之下，此前七届世界杯的总花费仅...
大家好，今天想来介绍下当红推理框架vLLM的核心技术PagedAttention。PagedAttention的设计灵感来自操作系统的虚拟内存分页管理技术。vLL...
本次公开课为极术社区2024年大模型系列第一场公开课，由安谋科技技术专家Alex Shang分享。 公开课探讨了大模型及生成式AI出现对智能物联...
最近在调研 PyTorch 的一些 features，偶然发现了一些有意思的小细节，小小记录下心得。ZeroRedundancyOptimizer 优化器是 PyTorch1.10 ...
今日（3月28日），深圳市工业和信息化局与中国软件行业协会联合多家单位，在深圳宝安国际会展中心举办2024中国（深圳）智能网联汽车发展...
“Mora: Enabling Generalist Video Generation via A Multi-Agent Framework”
在1950年代初期，人们开始尝试使用计算机处理自然语言文本。然而，由于当时的计算机处理能力非常有限，很难处理自然语言中的复杂语法和...
从ChatGPT诞生起，大模型在营销、客服等场景的落地就被予以众望。然而在经历了一年多的“百模大战”洗礼之后，人们发现无论是算力成本还是...
[大语言模型的预训练[3]之Prompt Learning：Prompt Engineering、Answer engineering、Multi-prompt learning详情]([链接])
聆思大模型 AI 开发套件（CSK6-MIX）不仅提供了完善的多模态大模型调用功能，还提供了丰富的本地外设接口，可以通过端侧结合大模型来实...
前段时间拿到了一个AI套件的试用，最近正好赶上智谱也有免费TOKEN的活动，就打算看看两者结合起来效果如何。今天只是简单的一个流程上的...
结构化的思想很普遍，结构化内容也很普遍，我们日常写作的文章，看到的书籍都在使用标题、子标题、段落、句子等语法结构。结构化 Prompt...
2024-03-28 周四 20:00 开播 回顾中
于是我很想验证这个“说法”，所以我决定在我的 Raspberry Pi 4 上使用 Ollama 本地运行大语言模型。
在工业化飞速发展的大环境下，地球正面临着一个严峻而急迫的问题一一过度的二氧化碳排放。二氧化碳就像是一层无形的厚茧裹住了人类赖以...
北京时间3月18日早上，马斯克旗下 AI 初创公司 xAI 宣布，其研发的大模型Grok-1其大语言模型Grok-1已实现开源，并向公众开放下载。感兴...
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
