我们的业务需要使用公司内部的一个平台做报表展示，公司内部的一个平台支持的数据库都是正式环境或者IDC环境，这使得我们的业务逻辑也需要部署到正式环境或者IDC环境。自从自研资源上云后，鹅厂内部使用IDC资源时不再推荐使用方单独申请IDC资源，而是推荐使用容器服务进行资源的申请和使用。具体来说，就是我们需要把我...
在追求高效代码的路上，我们不可避免地会遇到代码的性能瓶颈。为了了解、解释一段代码为什么低效，并尝试改进低效的代码，我们总是要了解硬件的工作原理。于是，我们可能会尝试搜索有关某个架构的介绍、一些优化指南或者阅读一些计算机科学的教科书（如：计算机组成原理）。但以上的内容可能都太过繁琐、细节太多，在阅...
Agents这一模块在langchain的使用过程中也是十分重要的，官方文档是这样定义它的“The core idea of agents is to use a language model to choose a sequence of actions to take. In chains, a sequence of actions is hardcoded (in code). In agents, a language model is used as a reasoning engine to determine w...
本文为笔者学习LangChain时对官方文档以及一系列资料进行一些总结～覆盖对Langchain的核心六大模块的理解与核心使用方法，全文篇幅较长，共计50000+字，可先码住辅助用于学习Langchain。
大模型漏洞修复插件是腾讯朱雀实验室在安全垂类场景的一个重要实践。我们希望通过AI大模型，实现研发安全场景的漏洞自动修复，给出修复建议并提供修复代码，帮助更多开发人员提高研发效率。在腾讯混元大模型的支持下，漏洞修复插件通过精调后部署的私有化模型，实现了在帐密硬编码、SQL注入、命令注入等漏洞类型的修复建...
他在技术领域工作近 20 余年，从独立开发者做到了技术专家，也管过上百人团队，他从价值对齐，技术层次，行动建议等三个方面，提供了一些实用、中肯的经验总结。
在2月16日凌晨，OpenAI首款文本生成视频模型Sora正式亮相，迅速在网络上引发广泛关注。对于Sora背后的技术原理，网络上已经充斥着各种分析和猜测，其中大多数分析都是从技术报告入手，对于普通读者来说难度相对较高。为了使技术原理更加通俗易懂，本文将从文本生成图像到文本生成视频的技术演进角度进行剖析，解读从AE、...
最近AI圈最火的无疑是OpenAI在2月15日发布的Sora。Sora可以根据文本生成一分钟的高清视频，生成的视频画质、连续性、光影等都令人叹为观止，Sora无疑将视觉生成推到新的高度。本文将重点回答三个问题：（1）Sora的原理是什么？（2）Sora到底是不是世界模型？（3）Sora会影响哪些行业？
（1）内核、一些特权指令，例如填充页表、切换进程环境等，一般在ring0进行。内核态包括了异常向量表（syscall、中断等）、内存管理、调度器、文件系统、网络、虚拟化、驱动等。
近日，NeurIPS 2023（Neural Information Processing Systems）神经信息处理系统大会于公布论文录用结果，腾讯TGW网关团队、腾讯DDoS防护团队、清华大学联合发表的论文“Metis: Understanding and Enhancing In-Network Regular Expressions”成功入选，并获得学术界和工业界的高度评价。
GPTs 是 OpenAI 在2023年11月发布的新版本，具有可定制性和完成特定任务的强大功能。它提供了一种新的方式来使用ChatGPT，可以让用户根据自己的需求定制化，并与其他用户共享。
大模型（LLM）相关理论研究与工程实践随着 GPT3 的发布，在学术界、工业界大爆发，备受各行各业关注，并涌现出一些赋能行业、促进生产力、生产关系变革的实践。GPT3 [1] 以及斯坦福计算机学院近 100+ 教授联名论文 [2] 将大模型列为第三轮 AI 浪潮，相对于传统的机器学习与深度学习，以 GPT3 为例的大模型涌现出处理各类...
近期，第四届中国云计算基础架构开发者大会（China Cloud Computing Infrastructure Developer Conference – 简称 CID）在深圳举办。本届 CID 大会聚焦业界最前沿的云计算基础架构技术成果，围绕基础架构技术领域的技术交流，展示先进技术在行业中的典型实践。在主论坛上，作者以《云原生场景下内存多级卸载落地实践》为...
OpenAI近期召开了开发者大会，同时也发布和开放了一些新的功能特性，比如新版本GPT-4 Turbo，支持128k上下文，知识截止更新到2023年4月，视觉能力、DALL·E3，文字转语音TTS等等全都对API开放，GPTs商店已经对Plus账户开放。本文将对OpenAI截止到目前的大部分开放API能力进行介绍，注意的是这里使用的账号必须是绑定了信...
Git 是 Linux 作者 Linus 的一个作品。2002 年他还在使用 Bitkeeper 作为 Linux 内核的版本管理，但因为它是 Copyright 有版权的软件备受质疑，然后 Andrew Tridgell 对 Bitkeeper 进行逆向工程，导致 BitMover 要回收 Linux 开发者的 Bitkeeper 的免费使用权，Linus 一怒之下花了 10 天写出了 Git。
Modular 公司在 9 月正式对外发布了 Mojo，这是一门面向 AI 领域的新型编程语言，号称比 python 快 68000 倍，而且会“着火”，真有那么猛吗？跟随着这篇文章咱来一探究竟......
前段时间 ChatGPT 进行了一轮重大更新：多模态上线，能说话，会看图！微软发了一篇长达 166 页的 GPT-4V 测评论文，一时间又带起了一阵多模态的热议，随后像是 LLaVA-1.5、CogVLM、MiniGPT-5 等研究工作紧随其后，到处刷屏。大模型的多模态能力到底是怎么来的？今天来分享一下多模态相关的一些工作和个人的理解。
全球推荐系统领域顶级会议ACM RecSys于9月18-22日在新加坡举行。东北大学与腾讯微信看一看团队针对推荐系统中用户留存优化的最新研究论文“Interpretable User Retention Modeling in Recommendation” 获得大会最佳短文奖（Best Short Paper Award）。该论文由入选2022犀牛鸟精英人才计划的丁蕊同学在学界导师杨晓春教授...
随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。从今年 4 月 Langchain 被爆出在野 0day 漏洞开始，各类安全问题不断出现。腾讯安全平台部将持续关注大模型的应用安全，详细解读在大模型应...
1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节：tokenizer、位置编码、Layer Normalization、激活函数等。2. 大语言模型的分布式训练技术：数据并行、张量模型并行、流水线并行、3D 并行、零冗余优化器 ZeRO、CPU 卸载技术 ZeRo-offload、混合精度训练、激活重计算技术、Flash Attention、Paged Attention。3. 大语...
