PyTorch是当今最受欢迎的AI框架之一。它由Meta(前Facebook)开发并于2017年开源,具有简洁友好的"Python式"接口。这种易用性使其特别适合...
by Team PyTorch: Horace He, Driss Guessous, Yanbo Liang, Joy Dong
教程链接[链接]torch.compile 的详细示例解析本教程旨在涵盖 PyTorch 编译器的以下几个方面：基本概念（Just-In-Time 编译器、Ahead-of-...
博客链接：[链接]最近了解torch.compile的时候，发现清华推出了一个可以帮助我们理解torch.compile到底对我们的代码做了什么优化的库dep...
在当代深度学习领域，PyTorch 已成为开发和训练神经网络的主要框架之一。然而随着模型复杂度的增加和数据规模的扩大，开发者常常面临各...
在PyTorch 2.4之后，我们可以尝试使用PyTorch开发的异步Checkpoint保存功能，这个功能是和IBM联合开发的，在7B的大模型训练中，Checkpoi...
在vllm里面看到flash attention包了一层@torch.library.custom_op装饰器（[链接]），查阅了一下资料，发现这个是torch 2.4之后的新featu...
本文主要是参考 arlencai 大佬的博文，对于cneternet在ncnn平台移植的实操和分析，先mark一下，准备后续有空闲尝试将这一思路在nvidia的...
JetStream 是用于在 XLA 设备 (TPU) 上的大型语言模型 (LLM) 推断的吞吐量和内存优化引擎。
在 Cloud TPU Pod 上开始分布式训练之前，请验证您的模型可在单个 v2-8 或 v3-8 Cloud TPU 设备上正常训练。如果您的模型在单个设备上出...
一直想系统看一下某个课程系统和科学的学习下 CUDA ，感觉 CUDA-MODE 这个课程能满足我的需求。这个课程是几个 PyTorch 的 Core Dev 搞...
继 ChatGPT 后，OpenAI 又发布了爆炸级产品——Sora 文生视频模型，当其他模型还在努力突破几秒内的连贯性问题时，Sora 已经将视频时长拉...
北京时间 12 月 6 日，苹果机器学习研究中心 (Apple machine learning research) 在 GitHub 上开源 MLX。
生物传感是人类与机器、人类与环境、机器与环境交互的重要媒介。其中，触觉能够实现精准的环境感知，帮助使用者与复杂环境交互。 为模仿...
汉明距离（Hamming Distance），编辑距离（Levenshtein Distance），欧氏距离（Euclidean Distance），曼哈顿距离（Manhattan Distance）等
文本匹配多用于计算两个文本之间的相似度，该示例会基于 ESimCSE 实现一个无监督的文本匹配模型的训练流程。文本匹配多用于计算两段「自...
在前期发布的教程 《CSK6 AI模型部署教程》中，我们使用一张静态的图片数据作为模型输入送入图像分类模型就行推理。这节课，我们将使用C...
本次任务我们将学习来自TOP选手“swg-lhl”的冠军建模方案，该方案中采用的模型是TCNN+RNN。
CSK6 LNN系列教程本系列教程主要介绍在CSK6板卡上进行AI模型部署。预计分为以下几个部分：LNN部署及示例工程仿真 (申请开发板必看)CSK6...
AI模型裁剪优化教程本次课程由聆思科技算法工程师王美懿讲解，通过本课程我们将会了解：模型需满足什么要求如何模型进行合理裁剪以resne...
