超神经HyperAI · 1月22日

【Triton 教程】triton.jit

低像素.jpg
Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境,以高效编写自定义 DNN 计算内核,并能够在现代 GPU 硬件上以最大吞吐量运行。

更多 Triton 中文文档可访问 →https://triton.hyper.ai/

triton.jit(fn: T)→ JITFunction[T]
triton.jit(*, version=None, repr: Callable | None = None, launch_metadata: Callable | None = None, do_not_specialize: Iterable[int] | None = None, debug: bool | None = None, noinline: bool | None = None)→ Callable[[T], JITFunction[T]]

使用 Triton 编译器的 JIT 编译函数的装饰器。

注意:

  • 当调用 JIT 编译的函数时,如果参数具有 .data_ptr() 方法和 .dtype 属性,则会隐式转换为指针。

注意:

  • 此函数将在 GPU 上编译和运行。它只能访问以下内容:

    1. Python 原语
    2. Triton 包内的内置函数
    3. 此函数的参数
    4. 其他 JIT 编译的函数

参数:

  • fn (Callable) - 要进行 JIT 编译的函数
推荐阅读
关注数
667
内容数
274
链接人工智能新场景
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息