yang · 10月9日

ARM NEON 汇编与intrinsics编程

1 简介
ARM NEON编程主要有两种最常用的方式手写汇编和intrinsics。本文将对比NEON汇编与NEON intrinsics编程的优缺点。

2 NEON汇编与intrinsics
NEON汇编与intrinsics各有优缺点:

NEON 汇编NEON intrinsic
性能对于指定平台,汇编总是呈现最好性能。现在的编译器已经能得到媲美手工汇编的性能。
可移植性Arm v7-A/v8-A平台 具有不同的汇编格式。即使在Arm v8-A平台,汇编程序可能也需要针对Cortex A53/A57微架构做出不同调整,才能呈现最好性能。选择合适的编译器选项,一次编程即可以很容易实现跨平台并针对该平台微架构调整性能,例如Arm v7-A Cortex A9/A7/A15和Arm v8-A Cortex A53/A57。
可维护性相比C语言,较难编程,可读性较差跟C语言类似,比较容易编程与维护

但实际情况远远比这些复杂很多,特别是涉及到ARM v7-A/v8-A跨平台的时候。下面我们结合实例做一些更深入的分析。

2.1 编程
对于初学者来说,intrinsics比较易学易用。但是对于有汇编经验的开发者来说,可能更熟悉NEON汇编编程,切换到intrinsics反倒需要有个适应过程。下文列出了实际开发中的一些问题。

2.1.1 指令灵活性
从指令使用角度来说,汇编指令比intrinsics指令更灵活,主要体现在数据加载/存储上,比如下例:

  • Intrinsics指令

    • 加载数据到一个64位寄存器 vld1_s8/u8/s16/u16/s32…etc
    • 加载数据到一个128位寄存器vld1q_s8/u8/s16/u16/s32…etc
  • ARM v7-A汇编
VLD1 { Dd}, [Rn]
VLD1 { Dd, D(d+1) }, [Rn]
VLD1 { Dd, D(d+1), D(d+2)}, [Rn]
VLD1 { Dd, D(d+1), D(d+2), D(d+3) }, [Rn]
  • ARM v8-A汇编
LD1 { <Vt>.<T}, [<Xn|SP>]
LD1 { <Vt>.<T>, <Vt2>.<T>}, [<Xn|SP>]
LD1 { <Vt>.<T>, <Vt2>.<T>, <Vt3>.<T> }, [<Xn|SP>]
LD1 { <Vt>.<T>, <Vt2>.<T>, <Vt3>.<T>, <Vt4>.<T> }, [<Xn|SP>]

这个问题主要针对现在,相信随着编译器的升级这些问题会逐渐解决的。
在一些情况下,有的编译器已经能把两条指令解析成一条汇编指令,比如:
vld1.png
因此,我们有理由由相信,随着ARM v8-A编译器的不断升级,intrinsics指令会完善到跟汇编指令一样灵活的。

2.1.2 寄存器分配

NEON汇编编程时,需要自己分配寄存器,用户必须清楚寄存器的使用情况。而Intrinsics编程的一个好处就是,用户只需要定义变量即可,编译器会自动分配寄存器。这是优点,但有时也会变成弱点。实践证明,因为ARM v7-A 只有16个128位NEON寄存器, 在intrinsics编程时,如果用户同时使用过多的NEON寄存器,会导致gcc编译器的寄存器分配问题。主要表现是编译器会把很多数据存储到堆栈中,这样会极大的影响程序性能。因此用户在使用intrinsics编程时要注意这个问题。在性能出现异常时(比如C程序的性能比NEON程序的性能要好),检查反汇编,看是否有寄存器分配的问题出现。在ARM64中,有32个128位NEON寄存器,这个问题的影响大大减弱。

2.2 性能与编译器

在同一平台下,NEON汇编的性能与编译器无关,只由NEON的实现方式决定。好处是用户在调整代码时,用户可以预测、控制自己程序的性能,但没有惊喜。
NEON intrinsics 的性能则极大的依赖于编译器,不同的编译器,性能可能有极大的差别。一般来说,越老版本的编译器,性能越差。如果用户需要保留对老版本编译器兼容性时,需要慎重考虑使用intrinsics。此外,当用户优化代码细节的时候,编译器的介入,使用户很难预测程序性能的变化,但有时候会有惊喜,有时intrinsics的性能会比汇编的性能要好。尽管很少见,但确实存在。
编译器主要对优化NEON程序造成影响。下图是NEON实现及优化的一般流程:

neon.png

对于NEON汇编或是intrinsics来讲,实现流程是一样的,编程——调试——测试。但是调优的步骤是不一样的。
NEON汇编的调优方式主要有:
• 改变实现方式,比如改变所用指令,调整并行方式。
• 调整指令顺序,以降低数据依赖性
• 上文第二章所介绍的方式都可以尝试
在汇编调优时,最精细方式是:
• 确定汇编指令数目和指令的时序
• 使用PMU (Performance Monitoring Unit)测量程序执行的周期数
• 根据使用指令的时序,调整程序,尽量减少指令延时
这种方式的缺点是,针对指定微架构的调整,换到另外的平台性能不一定会好。经常花费很大的工作量而只能取得很小的性能提升。
NEON intrinsics的调优则比较困难,
• 尝试NEON汇编所用的调优方式,然后
• 观察反汇编,看看数据依赖性、寄存器使用等情况
• 判断优化效果是否达到预期, 如果符合预期则工作结束。此时,需要测试多种编译器,检查性能的异同。
在使用intrinsics转换ARM v7-A的汇编时,优化效果判断比较简单,只要intrinsics性能接近汇编性能即可。但是,在使用intrinsics优化ARM v8-A的代码时,我们没有性能参考的对象,较难判断代码是否调整到最优状态了。可能会有疑问,会不会汇编实现的性能会更好?但随着整个ARM v8-A环境的成熟,这个问题带来的影响会越来越小。另外,如果更看重intrinsics的其它优点,对性能也不是锱铢必较的话,这个问题的影响也不大。
2.3 跨平台与可移植性
现在,现有的大部分NEON汇编代码只能运行在ARM v7-A或是ARM v8-A AArch32模式的平台上。想要运行在ARM v8-A AArch64模式的平台,我们必须重写代码,这带来了很大的工作量。这时,NEON intrinsics代码的好处就体现出来了,在ARM v8-A AArch64模式下,我们可以直接运行这些代码,减少了重写代码的工作量。同时,我们可以只维护一套代码,这样也减少了维护的工作量。
然而,由于ARM v7-A/ARM v8-A的硬件资源不同,即使用intrinsics,有时我们也需要两套代码。Ne10中FFT实现就是一个例子:

// radix 4 butterfly with twiddles
scratch[0].r = scratch_in[0].r;
scratch[0].i = scratch_in[0].i;
scratch[1].r = scratch_in[1].r * scratch_tw[0].r - scratch_in[1].i * scratch_tw[0].i;
scratch[1].i = scratch_in[1].i * scratch_tw[0].r + scratch_in[1].r * scratch_tw[0].i;
scratch[2].r = scratch_in[2].r * scratch_tw[1].r - scratch_in[2].i * scratch_tw[1].i;
scratch[2].i = scratch_in[2].i * scratch_tw[1].r + scratch_in[2].r * scratch_tw[1].i;
scratch[3].r = scratch_in[3].r * scratch_tw[2].r - scratch_in[3].i * scratch_tw[2].i;
scratch[3].i = scratch_in[3].i * scratch_tw[2].r + scratch_in[3].r * scratch_tw[2].i;

上述代码描述了32位浮点复数FFT算法的基本元——基4蝶形运算。从代码中我们可以看出:
• 如果在一次循环中,两个基4蝶形运算并行,需要20个 64位寄存器。
• 如果在一次循环中,四个基4蝶形运算并行,需要20个 128位寄存器。
由于ARM v7-A只有16个128位寄存器,因此,该平台的FFT实现仅能一次循环两个基4蝶形运算并行。而ARM v8-A有32个128位寄存器,该平台的FFT实现能一次循环四个基4蝶形运算并行。因此,即使用intrinsics,我们也需要两套代码。
上例可以说明,在实现一套代码跨ARM v7-A/v8-A平台时,我们需要注意一些类似的特例。

2.4 将来
上面已经分析了NEON汇编与intrinsics的很多问题,但是这些问题都是暂时的。长远来看,使用intrinsics还是更好。Intrinsics能带来硬件以及编译器发展的好处。经典算法只要实现一次即可,不用随着硬件的升级而重新编程,大大减少了工作量。

2.5 总结
结合实例,上文对NEON汇编和intrinsics做了一些分析。总体来说,使用intrinsics利大于弊。特别是与汇编相比,intrinsics更容易编程,且能够更好地兼容ARMv7-A/ARMv8-A。
下面再总结一下NEON intrinsics使用时的一些注意事项:
• 使用的寄存器数量
• 编译器选择
• 查看反汇编

3 结束
本文通过实际程序分析了NEON汇编与intrinsics的优缺点。希望能对用户在NEON实际开发中有些借鉴意义。

2 阅读 55
推荐阅读
0 条评论
目录
qrcode
关注微信服务号
实时接收新的回答提醒和评论通知