最近在ARM板子上移植 QtWebEngine-5.9.1 的一个浏览器时遇到了浮点运算的错误的问题。主要就是指数运算和对数运算的结果出错,有时候直接赋值也会出错 assert(0.0625 > 0.f)会得到false。有没有哪位遇到过类似的问题?板子是 ARMv7 Contex-A9 ,配有 NEON和 VFP(with 32 or 64 double-word registers)。编译时配置为 Contex-A9 VFPv3-D16.
因为浏览器本身比较大,不太好确定是哪儿的问题。如果你怀疑是浮点相关的问题,可以先写一些相关的测试用例去测试浮点相关的计算是否有问题。再进一步分析。如果不是浮点运算的问题,那就是QtWebEngine的代码的问题了。我建议可以把出错的问题代码抽取成比较小的测试用例,把问题范围缩小再分析。