[PHI] Preliminary fix for elementwise broadcast int32 shape overflow

[Enigmatisms]

PR Category

Operator Mechanism

PR Types

Bug fixes

Description

修复了部分带有 broadcast 的 elementwise 操作中，shape inference使用 int32 导致大Tensor内出现溢出的问题，目前有如下几个算子得到了修复：

• bitwise_leftshift & bitwise_rightshift
• equal
• fmin
• hypot
• logical_or
• masked_fill
• functional.normalize
• functional.pairwise_distance

argsort 目前暂未测试，预计也可以完成修复，但现有设备显存不够，无法进行大Tensor测试。

此外，目前的fix只进行了最简单且与API正确性扫描结果相关的修正，实际发现库中还有很多使用int进行shape推导的地方。

示例

这里只给出几个例子，均是原来不正确，现在正确的单测：

bitwise_left_shift:

paddle.bitwise_left_shift(paddle.to_tensor([1], dtype = "uint8"), paddle.ones([4294967297], dtype = "uint8")) paddle.bitwise_left_shift(paddle.to_tensor([1], dtype = "int16"), paddle.ones([4294967297], dtype = "int16")) paddle.bitwise_left_shift(paddle.ones([4294967297], dtype = "uint8"), paddle.to_tensor([1], dtype = "uint8")) paddle.bitwise_left_shift(paddle.ones([4294967297], dtype = "int16"), paddle.to_tensor([1], dtype = "int16"))

fmin:

paddle.fmin(paddle.to_tensor([1], dtype = "int64"), paddle.ones([2281701379], dtype = "int64")) paddle.fmin(paddle.ones([2147483649], dtype = "int64"), paddle.to_tensor([1], dtype = "int64")) paddle.fmin(paddle.ones([2281701379], dtype = "int64"), paddle.to_tensor([1], dtype = "int64"))

masked_fill:

paddle.masked_fill(paddle.ones([4294967295], dtype = "float16"), paddle.ones([4294967295], dtype = "bool"), -0.7255859375)

性能分析

目前的改动都还没有到GPU kernel内部使用 int64 进行计算，故经过nsys profiling测试，没有发现显著性能差异。

Pcard-89620

[paddle-bot]

你的PR提交成功，感谢你对开源项目的贡献!
请关注后续CI自动化测试结果，详情请参考Paddle-CI手册。
Your PR has been submitted. Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.