tyler.durden
/
test262
mirror of https://github.com/tc39/test262.git
1
0
Fork 0
Code Issues Packages Projects Releases Wiki Activity

add more cases for float16 coercions

This commit is contained in:
Kevin Gibbons 2024-03-12 11:22:24 -07:00 committed by Philip Chimento
parent db7c0d1499
commit c1d09be840
1 changed files with 256 additions and 91 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

347
harness/byteConversionValues.js
View File

@ -51,7 +51,22 @@ var byteConversionValues = {
-4294967296, // - ( 2 ** 32 )
Infinity,
-Infinity,
0
0,
2049, // an integer which rounds down under ties-to-even when cast to float16
2051, // an integer which rounds up under ties-to-even when cast to float16
0.00006103515625, // smallest normal float16
0.00006097555160522461, // largest subnormal float16
5.960464477539063e-8, // smallest float16
2.9802322387695312e-8, // largest double which rounds to 0 when cast to float16
2.980232238769532e-8, // smallest double which does not round to 0 when cast to float16
8.940696716308594e-8, // a double which rounds up to a subnormal under ties-to-even when cast to float16
1.4901161193847656e-7, // a double which rounds down to a subnormal under ties-to-even when cast to float16
1.490116119384766e-7, // the next double above the one on the previous line one
65504, // max finite float16
65520, // smallest double which rounds to infinity when cast to float16
65519.99999999999, // largest double which does not round to infinity when cast to float16
0.000061005353927612305, // smallest double which rounds to a non-subnormal when cast to float16
0.0000610053539276123 // largest double which rounds to a subnormal when cast to float16
],
expected: {
@ -96,7 +111,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
1, // 2049
3, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
-32, // 65504
-16, // 65520
-17, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint8: [
127, // 127
@ -139,7 +169,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
1, // 2049
3, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
224, // 65504
240, // 65520
239, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint8Clamped: [
127, // 127
@ -182,7 +227,22 @@ var byteConversionValues = {
0, // -4294967296
255, // Infinity
0, // -Infinity
0
0, // 0
255, // 2049
255, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
255, // 65504
255, // 65520
255, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Int16: [
127, // 127
@ -225,7 +285,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
-32, // 65504
-16, // 65520
-17, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint16: [
127, // 127
@ -268,7 +343,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Int32: [
127, // 127
@ -311,7 +401,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint32: [
127, // 127
@ -354,93 +459,138 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Float16: [
127, // 127
128, // 128
32768, // 32767
32768, // 32768
Infinity, // 2147483647
Infinity, // 2147483648
255, // 255
256, // 256
Infinity, // 65535
Infinity, // 65536
Infinity, // 4294967295
Infinity, // 4294967296
Infinity, // 9007199254740991
Infinity, // 9007199254740992
1.099609375, // 1.1
0.0999755859375, // 0.1
0.5, // 0.5
0.5, // 0.50000001,
0.60009765625, // 0.6
0.7001953125, // 0.7
NaN, // undefined
-1, // -1
-0, // -0
-0.0999755859375, // -0.1
-1.099609375, // -1.1
NaN, // NaN
-127, // -127
-128, // -128
-32768, // -32767
-32768, // -32768
-Infinity, // -2147483647
-Infinity, // -2147483648
-255, // -255
-256, // -256
-Infinity, // -65535
-Infinity, // -65536
-Infinity, // -4294967295
-Infinity, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
127, // 127
128, // 128
32768, // 32767
32768, // 32768
Infinity, // 2147483647
Infinity, // 2147483648
255, // 255
256, // 256
Infinity, // 65535
Infinity, // 65536
Infinity, // 4294967295
Infinity, // 4294967296
Infinity, // 9007199254740991
Infinity, // 9007199254740992
1.099609375, // 1.1
0.0999755859375, // 0.1
0.5, // 0.5
0.5, // 0.50000001,
0.60009765625, // 0.6
0.7001953125, // 0.7
NaN, // undefined
-1, // -1
-0, // -0
-0.0999755859375, // -0.1
-1.099609375, // -1.1
NaN, // NaN
-127, // -127
-128, // -128
-32768, // -32767
-32768, // -32768
-Infinity, // -2147483647
-Infinity, // -2147483648
-255, // -255
-256, // -256
-Infinity, // -65535
-Infinity, // -65536
-Infinity, // -4294967295
-Infinity, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0, // 0
2048, // 2049
2052, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
5.960464477539063e-8, // 2.980232238769532e-8
1.1920928955078125e-7, // 8.940696716308594e-8
1.1920928955078125e-7, // 1.4901161193847656e-7
1.7881393432617188e-7, // 1.490116119384766e-7
65504, // 65504
Infinity, // 65520
65504, // 65519.99999999999
0.00006103515625, // 0.000061005353927612305
0.00006097555160522461 // 0.0000610053539276123
],
Float32: [
127, // 127
128, // 128
32767, // 32767
32768, // 32768
2147483648, // 2147483647
2147483648, // 2147483648
255, // 255
256, // 256
65535, // 65535
65536, // 65536
4294967296, // 4294967295
4294967296, // 4294967296
9007199254740992, // 9007199254740991
9007199254740992, // 9007199254740992
1.100000023841858, // 1.1
0.10000000149011612, // 0.1
0.5, // 0.5
0.5, // 0.50000001,
0.6000000238418579, // 0.6
0.699999988079071, // 0.7
NaN, // undefined
-1, // -1
-0, // -0
-0.10000000149011612, // -0.1
-1.100000023841858, // -1.1
NaN, // NaN
-127, // -127
-128, // -128
-32767, // -32767
-32768, // -32768
-2147483648, // -2147483647
-2147483648, // -2147483648
-255, // -255
-256, // -256
-65535, // -65535
-65536, // -65536
-4294967296, // -4294967295
-4294967296, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
127, // 127
128, // 128
32767, // 32767
32768, // 32768
2147483648, // 2147483647
2147483648, // 2147483648
255, // 255
256, // 256
65535, // 65535
65536, // 65536
4294967296, // 4294967295
4294967296, // 4294967296
9007199254740992, // 9007199254740991
9007199254740992, // 9007199254740992
1.100000023841858, // 1.1
0.10000000149011612, // 0.1
0.5, // 0.5
0.5, // 0.50000001,
0.6000000238418579, // 0.6
0.699999988079071, // 0.7
NaN, // undefined
-1, // -1
-0, // -0
-0.10000000149011612, // -0.1
-1.100000023841858, // -1.1
NaN, // NaN
-127, // -127
-128, // -128
-32767, // -32767
-32768, // -32768
-2147483648, // -2147483647
-2147483648, // -2147483648
-255, // -255
-256, // -256
-65535, // -65535
-65536, // -65536
-4294967296, // -4294967295
-4294967296, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0, // 0
2049, // 2049
2051, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
2.9802322387695312e-8, // 2.9802322387695312e-8
2.9802322387695312e-8, // 2.980232238769532e-8
8.940696716308594e-8, // 8.940696716308594e-8
1.4901161193847656e-7, // 1.4901161193847656e-7
1.4901161193847656e-7, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65520, // 65519.99999999999
0.000061005353927612305, // 0.000061005353927612305
0.000061005353927612305 // 0.0000610053539276123
],
Float64: [
127, // 127
@ -483,7 +633,22 @@ var byteConversionValues = {
-4294967296, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
2.9802322387695312e-8, // 2.9802322387695312e-8
2.980232238769532e-8, // 2.980232238769532e-8
8.940696716308594e-8, // 8.940696716308594e-8
1.4901161193847656e-7, // 1.4901161193847656e-7
1.490116119384766e-7, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519.99999999999, // 65519.99999999999
0.000061005353927612305, // 0.000061005353927612305
0.0000610053539276123 // 0.0000610053539276123
]
}
};