tyler.durden
/
test262
mirror of https://github.com/tc39/test262.git
1
0
Fork 0
Code Issues Packages Projects Releases Wiki Activity

add more cases for float16 coercions

This commit is contained in:
Kevin Gibbons 2024-03-12 11:22:24 -07:00 committed by Philip Chimento
parent db7c0d1499
commit c1d09be840
1 changed files with 256 additions and 91 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

187
harness/byteConversionValues.js
View File

@ -51,7 +51,22 @@ var byteConversionValues = {
-4294967296, // - ( 2 ** 32 )
Infinity,
-Infinity,
0
0,
2049, // an integer which rounds down under ties-to-even when cast to float16
2051, // an integer which rounds up under ties-to-even when cast to float16
0.00006103515625, // smallest normal float16
0.00006097555160522461, // largest subnormal float16
5.960464477539063e-8, // smallest float16
2.9802322387695312e-8, // largest double which rounds to 0 when cast to float16
2.980232238769532e-8, // smallest double which does not round to 0 when cast to float16
8.940696716308594e-8, // a double which rounds up to a subnormal under ties-to-even when cast to float16
1.4901161193847656e-7, // a double which rounds down to a subnormal under ties-to-even when cast to float16
1.490116119384766e-7, // the next double above the one on the previous line one
65504, // max finite float16
65520, // smallest double which rounds to infinity when cast to float16
65519.99999999999, // largest double which does not round to infinity when cast to float16
0.000061005353927612305, // smallest double which rounds to a non-subnormal when cast to float16
0.0000610053539276123 // largest double which rounds to a subnormal when cast to float16
],
expected: {
@ -96,7 +111,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
1, // 2049
3, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
-32, // 65504
-16, // 65520
-17, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint8: [
127, // 127
@ -139,7 +169,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
1, // 2049
3, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
224, // 65504
240, // 65520
239, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint8Clamped: [
127, // 127
@ -182,7 +227,22 @@ var byteConversionValues = {
0, // -4294967296
255, // Infinity
0, // -Infinity
0
0, // 0
255, // 2049
255, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
255, // 65504
255, // 65520
255, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Int16: [
127, // 127
@ -225,7 +285,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
-32, // 65504
-16, // 65520
-17, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint16: [
127, // 127
@ -268,7 +343,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Int32: [
127, // 127
@ -311,7 +401,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Uint32: [
127, // 127
@ -354,7 +459,22 @@ var byteConversionValues = {
0, // -4294967296
0, // Infinity
0, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0, // 0.00006103515625
0, // 0.00006097555160522461
0, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
0, // 2.980232238769532e-8
0, // 8.940696716308594e-8
0, // 1.4901161193847656e-7
0, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519, // 65519.99999999999
0, // 0.000061005353927612305
0 // 0.0000610053539276123
],
Float16: [
127, // 127
@ -397,7 +517,22 @@ var byteConversionValues = {
-Infinity, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
0, // 0
2048, // 2049
2052, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
0, // 2.9802322387695312e-8
5.960464477539063e-8, // 2.980232238769532e-8
1.1920928955078125e-7, // 8.940696716308594e-8
1.1920928955078125e-7, // 1.4901161193847656e-7
1.7881393432617188e-7, // 1.490116119384766e-7
65504, // 65504
Infinity, // 65520
65504, // 65519.99999999999
0.00006103515625, // 0.000061005353927612305
0.00006097555160522461 // 0.0000610053539276123
],
Float32: [
127, // 127
@ -440,7 +575,22 @@ var byteConversionValues = {
-4294967296, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
2.9802322387695312e-8, // 2.9802322387695312e-8
2.9802322387695312e-8, // 2.980232238769532e-8
8.940696716308594e-8, // 8.940696716308594e-8
1.4901161193847656e-7, // 1.4901161193847656e-7
1.4901161193847656e-7, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65520, // 65519.99999999999
0.000061005353927612305, // 0.000061005353927612305
0.000061005353927612305 // 0.0000610053539276123
],
Float64: [
127, // 127
@ -483,7 +633,22 @@ var byteConversionValues = {
-4294967296, // -4294967296
Infinity, // Infinity
-Infinity, // -Infinity
0
0, // 0
2049, // 2049
2051, // 2051
0.00006103515625, // 0.00006103515625
0.00006097555160522461, // 0.00006097555160522461
5.960464477539063e-8, // 5.960464477539063e-8
2.9802322387695312e-8, // 2.9802322387695312e-8
2.980232238769532e-8, // 2.980232238769532e-8
8.940696716308594e-8, // 8.940696716308594e-8
1.4901161193847656e-7, // 1.4901161193847656e-7
1.490116119384766e-7, // 1.490116119384766e-7
65504, // 65504
65520, // 65520
65519.99999999999, // 65519.99999999999
0.000061005353927612305, // 0.000061005353927612305
0.0000610053539276123 // 0.0000610053539276123
]
}
};