From 4087779220d1578c7b9ed791784764352c365a6a Mon Sep 17 00:00:00 2001 From: Kevin Gibbons Date: Sat, 20 Jan 2024 15:52:09 -0800 Subject: [PATCH] add Float16 to byteConversionValues --- harness/byteConversionValues.js | 43 +++++++++++++++++++++++++++++++++ 1 file changed, 43 insertions(+) diff --git a/harness/byteConversionValues.js b/harness/byteConversionValues.js index 07e1303edb..d602f3e213 100644 --- a/harness/byteConversionValues.js +++ b/harness/byteConversionValues.js @@ -356,6 +356,49 @@ var byteConversionValues = { 0, // -Infinity 0 ], + Float16: [ + 127, // 127 + 128, // 128 + 32768, // 32767 + 32768, // 32768 + Infinity, // 2147483647 + Infinity, // 2147483648 + 255, // 255 + 256, // 256 + Infinity, // 65535 + Infinity, // 65536 + Infinity, // 4294967295 + Infinity, // 4294967296 + Infinity, // 9007199254740991 + Infinity, // 9007199254740992 + 1.099609375, // 1.1 + 0.0999755859375, // 0.1 + 0.5, // 0.5 + 0.5, // 0.50000001, + 0.60009765625, // 0.6 + 0.7001953125, // 0.7 + NaN, // undefined + -1, // -1 + -0, // -0 + -0.0999755859375, // -0.1 + -1.099609375, // -1.1 + NaN, // NaN + -127, // -127 + -128, // -128 + -32768, // -32767 + -32768, // -32768 + -Infinity, // -2147483647 + -Infinity, // -2147483648 + -255, // -255 + -256, // -256 + -Infinity, // -65535 + -Infinity, // -65536 + -Infinity, // -4294967295 + -Infinity, // -4294967296 + Infinity, // Infinity + -Infinity, // -Infinity + 0 + ], Float32: [ 127, // 127 128, // 128