pintos-os.org Git - pspp/blob - tests/libpspp/float-format.at

   1 dnl PSPP - a program for statistical analysis.
   2 dnl Copyright (C) 2017 Free Software Foundation, Inc.
   3 dnl
   4 dnl This program is free software: you can redistribute it and/or modify
   5 dnl it under the terms of the GNU General Public License as published by
   6 dnl the Free Software Foundation, either version 3 of the License, or
   7 dnl (at your option) any later version.
   8 dnl
   9 dnl This program is distributed in the hope that it will be useful,
  10 dnl but WITHOUT ANY WARRANTY; without even the implied warranty of
  11 dnl MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12 dnl GNU General Public License for more details.
  13 dnl
  14 dnl You should have received a copy of the GNU General Public License
  15 dnl along with this program.  If not, see <http://www.gnu.org/licenses/>.
  16 dnl
  17 AT_BANNER([floating point formats])
  18
  19 AT_SETUP([floating point format conversions])
  20 AT_DATA([float-format.txt], [dnl
  21 # Each of the tests below checks that conversion between
  22 # floating-point formats works correctly.  Comparisons that use ==
  23 # require that conversion from any format on the line to any other
  24 # format on the line work losslessly.  Comparisons that use => only
  25 # check that conversions work losslessly in the given direction.
  26
  27 # Key to format names:
  28 # isl: IEEE single-precision, little endian
  29 # isb: IEEE single-precision, big endian
  30 # idl: IEEE double-precision, little endian
  31 # idb: IEEE double-precision, big endian
  32 # vf: VAX F
  33 # vd: VAX D
  34 # vg: VAX G
  35 # zs: Z architecture short
  36 # zl: Z architecture long
  37 # x: hexadecimal digits
  38
  39 # IEEE special values.
  40  0 == isb('00000000')
  41 x('Infinity') == isb('7f800000')
  42 x('-Infinity') == isb('ff800000')
  43 x('NaN:') => isb('7f800001')            # NaN requires nonzero fraction.
  44 x('NaN:e000000000000000') == isb('7ff00000') == idb('7ffe000000000000')
  45 x('NaN:5a5a5e0000000000') == isb('7fad2d2f') == idb('7ff5a5a5e0000000')
  46 x('NaN:975612abcdef4000') == idb('7ff975612abcdef4')
  47 x('-NaN:e000000000000000') == isb('fff00000') == idb('fffe000000000000')
  48 x('-NaN:5a5a5e0000000000') == isb('ffad2d2f') == idb('fff5a5a5e0000000')
  49 x('-NaN:975612abcdef4000') == idb('fff975612abcdef4')
  50
  51 # PSPP special values.
  52 x('Missing') == isb('ff7fffff') == idb('ffefffffffffffff') == isl('ffff7fff') == idl('ffffffffffffefff') == vf('ffffffff') == vd('ffffffffffffffff') == vg('ffffffffffffffff') == zs('ffffffff') == zl('ffffffffffffffff')
  53 x('Lowest') == isb('ff7ffffe') == idb('ffeffffffffffffe') == isl('feff7fff') == idl('feffffffffffefff') == vf('fffffeff') == vd('fffffeffffffffff') == vg('fffffeffffffffff') == zs('fffffffe') == zl('fffffffffffffffe')
  54 x('Highest') == isb('7f7fffff') == idb('7fefffffffffffff') == isl('ffff7f7f') == idl('ffffffffffffef7f') == vf('ff7fffff') == vd('ffffffffff7fffff') == vg('ffffffffff7fffff') == zs('7fffffff') == zl('7fffffffffffffff')
  55
  56 # From Wikipedia.
  57 0.15625 == isb('3e200000')
  58 -118.625 == isb('c2ed4000')
  59
  60 # http://www.psc.edu/general/software/packages/ieee/ieee.html
  61 x('NaN:0400000000000000') == isb('7f820000')
  62 x('-NaN:2225540000000000') == isb('ff9112aa')
  63 2 == isb('40000000')
  64 6.5 == isb('40d00000')
  65 -6.5 == isb('c0d00000')
  66 x('.4p-124') == isb('00800000')
  67 x('.2p-124') == isb('00400000')
  68
  69 # Using converter at http://babbage.cs.qc.edu/IEEE-754/Decimal.html
  70 # plus Emacs 'calc' to convert decimal to hexadecimal
  71 x('.7b74bc6a7ef9db23p8') => isb('42f6e979')             # 123.456
  72 x('.7b74bc6a7ef9db23p8') => idb('405edd2f1a9fbe77')
  73 x('.817427d2d4642004p-12') => isb('39017428')           # .0001234567
  74 x('.817427d2d4642004p-12') => idb('3f202e84fa5a8c84')
  75 x('.446c3b15f9926688p168') => isb('7f800000')           # 1e50; overflow
  76 x('.446c3b15f9926688p168') => idb('4a511b0ec57e649a')
  77
  78 # From multiple editions of the z/Architecture Principles of Operation
  79 # manual.
  80               1.0 == zs('41100000') == isb('3f800000')
  81               0.5 == zs('40800000') == isb('3f000000')
  82        x('.4p-4') == zs('3f400000') == isb('3c800000')
  83                 0 == zs('00000000') == isb('00000000')
  84                      zs('80000000') == isb('80000000')
  85               -15 == zs('c1f00000') == isb('c1700000')
  86 # x('.ffffffp252') == zs('7fffffff')
  87       x('.3b4p8') == zs('423b4000')
  88      x('.1p-256') == zs('00100000')
  89      x('.4p-124') == zs('21400000') == isb('00800000')
  90      x('.8p-148') == zs('1b800000') == isb('00000001')
  91 # x('.ffffffp128') == zs('60ffffff') == isb('7f7fffff')
  92      x('.1p-256') == zs('00100000')
  93      x('.1p-256') => isb('00000000')              # Underflow to zero.
  94  x('.ffffffp248') == zs('7effffff')
  95  x('.ffffffp248') => isb('7f800000')              # Overflow to +Infinity.
  96
  97             x('.4p-1020') => zl('0000000000000000')     # Underflow to zero.
  98             x('.4p-1020') == idb('0010000000000000')
  99             x('.4p-1072') => zl('0000000000000000')     # Underflow to zero.
 100             x('.4p-1072') => idb('0000000000000001')
 101 x('.fffffffffffff8p1024') => zl('7fffffffffffffff')     # Overflow to maxval.
 102 x('.fffffffffffff8p1024') => idb('7fefffffffffffff')
 103             x('.1p-256') == zl('0010000000000000') == idb('2fb0000000000000')
 104  x('.ffffffffffffffp248') == zl('7effffffffffffff')
 105  x('.ffffffffffffffp248') => idb('4f70000000000000')    # Loses precision.
 106 ])
 107 AT_CHECK(
 108   [sed 's/#.*//
 109 s/^[    ]*//
 110 s/[     ]*$//
 111 /^$/d
 112 s/^\(..*\)$/DEBUG FLOAT FORMAT \1./' < float-format.txt > float-format.sps])
 113 AT_CHECK([pspp --testing-mode -O format=csv float-format.sps])
 114 AT_CLEANUP