Convert all Perl build tools to Python and remove Perl build dependency.
[pspp] / tests / language / data-io / data-reader.at
index 4156abf86908f2940e33d7dccf64891bcae2c4d7..47c145b27dade9bb51ea0824f42798d97f940766 100644 (file)
@@ -91,83 +91,137 @@ $3
 12-31-1999
 682
 ])
-   AT_DATA([make-binary.pl], [dnl
-use strict;
-use warnings;
+   AT_DATA([make-binary.py], [[
+#! /usr/bin/python3
+
+import struct
+import sys
+
+# This random number generator and the test for it below are drawn
+# from Park and Miller, "Random Number Generators: Good Ones are Hard
+# to Come By", Communications of the ACM 31:10 (October 1988).  It is
+# documented to function properly on systems with a 46-bit or longer
+# real significand, which includes systems that have 64-bit IEEE reals
+# (with 53-bit significand).  The test should catch any systems for
+# which this is not true, in any case.
+def my_rand(modulus):
+    global seed
+    a = 16807
+    m = 2147483647
+    tmp = a * seed
+    seed = tmp - m * (tmp // m)
+    return seed % modulus
+
+# Test the random number generator for reproducibility,
+# then reset the seed
+seed = 1
+for i in range(10000):
+    my_rand(1)
+assert seed == 1043618065
+seed = 1
 
 # ASCII to EBCDIC translation table
-our ($ascii2ebcdic) = ""
-. "\x00\x01\x02\x03\x37\x2d\x2e\x2f"
-. "\x16\x05\x25\x0b\x0c\x0d\x0e\x0f"
-. "\x10\x11\x12\x13\x3c\x3d\x32\x26"
-. "\x18\x19\x3f\x27\x1c\x1d\x1e\x1f"
-. "\x40\x5a\x7f\x7b\x5b\x6c\x50\x7d"
-. "\x4d\x5d\x5c\x4e\x6b\x60\x4b\x61"
-. "\xf0\xf1\xf2\xf3\xf4\xf5\xf6\xf7"
-. "\xf8\xf9\x7a\x5e\x4c\x7e\x6e\x6f"
-. "\x7c\xc1\xc2\xc3\xc4\xc5\xc6\xc7"
-. "\xc8\xc9\xd1\xd2\xd3\xd4\xd5\xd6"
-. "\xd7\xd8\xd9\xe2\xe3\xe4\xe5\xe6"
-. "\xe7\xe8\xe9\xad\xe0\xbd\x9a\x6d"
-. "\x79\x81\x82\x83\x84\x85\x86\x87"
-. "\x88\x89\x91\x92\x93\x94\x95\x96"
-. "\x97\x98\x99\xa2\xa3\xa4\xa5\xa6"
-. "\xa7\xa8\xa9\xc0\x4f\xd0\x5f\x07"
-. "\x20\x21\x22\x23\x24\x15\x06\x17"
-. "\x28\x29\x2a\x2b\x2c\x09\x0a\x1b"
-. "\x30\x31\x1a\x33\x34\x35\x36\x08"
-. "\x38\x39\x3a\x3b\x04\x14\x3e\xe1"
-. "\x41\x42\x43\x44\x45\x46\x47\x48"
-. "\x49\x51\x52\x53\x54\x55\x56\x57"
-. "\x58\x59\x62\x63\x64\x65\x66\x67"
-. "\x68\x69\x70\x71\x72\x73\x74\x75"
-. "\x76\x77\x78\x80\x8a\x8b\x8c\x8d"
-. "\x8e\x8f\x90\x6a\x9b\x9c\x9d\x9e"
-. "\x9f\xa0\xaa\xab\xac\x4a\xae\xaf"
-. "\xb0\xb1\xb2\xb3\xb4\xb5\xb6\xb7"
-. "\xb8\xb9\xba\xbb\xbc\xa1\xbe\xbf"
-. "\xca\xcb\xcc\xcd\xce\xcf\xda\xdb"
-. "\xdc\xdd\xde\xdf\xea\xeb\xec\xed"
-. "\xee\xef\xfa\xfb\xfc\xfd\xfe\xff";
-length ($ascii2ebcdic) == 256 || die;
-
-open (INPUT, '<', 'input.txt') or die "input.txt: open: $!\n";
-my (@data) = <INPUT> or die;
-close (INPUT) or die;
-chomp $_ foreach @data;
-
-our @records;
-
-$2
-
-sub a2e {
-    local ($_) = @_;
-    my ($s) = "";
-    foreach (split (//)) {
-        $s .= substr ($ascii2ebcdic, ord, 1);
-    }
-    return $s;
-}
-
-sub min {
-    my ($a, $b) = @_;
-    return $a < $b ? $a : $b
-}
-
-sub dump_records {
-    while (@records) {
-       my ($n) = min (int (rand (5)) + 1, scalar (@records));
-       my (@r) = splice (@records, 0, $n);
-       my ($len) = 0;
-       $len += length foreach @r;
-       print pack ("n xx", $len + 4);
-       print foreach @r;
-    }
-}
-])
-   AT_CHECK([$PERL make-binary.pl < input.txt > input.bin])
+ascii2ebcdic = (
+    0x00, 0x01, 0x02, 0x03, 0x37, 0x2d, 0x2e, 0x2f, 
+    0x16, 0x05, 0x25, 0x0b, 0x0c, 0x0d, 0x0e, 0x0f, 
+    0x10, 0x11, 0x12, 0x13, 0x3c, 0x3d, 0x32, 0x26, 
+    0x18, 0x19, 0x3f, 0x27, 0x1c, 0x1d, 0x1e, 0x1f, 
+    0x40, 0x5a, 0x7f, 0x7b, 0x5b, 0x6c, 0x50, 0x7d, 
+    0x4d, 0x5d, 0x5c, 0x4e, 0x6b, 0x60, 0x4b, 0x61, 
+    0xf0, 0xf1, 0xf2, 0xf3, 0xf4, 0xf5, 0xf6, 0xf7, 
+    0xf8, 0xf9, 0x7a, 0x5e, 0x4c, 0x7e, 0x6e, 0x6f, 
+    0x7c, 0xc1, 0xc2, 0xc3, 0xc4, 0xc5, 0xc6, 0xc7, 
+    0xc8, 0xc9, 0xd1, 0xd2, 0xd3, 0xd4, 0xd5, 0xd6, 
+    0xd7, 0xd8, 0xd9, 0xe2, 0xe3, 0xe4, 0xe5, 0xe6, 
+    0xe7, 0xe8, 0xe9, 0xad, 0xe0, 0xbd, 0x9a, 0x6d, 
+    0x79, 0x81, 0x82, 0x83, 0x84, 0x85, 0x86, 0x87, 
+    0x88, 0x89, 0x91, 0x92, 0x93, 0x94, 0x95, 0x96, 
+    0x97, 0x98, 0x99, 0xa2, 0xa3, 0xa4, 0xa5, 0xa6, 
+    0xa7, 0xa8, 0xa9, 0xc0, 0x4f, 0xd0, 0x5f, 0x07, 
+    0x20, 0x21, 0x22, 0x23, 0x24, 0x15, 0x06, 0x17, 
+    0x28, 0x29, 0x2a, 0x2b, 0x2c, 0x09, 0x0a, 0x1b, 
+    0x30, 0x31, 0x1a, 0x33, 0x34, 0x35, 0x36, 0x08, 
+    0x38, 0x39, 0x3a, 0x3b, 0x04, 0x14, 0x3e, 0xe1, 
+    0x41, 0x42, 0x43, 0x44, 0x45, 0x46, 0x47, 0x48, 
+    0x49, 0x51, 0x52, 0x53, 0x54, 0x55, 0x56, 0x57, 
+    0x58, 0x59, 0x62, 0x63, 0x64, 0x65, 0x66, 0x67, 
+    0x68, 0x69, 0x70, 0x71, 0x72, 0x73, 0x74, 0x75, 
+    0x76, 0x77, 0x78, 0x80, 0x8a, 0x8b, 0x8c, 0x8d, 
+    0x8e, 0x8f, 0x90, 0x6a, 0x9b, 0x9c, 0x9d, 0x9e, 
+    0x9f, 0xa0, 0xaa, 0xab, 0xac, 0x4a, 0xae, 0xaf, 
+    0xb0, 0xb1, 0xb2, 0xb3, 0xb4, 0xb5, 0xb6, 0xb7, 
+    0xb8, 0xb9, 0xba, 0xbb, 0xbc, 0xa1, 0xbe, 0xbf, 
+    0xca, 0xcb, 0xcc, 0xcd, 0xce, 0xcf, 0xda, 0xdb, 
+    0xdc, 0xdd, 0xde, 0xdf, 0xea, 0xeb, 0xec, 0xed, 
+    0xee, 0xef, 0xfa, 0xfb, 0xfc, 0xfd, 0xfe, 0xff)
+assert len(ascii2ebcdic) == 256
+
+def a2e(s):
+    return bytearray((ascii2ebcdic[ord(c)] for c in s))
+
+def dump_records(out, records):
+    while records:
+        n = min(my_rand(5) + 1, len(records))
+        r = records[:n]
+        records[:n] = []
+
+        count = sum((len(rec) for rec in r))
+        out.buffer.write(struct.pack(">H xx", count + 4))
+        for rec in r:
+            out.buffer.write(rec)
+
+data = []
+for line in open('input.txt', 'r'):
+    data += [line.rstrip('\r\n')]
+
+# MODE=BINARY
+out = open('binary.bin', 'w')
+for item in data:
+    reclen = struct.pack("<I", len(item))
+    out.buffer.write(reclen)
+    out.buffer.write(bytearray([ord(c) for c in item]))
+    out.buffer.write(reclen)
+out.close()
+    
+# MODE=360 /RECFORM=FIXED /LRECL=32
+out = open('fixed.bin', 'w')
+lrecl = 32
+for item in data:
+    s = item[:lrecl]
+    s += ' ' * (lrecl - len(s))
+    assert len(s) == 32
+    out.buffer.write(a2e(s))
+out.close()
+
+# MODE=360 /RECFORM=VARIABLE
+out = open('variable.bin', 'w')
+records = []
+for item in data:
+    records += [struct.pack('>H xx', len(item) + 4) + a2e(item)]
+dump_records(out, records)
+out.close()
+
+# MODE=360 /RECFORM=SPANNED
+out = open('spanned.bin', 'w')
+records = []
+for line in data:
+    r = []
+    while line:
+        n = min(my_rand(5), len(line))
+        r += [line[:n]]
+        line = line[n:]
+    for i, s in enumerate(r):
+        scc = (0 if len(r) == 1
+               else 1 if i == 0
+               else 2 if i == len(r) - 1
+               else 3)
+        records += [struct.pack('>H B x', len(s) + 4, scc) + a2e(s)]
+dump_records(out, records)
+out.close()
+]])
+   AT_CHECK([$PYTHON3 make-binary.py])
    AT_DATA([data-reader.sps], [dnl
-FILE HANDLE input/NAME='input.bin'/$1.
+FILE HANDLE input/NAME='$2'/$1.
 DATA LIST FIXED FILE=input NOTABLE
        /1 start 1-10 (ADATE)
        /2 end 1-10 (ADATE)
@@ -206,45 +260,10 @@ start,end,count
 ])
    AT_CLEANUP])
 
-DATA_READER_BINARY([MODE=BINARY],
-  [for $_ (@data) {
-       my ($reclen) = pack ("V", length);
-       print $reclen, $_, $reclen;
-   }])
-
-DATA_READER_BINARY([MODE=360 /RECFORM=FIXED /LRECL=32],
-  [my ($lrecl) = 32;
-   for $_ (@data) {
-       my ($out) = substr ($_, 0, $lrecl);
-       $out .= ' ' x ($lrecl - length ($out));
-       length ($out) == 32 or die;
-       print +a2e ($out);
-   }],
+DATA_READER_BINARY([MODE=BINARY], [binary.bin])
+DATA_READER_BINARY([MODE=360 /RECFORM=FIXED /LRECL=32], [fixed.bin],
   [AT_CHECK([i18n-test supports_encodings EBCDIC-US])])
-
-DATA_READER_BINARY([MODE=360 /RECFORM=VARIABLE],
-  [for $_ (@data) {
-       push (@records, pack ("n xx", length ($_) + 4) . a2e ($_));
-   }
-   dump_records ();],
+DATA_READER_BINARY([MODE=360 /RECFORM=VARIABLE], [variable.bin],
   [AT_CHECK([i18n-test supports_encodings EBCDIC-US])])
-
-DATA_READER_BINARY([MODE=360 /RECFORM=SPANNED],
-  [[for my $line (@data) {
-       local ($_) = $line;
-       my (@r);
-       while (length) {
-          my ($n) = min (int (rand (5)), length);
-          push (@r, substr ($_, 0, $n, ''));
-       }
-       foreach my $i (0...$#r) {
-          my $scc = ($#r == 0 ? 0
-                     : $i == 0 ? 1
-                     : $i == $#r ? 2
-                     : 3);
-          push (@records,
-                pack ("nCx", length ($r[$i]) + 4, $scc) . a2e ($r[$i]));
-       }
-   }
-   dump_records ();]],
+DATA_READER_BINARY([MODE=360 /RECFORM=SPANNED], [spanned.bin],
   [AT_CHECK([i18n-test supports_encodings EBCDIC-US])])