Merge remote-tracking branch 'origin/master' into sheet
[pspp] / tests / libpspp / u8-istream.at
1 dnl PSPP - a program for statistical analysis.
2 dnl Copyright (C) 2017 Free Software Foundation, Inc.
3 dnl 
4 dnl This program is free software: you can redistribute it and/or modify
5 dnl it under the terms of the GNU General Public License as published by
6 dnl the Free Software Foundation, either version 3 of the License, or
7 dnl (at your option) any later version.
8 dnl 
9 dnl This program is distributed in the hope that it will be useful,
10 dnl but WITHOUT ANY WARRANTY; without even the implied warranty of
11 dnl MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12 dnl GNU General Public License for more details.
13 dnl 
14 dnl You should have received a copy of the GNU General Public License
15 dnl along with this program.  If not, see <http://www.gnu.org/licenses/>.
16 dnl
17 AT_BANNER([u8_istream])
18
19 AT_SETUP([read ASCII])
20 AT_KEYWORDS([u8_istream])
21 AT_CHECK([i18n-test supports_encodings ASCII])
22 AT_CHECK([echo string | u8-istream-test read - ASCII], [0], [string
23 ])
24 AT_CLEANUP
25
26 AT_SETUP([read UTF-8])
27 AT_KEYWORDS([u8_istream])
28 AT_CHECK([printf '\346\227\245\346\234\254\350\252\236\n' | u8-istream-test read - UTF-8], [0], [dnl
29 UTF-8 mode
30 日本語
31 UTF-8 mode
32 ])
33 AT_CLEANUP
34
35 AT_SETUP([read EUC-JP])
36 AT_KEYWORDS([u8_istream])
37 AT_CHECK([i18n-test supports_encodings EUC-JP])
38 AT_CHECK([printf '\244\241 \244\242 \244\243 \244\244 \244\245 \244\246 \244\247 \244\250 \244\251 \244\252\n' | u8-istream-test read - EUC-JP],
39   [0],
40   [ぁ あ ぃ い ぅ う ぇ え ぉ お
41 ])
42 AT_CLEANUP
43
44 AT_SETUP([read UTF-8 with character split across input buffers])
45 AT_KEYWORDS([u8_istream])
46 buffer_size=`u8-istream-test buffer-size`
47 ($PERL -e "print 'x' x ($buffer_size - 16)"
48  printf '\343\201\201\343\201\202\343\201\203\343\201\204\343\201\205\343\201\206\343\201\207\343\201\210\343\201\211\343\201\212\n') > input
49 (echo "UTF-8 mode"
50  cat input
51  echo "UTF-8 mode") > expout
52 AT_CHECK([u8-istream-test read input UTF-8 16], [0], [expout])
53 AT_CLEANUP
54
55 AT_SETUP([read UTF-8 with character split across output buffers])
56 AT_KEYWORDS([u8_istream])
57 AT_CHECK([printf '\343\201\201\343\201\202\343\201\203\343\201\204\343\201\205\343\201\206\343\201\207\343\201\210\343\201\211\343\201\212\n' | u8-istream-test read - UTF-8 16], [0], [dnl
58 UTF-8 mode
59 ぁあぃいぅうぇえぉお
60 UTF-8 mode
61 ])
62 AT_CLEANUP
63
64 AT_SETUP([read UTF-8 with character split across input and output buffers])
65 AT_KEYWORDS([u8_istream])
66 buffer_size=`u8-istream-test buffer-size`
67 ($PERL -e "print 'x' x ($buffer_size - 16)"
68  printf '\343\201\201\343\201\202\343\201\203\343\201\204\343\201\205\343\201\206\343\201\207\343\201\210\343\201\211\343\201\212\n') > input
69 (echo "UTF-8 mode"
70  cat input
71  echo "UTF-8 mode") > expout
72 AT_CHECK([u8-istream-test read input UTF-8 16], [0], [expout])
73 AT_CLEANUP
74
75 AT_SETUP([read EUC-JP with character split across input buffers])
76 AT_KEYWORDS([u8_istream])
77 AT_CHECK([i18n-test supports_encodings EUC-JP])
78 buffer_size=`u8-istream-test buffer-size`
79 ($PERL -e "print 'x' x ($buffer_size - 16)"
80  printf '\244\241 \244\242 \244\243 \244\244 \244\245 \244\246 \244\247 '
81  printf '\244\250 \244\251 \244\252\n') > input
82 ($PERL -e "print 'x' x ($buffer_size - 16)"
83  printf '\343\201\201\040\343\201\202\040\343\201\203\040\343\201\204\040'
84  printf '\343\201\205\040\343\201\206\040\343\201\207\040\343\201\210\040'
85  printf '\343\201\211\040\343\201\212\n') > expout
86 AT_CHECK([u8-istream-test read input EUC-JP], [0], [expout])
87 AT_CLEANUP
88
89 AT_SETUP([read EUC-JP with character split across output buffers])
90 AT_KEYWORDS([u8_istream])
91 AT_CHECK([i18n-test supports_encodings EUC-JP])
92 AT_CHECK([printf '\244\241\244\242\244\243\244\244\244\245\244\246\244\247\244\250\244\251\244\252\n' | u8-istream-test read - EUC-JP 16],
93   [0],
94   [ぁあぃいぅうぇえぉお
95 ])
96 AT_CLEANUP
97
98 AT_SETUP([read EUC-JP with character split across input and output buffers])
99 AT_KEYWORDS([u8_istream])
100 AT_CHECK([i18n-test supports_encodings EUC-JP])
101 buffer_size=`u8-istream-test buffer-size`
102 ($PERL -e "print 'x' x ($buffer_size - 16)"
103  printf 'xyz\244\241\244\242\244\243\244\244\244\245\244\246\244\247\244\250'
104  printf '\244\251\244\252\n') > input
105 ($PERL -e "print 'x' x ($buffer_size - 16)"
106  printf '\170\171\172\343\201\201\343\201\202\343\201\203\343\201\204\343'
107  printf '\201\205\343\201\206\343\201\207\343\201\210\343\201\211\343\201'
108  printf '\212\n') > expout
109 AT_CHECK([u8-istream-test read input EUC-JP 16], [0], [expout])
110 AT_CLEANUP
111
112 AT_SETUP([read ASCII as Auto])
113 AT_KEYWORDS([u8_istream])
114 AT_CHECK([echo string | u8-istream-test read - Auto], [0], [dnl
115 Auto mode
116 string
117 Auto mode
118 ])
119 AT_CLEANUP
120
121 AT_SETUP([read UTF-8 as Auto])
122 AT_KEYWORDS([u8_istream])
123 AT_CHECK([printf 'entr\303\251e\n' | u8-istream-test read - Auto], [0], [dnl
124 Auto mode
125 entrée
126 UTF-8 mode
127 ])
128 AT_CHECK([printf '\357\273\277entr\303\251e\n' | u8-istream-test read - Auto], [0], [dnl
129 UTF-8 mode
130 entrée
131 UTF-8 mode
132 ])
133 AT_CLEANUP
134
135 AT_SETUP([read ISO-8859-1 as Auto,ISO-8859-1])
136 AT_KEYWORDS([u8_istream])
137 AT_CHECK([i18n-test supports_encodings ISO-8859-1])
138 buffer_size=`u8-istream-test buffer-size`
139 ($PERL -e 'print "xyzzy\n" x int('$buffer_size' * 2.5 / 7)'; printf 'entr\351e\n') > input
140 (echo "Auto mode"
141  $PERL -e 'print "xyzzy\n" x int('$buffer_size' * 2.5 / 7)'
142  printf 'entr\303\251e\n') > expout
143 AT_CHECK([u8-istream-test read input Auto,ISO-8859-1], [0], [expout])
144 AT_CLEANUP
145
146 dnl UTF-16BE is not ASCII compatible so this doesn't start out in Auto mode.
147 AT_SETUP([read UTF-16BE as Auto,UTF-16BE])
148 AT_KEYWORDS([u8_istream])
149 AT_CHECK([i18n-test supports_encodings UTF-16BE])
150 AT_CHECK([printf '\0e\0n\0t\0r\0\351\0e\0\n' | u8-istream-test read - Auto,UTF-16BE], 
151   [0], [dnl
152 entrée
153 ])
154 AT_CLEANUP
155
156 AT_SETUP([read UTF-16 as Auto])
157 AT_KEYWORDS([u8_istream])
158 AT_CHECK([i18n-test supports_encodings UTF-16 UTF-16BE UTF-16LE])
159 dnl The "sleep 1" checks for a bug in which u8-istream did not properly
160 dnl handle receiving data in multiple chunks.
161 AT_CHECK([{ printf '\0e\0n\0t\0'; sleep 1; printf 'r\0\351\0e\0\n'; } | u8-istream-test read - Auto],
162   [0], [entrée
163 ])
164 AT_CHECK([printf 'e\0n\0t\0r\0\351\0e\0\n\0' | u8-istream-test read - Auto],
165   [0], [entrée
166 ])
167 AT_CHECK([printf '\376\377\0e\0n\0t\0r\0\351\0e\0\n' | u8-istream-test read - Auto],
168   [0], [entrée
169 ])
170 AT_CHECK([printf '\377\376e\0n\0t\0r\0\351\0e\0\n\0' | u8-istream-test read - Auto],
171   [0], [entrée
172 ])
173 AT_CLEANUP
174
175 AT_SETUP([read UTF-32 as Auto])
176 AT_KEYWORDS([u8_istream])
177 AT_CHECK([i18n-test supports_encodings UTF-16 UTF-16BE UTF-16LE])
178 AT_CHECK([printf '\0\0\0e\0\0\0n\0\0\0t\0\0\0r\0\0\0\351\0\0\0e\0\0\0\n' | u8-istream-test read - Auto],
179   [0], [entrée
180 ])
181 AT_CHECK([printf 'e\0\0\0n\0\0\0t\0\0\0r\0\0\0\351\0\0\0e\0\0\0\n\0\0\0' | u8-istream-test read - Auto],
182   [0], [entrée
183 ])
184 AT_CHECK([printf '\0\0\376\377\0\0\0e\0\0\0n\0\0\0t\0\0\0r\0\0\0\351\0\0\0e\0\0\0\n' | u8-istream-test read - Auto],
185   [0], [entrée
186 ])
187 AT_CHECK([printf '\377\376\0\0e\0\0\0n\0\0\0t\0\0\0r\0\0\0\351\0\0\0e\0\0\0\n\0\0\0' | u8-istream-test read - Auto],
188   [0], [entrée
189 ])
190 AT_CLEANUP
191
192 AT_SETUP([read EUC-JP as Auto,EUC-JP])
193 AT_KEYWORDS([u8_istream])
194 AT_CHECK([i18n-test supports_encodings EUC-JP])
195 AT_CHECK([printf 'entr\217\253\261e\n' | u8-istream-test read - Auto,EUC-JP], 
196   [0], [entrée
197 ])
198 AT_CLEANUP
199