0f0940b58f88a2bfe9d13c0678dc52343be14982
[pspp] / doc / dev / system-file-format.texi
1 @node System File Format
2 @appendix System File Format
3
4 A system file encapsulates a set of cases and dictionary information
5 that describes how they may be interpreted.  This chapter describes
6 the format of a system file.
7
8 System files use four data types: 8-bit characters, 32-bit integers,
9 64-bit integers, 
10 and 64-bit floating points, called here @code{char}, @code{int32},
11 @code{int64}, and
12 @code{flt64}, respectively.  Data is not necessarily aligned on a word
13 or double-word boundary: the long variable name record (@pxref{Long
14 Variable Names Record}) and very long string records (@pxref{Very Long
15 String Record}) have arbitrary byte length and can therefore cause all
16 data coming after them in the file to be misaligned.
17
18 Integer data in system files may be big-endian or little-endian.  A
19 reader may detect the endianness of a system file by examining
20 @code{layout_code} in the file header record
21 (@pxref{layout_code,,@code{layout_code}}).
22
23 Floating-point data in system files may nominally be in IEEE 754, IBM,
24 or VAX formats.  A reader may detect the floating-point format in use
25 by examining @code{bias} in the file header record
26 (@pxref{bias,,@code{bias}}).
27
28 PSPP detects big-endian and little-endian integer formats in system
29 files and translates as necessary.  PSPP also detects the
30 floating-point format in use, as well as the endianness of IEEE 754
31 floating-point numbers, and translates as needed.  However, only IEEE
32 754 numbers with the same endianness as integer data in the same file
33 has actually been observed in system files, and it is likely that
34 other formats are obsolete or were never used.
35
36 System files use a few floating point values for special purposes:
37
38 @table @asis
39 @item SYSMIS
40 The system-missing value is represented by the largest possible
41 negative number in the floating point format (@code{-DBL_MAX}).
42
43 @item HIGHEST
44 HIGHEST is used as the high end of a missing value range with an
45 unbounded maximum.  It is represented by the largest possible positive
46 number (@code{DBL_MAX}).
47
48 @item LOWEST
49 LOWEST is used as the low end of a missing value range with an
50 unbounded minimum.  It was originally represented by the
51 second-largest negative number (in IEEE 754 format,
52 @code{0xffeffffffffffffe}).  System files written by SPSS 21 and later
53 instead use the largest negative number (@code{-DBL_MAX}), the same
54 value as SYSMIS.  This does not lead to ambiguity because LOWEST
55 appears in system files only in missing value ranges, which never
56 contain SYSMIS.
57 @end table
58
59 System files may use most character encodings based on an 8-bit unit.
60 UTF-16 and UTF-32, based on wider units, appear to be unacceptable.
61 @code{rec_type} in the file header record is sufficient to distinguish
62 between ASCII and EBCDIC based encodings.  The best way to determine
63 the specific encoding in use is to consult the character encoding
64 record (@pxref{Character Encoding Record}), if present, and failing
65 that the @code{character_code} in the machine integer info record
66 (@pxref{Machine Integer Info Record}).  The same encoding should be
67 used for the dictionary and the data in the file, although it is
68 possible to artificially synthesize files that use different encodings
69 (@pxref{Character Encoding Record}).
70
71 System files are divided into records, each of which begins with a
72 4-byte record type, usually regarded as an @code{int32}.
73
74 The records must appear in the following order:
75
76 @itemize @bullet
77 @item
78 File header record.
79
80 @item
81 Variable records.
82
83 @item
84 All pairs of value labels records and value label variables records,
85 if present.
86
87 @item
88 Document record, if present.
89
90 @item
91 Extension (type 7) records, in ascending numerical order of their
92 subtypes.
93
94 @item
95 Dictionary termination record.
96
97 @item
98 Data record.
99 @end itemize
100
101 Each type of record is described separately below.
102
103 @menu
104 * File Header Record::
105 * Variable Record::
106 * Value Labels Records::
107 * Document Record::
108 * Machine Integer Info Record::
109 * Machine Floating-Point Info Record::
110 * Multiple Response Sets Records::
111 * Extra Product Info Record::
112 * Variable Display Parameter Record::
113 * Long Variable Names Record::
114 * Very Long String Record::
115 * Character Encoding Record::
116 * Long String Value Labels Record::
117 * Long String Missing Values Record::
118 * Data File and Variable Attributes Records::
119 * Extended Number of Cases Record::
120 * Miscellaneous Informational Records::
121 * Dictionary Termination Record::
122 * Data Record::
123 * Encrypted System Files::
124 @end menu
125
126 @node File Header Record
127 @section File Header Record
128
129 The file header is always the first record in the file.  It has the
130 following format:
131
132 @example
133 char                rec_type[4];
134 char                prod_name[60];
135 int32               layout_code;
136 int32               nominal_case_size;
137 int32               compression;
138 int32               weight_index;
139 int32               ncases;
140 flt64               bias;
141 char                creation_date[9];
142 char                creation_time[8];
143 char                file_label[64];
144 char                padding[3];
145 @end example
146
147 @table @code
148 @item char rec_type[4];
149 Record type code, either @samp{$FL2} for system files with
150 uncompressed data or data compressed with simple bytecode compression,
151 or @samp{$FL3} for system files with ZLIB compressed data.
152
153 This is truly a character field that uses the character encoding as
154 other strings.  Thus, in a file with an ASCII-based character encoding
155 this field contains @code{24 46 4c 32} or @code{24 46 4c 33}, and in a
156 file with an EBCDIC-based encoding this field contains @code{5b c6 d3
157 f2}.  (No EBCDIC-based ZLIB-compressed files have been observed.)
158
159 @item char prod_name[60];
160 Product identification string.  This always begins with the characters
161 @samp{@@(#) SPSS DATA FILE}.  PSPP uses the remaining characters to
162 give its version and the operating system name; for example, @samp{GNU
163 pspp 0.1.4 - sparc-sun-solaris2.5.2}.  The string is truncated if it
164 would be longer than 60 characters; otherwise it is padded on the right
165 with spaces.
166
167 @anchor{layout_code}
168 @item int32 layout_code;
169 Normally set to 2, although a few system files have been spotted in
170 the wild with a value of 3 here.  PSPP use this value to determine the
171 file's integer endianness (@pxref{System File Format}).
172
173 @item int32 nominal_case_size;
174 Number of data elements per case.  This is the number of variables,
175 except that long string variables add extra data elements (one for every
176 8 characters after the first 8).  However, string variables do not
177 contribute to this value beyond the first 255 bytes.   Further, system
178 files written by some systems set this value to -1.  In general, it is
179 unsafe for systems reading system files to rely upon this value.
180
181 @item int32 compressed;
182 Set to 0 if the data in the file is not compressed, 1 if the data is
183 compressed with simple bytecode compression, 2 if the data is ZLIB
184 compressed.  This field has value 2 if and only if @code{rec_type} is
185 @samp{$FL3}.
186
187 @item int32 weight_index;
188 If one of the variables in the data set is used as a weighting
189 variable, set to the dictionary index of that variable, plus 1
190 (@pxref{Dictionary Index}).  Otherwise, set to 0.
191
192 @item int32 ncases;
193 Set to the number of cases in the file if it is known, or -1 otherwise.
194
195 In the general case it is not possible to determine the number of cases
196 that will be output to a system file at the time that the header is
197 written.  The way that this is dealt with is by writing the entire
198 system file, including the header, then seeking back to the beginning of
199 the file and writing just the @code{ncases} field.  For files in which
200 this is not valid, the seek operation fails.  In this case,
201 @code{ncases} remains -1.
202
203 @anchor{bias}
204 @item flt64 bias;
205 Compression bias, ordinarily set to 100.  Only integers between
206 @code{1 - bias} and @code{251 - bias} can be compressed.
207
208 By assuming that its value is 100, PSPP uses @code{bias} to determine
209 the file's floating-point format and endianness (@pxref{System File
210 Format}).  If the compression bias is not 100, PSPP cannot auto-detect
211 the floating-point format and assumes that it is IEEE 754 format with
212 the same endianness as the system file's integers, which is correct
213 for all known system files.
214
215 @item char creation_date[9];
216 Date of creation of the system file, in @samp{dd mmm yy}
217 format, with the month as standard English abbreviations, using an
218 initial capital letter and following with lowercase.  If the date is not
219 available then this field is arbitrarily set to @samp{01 Jan 70}.
220
221 @item char creation_time[8];
222 Time of creation of the system file, in @samp{hh:mm:ss}
223 format and using 24-hour time.  If the time is not available then this
224 field is arbitrarily set to @samp{00:00:00}.
225
226 @item char file_label[64];
227 File label declared by the user, if any (@pxref{FILE LABEL,,,pspp,
228 PSPP Users Guide}).  Padded on the right with spaces.
229
230 A product that identifies itself as @code{VOXCO INTERVIEWER 4.3} uses
231 CR-only line ends in this field, rather than the more usual LF-only or
232 CR LF line ends.
233
234 @item char padding[3];
235 Ignored padding bytes to make the structure a multiple of 32 bits in
236 length.  Set to zeros.
237 @end table
238
239 @node Variable Record
240 @section Variable Record
241
242 There must be one variable record for each numeric variable and each
243 string variable with width 8 bytes or less.  String variables wider
244 than 8 bytes have one variable record for each 8 bytes, rounding up.
245 The first variable record for a long string specifies the variable's
246 correct dictionary information.  Subsequent variable records for a
247 long string are filled with dummy information: a type of -1, no
248 variable label or missing values, print and write formats that are
249 ignored, and an empty string as name.  A few system files have been
250 encountered that include a variable label on dummy variable records,
251 so readers should take care to parse dummy variable records in the
252 same way as other variable records.
253
254 @anchor{Dictionary Index}
255 The @dfn{dictionary index} of a variable is its offset in the set of
256 variable records, including dummy variable records for long string
257 variables.  The first variable record has a dictionary index of 0, the
258 second has a dictionary index of 1, and so on.
259
260 The system file format does not directly support string variables
261 wider than 255 bytes.  Such very long string variables are represented
262 by a number of narrower string variables.  @xref{Very Long String
263 Record}, for details.
264
265 @example
266 int32               rec_type;
267 int32               type;
268 int32               has_var_label;
269 int32               n_missing_values;
270 int32               print;
271 int32               write;
272 char                name[8];
273
274 /* @r{Present only if @code{has_var_label} is 1.} */
275 int32               label_len;
276 char                label[];
277
278 /* @r{Present only if @code{n_missing_values} is nonzero}. */
279 flt64               missing_values[];
280 @end example
281
282 @table @code
283 @item int32 rec_type;
284 Record type code.  Always set to 2.
285
286 @item int32 type;
287 Variable type code.  Set to 0 for a numeric variable.  For a short
288 string variable or the first part of a long string variable, this is set
289 to the width of the string.  For the second and subsequent parts of a
290 long string variable, set to -1, and the remaining fields in the
291 structure are ignored.
292
293 @item int32 has_var_label;
294 If this variable has a variable label, set to 1; otherwise, set to 0.
295
296 @item int32 n_missing_values;
297 If the variable has no missing values, set to 0.  If the variable has
298 one, two, or three discrete missing values, set to 1, 2, or 3,
299 respectively.  If the variable has a range for missing variables, set to
300 -2; if the variable has a range for missing variables plus a single
301 discrete value, set to -3.
302
303 A long string variable always has the value 0 here.  A separate record
304 indicates missing values for long string variables (@pxref{Long String
305 Missing Values Record}).
306
307 @item int32 print;
308 Print format for this variable.  See below.
309
310 @item int32 write;
311 Write format for this variable.  See below.
312
313 @item char name[8];
314 Variable name.  The variable name must begin with a capital letter or
315 the at-sign (@samp{@@}).  Subsequent characters may also be digits, octothorpes
316 (@samp{#}), dollar signs (@samp{$}), underscores (@samp{_}), or full
317 stops (@samp{.}).  The variable name is padded on the right with spaces.
318
319 The @samp{name} fields should be unique within a system file.  System
320 files written by SPSS that contain very long string variables with
321 similar names sometimes contain duplicate names that are later
322 eliminated by resolving the very long string names (@pxref{Very Long
323 String Record}).  PSPP handles duplicates by assigning them new,
324 unique names.
325
326 @item int32 label_len;
327 This field is present only if @code{has_var_label} is set to 1.  It is
328 set to the length, in characters, of the variable label.  The
329 documented maximum length varies from 120 to 255 based on SPSS
330 version, but some files have been seen with longer labels.  PSPP
331 accepts labels of any length.
332
333 @item char label[];
334 This field is present only if @code{has_var_label} is set to 1.  It has
335 length @code{label_len}, rounded up to the nearest multiple of 32 bits.
336 The first @code{label_len} characters are the variable's variable label.
337
338 @item flt64 missing_values[];
339 This field is present only if @code{n_missing_values} is nonzero.  It
340 has the same number of 8-byte elements as the absolute value of
341 @code{n_missing_values}.  Each element is interpreted as a number for
342 numeric variables (with HIGHEST and LOWEST indicated as described in
343 the chapter introduction).  For string variables of width less than 8
344 bytes, elements are right-padded with spaces; for string variables
345 wider than 8 bytes, only the first 8 bytes of each missing value are
346 specified, with the remainder implicitly all spaces.
347
348 For discrete missing values, each element represents one missing
349 value.  When a range is present, the first element denotes the minimum
350 value in the range, and the second element denotes the maximum value
351 in the range.  When a range plus a value are present, the third
352 element denotes the additional discrete missing value.
353 @end table
354
355 The @code{print} and @code{write} members of sysfile_variable are output
356 formats coded into @code{int32} types.  The least-significant byte
357 of the @code{int32} represents the number of decimal places, and the
358 next two bytes in order of increasing significance represent field width
359 and format type, respectively.  The most-significant byte is not
360 used and should be set to zero.
361
362 Format types are defined as follows:
363
364 @quotation
365 @multitable {Value} {@code{DATETIME}}
366 @headitem Value
367 @tab Meaning
368 @item 0
369 @tab Not used.
370 @item 1
371 @tab @code{A}
372 @item 2
373 @tab @code{AHEX}
374 @item 3
375 @tab @code{COMMA}
376 @item 4
377 @tab @code{DOLLAR}
378 @item 5
379 @tab @code{F}
380 @item 6
381 @tab @code{IB}
382 @item 7
383 @tab @code{PIBHEX}
384 @item 8
385 @tab @code{P}
386 @item 9
387 @tab @code{PIB}
388 @item 10
389 @tab @code{PK}
390 @item 11
391 @tab @code{RB}
392 @item 12
393 @tab @code{RBHEX}
394 @item 13
395 @tab Not used.
396 @item 14
397 @tab Not used.
398 @item 15
399 @tab @code{Z}
400 @item 16
401 @tab @code{N}
402 @item 17
403 @tab @code{E}
404 @item 18
405 @tab Not used.
406 @item 19
407 @tab Not used.
408 @item 20
409 @tab @code{DATE}
410 @item 21
411 @tab @code{TIME}
412 @item 22
413 @tab @code{DATETIME}
414 @item 23
415 @tab @code{ADATE}
416 @item 24
417 @tab @code{JDATE}
418 @item 25
419 @tab @code{DTIME}
420 @item 26
421 @tab @code{WKDAY}
422 @item 27
423 @tab @code{MONTH}
424 @item 28
425 @tab @code{MOYR}
426 @item 29
427 @tab @code{QYR}
428 @item 30
429 @tab @code{WKYR}
430 @item 31
431 @tab @code{PCT}
432 @item 32
433 @tab @code{DOT}
434 @item 33
435 @tab @code{CCA}
436 @item 34
437 @tab @code{CCB}
438 @item 35
439 @tab @code{CCC}
440 @item 36
441 @tab @code{CCD}
442 @item 37
443 @tab @code{CCE}
444 @item 38
445 @tab @code{EDATE}
446 @item 39
447 @tab @code{SDATE}
448 @end multitable
449 @end quotation
450
451 A few system files have been observed in the wild with invalid
452 @code{write} fields, in particular with value 0.  Readers should
453 probably treat invalid @code{print} or @code{write} fields as some
454 default format.
455
456 @node Value Labels Records
457 @section Value Labels Records
458
459 The value label records documented in this section are used for
460 numeric and short string variables only.  Long string variables may
461 have value labels, but their value labels are recorded using a
462 different record type (@pxref{Long String Value Labels Record}).
463
464 The value label record has the following format:
465
466 @example
467 int32               rec_type;
468 int32               label_count;
469
470 /* @r{Repeated @code{label_cnt} times}. */
471 char                value[8];
472 char                label_len;
473 char                label[];
474 @end example
475
476 @table @code
477 @item int32 rec_type;
478 Record type.  Always set to 3.
479
480 @item int32 label_count;
481 Number of value labels present in this record.
482 @end table
483
484 The remaining fields are repeated @code{count} times.  Each
485 repetition specifies one value label.
486
487 @table @code
488 @item char value[8];
489 A numeric value or a short string value padded as necessary to 8 bytes
490 in length.  Its type and width cannot be determined until the
491 following value label variables record (see below) is read.
492
493 @item char label_len;
494 The label's length, in bytes.  The documented maximum length varies
495 from 60 to 120 based on SPSS version.  PSPP supports value labels up
496 to 255 bytes long.
497
498 @item char label[];
499 @code{label_len} bytes of the actual label, followed by up to 7 bytes
500 of padding to bring @code{label} and @code{label_len} together to a
501 multiple of 8 bytes in length.
502 @end table
503
504 The value label record is always immediately followed by a value label
505 variables record with the following format:
506
507 @example
508 int32               rec_type;
509 int32               var_count;
510 int32               vars[];
511 @end example
512
513 @table @code
514 @item int32 rec_type;
515 Record type.  Always set to 4.
516
517 @item int32 var_count;
518 Number of variables that the associated value labels from the value
519 label record are to be applied.
520
521 @item int32 vars[];
522 A list of dictionary indexes of variables to which to apply the value
523 labels (@pxref{Dictionary Index}).  There are @code{var_count}
524 elements.
525
526 String variables wider than 8 bytes may not be specified in this list.
527 @end table
528
529 @node Document Record
530 @section Document Record
531
532 The document record, if present, has the following format:
533
534 @example
535 int32               rec_type;
536 int32               n_lines;
537 char                lines[][80];
538 @end example
539
540 @table @code
541 @item int32 rec_type;
542 Record type.  Always set to 6.
543
544 @item int32 n_lines;
545 Number of lines of documents present.
546
547 @item char lines[][80];
548 Document lines.  The number of elements is defined by @code{n_lines}.
549 Lines shorter than 80 characters are padded on the right with spaces.
550 @end table
551
552 @node Machine Integer Info Record
553 @section Machine Integer Info Record
554
555 The integer info record, if present, has the following format:
556
557 @example
558 /* @r{Header.} */
559 int32               rec_type;
560 int32               subtype;
561 int32               size;
562 int32               count;
563
564 /* @r{Data.} */
565 int32               version_major;
566 int32               version_minor;
567 int32               version_revision;
568 int32               machine_code;
569 int32               floating_point_rep;
570 int32               compression_code;
571 int32               endianness;
572 int32               character_code;
573 @end example
574
575 @table @code
576 @item int32 rec_type;
577 Record type.  Always set to 7.
578
579 @item int32 subtype;
580 Record subtype.  Always set to 3.
581
582 @item int32 size;
583 Size of each piece of data in the data part, in bytes.  Always set to 4.
584
585 @item int32 count;
586 Number of pieces of data in the data part.  Always set to 8.
587
588 @item int32 version_major;
589 PSPP major version number.  In version @var{x}.@var{y}.@var{z}, this
590 is @var{x}.
591
592 @item int32 version_minor;
593 PSPP minor version number.  In version @var{x}.@var{y}.@var{z}, this
594 is @var{y}.
595
596 @item int32 version_revision;
597 PSPP version revision number.  In version @var{x}.@var{y}.@var{z},
598 this is @var{z}.
599
600 @item int32 machine_code;
601 Machine code.  PSPP always set this field to value to -1, but other
602 values may appear.
603
604 @item int32 floating_point_rep;
605 Floating point representation code.  For IEEE 754 systems this is 1.
606 IBM 370 sets this to 2, and DEC VAX E to 3.
607
608 @item int32 compression_code;
609 Compression code.  Always set to 1, regardless of whether or how the
610 file is compressed.
611
612 @item int32 endianness;
613 Machine endianness.  1 indicates big-endian, 2 indicates little-endian.
614
615 @item int32 character_code;
616 @anchor{character-code} Character code.  The following values have
617 been actually observed in system files:
618
619 @table @asis
620 @item 1
621 EBCDIC.
622
623 @item 2
624 7-bit ASCII.
625
626 @item 1250
627 The @code{windows-1250} code page for Central European and Eastern
628 European languages.
629
630 @item 1252
631 The @code{windows-1252} code page for Western European languages.
632
633 @item 28591
634 ISO 8859-1.
635
636 @item 65001
637 UTF-8.
638 @end table
639
640 The following additional values are known to be defined:
641
642 @table @asis
643 @item 3
644 8-bit ``ASCII''.
645
646 @item 4
647 DEC Kanji.
648 @end table
649
650 Other Windows code page numbers are known to be generally valid.
651
652 Old versions of SPSS for Unix and Windows always wrote value 2 in this
653 field, regardless of the encoding in use.  Newer versions also write
654 the character encoding as a string (see @ref{Character Encoding
655 Record}).
656 @end table
657
658 @node Machine Floating-Point Info Record
659 @section Machine Floating-Point Info Record
660
661 The floating-point info record, if present, has the following format:
662
663 @example
664 /* @r{Header.} */
665 int32               rec_type;
666 int32               subtype;
667 int32               size;
668 int32               count;
669
670 /* @r{Data.} */
671 flt64               sysmis;
672 flt64               highest;
673 flt64               lowest;
674 @end example
675
676 @table @code
677 @item int32 rec_type;
678 Record type.  Always set to 7.
679
680 @item int32 subtype;
681 Record subtype.  Always set to 4.
682
683 @item int32 size;
684 Size of each piece of data in the data part, in bytes.  Always set to 8.
685
686 @item int32 count;
687 Number of pieces of data in the data part.  Always set to 3.
688
689 @item flt64 sysmis;
690 The system missing value.
691
692 @item flt64 highest;
693 The value used for HIGHEST in missing values.
694
695 @item flt64 lowest;
696 The value used for LOWEST in missing values.
697 @end table
698
699 @node Multiple Response Sets Records
700 @section Multiple Response Sets Records
701
702 The system file format has two different types of records that
703 represent multiple response sets (@pxref{MRSETS,,,pspp, PSPP Users
704 Guide}).  The first type of record describes multiple response sets
705 that can be understood by SPSS before version 14.  The second type of
706 record, with a closely related format, is used for multiple dichotomy
707 sets that use the CATEGORYLABELS=COUNTEDVALUES feature added in
708 version 14.
709
710 @example
711 /* @r{Header.} */
712 int32               rec_type;
713 int32               subtype;
714 int32               size;
715 int32               count;
716
717 /* @r{Exactly @code{count} bytes of data.} */
718 char                mrsets[];
719 @end example
720
721 @table @code
722 @item int32 rec_type;
723 Record type.  Always set to 7.
724
725 @item int32 subtype;
726 Record subtype.  Set to 7 for records that describe multiple response
727 sets understood by SPSS before version 14, or to 19 for records that
728 describe dichotomy sets that use the CATEGORYLABELS=COUNTEDVALUES
729 feature added in version 14.
730
731 @item int32 size;
732 The size of each element in the @code{mrsets} member. Always set to 1.
733
734 @item int32 count;
735 The total number of bytes in @code{mrsets}.
736
737 @item char mrsets[];
738 Zero or more line feeds (byte 0x0a), followed by a series of multiple
739 response sets, each of which consists of the following:
740
741 @itemize @bullet
742 @item
743 The set's name (an identifier that begins with @samp{$}), in mixed
744 upper and lower case.
745
746 @item
747 An equals sign (@samp{=}).
748
749 @item
750 @samp{C} for a multiple category set, @samp{D} for a multiple
751 dichotomy set with CATEGORYLABELS=VARLABELS, or @samp{E} for a
752 multiple dichotomy set with CATEGORYLABELS=COUNTEDVALUES.
753
754 @item
755 For a multiple dichotomy set with CATEGORYLABELS=COUNTEDVALUES, a
756 space, followed by a number expressed as decimal digits, followed by a
757 space.  If LABELSOURCE=VARLABEL was specified on MRSETS, then the
758 number is 11; otherwise it is 1.@footnote{This part of the format may
759 not be fully understood, because only a single example of each
760 possibility has been examined.}
761
762 @item
763 For either kind of multiple dichotomy set, the counted value, as a
764 positive integer count specified as decimal digits, followed by a
765 space, followed by as many string bytes as specified in the count.  If
766 the set contains numeric variables, the string consists of the counted
767 integer value expressed as decimal digits.  If the set contains string
768 variables, the string contains the counted string value.  Either way,
769 the string may be padded on the right with spaces (older versions of
770 SPSS seem to always pad to a width of 8 bytes; newer versions don't).
771
772 @item
773 A space.
774
775 @item
776 The multiple response set's label, using the same format as for the
777 counted value for multiple dichotomy sets.  A string of length 0 means
778 that the set does not have a label.  A string of length 0 is also
779 written if LABELSOURCE=VARLABEL was specified.
780
781 @item
782 A space.
783
784 @item
785 The short names of the variables in the set, converted to lowercase,
786 each separated from the previous by a single space.
787
788 Even though a multiple response set must have at least two variables,
789 some system files contain multiple response sets with no variables at
790 all.  The source and meaning of these multiple response sets is
791 unknown.  (Perhaps they arise from creating a multiple response set
792 then deleting all the variables that it contains?)
793
794 @item
795 One line feed (byte 0x0a).  Sometimes multiple, even hundreds, of line
796 feeds are present.
797 @end itemize
798 @end table
799
800 Example: Given appropriate variable definitions, consider the
801 following MRSETS command:
802
803 @example
804 MRSETS /MCGROUP NAME=$a LABEL='my mcgroup' VARIABLES=a b c
805        /MDGROUP NAME=$b VARIABLES=g e f d VALUE=55
806        /MDGROUP NAME=$c LABEL='mdgroup #2' VARIABLES=h i j VALUE='Yes'
807        /MDGROUP NAME=$d LABEL='third mdgroup' CATEGORYLABELS=COUNTEDVALUES
808         VARIABLES=k l m VALUE=34
809        /MDGROUP NAME=$e CATEGORYLABELS=COUNTEDVALUES LABELSOURCE=VARLABEL
810         VARIABLES=n o p VALUE='choice'.
811 @end example
812
813 The above would generate the following multiple response set record of
814 subtype 7:
815
816 @example
817 $a=C 10 my mcgroup a b c
818 $b=D2 55 0  g e f d
819 $c=D3 Yes 10 mdgroup #2 h i j
820 @end example
821
822 It would also generate the following multiple response set record with
823 subtype 19:
824
825 @example
826 $d=E 1 2 34 13 third mdgroup k l m
827 $e=E 11 6 choice 0  n o p
828 @end example
829
830 @node Extra Product Info Record
831 @section Extra Product Info Record
832
833 This optional record appears to contain a text string that describes
834 the program that wrote the file and the source of the data.  (This is
835 redundant with the file label and product info found in the file
836 header record.)
837
838 @example
839 /* @r{Header.} */
840 int32               rec_type;
841 int32               subtype;
842 int32               size;
843 int32               count;
844
845 /* @r{Exactly @code{count} bytes of data.} */
846 char                info[];
847 @end example
848
849 @table @code
850 @item int32 rec_type;
851 Record type.  Always set to 7.
852
853 @item int32 subtype;
854 Record subtype.  Always set to 10.
855
856 @item int32 size;
857 The size of each element in the @code{info} member. Always set to 1.
858
859 @item int32 count;
860 The total number of bytes in @code{info}.
861
862 @item char info[];
863 A text string.  A product that identifies itself as @code{VOXCO
864 INTERVIEWER 4.3} uses CR-only line ends in this field, rather than the
865 more usual LF-only or CR LF line ends.
866 @end table
867
868 @node Variable Display Parameter Record
869 @section Variable Display Parameter Record
870
871 The variable display parameter record, if present, has the following
872 format:
873
874 @example
875 /* @r{Header.} */
876 int32               rec_type;
877 int32               subtype;
878 int32               size;
879 int32               count;
880
881 /* @r{Repeated @code{count} times}. */
882 int32               measure;
883 int32               width;           /* @r{Not always present.} */
884 int32               alignment;
885 @end example
886
887 @table @code
888 @item int32 rec_type;
889 Record type.  Always set to 7.
890
891 @item int32 subtype;
892 Record subtype.  Always set to 11.
893
894 @item int32 size;
895 The size of @code{int32}.  Always set to 4.
896
897 @item int32 count;
898 The number of sets of variable display parameters (ordinarily the
899 number of variables in the dictionary), times 2 or 3.
900 @end table
901
902 The remaining members are repeated @code{count} times, in the same
903 order as the variable records.  No element corresponds to variable
904 records that continue long string variables.  The meanings of these
905 members are as follows:
906
907 @table @code
908 @item int32 measure;
909 The measurement type of the variable:
910 @table @asis
911 @item 1
912 Nominal Scale
913 @item 2
914 Ordinal Scale
915 @item 3
916 Continuous Scale
917 @end table
918
919 SPSS sometimes writes a @code{measure} of 0.  PSPP interprets this as
920 nominal scale.
921
922 @item int32 width;
923 The width of the display column for the variable in characters.
924
925 This field is present if @var{count} is 3 times the number of
926 variables in the dictionary.  It is omitted if @var{count} is 2 times
927 the number of variables.
928
929 @item int32 alignment;
930 The alignment of the variable for display purposes:
931
932 @table @asis
933 @item 0
934 Left aligned
935 @item 1
936 Right aligned
937 @item 2
938 Centre aligned
939 @end table
940 @end table
941
942 @node Long Variable Names Record
943 @section Long Variable Names Record
944
945 If present, the long variable names record has the following format:
946
947 @example
948 /* @r{Header.} */
949 int32               rec_type;
950 int32               subtype;
951 int32               size;
952 int32               count;
953
954 /* @r{Exactly @code{count} bytes of data.} */
955 char                var_name_pairs[];
956 @end example
957
958 @table @code
959 @item int32 rec_type;
960 Record type.  Always set to 7.
961
962 @item int32 subtype;
963 Record subtype.  Always set to 13.
964
965 @item int32 size;
966 The size of each element in the @code{var_name_pairs} member. Always set to 1.
967
968 @item int32 count;
969 The total number of bytes in @code{var_name_pairs}.
970
971 @item char var_name_pairs[];
972 A list of @var{key}--@var{value} tuples, where @var{key} is the name
973 of a variable, and @var{value} is its long variable name.
974 The @var{key} field is at most 8 bytes long and must match the
975 name of a variable which appears in the variable record (@pxref{Variable
976 Record}).
977 The @var{value} field is at most 64 bytes long.
978 The @var{key} and @var{value} fields are separated by a @samp{=} byte.
979 Each tuple is separated by a byte whose value is 09.  There is no
980 trailing separator following the last tuple.
981 The total length is @code{count} bytes.
982 @end table
983
984 @node Very Long String Record
985 @section Very Long String Record
986
987 Old versions of SPSS limited string variables to a width of 255 bytes.
988 For backward compatibility with these older versions, the system file
989 format represents a string longer than 255 bytes, called a @dfn{very
990 long string}, as a collection of strings no longer than 255 bytes
991 each.  The strings concatenated to make a very long string are called
992 its @dfn{segments}; for consistency, variables other than very long
993 strings are considered to have a single segment.
994
995 A very long string with a width of @var{w} has @var{n} =
996 (@var{w} + 251) / 252 segments, that is, one segment for every
997 252 bytes of width, rounding up.  It would be logical, then, for each
998 of the segments except the last to have a width of 252 and the last
999 segment to have the remainder, but this is not the case.  In fact,
1000 each segment except the last has a width of 255 bytes.  The last
1001 segment has width @var{w} - (@var{n} - 1) * 252; some versions
1002 of SPSS make it slightly wider, but not wide enough to make the last
1003 segment require another 8 bytes of data.
1004
1005 Data is packed tightly into segments of a very long string, 255 bytes
1006 per segment.  Because 255 bytes of segment data are allocated for
1007 every 252 bytes of the very long string's width (approximately), some
1008 unused space is left over at the end of the allocated segments.  Data
1009 in unused space is ignored.
1010
1011 Example: Consider a very long string of width 20,000.  Such a very
1012 long string has 20,000 / 252 = 80 (rounding up) segments.  The first
1013 79 segments have width 255; the last segment has width 20,000 - 79 *
1014 252 = 92 or slightly wider (up to 96 bytes, the next multiple of 8).
1015 The very long string's data is actually stored in the 19,890 bytes in
1016 the first 78 segments, plus the first 110 bytes of the 79th segment
1017 (19,890 + 110 = 20,000).  The remaining 145 bytes of the 79th segment
1018 and all 92 bytes of the 80th segment are unused.
1019
1020 The very long string record explains how to stitch together segments
1021 to obtain very long string data.  For each of the very long string
1022 variables in the dictionary, it specifies the name of its first
1023 segment's variable and the very long string variable's actual width.
1024 The remaining segments immediately follow the named variable in the
1025 system file's dictionary.
1026
1027 The very long string record, which is present only if the system file
1028 contains very long string variables, has the following format:
1029
1030 @example
1031 /* @r{Header.} */
1032 int32               rec_type;
1033 int32               subtype;
1034 int32               size;
1035 int32               count;
1036
1037 /* @r{Exactly @code{count} bytes of data.} */
1038 char                string_lengths[];
1039 @end example
1040
1041 @table @code
1042 @item int32 rec_type;
1043 Record type.  Always set to 7.
1044
1045 @item int32 subtype;
1046 Record subtype.  Always set to 14.
1047
1048 @item int32 size;
1049 The size of each element in the @code{string_lengths} member. Always set to 1.
1050
1051 @item int32 count;
1052 The total number of bytes in @code{string_lengths}.
1053
1054 @item char string_lengths[];
1055 A list of @var{key}--@var{value} tuples, where @var{key} is the name
1056 of a variable, and @var{value} is its length.
1057 The @var{key} field is at most 8 bytes long and must match the
1058 name of a variable which appears in the variable record (@pxref{Variable
1059 Record}).
1060 The @var{value} field is exactly 5 bytes long. It is a zero-padded,
1061 ASCII-encoded string that is the length of the variable.
1062 The @var{key} and @var{value} fields are separated by a @samp{=} byte.
1063 Tuples are delimited by a two-byte sequence @{00, 09@}.
1064 After the last tuple, there may be a single byte 00, or @{00, 09@}.
1065 The total length is @code{count} bytes.
1066 @end table
1067
1068 @node Character Encoding Record
1069 @section Character Encoding Record
1070
1071 This record, if present, indicates the character encoding for string data,
1072 long variable names, variable labels, value labels and other strings in the
1073 file.
1074
1075 @example
1076 /* @r{Header.} */
1077 int32               rec_type;
1078 int32               subtype;
1079 int32               size;
1080 int32               count;
1081
1082 /* @r{Exactly @code{count} bytes of data.} */
1083 char                encoding[];
1084 @end example
1085
1086 @table @code
1087 @item int32 rec_type;
1088 Record type.  Always set to 7.
1089
1090 @item int32 subtype;
1091 Record subtype.  Always set to 20.
1092
1093 @item int32 size;
1094 The size of each element in the @code{encoding} member. Always set to 1.
1095
1096 @item int32 count;
1097 The total number of bytes in @code{encoding}.
1098
1099 @item char encoding[];
1100 The name of the character encoding.  Normally this will be an official
1101 IANA character set name or alias.
1102 See @url{http://www.iana.org/assignments/character-sets}.
1103 Character set names are not case-sensitive, but SPSS appears to write
1104 them in all-uppercase.
1105 @end table
1106
1107 This record is not present in files generated by older software.  See
1108 also the @code{character_code} field in the machine integer info
1109 record (@pxref{character-code}).
1110
1111 When the character encoding record and the machine integer info record
1112 are both present, all system files observed in practice indicate the
1113 same character encoding, e.g.@: 1252 as @code{character_code} and
1114 @code{windows-1252} as @code{encoding}, 65001 and @code{UTF-8}, etc.
1115
1116 If, for testing purposes, a file is crafted with different
1117 @code{character_code} and @code{encoding}, it seems that
1118 @code{character_code} controls the encoding for all strings in the
1119 system file before the dictionary termination record, including
1120 strings in data (e.g.@: string missing values), and @code{encoding}
1121 controls the encoding for strings following the dictionary termination
1122 record.
1123
1124 @node Long String Value Labels Record
1125 @section Long String Value Labels Record
1126
1127 This record, if present, specifies value labels for long string
1128 variables.
1129
1130 @example
1131 /* @r{Header.} */
1132 int32               rec_type;
1133 int32               subtype;
1134 int32               size;
1135 int32               count;
1136
1137 /* @r{Repeated up to exactly @code{count} bytes.} */
1138 int32               var_name_len;
1139 char                var_name[];
1140 int32               var_width;
1141 int32               n_labels;
1142 long_string_label   labels[];
1143 @end example
1144
1145 @table @code
1146 @item int32 rec_type;
1147 Record type.  Always set to 7.
1148
1149 @item int32 subtype;
1150 Record subtype.  Always set to 21.
1151
1152 @item int32 size;
1153 Always set to 1.
1154
1155 @item int32 count;
1156 The number of bytes following the header until the next header.
1157
1158 @item int32 var_name_len;
1159 @itemx char var_name[];
1160 The number of bytes in the name of the variable that has long string
1161 value labels, plus the variable name itself, which consists of exactly
1162 @code{var_name_len} bytes.  The variable name is not padded to any
1163 particular boundary, nor is it null-terminated.
1164
1165 @item int32 var_width;
1166 The width of the variable, in bytes, which will be between 9 and
1167 32767.
1168
1169 @item int32 n_labels;
1170 @itemx long_string_label labels[];
1171 The long string labels themselves.  The @code{labels} array contains
1172 exactly @code{n_labels} elements, each of which has the following
1173 substructure:
1174
1175 @example
1176 int32               value_len;
1177 char                value[];
1178 int32               label_len;
1179 char                label[];
1180 @end example
1181
1182 @table @code
1183 @item int32 value_len;
1184 @itemx char value[];
1185 The string value being labeled.  @code{value_len} is the number of
1186 bytes in @code{value}; it is equal to @code{var_width}.  The
1187 @code{value} array is not padded or null-terminated.
1188
1189 @item int32 label_len;
1190 @itemx char label[];
1191 The label for the string value.  @code{label_len}, which must be
1192 between 0 and 120, is the number of bytes in @code{label}.  The
1193 @code{label} array is not padded or null-terminated.
1194 @end table
1195 @end table
1196
1197 @node Long String Missing Values Record
1198 @section Long String Missing Values Record
1199
1200 This record, if present, specifies missing values for long string
1201 variables.
1202
1203 @example
1204 /* @r{Header.} */
1205 int32               rec_type;
1206 int32               subtype;
1207 int32               size;
1208 int32               count;
1209
1210 /* @r{Repeated up to exactly @code{count} bytes.} */
1211 int32               var_name_len;
1212 char                var_name[];
1213 char                n_missing_values;
1214 long_string_missing_value   values[];
1215 @end example
1216
1217 @table @code
1218 @item int32 rec_type;
1219 Record type.  Always set to 7.
1220
1221 @item int32 subtype;
1222 Record subtype.  Always set to 22.
1223
1224 @item int32 size;
1225 Always set to 1.
1226
1227 @item int32 count;
1228 The number of bytes following the header until the next header.
1229
1230 @item int32 var_name_len;
1231 @itemx char var_name[];
1232 The number of bytes in the name of the long string variable that has
1233 missing values, plus the variable name itself, which consists of
1234 exactly @code{var_name_len} bytes.  The variable name is not padded to
1235 any particular boundary, nor is it null-terminated.
1236
1237 @item char n_missing_values;
1238 The number of missing values, either 1, 2, or 3.  (This is, unusually,
1239 a single byte instead of a 32-bit number.)
1240
1241 @item long_string_missing_value values[];
1242 The missing values themselves.  This array contains exactly
1243 @code{n_missing_values} elements, each of which has the following
1244 substructure:
1245
1246 @example
1247 int32               value_len;
1248 char                value[];
1249 @end example
1250
1251 @table @code
1252 @item int32 value_len;
1253 The length of the missing value string, in bytes.  This value should
1254 be 8, because long string variables are at least 8 bytes wide (by
1255 definition), only the first 8 bytes of a long string variable's
1256 missing values are allowed to be non-spaces, and any spaces within the
1257 first 8 bytes are included in the missing value here.
1258
1259 @item char value[];
1260 The missing value string, exactly @code{value_len} bytes, without
1261 any padding or null terminator.
1262 @end table
1263 @end table
1264
1265 @node Data File and Variable Attributes Records
1266 @section Data File and Variable Attributes Records
1267
1268 The data file and variable attributes records represent custom
1269 attributes for the system file or for individual variables in the
1270 system file, as defined on the DATAFILE ATTRIBUTE (@pxref{DATAFILE
1271 ATTRIBUTE,,,pspp, PSPP Users Guide}) and VARIABLE ATTRIBUTE commands
1272 (@pxref{VARIABLE ATTRIBUTE,,,pspp, PSPP Users Guide}), respectively.
1273
1274 @example
1275 /* @r{Header.} */
1276 int32               rec_type;
1277 int32               subtype;
1278 int32               size;
1279 int32               count;
1280
1281 /* @r{Exactly @code{count} bytes of data.} */
1282 char                attributes[];
1283 @end example
1284
1285 @table @code
1286 @item int32 rec_type;
1287 Record type.  Always set to 7.
1288
1289 @item int32 subtype;
1290 Record subtype.  Always set to 17 for a data file attribute record or
1291 to 18 for a variable attributes record.
1292
1293 @item int32 size;
1294 The size of each element in the @code{attributes} member. Always set to 1.
1295
1296 @item int32 count;
1297 The total number of bytes in @code{attributes}.
1298
1299 @item char attributes[];
1300 The attributes, in a text-based format.
1301
1302 In record type 17, this field contains a single attribute set.  An
1303 attribute set is a sequence of one or more attributes concatenated
1304 together.  Each attribute consists of a name, which has the same
1305 syntax as a variable name, followed by, inside parentheses, a sequence
1306 of one or more values.  Each value consists of a string enclosed in
1307 single quotes (@code{'}) followed by a line feed (byte 0x0a).  A value
1308 may contain single quote characters, which are not themselves escaped
1309 or quoted or required to be present in pairs.  There is no apparent
1310 way to embed a line feed in a value.  There is no distinction between
1311 an attribute with a single value and an attribute array with one
1312 element.
1313
1314 In record type 18, this field contains a sequence of one or more
1315 variable attribute sets.  If more than one variable attribute set is
1316 present, each one after the first is delimited from the previous by
1317 @code{/}.  Each variable attribute set consists of a long
1318 variable name,
1319 followed by @code{:}, followed by an attribute set with the same
1320 syntax as on record type 17.
1321
1322 The total length is @code{count} bytes.
1323 @end table
1324
1325 @subheading Example
1326
1327 A system file produced with the following VARIABLE ATTRIBUTE commands
1328 in effect:
1329
1330 @example
1331 VARIABLE ATTRIBUTE VARIABLES=dummy ATTRIBUTE=fred[1]('23') fred[2]('34').
1332 VARIABLE ATTRIBUTE VARIABLES=dummy ATTRIBUTE=bert('123').
1333 @end example
1334
1335 @noindent
1336 will contain a variable attribute record with the following contents:
1337
1338 @example
1339 0000  07 00 00 00 12 00 00 00  01 00 00 00 22 00 00 00  |............"...|
1340 0010  64 75 6d 6d 79 3a 66 72  65 64 28 27 32 33 27 0a  |dummy:fred('23'.|
1341 0020  27 33 34 27 0a 29 62 65  72 74 28 27 31 32 33 27  |'34'.)bert('123'|
1342 0030  0a 29                                             |.)              |
1343 @end example
1344
1345 @menu
1346 * Variable Roles::
1347 @end menu
1348
1349 @node Variable Roles
1350 @subsection Variable Roles
1351
1352 A variable's role is represented as an attribute named @code{$@@Role}.
1353 This attribute has a single element whose values and their meanings
1354 are:
1355
1356 @table @code
1357 @item 0
1358 Input.  This, the default, is the most common role.
1359 @item 1
1360 Output.
1361 @item 2
1362 Both.
1363 @item 3
1364 None.
1365 @item 4
1366 Partition.
1367 @item 5
1368 Split.
1369 @end table
1370
1371 @node Extended Number of Cases Record
1372 @section Extended Number of Cases Record
1373
1374 The file header record expresses the number of cases in the system
1375 file as an int32 (@pxref{File Header Record}).  This record allows the
1376 number of cases in the system file to be expressed as a 64-bit number.
1377
1378 @example
1379 int32               rec_type;
1380 int32               subtype;
1381 int32               size;
1382 int32               count;
1383 int64               unknown;
1384 int64               ncases64;
1385 @end example
1386
1387 @table @code
1388 @item int32 rec_type;
1389 Record type.  Always set to 7.
1390
1391 @item int32 subtype;
1392 Record subtype.  Always set to 16.
1393
1394 @item int32 size;
1395 Size of each element.  Always set to 8.
1396
1397 @item int32 count;
1398 Number of pieces of data in the data part.  Alway set to 2.
1399
1400 @item int64 unknown;
1401 Meaning unknown.  Always set to 1.
1402
1403 @item int64 ncases64;
1404 Number of cases in the file as a 64-bit integer.  Presumably this
1405 could be -1 to indicate that the number of cases is unknown, for the
1406 same reason as @code{ncases} in the file header record, but this has
1407 not been observed in the wild.
1408 @end table
1409
1410 @node Miscellaneous Informational Records
1411 @section Miscellaneous Informational Records
1412
1413 Some specific types of miscellaneous informational records are
1414 documented here, but others are known to exist.  PSPP ignores unknown
1415 miscellaneous informational records when reading system files.
1416
1417 @example
1418 /* @r{Header.} */
1419 int32               rec_type;
1420 int32               subtype;
1421 int32               size;
1422 int32               count;
1423
1424 /* @r{Exactly @code{size * count} bytes of data.} */
1425 char                data[];
1426 @end example
1427
1428 @table @code
1429 @item int32 rec_type;
1430 Record type.  Always set to 7.
1431
1432 @item int32 subtype;
1433 Record subtype.  May take any value.  According to Aapi
1434 H@"am@"al@"ainen, value 5 indicates a set of grouped variables and 6
1435 indicates date info (probably related to USE).  Subtype 24 appears to
1436 contain XML that describes how data in the file should be displayed
1437 on-screen.
1438
1439 @item int32 size;
1440 Size of each piece of data in the data part.  Should have the value 1,
1441 4, or 8, for @code{char}, @code{int32}, and @code{flt64} format data,
1442 respectively.
1443
1444 @item int32 count;
1445 Number of pieces of data in the data part.
1446
1447 @item char data[];
1448 Arbitrary data.  There must be @code{size} times @code{count} bytes of
1449 data.
1450 @end table
1451
1452 @node Dictionary Termination Record
1453 @section Dictionary Termination Record
1454
1455 The dictionary termination record separates all other records from the
1456 data records.
1457
1458 @example
1459 int32               rec_type;
1460 int32               filler;
1461 @end example
1462
1463 @table @code
1464 @item int32 rec_type;
1465 Record type.  Always set to 999.
1466
1467 @item int32 filler;
1468 Ignored padding.  Should be set to 0.
1469 @end table
1470
1471 @node Data Record
1472 @section Data Record
1473
1474 The data record must follow all other records in the system file.
1475 Every system file must have a data record that specifies data for at
1476 least one case.  The format of the data record varies depending on the
1477 value of @code{compression} in the file header record:
1478
1479 @table @asis
1480 @item 0: no compression
1481 Data is arranged as a series of 8-byte elements.
1482 Each element corresponds to
1483 the variable declared in the respective variable record (@pxref{Variable
1484 Record}).  Numeric values are given in @code{flt64} format; string
1485 values are literal characters string, padded on the right when
1486 necessary to fill out 8-byte units.
1487
1488 @item 1: bytecode compression
1489 The first 8 bytes
1490 of the data record is divided into a series of 1-byte command
1491 codes.  These codes have meanings as described below:
1492
1493 @table @asis
1494 @item 0
1495 Ignored.  If the program writing the system file accumulates compressed
1496 data in blocks of fixed length, 0 bytes can be used to pad out extra
1497 bytes remaining at the end of a fixed-size block.
1498
1499 @item 1 through 251
1500 A number with
1501 value @var{code} - @var{bias}, where
1502 @var{code} is the value of the compression code and @var{bias} is the
1503 variable @code{bias} from the file header.  For example,
1504 code 105 with bias 100.0 (the normal value) indicates a numeric variable
1505 of value 5.
1506 One file has been seen written by SPSS 14 that contained such a code
1507 in a @emph{string} field with the value 0 (after the bias is
1508 subtracted) as a way of encoding null bytes.
1509
1510 @item 252
1511 End of file.  This code may or may not appear at the end of the data
1512 stream.  PSPP always outputs this code but its use is not required.
1513
1514 @item 253
1515 A numeric or string value that is not
1516 compressible.  The value is stored in the 8 bytes following the
1517 current block of command bytes.  If this value appears twice in a block
1518 of command bytes, then it indicates the second group of 8 bytes following the
1519 command bytes, and so on.
1520
1521 @item 254
1522 An 8-byte string value that is all spaces.
1523
1524 @item 255
1525 The system-missing value.
1526 @end table
1527
1528 The end of the 8-byte group of bytecodes is followed by any 8-byte
1529 blocks of non-compressible values indicated by code 253.  After that
1530 follows another 8-byte group of bytecodes, then those bytecodes'
1531 non-compressible values.  The pattern repeats to the end of the file
1532 or a code with value 252.
1533
1534 @item 2: ZLIB compression
1535 The data record consists of the following, in order:
1536
1537 @itemize @bullet
1538 @item
1539 ZLIB data header, 24 bytes long.
1540
1541 @item
1542 One or more variable-length blocks of ZLIB compressed data.
1543
1544 @item
1545 ZLIB data trailer, with a 24-byte fixed header plus an additional 24
1546 bytes for each preceding ZLIB compressed data block.
1547 @end itemize
1548
1549 The ZLIB data header has the following format:
1550
1551 @example
1552 int64               zheader_ofs;
1553 int64               ztrailer_ofs;
1554 int64               ztrailer_len;
1555 @end example
1556
1557 @table @code
1558 @item int64 zheader_ofs;
1559 The offset, in bytes, of the beginning of this structure within the
1560 system file.
1561
1562 @item int64 ztrailer_ofs;
1563 The offset, in bytes, of the first byte of the ZLIB data trailer.
1564
1565 @item int64 ztrailer_len;
1566 The number of bytes in the ZLIB data trailer.  This and the previous
1567 field sum to the size of the system file in bytes.
1568 @end table
1569
1570 The data header is followed by @code{(ztrailer_ofs - 24) / 24} ZLIB
1571 compressed data blocks.  Each ZLIB compressed data block begins with a
1572 ZLIB header as specified in RFC@tie{}1950, e.g.@: hex bytes @code{78
1573 01} (the only header yet observed in practice).  Each block
1574 decompresses to a fixed number of bytes (in practice only
1575 @code{0x3ff000}-byte blocks have been observed), except that the last
1576 block of data may be shorter.  The last ZLIB compressed data block
1577 gends just before offset @code{ztrailer_ofs}.
1578
1579 The result of ZLIB decompression is bytecode compressed data as
1580 described above for compression format 1.
1581
1582 The ZLIB data trailer begins with the following 24-byte fixed header:
1583
1584 @example
1585 int64               bias;
1586 int64               zero;
1587 int32               block_size;
1588 int32               n_blocks;
1589 @end example
1590
1591 @table @code
1592 @item int64 int_bias;
1593 The compression bias as a negative integer, e.g.@: if @code{bias} in
1594 the file header record is 100.0, then @code{int_bias} is @minus{}100
1595 (this is the only value yet observed in practice).
1596
1597 @item int64 zero;
1598 Always observed to be zero.
1599
1600 @item int32 block_size;
1601 The number of bytes in each ZLIB compressed data block, except
1602 possibly the last, following decompression.  Only @code{0x3ff000} has
1603 been observed so far.
1604
1605 @item int32 n_blocks;
1606 The number of ZLIB compressed data blocks, always exactly
1607 @code{(ztrailer_ofs - 24) / 24}.
1608 @end table
1609
1610 The fixed header is followed by @code{n_blocks} 24-byte ZLIB data
1611 block descriptors, each of which describes the compressed data block
1612 corresponding to its offset.  Each block descriptor has the following
1613 format:
1614
1615 @example
1616 int64               uncompressed_ofs;
1617 int64               compressed_ofs;
1618 int32               uncompressed_size;
1619 int32               compressed_size;
1620 @end example
1621
1622 @table @code
1623 @item int64 uncompressed_ofs;
1624 The offset, in bytes, that this block of data would have in a similar
1625 system file that uses compression format 1.  This is
1626 @code{zheader_ofs} in the first block descriptor, and in each
1627 succeeding block descriptor it is the sum of the previous desciptor's
1628 @code{uncompressed_ofs} and @code{uncompressed_size}.
1629
1630 @item int64 compressed_ofs;
1631 The offset, in bytes, of the actual beginning of this compressed data
1632 block.  This is @code{zheader_ofs + 24} in the first block descriptor,
1633 and in each succeeding block descriptor it is the sum of the previous
1634 descriptor's @code{compressed_ofs} and @code{compressed_size}.  The
1635 final block descriptor's @code{compressed_ofs} and
1636 @code{compressed_size} sum to @code{ztrailer_ofs}.
1637
1638 @item int32 uncompressed_size;
1639 The number of bytes in this data block, after decompression.  This is
1640 @code{block_size} in every data block except the last, which may be
1641 smaller.
1642
1643 @item int32 compressed_size;
1644 The number of bytes in this data block, as stored compressed in this
1645 system file.
1646 @end table
1647 @end table
1648
1649 @setfilename ignored
1650
1651 @node Encrypted System Files
1652 @section Encrypted System Files
1653
1654 SPSS 21 and later support an encrypted system file format.
1655
1656 @quotation Warning
1657 The SPSS encrypted file format is poorly designed.  It is much cheaper
1658 and faster to decrypt a file encrypted this way than if a well
1659 designed alternative were used.  If you must use this format, use a
1660 10-byte randomly generated password.
1661 @end quotation
1662
1663 @subheading Encrypted File Format
1664
1665 Encrypted system files begin with the following 36-byte fixed header:
1666
1667 @example
1668 0000  1c 00 00 00 00 00 00 00  45 4e 43 52 59 50 54 45  |........ENCRYPTE|
1669 0010  44 53 41 56 15 00 00 00  00 00 00 00 00 00 00 00  |DSAV............|
1670 0020  00 00 00 00                                       |....|
1671 @end example
1672
1673 Following the fixed header is a complete system file in the usual
1674 format, except that each 16-byte block is encrypted with AES-256 in
1675 ECB mode.  The AES-256 key is derived from a password in the following
1676 way:
1677
1678 @enumerate 
1679 @item
1680 Start from the literal password typed by the user.  Truncate it to at
1681 most 10 bytes, then append (between 1 and 22) null bytes until there
1682 are exactly 32 bytes.  Call this @var{password}.
1683
1684 @item
1685 Let @var{constant} be the following 73-byte constant:
1686
1687 @example
1688 0000  00 00 00 01 35 27 13 cc  53 a7 78 89 87 53 22 11
1689 0010  d6 5b 31 58 dc fe 2e 7e  94 da 2f 00 cc 15 71 80
1690 0020  0a 6c 63 53 00 38 c3 38  ac 22 f3 63 62 0e ce 85
1691 0030  3f b8 07 4c 4e 2b 77 c7  21 f5 1a 80 1d 67 fb e1
1692 0040  e1 83 07 d8 0d 00 00 01  00
1693 @end example
1694
1695 @item
1696 Compute CMAC-AES-256(@var{password}, @var{constant}).  Call the
1697 16-byte result @var{cmac}.
1698
1699 @item
1700 The 32-byte AES-256 key is @var{cmac} || @var{cmac}, that is,
1701 @var{cmac} repeated twice.
1702 @end enumerate
1703
1704 @subsubheading Example
1705
1706 Consider the password @samp{pspp}.  @var{password} is:
1707
1708 @example
1709 0000  70 73 70 70 00 00 00 00  00 00 00 00 00 00 00 00  |pspp............|
1710 0010  00 00 00 00 00 00 00 00  00 00 00 00 00 00 00 00  |................|
1711 @end example
1712
1713 @noindent
1714 @var{cmac} is:
1715
1716 @example
1717 0000  3e da 09 8e 66 04 d4 fd  f9 63 0c 2c a8 6f b0 45
1718 @end example
1719
1720 @noindent
1721 The AES-256 key is:
1722
1723 @example
1724 0000  3e da 09 8e 66 04 d4 fd  f9 63 0c 2c a8 6f b0 45
1725 0010  3e da 09 8e 66 04 d4 fd  f9 63 0c 2c a8 6f b0 45
1726 @end example
1727
1728 @subheading Password Encoding
1729
1730 SPSS also supports what it calls ``encrypted passwords.''  These are
1731 not encrypted.  They are encoded with a simple, fixed scheme.  An
1732 encoded password is always a multiple of 2 characters long, and never
1733 longer than 20 characters.  The characters in an encoded password are
1734 always in the graphic ASCII range 33 through 126.  Each successive
1735 pair of characters in the password encodes a single byte in the
1736 plaintext password.
1737
1738 Use the following algorithm to decode a pair of characters:
1739
1740 @enumerate
1741 @item
1742 Let @var{a} be the ASCII code of the first character, and @var{b} be
1743 the ASCII code of the second character.
1744
1745 @item
1746 Let @var{ah} be the most significant 4 bits of @var{a}.  Find the line
1747 in the table below that has @var{ah} on the left side.  The right side
1748 of the line is a set of possible values for the most significant 4
1749 bits of the decoded byte.
1750
1751 @display
1752 @t{2 } @result{} @t{2367}
1753 @t{3 } @result{} @t{0145}
1754 @t{47} @result{} @t{89cd}
1755 @t{56} @result{} @t{abef}
1756 @end display
1757
1758 @item
1759 Let @var{bh} be the most significant 4 bits of @var{b}.  Find the line
1760 in the second table below that has @var{bh} on the left side.  The
1761 right side of the line is a set of possible values for the most
1762 significant 4 bits of the decoded byte.  Together with the results of
1763 the previous step, only a single possibility is left.
1764
1765 @display
1766 @t{2 } @result{} @t{139b}
1767 @t{3 } @result{} @t{028a}
1768 @t{47} @result{} @t{46ce}
1769 @t{56} @result{} @t{57df}
1770 @end display
1771
1772 @item
1773 Let @var{al} be the least significant 4 bits of @var{a}.  Find the
1774 line in the table below that has @var{al} on the left side.  The right
1775 side of the line is a set of possible values for the least significant
1776 4 bits of the decoded byte.
1777
1778 @display
1779 @t{03cf} @result{} @t{0145}
1780 @t{12de} @result{} @t{2367}
1781 @t{478b} @result{} @t{89cd}
1782 @t{569a} @result{} @t{abef}
1783 @end display
1784
1785 @item
1786 Let @var{bl} be the least significant 4 bits of @var{b}.  Find the
1787 line in the table below that has @var{bl} on the left side.  The right
1788 side of the line is a set of possible values for the least significant
1789 4 bits of the decoded byte.  Together with the results of the previous
1790 step, only a single possibility is left.
1791
1792 @display
1793 @t{03cf} @result{} @t{028a}
1794 @t{12de} @result{} @t{139b}
1795 @t{478b} @result{} @t{46ce}
1796 @t{569a} @result{} @t{57df}
1797 @end display
1798 @end enumerate
1799
1800 @subsubheading Example
1801
1802 Consider the encoded character pair @samp{-|}.  @var{a} is
1803 0x2d and @var{b} is 0x7c, so @var{ah} is 2, @var{bh} is 7, @var{al} is
1804 0xd, and @var{bl} is 0xc.  @var{ah} means that the most significant
1805 four bits of the decoded character is 2, 3, 6, or 7, and @var{bh}
1806 means that they are 4, 6, 0xc, or 0xe.  The single possibility in
1807 common is 6, so the most significant four bits are 6.  Similarly,
1808 @var{al} means that the least significant four bits are 2, 3, 6, or 7,
1809 and @var{bl} means they are 0, 2, 8, or 0xa, so the least significant
1810 four bits are 2.  The decoded character is therefore 0x62, the letter
1811 @samp{b}.