Change "union value" to dynamically allocate long strings.
[pspp-builds.git] / doc / language.texi
1 @node Language
2 @chapter The PSPP language
3 @cindex language, PSPP
4 @cindex PSPP, language
5
6 @note{PSPP is not even close to completion.
7 Only a few statistical procedures are implemented.  PSPP
8 is a work in progress.}
9
10 This chapter discusses elements common to many PSPP commands.
11 Later chapters will describe individual commands in detail.
12
13 @menu
14 * Tokens::                      Characters combine to form tokens.
15 * Commands::                    Tokens combine to form commands.
16 * Syntax Variants::             Batch vs. Interactive mode
17 * Types of Commands::           Commands come in several flavors.
18 * Order of Commands::           Commands combine to form syntax files.
19 * Missing Observations::        Handling missing observations.
20 * Variables::                   The unit of data storage.
21 * Files::                       Files used by PSPP.
22 * File Handles::                How files are named.
23 * BNF::                         How command syntax is described.
24 @end menu
25
26
27 @node Tokens
28 @section Tokens
29 @cindex language, lexical analysis
30 @cindex language, tokens
31 @cindex tokens
32 @cindex lexical analysis
33
34 PSPP divides most syntax file lines into series of short chunks
35 called @dfn{tokens}.
36 Tokens are then grouped to form commands, each of which tells
37 PSPP to take some action---read in data, write out data, perform
38 a statistical procedure, etc.  Each type of token is
39 described below.
40
41 @table @strong
42 @cindex identifiers
43 @item Identifiers
44 Identifiers are names that typically specify variables, commands, or
45 subcommands.  The first character in an identifier must be a letter,
46 @samp{#}, or @samp{@@}.  The remaining characters in the identifier
47 must be letters, digits, or one of the following special characters:
48
49 @example
50 @center @.  _  $  #  @@
51 @end example
52
53 @cindex case-sensitivity
54 Identifiers may be any length, but only the first 64 bytes are
55 significant.  Identifiers are not case-sensitive: @code{foobar},
56 @code{Foobar}, @code{FooBar}, @code{FOOBAR}, and @code{FoObaR} are
57 different representations of the same identifier.
58
59 @cindex identifiers, reserved
60 @cindex reserved identifiers
61 Some identifiers are reserved.  Reserved identifiers may not be used
62 in any context besides those explicitly described in this manual.  The
63 reserved identifiers are:
64
65 @example
66 @center ALL  AND  BY  EQ  GE  GT  LE  LT  NE  NOT  OR  TO  WITH
67 @end example
68
69 @item Keywords
70 Keywords are a subclass of identifiers that form a fixed part of
71 command syntax.  For example, command and subcommand names are
72 keywords.  Keywords may be abbreviated to their first 3 characters if
73 this abbreviation is unambiguous.  (Unique abbreviations of 3 or more
74 characters are also accepted: @samp{FRE}, @samp{FREQ}, and
75 @samp{FREQUENCIES} are equivalent when the last is a keyword.)
76
77 Reserved identifiers are always used as keywords.  Other identifiers
78 may be used both as keywords and as user-defined identifiers, such as
79 variable names.
80
81 @item Numbers
82 @cindex numbers
83 @cindex integers
84 @cindex reals
85 Numbers are expressed in decimal.  A decimal point is optional.
86 Numbers may be expressed in scientific notation by adding @samp{e} and
87 a base-10 exponent, so that @samp{1.234e3} has the value 1234.  Here
88 are some more examples of valid numbers:
89
90 @example
91 -5  3.14159265359  1e100  -.707  8945.
92 @end example
93
94 Negative numbers are expressed with a @samp{-} prefix.  However, in
95 situations where a literal @samp{-} token is expected, what appears to
96 be a negative number is treated as @samp{-} followed by a positive
97 number.
98
99 No white space is allowed within a number token, except for horizontal
100 white space between @samp{-} and the rest of the number.
101
102 The last example above, @samp{8945.} will be interpreted as two
103 tokens, @samp{8945} and @samp{.}, if it is the last token on a line.
104 @xref{Commands, , Forming commands of tokens}.
105
106 @item Strings
107 @cindex strings
108 @cindex @samp{'}
109 @cindex @samp{"}
110 @cindex case-sensitivity
111 Strings are literal sequences of characters enclosed in pairs of
112 single quotes (@samp{'}) or double quotes (@samp{"}).  To include the
113 character used for quoting in the string, double it, e.g.@:
114 @samp{'it''s an apostrophe'}.  White space and case of letters are
115 significant inside strings.
116
117 Strings can be concatenated using @samp{+}, so that @samp{"a" + 'b' +
118 'c'} is equivalent to @samp{'abc'}.  Concatenation is useful for
119 splitting a single string across multiple source lines. The maximum
120 length of a string, after concatenation, is 255 characters.
121
122 Strings may also be expressed as hexadecimal, octal, or binary
123 character values by prefixing the initial quote character by @samp{X},
124 @samp{O}, or @samp{B} or their lowercase equivalents.  Each pair,
125 triplet, or octet of characters, according to the radix, is
126 transformed into a single character with the given value.  If there is
127 an incomplete group of characters, the missing final digits are
128 assumed to be @samp{0}.  These forms of strings are nonportable
129 because numeric values are associated with different characters by
130 different operating systems.  Therefore, their use should be confined
131 to syntax files that will not be widely distributed.
132
133 @cindex characters, reserved
134 @cindex 0
135 @cindex white space
136 The character with value 00 is reserved for
137 internal use by PSPP.  Its use in strings causes an error and
138 replacement by a space character.
139
140 @item Punctuators and Operators
141 @cindex punctuators
142 @cindex operators
143 These tokens are the punctuators and operators:
144
145 @example
146 @center ,  /  =  (  )  +  -  *  /  **  <  <=  <>  >  >=  ~=  &  |  .
147 @end example
148
149 Most of these appear within the syntax of commands, but the period
150 (@samp{.}) punctuator is used only at the end of a command.  It is a
151 punctuator only as the last character on a line (except white space).
152 When it is the last non-space character on a line, a period is not
153 treated as part of another token, even if it would otherwise be part
154 of, e.g.@:, an identifier or a floating-point number.
155
156 Actually, the character that ends a command can be changed with
157 @cmd{SET}'s ENDCMD subcommand (@pxref{SET}), but we do not recommend
158 doing so.  Throughout the remainder of this manual we will assume that
159 the default setting is in effect.
160 @end table
161
162 @node Commands
163 @section Forming commands of tokens
164
165 @cindex PSPP, command structure
166 @cindex language, command structure
167 @cindex commands, structure
168
169 Most PSPP commands share a common structure.  A command begins with a
170 command name, such as @cmd{FREQUENCIES}, @cmd{DATA LIST}, or @cmd{N OF
171 CASES}.  The command name may be abbreviated to its first word, and
172 each word in the command name may be abbreviated to its first three
173 or more characters, where these abbreviations are unambiguous.
174
175 The command name may be followed by one or more @dfn{subcommands}.
176 Each subcommand begins with a subcommand name, which may be
177 abbreviated to its first three letters.  Some subcommands accept a
178 series of one or more specifications, which follow the subcommand
179 name, optionally separated from it by an equals sign
180 (@samp{=}). Specifications may be separated from each other
181 by commas or spaces.  Each subcommand must be separated from the next (if any)
182 by a forward slash (@samp{/}).
183
184 There are multiple ways to mark the end of a command.  The most common
185 way is to end the last line of the command with a period (@samp{.}) as
186 described in the previous section (@pxref{Tokens}).  A blank line, or
187 one that consists only of white space or comments, also ends a command
188 by default, although you can use the NULLINE subcommand of @cmd{SET}
189 to disable this feature (@pxref{SET}).
190
191 @node Syntax Variants
192 @section Variants of syntax.
193
194 @cindex Batch syntax
195 @cindex Interactive syntax
196
197 There are two variants of command syntax, @i{viz}: @dfn{batch} mode and
198 @dfn{interactive} mode.
199 Batch mode is the default when reading commands from a file.
200 Interactive mode is the default when commands are typed at a prompt
201 by a user.
202 Certain commands, such as @cmd{INSERT} (@pxref{INSERT}), may explicitly
203 change the syntax mode. 
204
205 In batch mode, any line that contains a non-space character
206 in the leftmost column begins a new command. 
207 Thus, each command consists of a flush-left line followed by any
208 number of lines indented from the left margin. 
209 In this mode, a plus or minus sign (@samp{+}, @samp{@minus{}}) as the
210 first character in a line is ignored and causes that line to begin a
211 new command, which allows for visual indentation of a command without
212 that command being considered part of the previous command. 
213 The period terminating the end of a command is optional but recommended.
214
215 In interactive mode, each command must  either be terminated with a period,
216 or an empty line must follow the command.
217 The use of (@samp{+} and @samp{@minus{}} as continuation characters is not
218 permitted.
219
220 @node Types of Commands
221 @section Types of Commands
222
223 Commands in PSPP are divided roughly into six categories:
224
225 @table @strong
226 @item Utility commands
227 @cindex utility commands
228 Set or display various global options that affect PSPP operations.
229 May appear anywhere in a syntax file.  @xref{Utilities, , Utility
230 commands}.
231
232 @item File definition commands
233 @cindex file definition commands
234 Give instructions for reading data from text files or from special
235 binary ``system files''.  Most of these commands replace any previous
236 data or variables with new data or
237 variables.  At least one file definition command must appear before the first command in any of
238 the categories below.  @xref{Data Input and Output}.
239
240 @item Input program commands
241 @cindex input program commands
242 Though rarely used, these provide tools for reading data files
243 in arbitrary textual or binary formats.  @xref{INPUT PROGRAM}.
244
245 @item Transformations
246 @cindex transformations
247 Perform operations on data and write data to output files.  Transformations
248 are not carried out until a procedure is executed.  
249
250 @item Restricted transformations
251 @cindex restricted transformations
252 Transformations that cannot appear in certain contexts.  @xref{Order
253 of Commands}, for details.
254
255 @item Procedures
256 @cindex procedures
257 Analyze data, writing results of analyses to the listing file.  Cause
258 transformations specified earlier in the file to be performed.  In a
259 more general sense, a @dfn{procedure} is any command that causes the
260 active file (the data) to be read.
261 @end table
262
263 @node Order of Commands
264 @section Order of Commands
265 @cindex commands, ordering
266 @cindex order of commands
267
268 PSPP does not place many restrictions on ordering of commands.  The
269 main restriction is that variables must be defined before they are otherwise
270 referenced.  This section describes the details of command ordering,
271 but most users will have no need to refer to them.
272
273 PSPP possesses five internal states, called initial, INPUT PROGRAM,
274 FILE TYPE, transformation, and procedure states.  (Please note the
275 distinction between the @cmd{INPUT PROGRAM} and @cmd{FILE TYPE}
276 @emph{commands} and the INPUT PROGRAM and FILE TYPE @emph{states}.)
277
278 PSPP starts in the initial state.  Each successful completion
279 of a command may cause a state transition.  Each type of command has its
280 own rules for state transitions:
281
282 @table @strong
283 @item Utility commands
284 @itemize @bullet
285 @item
286 Valid in any state.
287 @item
288 Do not cause state transitions.  Exception: when @cmd{N OF CASES}
289 is executed in the procedure state, it causes a transition to the
290 transformation state.
291 @end itemize
292
293 @item @cmd{DATA LIST}
294 @itemize @bullet
295 @item
296 Valid in any state.
297 @item
298 When executed in the initial or procedure state, causes a transition to
299 the transformation state.  
300 @item
301 Clears the active file if executed in the procedure or transformation
302 state.
303 @end itemize
304
305 @item @cmd{INPUT PROGRAM}
306 @itemize @bullet
307 @item
308 Invalid in INPUT PROGRAM and FILE TYPE states.
309 @item
310 Causes a transition to the INPUT PROGRAM state.  
311 @item
312 Clears the active file.
313 @end itemize
314
315 @item @cmd{FILE TYPE}
316 @itemize @bullet
317 @item
318 Invalid in INPUT PROGRAM and FILE TYPE states.
319 @item
320 Causes a transition to the FILE TYPE state.
321 @item
322 Clears the active file.
323 @end itemize
324
325 @item Other file definition commands
326 @itemize @bullet
327 @item
328 Invalid in INPUT PROGRAM and FILE TYPE states.
329 @item
330 Cause a transition to the transformation state.
331 @item
332 Clear the active file, except for @cmd{ADD FILES}, @cmd{MATCH FILES},
333 and @cmd{UPDATE}.
334 @end itemize
335
336 @item Transformations
337 @itemize @bullet
338 @item
339 Invalid in initial and FILE TYPE states.
340 @item
341 Cause a transition to the transformation state.
342 @end itemize
343
344 @item Restricted transformations
345 @itemize @bullet
346 @item
347 Invalid in initial, INPUT PROGRAM, and FILE TYPE states.
348 @item
349 Cause a transition to the transformation state.
350 @end itemize
351
352 @item Procedures
353 @itemize @bullet
354 @item
355 Invalid in initial, INPUT PROGRAM, and FILE TYPE states.
356 @item
357 Cause a transition to the procedure state.
358 @end itemize
359 @end table
360
361 @node Missing Observations
362 @section Handling missing observations
363 @cindex missing values
364 @cindex values, missing
365
366 PSPP includes special support for unknown numeric data values.
367 Missing observations are assigned a special value, called the
368 @dfn{system-missing value}.  This ``value'' actually indicates the
369 absence of a value; it means that the actual value is unknown.  Procedures
370 automatically exclude from analyses those observations or cases that
371 have missing values.  Details of missing value exclusion depend on the
372 procedure and can often be controlled by the user; refer to
373 descriptions of individual procedures for details.
374
375 The system-missing value exists only for numeric variables.  String
376 variables always have a defined value, even if it is only a string of
377 spaces.
378
379 Variables, whether numeric or string, can have designated
380 @dfn{user-missing values}.  Every user-missing value is an actual value
381 for that variable.  However, most of the time user-missing values are
382 treated in the same way as the system-missing value.  String variables
383 that are wider than a certain width, usually 8 characters (depending on
384 computer architecture), cannot have user-missing values.
385
386 For more information on missing values, see the following sections:
387 @ref{Variables}, @ref{MISSING VALUES}, @ref{Expressions}.  See also the
388 documentation on individual procedures for information on how they
389 handle missing values.
390
391 @node Variables
392 @section Variables
393 @cindex variables
394 @cindex dictionary
395
396 Variables are the basic unit of data storage in PSPP.  All the
397 variables in a file taken together, apart from any associated data, are
398 said to form a @dfn{dictionary}.  
399 Some details of variables are described in the sections below.
400
401 @menu
402 * Attributes::                  Attributes of variables.
403 * System Variables::            Variables automatically defined by PSPP.
404 * Sets of Variables::           Lists of variable names.
405 * Input and Output Formats::    Input and output formats.
406 * Scratch Variables::           Variables deleted by procedures.
407 @end menu
408
409 @node Attributes
410 @subsection Attributes of Variables
411 @cindex variables, attributes of
412 @cindex attributes of variables
413 Each variable has a number of attributes, including:
414
415 @table @strong
416 @item Name
417 An identifier, up to 64 bytes long.  Each variable must have a different name.
418 @xref{Tokens}.
419
420 Some system variable names begin with @samp{$}, but user-defined
421 variables' names may not begin with @samp{$}.
422
423 @cindex @samp{.}
424 @cindex period
425 @cindex variable names, ending with period
426 The final character in a variable name should not be @samp{.}, because
427 such an identifier will be misinterpreted when it is the final token
428 on a line: @code{FOO.} will be divided into two separate tokens,
429 @samp{FOO} and @samp{.}, indicating end-of-command.  @xref{Tokens}.
430
431 @cindex @samp{_}
432 The final character in a variable name should not be @samp{_}, because
433 some such identifiers are used for special purposes by PSPP
434 procedures.
435
436 As with all PSPP identifiers, variable names are not case-sensitive.
437 PSPP capitalizes variable names on output the same way they were
438 capitalized at their point of definition in the input.
439
440 @cindex variables, type
441 @cindex type of variables
442 @item Type
443 Numeric or string.
444
445 @cindex variables, width
446 @cindex width of variables
447 @item Width
448 (string variables only) String variables with a width of 8 characters or
449 fewer are called @dfn{short string variables}.  Short string variables
450 may be used in a few contexts where @dfn{long string variables} (those
451 with widths greater than 8) are not allowed.
452
453 @item Position
454 Variables in the dictionary are arranged in a specific order.
455 @cmd{DISPLAY} can be used to show this order: see @ref{DISPLAY}.
456
457 @item Initialization
458 Either reinitialized to 0 or spaces for each case, or left at its
459 existing value.  @xref{LEAVE}.
460
461 @cindex missing values
462 @cindex values, missing
463 @item Missing values
464 Optionally, up to three values, or a range of values, or a specific
465 value plus a range, can be specified as @dfn{user-missing values}.
466 There is also a @dfn{system-missing value} that is assigned to an
467 observation when there is no other obvious value for that observation.
468 Observations with missing values are automatically excluded from
469 analyses.  User-missing values are actual data values, while the
470 system-missing value is not a value at all.  @xref{Missing Observations}.
471
472 @cindex variable labels
473 @cindex labels, variable
474 @item Variable label
475 A string that describes the variable.  @xref{VARIABLE LABELS}.
476
477 @cindex value labels
478 @cindex labels, value
479 @item Value label
480 Optionally, these associate each possible value of the variable with a
481 string.  @xref{VALUE LABELS}.
482
483 @cindex print format
484 @item Print format
485 Display width, format, and (for numeric variables) number of decimal
486 places.  This attribute does not affect how data are stored, just how
487 they are displayed.  Example: a width of 8, with 2 decimal places.
488 @xref{Input and Output Formats}.
489
490 @cindex write format
491 @item Write format
492 Similar to print format, but used by the @cmd{WRITE} command
493 (@pxref{WRITE}).
494
495 @cindex custom attributes
496 @item Custom attributes
497 User-defined associations between names and values.  @xref{VARIABLE
498 ATTRIBUTE}.
499 @end table
500
501 @node System Variables
502 @subsection Variables Automatically Defined by PSPP
503 @cindex system variables
504 @cindex variables, system
505
506 There are seven system variables.  These are not like ordinary
507 variables because system variables are not always stored.  They can be used only
508 in expressions.  These system variables, whose values and output formats
509 cannot be modified, are described below.
510
511 @table @code
512 @cindex @code{$CASENUM}
513 @item $CASENUM
514 Case number of the case at the moment.  This changes as cases are
515 shuffled around.
516
517 @cindex @code{$DATE}
518 @item $DATE
519 Date the PSPP process was started, in format A9, following the
520 pattern @code{DD MMM YY}.
521
522 @cindex @code{$JDATE}
523 @item $JDATE
524 Number of days between 15 Oct 1582 and the time the PSPP process
525 was started.
526
527 @cindex @code{$LENGTH}
528 @item $LENGTH
529 Page length, in lines, in format F11.
530
531 @cindex @code{$SYSMIS}
532 @item $SYSMIS
533 System missing value, in format F1.
534
535 @cindex @code{$TIME}
536 @item $TIME
537 Number of seconds between midnight 14 Oct 1582 and the time the active file
538 was read, in format F20.
539
540 @cindex @code{$WIDTH}
541 @item $WIDTH
542 Page width, in characters, in format F3.
543 @end table
544
545 @node Sets of Variables
546 @subsection Lists of variable names
547 @cindex @code{TO} convention
548 @cindex convention, @code{TO}
549
550 To refer to a set of variables, list their names one after another.
551 Optionally, their names may be separated by commas.  To include a
552 range of variables from the dictionary in the list, write the name of
553 the first and last variable in the range, separated by @code{TO}.  For
554 instance, if the dictionary contains six variables with the names
555 @code{ID}, @code{X1}, @code{X2}, @code{GOAL}, @code{MET}, and
556 @code{NEXTGOAL}, in that order, then @code{X2 TO MET} would include
557 variables @code{X2}, @code{GOAL}, and @code{MET}.
558
559 Commands that define variables, such as @cmd{DATA LIST}, give
560 @code{TO} an alternate meaning.  With these commands, @code{TO} define
561 sequences of variables whose names end in consecutive integers.  The
562 syntax is two identifiers that begin with the same root and end with
563 numbers, separated by @code{TO}.  The syntax @code{X1 TO X5} defines 5
564 variables, named @code{X1}, @code{X2}, @code{X3}, @code{X4}, and
565 @code{X5}.  The syntax @code{ITEM0008 TO ITEM0013} defines 6
566 variables, named @code{ITEM0008}, @code{ITEM0009}, @code{ITEM0010},
567 @code{ITEM0011}, @code{ITEM0012}, and @code{ITEM00013}.  The syntaxes
568 @code{QUES001 TO QUES9} and @code{QUES6 TO QUES3} are invalid.
569
570 After a set of variables has been defined with @cmd{DATA LIST} or
571 another command with this method, the same set can be referenced on
572 later commands using the same syntax.
573
574 @node Input and Output Formats
575 @subsection Input and Output Formats
576
577 @cindex formats
578 An @dfn{input format} describes how to interpret the contents of an
579 input field as a number or a string.  It might specify that the field
580 contains an ordinary decimal number, a time or date, a number in binary
581 or hexadecimal notation, or one of several other notations.  Input
582 formats are used by commands such as @cmd{DATA LIST} that read data or
583 syntax files into the PSPP active file.
584
585 Every input format corresponds to a default @dfn{output format} that
586 specifies the formatting used when the value is output later.  It is
587 always possible to explicitly specify an output format that resembles
588 the input format.  Usually, this is the default, but in cases where the
589 input format is unfriendly to human readability, such as binary or
590 hexadecimal formats, the default output format is an easier-to-read
591 decimal format.
592
593 Every variable has two output formats, called its @dfn{print format} and
594 @dfn{write format}.  Print formats are used in most output contexts;
595 write formats are used only by @cmd{WRITE} (@pxref{WRITE}).  Newly
596 created variables have identical print and write formats, and
597 @cmd{FORMATS}, the most commonly used command for changing formats
598 (@pxref{FORMATS}), sets both of them to the same value as well.  Thus,
599 most of the time, the distinction between print and write formats is
600 unimportant.
601
602 Input and output formats are specified to PSPP with a @dfn{format
603 specification} of the form @code{TYPEw} or @code{TYPEw.d}, where
604 @code{TYPE} is one of the format types described later, @code{w} is a
605 field width measured in columns, and @code{d} is an optional number of
606 decimal places.  If @code{d} is omitted, a value of 0 is assumed.  Some
607 formats do not allow a nonzero @code{d} to be specified.
608
609 The following sections describe the input and output formats supported
610 by PSPP.
611
612 @menu
613 * Basic Numeric Formats::       
614 * Custom Currency Formats::     
615 * Legacy Numeric Formats::      
616 * Binary and Hexadecimal Numeric Formats::  
617 * Time and Date Formats::       
618 * Date Component Formats::      
619 * String Formats::              
620 @end menu
621
622 @node Basic Numeric Formats
623 @subsubsection Basic Numeric Formats
624
625 @cindex numeric formats
626 The basic numeric formats are used for input and output of real numbers
627 in standard or scientific notation.  The following table shows an
628 example of how each format displays positive and negative numbers with
629 the default decimal point setting:
630
631 @float
632 @multitable {DOLLAR10.2} {@code{@tie{}$3,141.59}} {@code{-$3,141.59}}
633 @headitem Format @tab @code{@tie{}3141.59}   @tab @code{-3141.59}
634 @item F8.2       @tab @code{@tie{}3141.59}   @tab @code{-3141.59}
635 @item COMMA9.2   @tab @code{@tie{}3,141.59}  @tab @code{-3,141.59}
636 @item DOT9.2     @tab @code{@tie{}3.141,59}  @tab @code{-3.141,59}
637 @item DOLLAR10.2 @tab @code{@tie{}$3,141.59} @tab @code{-$3,141.59}
638 @item PCT9.2     @tab @code{@tie{}3141.59%}  @tab @code{-3141.59%}
639 @item E8.1       @tab @code{@tie{}3.1E+003}  @tab @code{-3.1E+003}
640 @end multitable
641 @end float
642
643 On output, numbers in F format are expressed in standard decimal
644 notation with the requested number of decimal places.  The other formats
645 output some variation on this style:
646
647 @itemize @bullet
648 @item
649 Numbers in COMMA format are additionally grouped every three digits by
650 inserting a grouping character.  The grouping character is ordinarily a
651 comma, but it can be changed to a period (@pxref{SET DECIMAL}).
652
653 @item
654 DOT format is like COMMA format, but it interchanges the role of the
655 decimal point and grouping characters.  That is, the current grouping
656 character is used as a decimal point and vice versa.
657
658 @item
659 DOLLAR format is like COMMA format, but it prefixes the number with
660 @samp{$}.
661
662 @item
663 PCT format is like F format, but adds @samp{%} after the number.
664
665 @item
666 The E format always produces output in scientific notation.
667 @end itemize
668
669 On input, the basic numeric formats accept positive and numbers in
670 standard decimal notation or scientific notation.  Leading and trailing
671 spaces are allowed.  An empty or all-spaces field, or one that contains
672 only a single period, is treated as the system missing value.
673
674 In scientific notation, the exponent may be introduced by a sign
675 (@samp{+} or @samp{-}), or by one of the letters @samp{e} or @samp{d}
676 (in uppercase or lowercase), or by a letter followed by a sign.  A
677 single space may follow the letter or the sign or both.
678
679 On fixed-format @cmd{DATA LIST} (@pxref{DATA LIST FIXED}) and in a few
680 other contexts, decimals are implied when the field does not contain a
681 decimal point.  In F6.5 format, for example, the field @code{314159} is
682 taken as the value 3.14159 with implied decimals.  Decimals are never
683 implied if an explicit decimal point is present or if scientific
684 notation is used.
685
686 E and F formats accept the basic syntax already described.  The other
687 formats allow some additional variations:
688
689 @itemize @bullet
690 @item
691 COMMA, DOLLAR, and DOT formats ignore grouping characters within the
692 integer part of the input field.  The identity of the grouping
693 character depends on the format.
694
695 @item
696 DOLLAR format allows a dollar sign to precede the number.  In a negative
697 number, the dollar sign may precede or follow the minus sign.
698
699 @item
700 PCT format allows a percent sign to follow the number.
701 @end itemize
702
703 All of the basic number formats have a maximum field width of 40 and
704 accept no more than 16 decimal places, on both input and output.  Some
705 additional restrictions apply:
706
707 @itemize @bullet
708 @item
709 As input formats, the basic numeric formats allow no more decimal places
710 than the field width.  As output formats, the field width must be
711 greater than the number of decimal places; that is, large enough to
712 allow for a decimal point and the number of requested decimal places.
713 DOLLAR and PCT formats must allow an additional column for @samp{$} or
714 @samp{%}.
715
716 @item
717 The default output format for a given input format increases the field
718 width enough to make room for optional input characters.  If an input
719 format calls for decimal places, the width is increased by 1 to make
720 room for an implied decimal point.  COMMA, DOT, and DOLLAR formats also
721 increase the output width to make room for grouping characters.  DOLLAR
722 and PCT further increase the output field width by 1 to make room for
723 @samp{$} or @samp{%}.  The increased output width is capped at 40, the
724 maximum field width.
725
726 @item
727 The E format is exceptional.  For output, E format has a minimum width
728 of 7 plus the number of decimal places.  The default output format for
729 an E input format is an E format with at least 3 decimal places and
730 thus a minimum width of 10.
731 @end itemize
732
733 More details of basic numeric output formatting are given below:
734
735 @itemize @bullet
736 @item
737 Output rounds to nearest, with ties rounded away from zero.  Thus, 2.5
738 is output as @code{3} in F1.0 format, and -1.125 as @code{-1.13} in F5.1
739 format.
740
741 @item
742 The system-missing value is output as a period in a field of spaces,
743 placed in the decimal point's position, or in the rightmost column if no
744 decimal places are requested.  A period is used even if the decimal
745 point character is a comma.
746
747 @item
748 A number that does not fill its field is right-justified within the
749 field.
750
751 @item
752 A number is too large for its field causes decimal places to be dropped
753 to make room.  If dropping decimals does not make enough room,
754 scientific notation is used if the field is wide enough.  If a number
755 does not fit in the field, even in scientific notation, the overflow is
756 indicated by filling the field with asterisks (@samp{*}).
757
758 @item
759 COMMA, DOT, and DOLLAR formats insert grouping characters only if space
760 is available for all of them.  Grouping characters are never inserted
761 when all decimal places must be dropped.  Thus, 1234.56 in COMMA5.2
762 format is output as @samp{@tie{}1235} without a comma, even though there
763 is room for one, because all decimal places were dropped.
764
765 @item
766 DOLLAR or PCT format drop the @samp{$} or @samp{%} only if the number
767 would not fit at all without it.  Scientific notation with @samp{$} or
768 @samp{%} is preferred to ordinary decimal notation without it.
769
770 @item
771 Except in scientific notation, a decimal point is included only when
772 it is followed by a digit.  If the integer part of the number being
773 output is 0, and a decimal point is included, then the zero before the
774 decimal point is dropped.
775
776 In scientific notation, the number always includes a decimal point,
777 even if it is not followed by a digit.
778
779 @item
780 A negative number includes a minus sign only in the presence of a
781 nonzero digit: -0.01 is output as @samp{-.01} in F4.2 format but as
782 @samp{@tie{}@tie{}.0} in F4.1 format.  Thus, a ``negative zero'' never
783 includes a minus sign.
784
785 @item
786 In negative numbers output in DOLLAR format, the dollar sign follows the
787 negative sign.  Thus, -9.99 in DOLLAR6.2 format is output as
788 @code{-$9.99}.
789
790 @item
791 In scientific notation, the exponent is output as @samp{E} followed by
792 @samp{+} or @samp{-} and exactly three digits.  Numbers with magnitude
793 less than 10**-999 or larger than 10**999 are not supported by most
794 computers, but if they are supported then their output is considered
795 to overflow the field and will be output as asterisks.
796
797 @item
798 On most computers, no more than 15 decimal digits are significant in
799 output, even if more are printed.  In any case, output precision cannot
800 be any higher than input precision; few data sets are accurate to 15
801 digits of precision.  Unavoidable loss of precision in intermediate
802 calculations may also reduce precision of output.
803
804 @item
805 Special values such as infinities and ``not a number'' values are
806 usually converted to the system-missing value before printing.  In a few
807 circumstances, these values are output directly.  In fields of width 3
808 or greater, special values are output as however many characters will
809 fit from @code{+Infinity} or @code{-Infinity} for infinities, from
810 @code{NaN} for ``not a number,'' or from @code{Unknown} for other values
811 (if any are supported by the system).  In fields under 3 columns wide,
812 special values are output as asterisks.
813 @end itemize
814
815 @node Custom Currency Formats
816 @subsubsection Custom Currency Formats
817
818 @cindex currency formats
819 The custom currency formats are closely related to the basic numeric
820 formats, but they allow users to customize the output format.  The
821 SET command configures custom currency formats, using the syntax
822 @display
823 SET CC@var{x}=@t{"}@var{string}@t{"}.
824 @end display
825 @noindent 
826 where @var{x} is A, B, C, D, or E, and @var{string} is no more than 16
827 characters long.
828
829 @var{string} must contain exactly three commas or exactly three periods
830 (but not both), except that a single quote character may be used to
831 ``escape'' a following comma, period, or single quote.  If three commas
832 are used, commas will be used for grouping in output, and a period will
833 be used as the decimal point.  Uses of periods reverses these roles.
834
835 The commas or periods divide @var{string} into four fields, called the
836 @dfn{negative prefix}, @dfn{prefix}, @dfn{suffix}, and @dfn{negative
837 suffix}, respectively.  The prefix and suffix are added to output
838 whenever space is available.  The negative prefix and negative suffix
839 are always added to a negative number when the output includes a nonzero
840 digit.
841
842 The following syntax shows how custom currency formats could be used to
843 reproduce basic numeric formats:
844
845 @example
846 @group
847 SET CCA="-,,,".  /* Same as COMMA.
848 SET CCB="-...".  /* Same as DOT.
849 SET CCC="-,$,,". /* Same as DOLLAR.
850 SET CCD="-,,%,". /* Like PCT, but groups with commas.
851 @end group
852 @end example
853
854 Here are some more examples of custom currency formats.  The final
855 example shows how to use a single quote to escape a delimiter:
856
857 @example
858 @group
859 SET CCA=",EUR,,-".   /* Euro.
860 SET CCB="(,USD ,,)". /* US dollar.
861 SET CCC="-.R$..".    /* Brazilian real.
862 SET CCD="-,, NIS,".  /* Israel shekel.
863 SET CCE="-.Rp'. ..". /* Indonesia Rupiah.
864 @end group
865 @end example
866
867 @noindent These formats would yield the following output:
868
869 @float
870 @multitable {CCD13.2} {@code{@tie{}@tie{}USD 3,145.59}} {@code{(USD 3,145.59)}}
871 @headitem Format @tab @code{@tie{}3145.59}         @tab @code{-3145.59}
872 @item CCA12.2 @tab @code{@tie{}EUR3,145.59}        @tab @code{EUR3,145.59-}
873 @item CCB14.2 @tab @code{@tie{}@tie{}USD 3,145.59} @tab @code{(USD 3,145.59)}
874 @item CCC11.2 @tab @code{@tie{}R$3.145,59}         @tab @code{-R$3.145,59}
875 @item CCD13.2 @tab @code{@tie{}3,145.59 NIS}       @tab @code{-3,145.59 NIS}
876 @item CCE10.0 @tab @code{@tie{}Rp. 3.146}          @tab @code{-Rp. 3.146}
877 @end multitable
878 @end float
879
880 The default for all the custom currency formats is @samp{-,,,},
881 equivalent to COMMA format.
882
883 @node Legacy Numeric Formats
884 @subsubsection Legacy Numeric Formats
885
886 The N and Z numeric formats provide compatibility with legacy file
887 formats.  They have much in common:
888
889 @itemize @bullet
890 @item
891 Output is rounded to the nearest representable value, with ties rounded
892 away from zero.
893
894 @item
895 Numbers too large to display are output as a field filled with asterisks
896 (@samp{*}).
897
898 @item
899 The decimal point is always implicitly the specified number of digits
900 from the right edge of the field, except that Z format input allows an
901 explicit decimal point.
902
903 @item
904 Scientific notation may not be used.
905
906 @item
907 The system-missing value is output as a period in a field of spaces.
908 The period is placed just to the right of the implied decimal point in
909 Z format, or at the right end in N format or in Z format if no decimal
910 places are requested.  A period is used even if the decimal point
911 character is a comma.
912
913 @item
914 Field width may range from 1 to 40.  Decimal places may range from 0 up
915 to the field width, to a maximum of 16.
916
917 @item
918 When a legacy numeric format used for input is converted to an output
919 format, it is changed into the equivalent F format.  The field width is
920 increased by 1 if any decimal places are specified, to make room for a
921 decimal point.  For Z format, the field width is increased by 1 more
922 column, to make room for a negative sign.  The output field width is
923 capped at 40 columns.
924 @end itemize
925
926 @subsubheading N Format
927
928 The N format supports input and output of fields that contain only
929 digits.  On input, leading or trailing spaces, a decimal point, or any
930 other non-digit character causes the field to be read as the
931 system-missing value.  As a special exception, an N format used on
932 @cmd{DATA LIST FREE} or @cmd{DATA LIST LIST} is treated as the
933 equivalent F format.
934
935 On output, N pads the field on the left with zeros.  Negative numbers
936 are output like the system-missing value.
937
938 @subsubheading Z Format
939
940 The Z format is a ``zoned decimal'' format used on IBM mainframes.  Z
941 format encodes the sign as part of the final digit, which must be one of
942 the following:
943 @example
944 0123456789
945 @{ABCDEFGHI
946 @}JKLMNOPQR
947 @end example
948 @noindent
949 where the characters in each row represent digits 0 through 9 in order.
950 Characters in the first two rows indicate a positive sign; those in the
951 third indicate a negative sign.
952
953 On output, Z fields are padded on the left with spaces.  On input,
954 leading and trailing spaces are ignored.  Any character in an input
955 field other than spaces, the digit characters above, and @samp{.} causes
956 the field to be read as system-missing.
957
958 The decimal point character for input and output is always @samp{.},
959 even if the decimal point character is a comma (@pxref{SET DECIMAL}).
960
961 Nonzero, negative values output in Z format are marked as negative even
962 when no nonzero digits are output.  For example, -0.2 is output in Z1.0
963 format as @samp{J}.  The ``negative zero'' value supported by most
964 machines is output as positive.
965
966 @node Binary and Hexadecimal Numeric Formats
967 @subsubsection Binary and Hexadecimal Numeric Formats
968
969 @cindex binary formats
970 @cindex hexadecimal formats
971 The binary and hexadecimal formats are primarily designed for
972 compatibility with existing machine formats, not for human readability.
973 All of them therefore have a F format as default output format.  Some of
974 these formats are only portable between machines with compatible byte
975 ordering (endianness) or floating-point format.
976
977 Binary formats use byte values that in text files are interpreted as
978 special control functions, such as carriage return and line feed.  Thus,
979 data in binary formats should not be included in syntax files or read
980 from data files with variable-length records, such as ordinary text
981 files.  They may be read from or written to data files with fixed-length
982 records.  @xref{FILE HANDLE}, for information on working with
983 fixed-length records.
984
985 @subsubheading P and PK Formats
986
987 These are binary-coded decimal formats, in which every byte (except the
988 last, in P format) represents two decimal digits.  The most-significant
989 4 bits of the first byte is the most-significant decimal digit, the
990 least-significant 4 bits of the first byte is the next decimal digit,
991 and so on.
992
993 In P format, the most-significant 4 bits of the last byte are the
994 least-significant decimal digit.  The least-significant 4 bits represent
995 the sign: decimal 15 indicates a negative value, decimal 13 indicates a
996 positive value.
997
998 Numbers are rounded downward on output.  The system-missing value and
999 numbers outside representable range are output as zero.
1000
1001 The maximum field width is 16.  Decimal places may range from 0 up to
1002 the number of decimal digits represented by the field.
1003
1004 The default output format is an F format with twice the input field
1005 width, plus one column for a decimal point (if decimal places were
1006 requested).
1007
1008 @subsubheading IB and PIB Formats
1009
1010 These are integer binary formats.  IB reads and writes 2's complement
1011 binary integers, and PIB reads and writes unsigned binary integers.  The
1012 byte ordering is by default the host machine's, but SET RIB may be used
1013 to select a specific byte ordering for reading (@pxref{SET RIB}) and
1014 SET WIB, similarly, for writing (@pxref{SET WIB}).
1015
1016 The maximum field width is 8.  Decimal places may range from 0 up to the
1017 number of decimal digits in the largest value representable in the field
1018 width.
1019
1020 The default output format is an F format whose width is the number of
1021 decimal digits in the largest value representable in the field width,
1022 plus 1 if the format has decimal places.
1023
1024 @subsubheading RB Format
1025
1026 This is a binary format for real numbers.  By default it reads and
1027 writes the host machine's floating-point format, but SET RRB may be
1028 used to select an alternate floating-point format for reading
1029 (@pxref{SET RRB}) and SET WRB, similarly, for writing (@pxref{SET
1030 WRB}).
1031
1032 The recommended field width depends on the floating-point format.
1033 NATIVE (the default format), IDL, IDB, VD, VG, and ZL formats should use
1034 a field width of 8.  ISL, ISB, VF, and ZS formats should use a field
1035 width of 4.  Other field widths will not produce useful results.  The
1036 maximum field width is 8.  No decimal places may be specified.
1037
1038 The default output format is F8.2.
1039
1040 @subsubheading PIBHEX and RBHEX Formats
1041
1042 These are hexadecimal formats, for reading and writing binary formats
1043 where each byte has been recoded as a pair of hexadecimal digits.
1044
1045 A hexadecimal field consists solely of hexadecimal digits
1046 @samp{0}@dots{}@samp{9} and @samp{A}@dots{}@samp{F}.  Uppercase and
1047 lowercase are accepted on input; output is in uppercase.
1048
1049 Other than the hexadecimal representation, these formats are equivalent
1050 to PIB and RB formats, respectively.  However, bytes in PIBHEX format
1051 are always ordered with the most-significant byte first (big-endian
1052 order), regardless of the host machine's native byte order or PSPP
1053 settings.
1054
1055 Field widths must be even and between 2 and 16.  RBHEX format allows no
1056 decimal places; PIBHEX allows as many decimal places as a PIB format
1057 with half the given width.
1058
1059 @node Time and Date Formats
1060 @subsubsection Time and Date Formats
1061
1062 @cindex time formats
1063 @cindex date formats
1064 In PSPP, a @dfn{time} is an interval.  The time formats translate
1065 between human-friendly descriptions of time intervals and PSPP's
1066 internal representation of time intervals, which is simply the number of
1067 seconds in the interval.  PSPP has two time formats:
1068
1069 @float
1070 @multitable {Time Format} {@code{dd-mmm-yyyy HH:MM:SS.ss}} {@code{01-OCT-1978 04:31:17.01}}
1071 @headitem Time Format @tab Template                  @tab Example
1072 @item TIME     @tab @code{hh:MM:SS.ss}          @tab @code{04:31:17.01}
1073 @item DTIME    @tab @code{DD HH:MM:SS.ss}       @tab @code{00 04:31:17.01}
1074 @end multitable
1075 @end float
1076
1077 A @dfn{date} is a moment in the past or the future.  Internally, PSPP
1078 represents a date as the number of seconds since the @dfn{epoch},
1079 midnight, Oct. 14, 1582.  The date formats translate between
1080 human-readable dates and PSPP's numeric representation of dates and
1081 times.  PSPP has several date formats:
1082
1083 @float
1084 @multitable {Date Format} {@code{dd-mmm-yyyy HH:MM:SS.ss}} {@code{01-OCT-1978 04:31:17.01}}
1085 @headitem Date Format @tab Template                  @tab Example
1086 @item DATE     @tab @code{dd-mmm-yyyy}          @tab @code{01-OCT-1978}
1087 @item ADATE    @tab @code{mm/dd/yyyy}           @tab @code{10/01/1978}
1088 @item EDATE    @tab @code{dd.mm.yyyy}           @tab @code{01.10.1978}
1089 @item JDATE    @tab @code{yyyyjjj}              @tab @code{1978274}
1090 @item SDATE    @tab @code{yyyy/mm/dd}           @tab @code{1978/10/01}
1091 @item QYR      @tab @code{q Q yyyy}             @tab @code{3 Q 1978}
1092 @item MOYR     @tab @code{mmm yyyy}             @tab @code{OCT 1978}
1093 @item WKYR     @tab @code{ww WK yyyy}           @tab @code{40 WK 1978}
1094 @item DATETIME @tab @code{dd-mmm-yyyy HH:MM:SS.ss} @tab @code{01-OCT-1978 04:31:17.01}
1095 @end multitable
1096 @end float
1097
1098 The templates in the preceding tables describe how the time and date
1099 formats are input and output:
1100
1101 @table @code
1102 @item dd
1103 Day of month, from 1 to 31.  Always output as two digits.
1104
1105 @item mm
1106 @itemx mmm
1107 Month.  In output, @code{mm} is output as two digits, @code{mmm} as the
1108 first three letters of an English month name (January, February,
1109 @dots{}).  In input, both of these formats, plus Roman numerals, are
1110 accepted.
1111
1112 @item yyyy
1113 Year.  In output, DATETIME always produces a 4-digit year; other
1114 formats can produce a 2- or 4-digit year.  The century assumed for
1115 2-digit years depends on the EPOCH setting (@pxref{SET EPOCH}).  In
1116 output, a year outside the epoch causes the whole field to be filled
1117 with asterisks (@samp{*}).
1118
1119 @item jjj
1120 Day of year (Julian day), from 1 to 366.  This is exactly three digits
1121 giving the count of days from the start of the year.  January 1 is
1122 considered day 1.
1123
1124 @item q
1125 Quarter of year, from 1 to 4.  Quarters start on January 1, April 1,
1126 July 1, and October 1.
1127
1128 @item ww
1129 Week of year, from 1 to 53.  Output as exactly two digits.  January 1 is
1130 the first day of week 1.
1131
1132 @item DD
1133 Count of days, which may be positive or negative.  Output as at least
1134 two digits.
1135
1136 @item hh
1137 Count of hours, which may be positive or negative.  Output as at least
1138 two digits.
1139
1140 @item HH
1141 Hour of day, from 0 to 23.  Output as exactly two digits.
1142
1143 @item MM
1144 Minute of hour, from 0 to 59.  Output as exactly two digits.
1145
1146 @item SS.ss
1147 Seconds within minute, from 0 to 59.  The integer part is output as
1148 exactly two digits.  On output, seconds and fractional seconds may or
1149 may not be included, depending on field width and decimal places.  On
1150 input, seconds and fractional seconds are optional.  The DECIMAL setting
1151 controls the character accepted and displayed as the decimal point
1152 (@pxref{SET DECIMAL}).
1153 @end table
1154
1155 For output, the date and time formats use the delimiters indicated in
1156 the table.  For input, date components may be separated by spaces or by
1157 one of the characters @samp{-}, @samp{/}, @samp{.}, or @samp{,}, and
1158 time components may be separated by spaces, @samp{:}, or @samp{.}.  On
1159 input, the @samp{Q} separating quarter from year and the @samp{WK}
1160 separating week from year may be uppercase or lowercase, and the spaces
1161 around them are optional.
1162
1163 On input, all time and date formats accept any amount of leading and
1164 trailing white space.
1165
1166 The maximum width for time and date formats is 40 columns.  Minimum
1167 input and output width for each of the time and date formats is shown
1168 below:
1169
1170 @float
1171 @multitable {DATETIME} {Min. Input Width} {Min. Output Width} {4-digit year}
1172 @headitem Format @tab Min. Input Width @tab Min. Output Width @tab Option 
1173 @item DATE @tab 8 @tab 9 @tab 4-digit year
1174 @item ADATE @tab 8 @tab 8 @tab 4-digit year
1175 @item EDATE @tab 8 @tab 8 @tab 4-digit year
1176 @item JDATE @tab 5 @tab 5 @tab 4-digit year
1177 @item SDATE @tab 8 @tab 8 @tab 4-digit year
1178 @item QYR @tab 4 @tab 6 @tab 4-digit year
1179 @item MOYR @tab 6 @tab 6 @tab 4-digit year
1180 @item WKYR @tab 6 @tab 8 @tab 4-digit year
1181 @item DATETIME @tab 17 @tab 17 @tab seconds
1182 @item TIME @tab 5 @tab 5 @tab seconds
1183 @item DTIME @tab 8 @tab 8 @tab seconds
1184 @end multitable
1185 @end float
1186 @noindent 
1187 In the table, ``Option'' describes what increased output width enables:
1188
1189 @table @asis
1190 @item 4-digit year
1191 A field 2 columns wider than minimum will include a 4-digit year.
1192 (DATETIME format always includes a 4-digit year.)
1193
1194 @item seconds
1195 A field 3 columns wider than minimum will include seconds as well as
1196 minutes.  A field 5 columns wider than minimum, or more, can also
1197 include a decimal point and fractional seconds (but no more than allowed
1198 by the format's decimal places).
1199 @end table
1200
1201 For the time and date formats, the default output format is the same as
1202 the input format, except that PSPP increases the field width, if
1203 necessary, to the minimum allowed for output.
1204
1205 Time or dates narrower than the field width are right-justified within
1206 the field.
1207
1208 When a time or date exceeds the field width, characters are trimmed from
1209 the end until it fits.  This can occur in an unusual situation, e.g.@:
1210 with a year greater than 9999 (which adds an extra digit), or for a
1211 negative value on TIME or DTIME (which adds a leading minus sign).
1212
1213 @c What about out-of-range values?
1214
1215 The system-missing value is output as a period at the right end of the
1216 field.  
1217
1218 @node Date Component Formats
1219 @subsubsection Date Component Formats
1220
1221 The WKDAY and MONTH formats provide input and output for the names of
1222 weekdays and months, respectively.
1223
1224 On output, these formats convert a number between 1 and 7, for WKDAY, or
1225 between 1 and 12, for MONTH, into the English name of a day or month,
1226 respectively.  If the name is longer than the field, it is trimmed to
1227 fit.  If the name is shorter than the field, it is padded on the right
1228 with spaces.  Values outside the valid range, and the system-missing
1229 value, are output as all spaces.
1230
1231 On input, English weekday or month names (in uppercase or lowercase) are
1232 converted back to their corresponding numbers.  Weekday and month names
1233 may be abbreviated to their first 2 or 3 letters, respectively.
1234
1235 The field width may range from 2 to 40, for WKDAY, or from 3 to 40, for
1236 MONTH.  No decimal places are allowed.
1237
1238 The default output format is the same as the input format.
1239
1240 @node String Formats
1241 @subsubsection String Formats
1242
1243 @cindex string formats
1244 The A and AHEX formats are the only ones that may be assigned to string
1245 variables.  Neither format allows any decimal places.
1246
1247 In A format, the entire field is treated as a string value.  The field
1248 width may range from 1 to 32,767, the maximum string width.  The default
1249 output format is the same as the input format.
1250
1251 In AHEX format, the field is composed of characters in a string encoded
1252 as hex digit pairs.  On output, hex digits are output in uppercase; on
1253 input, uppercase and lowercase are both accepted.  The default output
1254 format is A format with half the input width.
1255
1256 @node Scratch Variables
1257 @subsection Scratch Variables
1258
1259 @cindex scratch variables
1260 Most of the time, variables don't retain their values between cases.
1261 Instead, either they're being read from a data file or the active file,
1262 in which case they assume the value read, or, if created with
1263 @cmd{COMPUTE} or
1264 another transformation, they're initialized to the system-missing value
1265 or to blanks, depending on type.
1266
1267 However, sometimes it's useful to have a variable that keeps its value
1268 between cases.  You can do this with @cmd{LEAVE} (@pxref{LEAVE}), or you can
1269 use a @dfn{scratch variable}.  Scratch variables are variables whose
1270 names begin with an octothorpe (@samp{#}).  
1271
1272 Scratch variables have the same properties as variables left with
1273 @cmd{LEAVE}: they retain their values between cases, and for the first
1274 case they are initialized to 0 or blanks.  They have the additional
1275 property that they are deleted before the execution of any procedure.
1276 For this reason, scratch variables can't be used for analysis.  To use
1277 a scratch variable in an analysis, use @cmd{COMPUTE} (@pxref{COMPUTE})
1278 to copy its value into an ordinary variable, then use that ordinary
1279 variable in the analysis.
1280
1281 @node Files
1282 @section Files Used by PSPP
1283
1284 PSPP makes use of many files each time it runs.  Some of these it
1285 reads, some it writes, some it creates.  Here is a table listing the
1286 most important of these files:
1287
1288 @table @strong
1289 @cindex file, command
1290 @cindex file, syntax file
1291 @cindex command file
1292 @cindex syntax file
1293 @item command file
1294 @itemx syntax file
1295 These names (synonyms) refer to the file that contains instructions
1296 that tell PSPP what to do.  The syntax file's name is specified on
1297 the PSPP command line.  Syntax files can also be read with
1298 @cmd{INCLUDE} (@pxref{INCLUDE}).
1299
1300 @cindex file, data
1301 @cindex data file
1302 @item data file
1303 Data files contain raw data in text or binary format.  Data can also
1304 be embedded in a syntax file with @cmd{BEGIN DATA} and @cmd{END DATA}.
1305
1306 @cindex file, output
1307 @cindex output file
1308 @item listing file
1309 One or more output files are created by PSPP each time it is
1310 run.  The output files receive the tables and charts produced by
1311 statistical procedures.  The output files may be in any number of formats,
1312 depending on how PSPP is configured.
1313
1314 @cindex active file
1315 @cindex file, active
1316 @item active file
1317 The active file is the ``file'' on which all PSPP procedures are
1318 performed.  The active file consists of a dictionary and a set of cases.
1319 The active file is not necessarily a disk file: it is stored in memory
1320 if there is room.
1321
1322 @cindex system file
1323 @cindex file, system
1324 @item system file
1325 System files are binary files that store a dictionary and a set of
1326 cases.  @cmd{GET} and @cmd{SAVE} read and write system files.
1327
1328 @cindex portable file
1329 @cindex file, portable
1330 @item portable file
1331 Portable files are files in a text-based format that store a dictionary
1332 and a set of cases.  @cmd{IMPORT} and @cmd{EXPORT} read and write
1333 portable files.
1334
1335 @cindex scratch file
1336 @cindex file, scratch
1337 @item scratch file
1338 Scratch files consist of a dictionary and cases and may be stored in
1339 memory or on disk.  Most procedures that act on a system file or
1340 portable file can use a scratch file instead.  The contents of scratch
1341 files persist within a single PSPP session only.  @cmd{GET} and
1342 @cmd{SAVE} can be used to read and write scratch files.  Scratch files
1343 are a PSPP extension.
1344 @end table
1345
1346 @node File Handles
1347 @section File Handles
1348 @cindex file handles
1349
1350 A @dfn{file handle} is a reference to a data file, system file, portable
1351 file, or scratch file.  Most often, a file handle is specified as the
1352 name of a file as a string, that is, enclosed within @samp{'} or
1353 @samp{"}.
1354
1355 A file name string that begins or ends with @samp{|} is treated as the
1356 name of a command to pipe data to or from.  You can use this feature
1357 to read data over the network using a program such as @samp{curl}
1358 (e.g.@: @code{GET '|curl -s -S http://example.com/mydata.sav'}), to
1359 read compressed data from a file using a program such as @samp{zcat}
1360 (e.g.@: @code{GET '|zcat mydata.sav.gz'}), and for many other
1361 purposes.
1362
1363 PSPP also supports declaring named file handles with the @cmd{FILE
1364 HANDLE} command.  This command associates an identifier of your choice
1365 (the file handle's name) with a file.  Later, the file handle name can
1366 be substituted for the name of the file.  When PSPP syntax accesses a
1367 file multiple times, declaring a named file handle simplifies updating
1368 the syntax later to use a different file.  Use of @cmd{FILE HANDLE} is
1369 also required to read data files in binary formats.  @xref{FILE HANDLE},
1370 for more information.
1371
1372 PSPP assumes that a file handle name that begins with @samp{#} refers to
1373 a scratch file, unless the name has already been declared on @cmd{FILE
1374 HANDLE} to refer to another kind of file.  A scratch file is similar to
1375 a system file, except that it persists only for the duration of a given
1376 PSPP session.  Most commands that read or write a system or portable
1377 file, such as @cmd{GET} and @cmd{SAVE}, also accept scratch file
1378 handles.  Scratch file handles may also be declared explicitly with
1379 @cmd{FILE HANDLE}.  Scratch files are a PSPP extension.
1380
1381 In some circumstances, PSPP must distinguish whether a file handle
1382 refers to a system file or a portable file.  When this is necessary to
1383 read a file, e.g.@: as an input file for @cmd{GET} or @cmd{MATCH FILES},
1384 PSPP uses the file's contents to decide.  In the context of writing a
1385 file, e.g.@: as an output file for @cmd{SAVE} or @cmd{AGGREGATE}, PSPP
1386 decides based on the file's name: if it ends in @samp{.por} (with any
1387 capitalization), then PSPP writes a portable file; otherwise, PSPP
1388 writes a system file.
1389
1390 INLINE is reserved as a file handle name.  It refers to the ``data
1391 file'' embedded into the syntax file between @cmd{BEGIN DATA} and
1392 @cmd{END DATA}.  @xref{BEGIN DATA}, for more information.
1393
1394 The file to which a file handle refers may be reassigned on a later
1395 @cmd{FILE HANDLE} command if it is first closed using @cmd{CLOSE FILE
1396 HANDLE}.  The @cmd{CLOSE FILE HANDLE} command is also useful to free the
1397 storage associated with a scratch file.  @xref{CLOSE FILE HANDLE}, for
1398 more information.
1399
1400 @node BNF
1401 @section Backus-Naur Form
1402 @cindex BNF
1403 @cindex Backus-Naur Form
1404 @cindex command syntax, description of
1405 @cindex description of command syntax
1406
1407 The syntax of some parts of the PSPP language is presented in this
1408 manual using the formalism known as @dfn{Backus-Naur Form}, or BNF. The
1409 following table describes BNF:
1410
1411 @itemize @bullet
1412 @cindex keywords
1413 @cindex terminals
1414 @item
1415 Words in all-uppercase are PSPP keyword tokens.  In BNF, these are
1416 often called @dfn{terminals}.  There are some special terminals, which
1417 are written in lowercase for clarity:
1418
1419 @table @asis
1420 @cindex @code{number}
1421 @item @code{number}
1422 A real number.
1423
1424 @cindex @code{integer}
1425 @item @code{integer}
1426 An integer number.
1427
1428 @cindex @code{string}
1429 @item @code{string}
1430 A string.
1431
1432 @cindex @code{var-name}
1433 @item @code{var-name}
1434 A single variable name.
1435
1436 @cindex operators
1437 @cindex punctuators
1438 @item @code{=}, @code{/}, @code{+}, @code{-}, etc.
1439 Operators and punctuators.
1440
1441 @cindex @code{.}
1442 @item @code{.}
1443 The end of the command.  This is not necessarily an actual dot in the
1444 syntax file: @xref{Commands}, for more details.
1445 @end table
1446
1447 @item
1448 @cindex productions
1449 @cindex nonterminals
1450 Other words in all lowercase refer to BNF definitions, called
1451 @dfn{productions}.  These productions are also known as
1452 @dfn{nonterminals}.  Some nonterminals are very common, so they are
1453 defined here in English for clarity:
1454
1455 @table @code
1456 @cindex @code{var-list}
1457 @item var-list
1458 A list of one or more variable names or the keyword @code{ALL}.
1459
1460 @cindex @code{expression}
1461 @item expression
1462 An expression.  @xref{Expressions}, for details.
1463 @end table
1464
1465 @item
1466 @cindex ``is defined as''
1467 @cindex productions
1468 @samp{::=} means ``is defined as''.  The left side of @samp{::=} gives
1469 the name of the nonterminal being defined.  The right side of @samp{::=}
1470 gives the definition of that nonterminal.  If the right side is empty,
1471 then one possible expansion of that nonterminal is nothing.  A BNF
1472 definition is called a @dfn{production}.
1473
1474 @item
1475 @cindex terminals and nonterminals, differences
1476 So, the key difference between a terminal and a nonterminal is that a
1477 terminal cannot be broken into smaller parts---in fact, every terminal
1478 is a single token (@pxref{Tokens}).  On the other hand, nonterminals are
1479 composed of a (possibly empty) sequence of terminals and nonterminals.
1480 Thus, terminals indicate the deepest level of syntax description.  (In
1481 parsing theory, terminals are the leaves of the parse tree; nonterminals
1482 form the branches.)
1483
1484 @item
1485 @cindex start symbol
1486 @cindex symbol, start
1487 The first nonterminal defined in a set of productions is called the
1488 @dfn{start symbol}.  The start symbol defines the entire syntax for
1489 that command.
1490 @end itemize