Fix cleanup of ROC command.

Properly deallocate variables, and use correct
symbols for parser return values.  Also, delete
roc.h which is unnecessary.  Thanks to Ben Pfaff
for pointing out these problems.

Respect the constness of caseproto.

New function caseproto_clone.  This means we
can clone a proto, then mutate it as we want.

Corrected spelling of "consolidate".

Thanks to Ben Pfaff for pointing out my mistake.

Added the '=' to the plot subcommand's documentation.

Thanks to Ben Pfaff for pointing this out.

Ensure correct behaviour when the state var is missing.

When the state variable is missing, then the entire
case is skipped.

Update documentation regarding missing values.

Explicitly mention that cases are excluded on a
listwise basis.

Fix ROC behaviour in the presence of missing values.

Make sure that the ROC command's behaviour is correct,
when missing values appear in the result variable.

New function prepare_cutpoints

Move the code which creates the cutpoints into its own
function.  This makes for easier reading IMO.

Updated the example with an easier to visualise one

Fix bugs when input data is repeated

Added second ROC test

Add new functions to define subcase orderings.

Allow subcases to be defined from a index and width,
rather from a variable.  This avoids much of the
need for var_create_internal.

Added code to plot the ROC curve

Added code to generate the ROC cutpoint tables.

Add check that input to casereader_create_distinct are sorted

Fix bug when positive and negative groups are of different lengths

Add framework for ROC summary table

Use the requested method for calculating the ROC AUC standard error

Added basic calculation and display of area under the curve

Added test for the ROC command

Added a new casereader translator to consolodate cases.

This new translator creates a reader which provides
a list of distinct cases in the input, with the weights
consolodated, where applicable.

Added stub for ROC computation

Added documentation for the ROC command

Added parser for the ROC command.

Support mult-data charts and legend.

Add support for charts to have datasets with seperate
colours, and a legend to indicate them.

Fix handling of #! at beginning of PSPP syntax file; add regression test.

Fixes bug #26518.

Thanks to John Darrington for testing.

Remove spurious Makefile from src/output.

crosstabs: Fix chi-square display and add regression test.

Bug #26739.

crosstab: Remove struct that was defined but never used.

crosstabs: Remove write-only variable.

crosstabs: Fix segfault when chi-square was requested.

Bug #26739.

datasheet-test: Add support for testing string backing store columns.

crosstabs: Trim unsightly spaces from titles in output.

Unfortunately, none of the tests exercise this code, so it's hard to say
whether it is correct.

crosstabs: Fix memory leaks.

argv-parser: Add assertion to find likely bugs in client code.

datasheet: Fix bugs in datasheet_resize_column() found with new test.

datasheet-test: Add test for datasheet_resize_column().

datasheet-test: Fix printing of string values in error messages.

datasheet-test: Check duplicate states before discarding them.

By failing to check states whose hashes already appeared in the model
checker table, the datasheet test was missing some bugs.  This commit
changes the datasheet test code to check the state before it checks for
the hash.

datasheet-test: Make column widths to test configurable on command line.

datasheet-test: Don't test null operations.

By not testing null operations (such as inserting or deleting 0 rows or
columns) the duration of the test is cut roughly in half, with little if
any reduction in test coverage.

sparse-xarray-test: Style and comment fixes.

value: New function value_swap.

Move datasheet test out of PSPP into a separate binary.

When it's not difficult to do so, it is better to put tests in separate
binaries instead of in the PSPP binaries, so that the binaries are not
burdened with code that is not of real interest to users and to make the
main PSPP binaries build faster.

Make MAX_SHORT_STRING an implementation detail of the "value" code.

MAX_SHORT_STRING used to be important.  It was referenced all over the
source tree.  Now, there is little reason for code outside the "value"
code itself to use it.

Use MAX_SHORT_STRING in place of MIN_LONG_STRING.

There is no good reason to have both of these constants, so replace all
uses of MAX_LONG_STRING by MAX_SHORT_STRING.

Fix portable file reader use of long strings.

This code hadn't been converted to the new "union value" representation,
where a single "union value" always represents a whole data item.  This
commit fixes that.

Get rid of uses of MAX_SHORT_STRING in Gnumeric and PostgreSQL readers.

MAX_SHORT_STRING is now intended to be an implementation detail of the
value code.  There is no real reason that the Gnumeric or PostgreSQL
readers need to use it, so make them use their own constants instead.

Implement missing values for long string variables.

Fix test failure introduced along with parse_value().

sys-file-reader: Fix memory leak.

Add support for value labels on long string variables.

New function parse_value() for parsing a value of specified width.

Occasionally a value of a given width needs to be parsed from syntax.
This commit adds a helper function for doing so and modifies a few pieces
of code to use it.  Probably there are other places where it would be
useful that could not easily be found with "grep".

This commit also renames the range-parser code to value-parser and puts
the new function in there, as a natural generalization.

Suggested by John Darrington.

Make value_set_missing(), etc. tolerate values of width -1.

In some circumstances a value of width -1 crops up, e.g. when a case is
made from a dictionary that has had a variable deleted in the middle.
Such a value has no content at all.  In the long run it should be possible
to get rid of these values entirely--their presence is a wart--but for now
the case and value code needs to tolerate them.

This fixes a segfault in the GUI when inserting a new case when the
datasheet case has a column with width -1 (due to deletion of a variable),
which was caused by case_set_missing() calling value_set_missing() for
the -1 width variable, which in turn was writing through an invalid
pointer.

Prevent invalid variable widths in variable sheet.

Remove debug printfs that escaped from my local tree.

gui: Fix segfault when pushing Del on a long string variable cell.

Thanks to John Darrington for reporting the problem.

Change "union value" to dynamically allocate long strings.

Until now, a single "union value" could hold a numeric value or a short
string value.  A long string value (one longer than MAX_SHORT_STRING)
required a number of contiguous "union value"s.  This situation was
inconvenient sometimes, because any occasion where a long string value
might be required (even if it was unlikely) required using dynamic
memory allocation.

With this change, a value of any type, regardless of whether it is numeric
or short or long string, occupies a single "union value".  The internal
representation of short and long strings is now different, however: long
strings are now internally represented by a pointer to dynamically
allocated memory.  This means that "union value"s must now be initialized
and uninitialized properly, to ensure that memory is properly allocated
and freed behind the scenese.

This change thus has a ripple effect on PSPP code that works with values.
In particular, code that deals with cases is greatly changed, because a
case now needs to know the type of each value that it contains.  Thus, a
new concept called a "case prototype", which represents the type and
width of each value within a case, is introduced, and every place in PSPP
that creates a case must now create a corresponding prototype to go with
it.  This is why this commit is so big.

As part of writing up this commit, it became clear that some code was poor
enough that it needed to be rewritten entirely.  Therefore, CROSSTABS and
T-TEST are almost completely modified by this commit.

output: Add auxiliary data parameter to tab_dim.

Until now, the tab_dim function has not provided any way to pass auxiliary
data to the table dimensioning function.  This commit adds this ability
and updates all the callers of tab_dim to do so.

New data structure sparse_xarray.

New wrapper for access to temporary files.

model-checker: Add command-line parser for model checking options.

This adds a parser for command-line options to configure a set of
mc_options for running the model checker.  It is used by an upcoming test
for the sparse_xarray.  It might also make sense to break the datasheet
tests out of PSPP into a separate program using this parser.

Implement new command-line argument parser.

glibc has two option parsers, but neither one of them feels quite
right:

  - getopt_long is simple, but not modular, in that there is no
    easy way to make it accept multiple collections of options
    supported by different modules.

  - argp is more sophisticated and more complete, and hence more
    complex.  It still lacks one important feature for
    modularity: there is no straightforward way for option groups
    that are implemented independently to have separate auxiliary
    data,

The parser implemented in this commit is meant to be simple and
modular.  It is based internally on getopt_long.

The initial use for this option parser is for an upcoming commit of a test
program that has some of its own options and some from the model checker,
but it should also be appropriate for PSPP and PSPPIRE if anyone wants to
adapt them to use it.

model-checker: Don't discard error states.

Even if a state with an error is a duplicate, we don't want to discard it,
because then we lose information about bugs.

model-checker: Revise advice on checking for duplicates.

Until now the documentation on the model checker has advised checking for
a duplicate state before checking for consistency, but in fact this can
cause bugs to be missed if only some paths to a given state yield
incorrect results.  So revise the advice to check for consistency before
checking for a duplicate state.

model-checker: Add more progress functions.

The model checker supports "progress functions" that report the current
status of the model checking run.  Until now the implementation only
exported a single progress function that printed a line of dots across
stderr.  This commit moves the "fancy" progress function that was
previously part of the PSPP language code into the model checker itself
and adds an even more verbose progress function as well.

model-checker: Move summary printing function into model checker.

There is no reason that the model checker itself should not be able to
print a summary of its results.  Until now, this code was buried in the
PSPP language code, but the model checker itself is a better place for it.

model-checker: Kill dependencies and move back to libpspp.

Commit 95b074ff3 "Moved the datasheet testing code out of
src/{libspp,data}" moved the model-checker implementation from libpspp
into language/tests because it depended on math/moments.h and
data/val-type.h, which violates the dependency structure of the PSPP
libraries.

However, now I want to use the model checker in a test that should not
need to use anything from language/tests, so this commit eliminates these
dependencies and moves the model checker back to src/libpspp.

sparse-array: Simplify code slightly.

Instead of checking whether the key is in range in each caller of
find_leaf_node, do it in find_leaf_node itself.  This also allows checking
the cache before checking whether the key is in range, which might be an
optimization.

sparse-array: Improve iteration interface.

The sparse_array_scan function only supports iteration in the forward
direction and its interface is somewhat awkward.  This commit replaces it
by four new functions that allow iteration in both forward and reverse
directions and have a more conventional interface.

sparse-array: Use __builtin_ctzl on GCC 4.0 or later, as an optimization.

This should be a worthwhile optimization in many cases, because
__builtin_ctzl compiles to a single machine instruction on x86, whereas
the generic implementation compiles to several.

range-set: New functions range_set_last and range_set_prev.

These are useful for iterating through a range set in reverse order.

range-set: Add new function range_set_scan().

range-set: Inline some simple functions.

Some of the range-set functions are very simple and worth inlining, so
move the definitions of those functions into range-set.h.  This required
moving the definition of struct range_set and struct range_set_node into
the header.  Some of the functions used internally by those functions had
to be moved too, and renamed as well since for internal use in range-set.c
their names did not respect the namespace.

range-set: Add test coverage for range_set_destroy(NULL).

"gcov -b" showed that range_set_destroy() was never called with a NULL
argument.  There's no reason not to test that too (although of course it
is unlikely to be broken).

range-set: New function range_set_allocate_fully.

Delete CORRELATIONS skeletal parser.

This code didn't do anything useful, it just parsed syntax.  We can
resurrect it when someone wants to implement CORRELATIONS later.

pool: New function pool_strdup0.

This function is the pool analogue of xmemdup0, except that it is only
appropriate for use with strings.

datasheet: Drop false dependency on md4.h.

datasheet-check.c doesn't use anything from md4.h, so there's no point in
including it.

perl-module: Better document "make test" requirements.

t-test: Move 'mode' variable from file scope into cmd_t_test().

t-test: Move 'cmd' variable from file scope into cmd_t_test().

This variable was only used inside cmd_t_test() anyhow.

t-test: Remove write-only variable.

Moved static is_origin from design_matrix.c to category.c: cat_is_origin.

Fix incorrect word order

Remove whitespace before footnotes

Correct grammar

Change examples using heights to be all in millimetres

Delete '*' from DATA LIST examples

Mention that two juxtapose LIST keywords are intentional

Fix misaligned menu items

Added a tutorial chapter to the manual.

Fix bug inserting rows and columns and rename state variable.

The code in psppire-data-editor was inspecting the variable
called "state" on the GtkWidget class whereas it should have
been looking at the PsppireSheet class.

To avoid any future confusion, PsppireSheet's "state" variable
has been renamed to select_status.

Remove unused code

Updated dutch translation.  Thanks to unkonwn-1

Also regenerated en_GB.po

Correct typo in command line argument string.

Thanks to Michel Boaventura for reporting this.

Remove gratuitous call to change_active_cell.

This caused data from the previous cell to
be transfered to the new cell.  Fixes bug #26568

Remove unneeded object members

Ensure that windows opens the right file for output.

Thanks to Michel Boaventura for reporting this problem.
Fixes bug #26542

Correct default_output_path function on Windows.