Remove debug printfs that escaped from my local tree.

gui: Fix segfault when pushing Del on a long string variable cell.

Thanks to John Darrington for reporting the problem.

Change "union value" to dynamically allocate long strings.

Until now, a single "union value" could hold a numeric value or a short
string value.  A long string value (one longer than MAX_SHORT_STRING)
required a number of contiguous "union value"s.  This situation was
inconvenient sometimes, because any occasion where a long string value
might be required (even if it was unlikely) required using dynamic
memory allocation.

With this change, a value of any type, regardless of whether it is numeric
or short or long string, occupies a single "union value".  The internal
representation of short and long strings is now different, however: long
strings are now internally represented by a pointer to dynamically
allocated memory.  This means that "union value"s must now be initialized
and uninitialized properly, to ensure that memory is properly allocated
and freed behind the scenese.

This change thus has a ripple effect on PSPP code that works with values.
In particular, code that deals with cases is greatly changed, because a
case now needs to know the type of each value that it contains.  Thus, a
new concept called a "case prototype", which represents the type and
width of each value within a case, is introduced, and every place in PSPP
that creates a case must now create a corresponding prototype to go with
it.  This is why this commit is so big.

As part of writing up this commit, it became clear that some code was poor
enough that it needed to be rewritten entirely.  Therefore, CROSSTABS and
T-TEST are almost completely modified by this commit.

output: Add auxiliary data parameter to tab_dim.

Until now, the tab_dim function has not provided any way to pass auxiliary
data to the table dimensioning function.  This commit adds this ability
and updates all the callers of tab_dim to do so.

New data structure sparse_xarray.

New wrapper for access to temporary files.

model-checker: Add command-line parser for model checking options.

This adds a parser for command-line options to configure a set of
mc_options for running the model checker.  It is used by an upcoming test
for the sparse_xarray.  It might also make sense to break the datasheet
tests out of PSPP into a separate program using this parser.

Implement new command-line argument parser.

glibc has two option parsers, but neither one of them feels quite
right:

  - getopt_long is simple, but not modular, in that there is no
    easy way to make it accept multiple collections of options
    supported by different modules.

  - argp is more sophisticated and more complete, and hence more
    complex.  It still lacks one important feature for
    modularity: there is no straightforward way for option groups
    that are implemented independently to have separate auxiliary
    data,

The parser implemented in this commit is meant to be simple and
modular.  It is based internally on getopt_long.

The initial use for this option parser is for an upcoming commit of a test
program that has some of its own options and some from the model checker,
but it should also be appropriate for PSPP and PSPPIRE if anyone wants to
adapt them to use it.

model-checker: Don't discard error states.

Even if a state with an error is a duplicate, we don't want to discard it,
because then we lose information about bugs.

model-checker: Revise advice on checking for duplicates.

Until now the documentation on the model checker has advised checking for
a duplicate state before checking for consistency, but in fact this can
cause bugs to be missed if only some paths to a given state yield
incorrect results.  So revise the advice to check for consistency before
checking for a duplicate state.

model-checker: Add more progress functions.

The model checker supports "progress functions" that report the current
status of the model checking run.  Until now the implementation only
exported a single progress function that printed a line of dots across
stderr.  This commit moves the "fancy" progress function that was
previously part of the PSPP language code into the model checker itself
and adds an even more verbose progress function as well.

model-checker: Move summary printing function into model checker.

There is no reason that the model checker itself should not be able to
print a summary of its results.  Until now, this code was buried in the
PSPP language code, but the model checker itself is a better place for it.

model-checker: Kill dependencies and move back to libpspp.

Commit 95b074ff3 "Moved the datasheet testing code out of
src/{libspp,data}" moved the model-checker implementation from libpspp
into language/tests because it depended on math/moments.h and
data/val-type.h, which violates the dependency structure of the PSPP
libraries.

However, now I want to use the model checker in a test that should not
need to use anything from language/tests, so this commit eliminates these
dependencies and moves the model checker back to src/libpspp.

sparse-array: Simplify code slightly.

Instead of checking whether the key is in range in each caller of
find_leaf_node, do it in find_leaf_node itself.  This also allows checking
the cache before checking whether the key is in range, which might be an
optimization.

sparse-array: Improve iteration interface.

The sparse_array_scan function only supports iteration in the forward
direction and its interface is somewhat awkward.  This commit replaces it
by four new functions that allow iteration in both forward and reverse
directions and have a more conventional interface.

sparse-array: Use __builtin_ctzl on GCC 4.0 or later, as an optimization.

This should be a worthwhile optimization in many cases, because
__builtin_ctzl compiles to a single machine instruction on x86, whereas
the generic implementation compiles to several.

range-set: New functions range_set_last and range_set_prev.

These are useful for iterating through a range set in reverse order.

range-set: Add new function range_set_scan().

range-set: Inline some simple functions.

Some of the range-set functions are very simple and worth inlining, so
move the definitions of those functions into range-set.h.  This required
moving the definition of struct range_set and struct range_set_node into
the header.  Some of the functions used internally by those functions had
to be moved too, and renamed as well since for internal use in range-set.c
their names did not respect the namespace.

range-set: Add test coverage for range_set_destroy(NULL).

"gcov -b" showed that range_set_destroy() was never called with a NULL
argument.  There's no reason not to test that too (although of course it
is unlikely to be broken).

range-set: New function range_set_allocate_fully.

Delete CORRELATIONS skeletal parser.

This code didn't do anything useful, it just parsed syntax.  We can
resurrect it when someone wants to implement CORRELATIONS later.

pool: New function pool_strdup0.

This function is the pool analogue of xmemdup0, except that it is only
appropriate for use with strings.

datasheet: Drop false dependency on md4.h.

datasheet-check.c doesn't use anything from md4.h, so there's no point in
including it.

perl-module: Better document "make test" requirements.

t-test: Move 'mode' variable from file scope into cmd_t_test().

t-test: Move 'cmd' variable from file scope into cmd_t_test().

This variable was only used inside cmd_t_test() anyhow.

t-test: Remove write-only variable.

Moved static is_origin from design_matrix.c to category.c: cat_is_origin.

Fix incorrect word order

Remove whitespace before footnotes

Correct grammar

Change examples using heights to be all in millimetres

Delete '*' from DATA LIST examples

Mention that two juxtapose LIST keywords are intentional

Fix misaligned menu items

Added a tutorial chapter to the manual.

Fix bug inserting rows and columns and rename state variable.

The code in psppire-data-editor was inspecting the variable
called "state" on the GtkWidget class whereas it should have
been looking at the PsppireSheet class.

To avoid any future confusion, PsppireSheet's "state" variable
has been renamed to select_status.

Remove unused code

Updated dutch translation.  Thanks to unkonwn-1

Also regenerated en_GB.po

Correct typo in command line argument string.

Thanks to Michel Boaventura for reporting this.

Remove gratuitous call to change_active_cell.

This caused data from the previous cell to
be transfered to the new cell.  Fixes bug #26568

Remove unneeded object members

Ensure that windows opens the right file for output.

Thanks to Michel Boaventura for reporting this problem.
Fixes bug #26542

Correct default_output_path function on Windows.

Don't create histograms for string variables.

Closes bug #26536

Relocate the locale directory.

Thanks to Michel Boaventura for reporting this and
for providing the patch.  Closes bug #26543

Merge commit 'origin/stable'

For consistency, use gnulib's memory allocation functions in the gui.

Ensure that NUMERIC's format (if any) is a valid output format.

Thanks to Pascal Barbedor for reporting this problem.

Fixed crash calculating trimmed mean with missing values.

Closes bug  #26404

Remove call to var_set_width

Allocate adequate space for permutation

Moved is_origin and get_exact_subscript to design-matrix.[ch]

covariance-matrix.c: (is_covariance_contributor) Removed unnecessary recursion.

covariance-matrix.c (is_origin): Do not count a numeric variable as
the origin. Call is_origin only for categorical variables.

covariance-matrix.c (ordered_match_nodes): New function.

covariance-matrix.c (match_nodes): Use bitwise operators and
ordered_match_nodes for hashing instead of so many ifs.

covariance-matrix.c (hash_numeric_alpha): Use hash_value_short to hash
combinations of numeric and categorical variables.

covariance-matrix.c (get_value_from_subscript): New function to match
values and columns in a design matrix.

covariance-matrix.c: Removed unused design matrix struct sums from
struct covariance matrix. To get the means, use struct moments
instead.

covariance-matrix.c (covariance_accumulator_to_matrix): Use
design_matrix_set_element instead of covariance_matrix_insert. Drop
unused function covariance_matrix_insert.

covariance-matrix.c (covariance_accumulator_hash): Use hash_bytes instead of hsh_hash_bytes.

Fix compilation error on Cygwin.

Fixes bug #26379

Added Dutch translation. Thanks to unknown-1

Fix bug where data sometimes got erroneously copied between cells

Remove unused code

Fix GUI bug risizing columns.

Remove the clip rectangle after showing the cell border so
that it doesn't interfere with other operations.

Compensate cell border for gridline thickness

Merge commit 'origin/stable'

Conflicts:

src/ui/gui/output-viewer.c

Replace BORDER_WIDTH macro with appropriate cell_padding parameters

Revert "Made psppire-conf thread safer"

This reverts commit 2d983f3e5bd2d5f531cbcbdcebe078034ddb8955.

Revert "Make psppire-axis thread safer"

This reverts commit 18aa57536d6eac0b0562f31d9a7a01605c3d51ad.

Made psppire-conf thread safer

Make psppire-axis thread safer

Separate the execute_syntax function into its own file.

Whitespace changes only.

Make this file appear sane when viewed under emacs.

Continue button to grab default on realization

Grab default for close button on message dialog

Hide tooltip when leaving sheet

Unmap tooltip when sheet is unmapped

remove superfluous tests

Improve the style handling of the column/row title buttons.

It seems that the style of the button wasn't `attached' before
it was used.  Further, use of the "buttondefault" detail on
gtk_paint_box made wierd looking buttons with some themes.

I don't pretend to fully understand all this, but these changes
seem to be an improvement.

Update some comments

Avoid warnings when opening a new system file.

Hold the thread lock in a timer callback

Make the gui more thread safe

Ensure that setlocale (LC_MESSAGES is called when appropriate.

The wrong preprocessor macro was being tested before calling
setlocale (LC_MESSAGES, "") which resulted in translations not
being loaded.

Fixed bug in q2c when munging hyphenated strings.

Q2c wasn't terminating strings generated by its munge
function, resulting in garbage being placed into generated
code.  Thanks to Michel Boaventura for reporting this.

Fixed bug opening the find dialog.

Thanks to Michel Boaventura for reporting this.

Use replacement rename function from gnulib

Tolerate the inability to convert character encodings

Change g_print to g_warning

Use Bob Jenkins lookup3 hash instead of FNV.

The Jenkins lookup3 hash is superior to FNV in collision resistance,
avalanching, and performance on systems that do not have fast
multiplication.  It also provides a good way to combine the result of
a previous hashing step with the current hash, using its "basis" argument.
This commit replaces the PSPP implementation of FNV with the Jenkins
lookup3 hash and updates all the current users.

In addition, John Darrington pointed out that commit dd2e61b4a
"Make create_iconv() properly distinguish converters by name"
unintentionally introduced gratuitous hash collisions, by causing
all converters where tocode and fromcode were the same to hash to
value 0, and converters where tocode and fromcode were swapped to
hash to the same value as each other.  Using the "basis" argument to
the Jenkins hash properly, instead of just attempting to combine
hash values with XOR, fixes this problem.

NPAR TESTS: Consistently order variables in summary statistics.

The set of variables in the NPAR TESTS specs structure was ordered
randomly, according to however the hash function happened to arrange them.
Sort them by variable name, instead, so that they always appear in
alphabetical order in, e.g., descriptive statistics output.

The particular hash function PSPP uses now tends to order variables
alphabetically anyhow.  The next commit changes the PSPP hash functions,
so fixing this in advance prevents having to update any test output.

Fix some compiler warnings

Implemented the sign test.

Added an implementation of the SIGN test for the NPAR TESTS
command.  Closes patch #6801

Fixed crash on quit

Use the replacement rename function from gnulib.

Use the gnulib replacement rename function, to
overcome problems on certain systems saving a
file when that filename already exists. Closes bug #25795

Fix memory leak in cmd_data_list().

Fix a few typos and capitalization errors in developers guide.

SET LOCALE: Don't use lex_tokstr() after skipping to next token.

The return value from lex_tokstr() is only valid until the next call to
lex_get() (or another function that changes the current token), so don't
advance past the token until we're done with its string value.

Make create_iconv() properly distinguish converters by name.

The code in create_iconv() assumed that every pair of different converters
had a different hash value.  This is a bad assumption: eventually, we will
be unlucky, and two different converters will hash to the same value, and
we will get a bad conversion.  So we have to compare (and store) the
names of the codes that each converters converts to and from.

Also, compute the hash value without making an extra copy of fromcode
and tocode.

Add "x" prefix to calls to plain malloc(), calloc(), strdup(), realloc().

In review commit 503f53bfdde "Read dictionary encoding from data files"
I noticed uses of plain strdup() (not xstrdup()).  Some greps showed that
there were several other uses of strdup(), as well as calloc(), malloc(),
and realloc(), in the source tree.  This commit adds "x" prefixes to each
of them, to ensure proper error handling.

Remove redundant test in lex_is_idn().

Commit 90f346cc0 "Made var_is_valid_name more permissive" made characters
with values above 127 valid in identifiers by allowing them in
lex_is_id1() and lex_is_idn(), but since the latter includes the former
in its test the addition there is redundant and can be eliminated.

Merge commit 'origin/master' into charset

Conflicts:

src/ui/gui/psppire-data-editor.c

Fix problems saving data files with non-ascii filenames.

Convert filenames to the system encoding before stuffing into
syntax strings.

Fixed problem saving syntax files with non-ascii names.

The function save_editor_to_file now takes a filename
in Glib filename encoding.