src/data/ChangeLog

   1 2007-06-06  Ben Pfaff  <blp@gnu.org>
   2
   3         Actually implement the new procedure code and adapt all of its
   4         clients to match.  Also adapt all of the other case sources and
   5         sinks in the tree and their clients to use the
   6         casereader/casewriter infrastructure.
   7
   8         * automake.mk: Add and remove files.
   9
  10         * any-reader.c: Change into a casereader.
  11         * por-file-reader.c: Ditto.
  12         * scratch-reader.c: Ditto.
  13         * sys-file-reader.c: Ditto.
  14
  15         * any-writer.c: Change into a casewriter.
  16         * por-file-writer.c: Ditto.
  17         * scratch-writer.c: Ditto.
  18         * sys-file-writer.c: Ditto.
  19
  20         * procedure.c: Change to use casereader, casewriter, caseinit, and
  21         other new infrastructure.
  22
  23         * scratch-handle.c: Adapt to new infrastructure.
  24
  25         * case-sink.c: Removed, now dead code.
  26         * case-sink.h: Ditto.
  27         * case-source.c: Ditto.
  28         * case-source.h: Ditto.
  29         * casefile-factory.c: Ditto.
  30         * casefile-private.h: Ditto.
  31         * casefile.c: Ditto.
  32         * casefile.h: Ditto.
  33         * casefilter.c: Ditto.
  34         * casefilter.h: Ditto.
  35         * fastfile.c: Ditto.
  36         * fastfile.h: Ditto.
  37         * fastfile-factory.c: Ditto.
  38         * fastfile-factory.h: Ditto.
  39         * storage-stream.c: Ditto.
  40         * storage-stream.h: Ditto.
  41
  42 2007-06-06  Ben Pfaff  <blp@gnu.org>
  43
  44         Add datasheet code.
  45
  46         * automake.mk: Add new files.
  47
  48         * datasheet.c: New file.
  49
  50         * datasheet.h: New file.
  51
  52 2007-06-06  Ben Pfaff  <blp@gnu.org>
  53
  54         Until now, the procedure code has provided a case to the
  55         case_source, which has filled in the data values that come from
  56         the active file.  "Left" data values that don't come from the
  57         active file naturally stay the same from case to case, because the
  58         procedure code keeps using that same case.
  59
  60         One of the compromises that comes with the new procedure code is
  61         that the active file allocates and provides its own case, which
  62         the procedure code then has to resize to provide room for any
  63         other variables that should go in the case and then fill in the
  64         values of "left" variables.  Then, when we're done with that case,
  65         we have to save the values of "left" variables to copy into the
  66         next case read from the active file.
  67
  68         The caseinit code helps with this.
  69
  70         * automake.mk: Add new files.
  71
  72         * caseinit.c: New file.
  73
  74         * caseinit.h: New file.
  75
  76 2007-06-06  Ben Pfaff  <blp@gnu.org>
  77
  78         * value.h (value_cnt_from_width): New function.
  79
  80         * variable.c (var_get_value_cnt): Use new function.
  81
  82 2007-06-06  Ben Pfaff  <blp@gnu.org>
  83
  84         Add casegrouper, to allow cases read from a given casereader to be
  85         broken into groups, each of which has its own casereader.
  86         Generally cases are grouped based on having equal values for some
  87         set of variables.
  88
  89         * automake.mk: Add new files.
  90
  91         * casegrouper.c: New file.
  92
  93         * casegrouper.h: New file.
  94
  95 2007-06-06  Ben Pfaff  <blp@gnu.org>
  96
  97         Add interface to lexicographical ordering of cases.
  98
  99         * automake.mk: Add new files.
 100
 101         * case-ordering.c: New file.
 102
 103         * case-ordering.h: New file.
 104
 105 2007-06-06  Ben Pfaff  <blp@gnu.org>
 106
 107         Add casereaders and casewriters, the basis of the new data processing
 108         implementation.  A casereader is a uniform interface to reading cases
 109         from a data source; a casewriter is a uniform interface to writing
 110         cases to a data sink.
 111
 112         * automake.mk: Add new files.
 113
 114         * casereader-filter.c: New file.
 115
 116         * casereader-provider.h: New file.
 117
 118         * casereader-translator.c: New file.
 119
 120         * casereader.c: New file.
 121
 122         * casereader.h: New file.
 123
 124         * casewriter-provider.h: New file.
 125
 126         * casewriter-translator.c: New file.
 127
 128         * casewriter.c: New file.
 129
 130         * casewriter.h: New file.
 131
 132 2007-06-06  Ben Pfaff  <blp@gnu.org>
 133
 134         "casewindow" data structure that extends the deque (from libpspp)
 135         of cases with the ability to dump cases to disk if we get too many
 136         of them in memory.
 137
 138         * automake.mk: Add new files.
 139
 140         * casewindow.c: New file.
 141
 142         * casewindow.h: New file.
 143
 144 2007-06-06  Ben Pfaff  <blp@gnu.org>
 145
 146         sparse_cases data structure that augments a sparse_array of cases
 147         with the ability to dump cases to disk if we get too many cases in
 148         memory.
 149
 150         * automake.mk: Add new files.
 151
 152         * sparse-cases.c: New file.
 153
 154         * sparse-cases.h: New file.
 155
 156 2007-06-06  Ben Pfaff  <blp@gnu.org>
 157
 158         Adds a low-level on-disk case array data structure.
 159
 160         * automake.mk: Add new files.
 161
 162         * case-tmpfile.c: New file.
 163
 164         * case-tmpfile.h: New file.
 165
 166 2007-06-06  Ben Pfaff  <blp@gnu.org>
 167
 168         In a couple of places we calculate the maximum number of cases to
 169         keep in memory based on the user-defined workspace.  Enable
 170         centralizing the calculation through a new function.
 171
 172         * settings.c (get_workspace_cases): New function.
 173
 174 2007-06-06  Ben Pfaff  <blp@gnu.org>
 175
 176         The casenumber type is defined in transformations.h, but case.h is
 177         a more sensible place.  Move it.
 178
 179         * case.h (CASENUMBER_MAX): New macro.
 180         (typedef casenumber): Move here, from transformations.h.
 181
 182 2007-06-03  Ben Pfaff  <blp@gnu.org>
 183
 184         Slightly generalize case_to_values and case_from_values functions.
 185
 186         * case.c (case_to_values): Rename case_copy_out, change interface.
 187         (case_from_values): Rename case_copy_in, change interface.
 188
 189         * fastfile.c (fastfilereader_get_next_case): Update caller.
 190         (write_case_to_disk): Ditto.
 191
 192 2007-06-02  Ben Pfaff  <blp@gnu.org>
 193
 194         Clean up after a forgotten part of patch #5829.
 195
 196         * casedeque.h: Remove unused file.
 197
 198         * automake.mk: Remove casedeque.h from sources.
 199
 200 2007-05-10  Jason Stover  <jhs@math.gcsu.edu>
 201
 202         * category.c: Removed redundant #include
 203
 204 2007-05-06  Ben Pfaff  <blp@gnu.org>
 205
 206         Abstract the documents within a dictionary a little better.
 207         Thanks to John Darrington for suggestion, initial version, and
 208         review.  Patch #5917.
 209
 210         * dictionary.c (struct dictionary): Change `documents' member from
 211         char * to struct string.
 212         (dict_clear): Destroy struct string.
 213         (dict_get_documents): Convert struct string to char *.
 214         (dict_set_documents): Set struct string.  Pad to 80-character
 215         multiple.
 216         (dict_clear_documents): New function.
 217         (dict_add_document_line): New function.
 218         (dict_get_document_line_cnt): New function.
 219         (dict_get_document_line): New function.
 220
 221         * dictionary.h (macro DOC_LINE_LENGTH): New macro.
 222
 223         * sys-file-reader.c (read_documents): Use new document functions.
 224
 225 2007-04-19 John Darrington <john@darrington.wattle.id.au>
 226
 227         * sys-file-reader.c: When reading a system file which has no
 228         long name table, automatically create one where the long names
 229         are the lower case versions of the short names.
 230
 231 2007-04-22  Ben Pfaff  <blp@gnu.org>
 232
 233         * dictionary.c (dict_set_split_vars): dict_destroy expects that
 234         dict_clear will free most data related to the dictionary.
 235         dict_clear does a decent job, except that dict_set_split_vars on
 236         some systems won't actually free the dict's "split" member.
 237         Instead, it'll allocate a 1-byte region.  Fix this.
 238
 239         * value.c (value_copy): New function.
 240         (value_set_missing): Ditto.
 241
 242 2007-04-22 John Darrington <john@darrington.wattle.id.au>
 243
 244         * Deleted existing category.h and moved cat-routines.h into
 245         category.h  Encapsulated struct cat_vals better.
 246
 247 2007-04-19 John Darrington <john@darrington.wattle.id.au>
 248
 249         * sys-file-reader.c: When reading a system file which has no
 250         long name table, automatically create one where the long names
 251         are the lower case versions of the short names.
 252
 253 2007-04-16 John Darrington <john@darrington.wattle.id.au>
 254
 255         * sys-file-reader.c: Some versions of Other Software seem to
 256         produce system files with string  variables' measure set to
 257         zero.  We'll assume these are supposed to be nominal variables.
 258
 259 2007-03-30  Ben Pfaff  <blp@gnu.org>
 260
 261         * procedure.c: Adapt to new deque data structure.
 262
 263 Mon Feb 19 10:53:21 2007  John McCabe-Dansted <gmatht@gmail.com>
 264                           Ben Pfaff <blp@gnu.org>
 265
 266         * file-name.c: Mingw compatibility fixes.
 267         (fn_search_path): Use ISSLASH instead of comparing against '/'
 268         directly.
 269         (fn_dir_name): Use dir_name from gnulib.
 270         (fn_is_absolute): Use IS_ABSOLUTE_FILE_NAME from gnulib.
 271         (fn_get_identity): Use GetFullPathName instead of canonicalize
 272         from gnulib, because the latter does not fully support
 273         Windows-style path names.  Use this implementation based on the
 274         detected presence of Windows instead of the absence of Unix, since
 275         the new implementation is Windows-specific.
 276         (fn_compare_file_identities): In Windows implementation, compare
 277         names case-insensitively.
 278
 279 Sun Feb 18 13:28:02 2007  Ben Pfaff  <blp@gnu.org>
 280
 281         * make-file.c: Don't include mkstemp.h, because gnulib now causes
 282         <stdlib.h> to have the same effect.
 283
 284 Sun Feb 18 11:20:24 2007  Ben Pfaff  <blp@gnu.org>
 285
 286         * por-file-reader.c: Add missing _() around messages.
 287
 288 Sun Feb 11 20:44:13 2007  Ben Pfaff  <blp@gnu.org>
 289
 290         * make-file.c: Include "mkstemp.h", without which linking on
 291         mingw32 fails.
 292
 293 Thu Feb  8 14:59:05 2007  Ben Pfaff  <blp@gnu.org>
 294
 295         Reduce platform dependence.
 296
 297         * file-name.c (fn_tilde_expand): Removed, and removed calls to it.
 298         Everywhere we using this, we really should have just depended on
 299         the shell to expand tildes.
 300         (fn_search_path): Simplify, given that we don't do tilde expansion
 301         any longer.
 302         (fn_normalize): Removed.  Caller changed to use the canonicalize
 303         module from gnulib.
 304         (fn_get_cwd): Removed.  Only user was fn_normalize.
 305         (fn_is_absolute): Really only test for absolute names.
 306         (fn_is_special): Use pipe files if HAVE_POPEN, not if we're in
 307         unix.
 308         (fn_readlink): Removed, as it was only used fn_normalize.
 309         (fn_exists): Assume the stat function is available; gnulib does.
 310         (fn_open): Use pipe files if HAVE_POPEN, not if we're in unix.
 311
 312 Sat Feb  3 21:52:17 2007  Ben Pfaff  <blp@gnu.org>
 313
 314         * dictionary.c (dict_create_vector_assert): New function.
 315
 316 Wed Feb  7 21:25:15 2007  Ben Pfaff  <blp@gnu.org>
 317
 318         * file-name.c (fn_normalize): Correct name of function
 319         fn_is_special.  Thanks to John McCabe-Dansted <gmatht@gmail.com>
 320         for pointing this out.
 321
 322 Thu Feb  1 16:53:37 2007  Ben Pfaff  <blp@gnu.org>
 323
 324         We are using a single member in struct file_handle, the "name"
 325         field, for more than one purpose.  When it begins with '"', it's a
 326         file name; otherwise, it's a token that can be used to identify
 327         it.  When that assertion fires, it's because we searched for the
 328         name case-sensitively as a file name (so that there was no match),
 329         and then we try to insert it case-insensitively as a token, which
 330         fails because duplicates aren't allowed.
 331
 332         Solution: break the two purposes into two separate fields.  This
 333         fixes the problem and likely makes the code easier to read too.
 334
 335         Fixes bug #18922.  Thanks to John Darrington for bug report and
 336         review.
 337
 338         * file-handle-def.c (struct file_handle): New `id' member.
 339         (fh_from_name): Rename fh_from_id.  Update all callers.
 340         (create_handle): New `id' parameter.  Update all callers.
 341         (fh_create_file): Ditto.
 342         (fh_get_id): New function.
 343
 344 Mon Jan 15 16:18:10 2007  Ben Pfaff  <blp@gnu.org>
 345
 346         * case.c (case_is_null): Change return type to bool.
 347
 348 Mon Jan 15 10:57:28 2007  Ben Pfaff  <blp@gnu.org>
 349
 350         Add debugging code.
 351
 352         * case.c (case_clone) [DEBUGGING]: When debugging, don't use
 353         reference counting to share data.  This makes it easy for
 354         valgrind, etc. to find accesses to cases that have been destroyed
 355         but have been kept around by another user's ref-count.  This often
 356         happens when the data set is small enough to find in memory; if a
 357         bigger data set that would overflow to disk were used, then data
 358         corruption would occur.
 359
 360 Mon Jan 15 10:55:18 2007  Ben Pfaff  <blp@gnu.org>
 361
 362         Simplify code.
 363
 364         * case.c (case_unshare): Make it check internally whether the
 365         ref_cnt is greater than 1, so that the callers don't have to.
 366         Update callers not to check.
 367
 368 Mon Jan 15 10:53:01 2007  Ben Pfaff  <blp@gnu.org>
 369
 370         Before, I was thinking that I might want to get rid of reference
 371         counting at some point.  Now, I'm pretty sure that it's here to
 372         stay.  Thus, because we have to store the value_cnt anyway for
 373         reference-counted cases, we might as well expose it to users.
 374
 375         * case.c (case_get_value_cnt): New function.
 376         (case_resize): Drop OLD_CNT argument.  Update all callers.  Only
 377         resize case if its size actually changed.
 378
 379         * casefile.c (casefile_append_xfer): Use case_get_value_cnt
 380         instead of peeking inside struct case directly.
 381         (casefile_append): Ditto.
 382
 383 Mon Jan 15 10:50:22 2007  Ben Pfaff  <blp@gnu.org>
 384
 385         Get rid of the inlines for the case functions, which made the
 386         header file hard to read.  (Also, in testing with "-O2 -DNDEBUG",
 387         the inlines didn't speed up "make check" at all, which is not a
 388         perfect benchmark but seems indicative.)
 389
 390         * case.c: Remove #ifdef DEBUGGING...#endif around many function
 391         definitions.  Remove some assertions on nonnull pointers that were
 392         redundant with a pointer dereference soon after in the function.
 393         Also:
 394         (struct case_data): Move definition here from case.h.
 395         (case_data): Ditto.
 396         (case_num): Ditto.
 397         (case_str): Ditto.
 398         (case_data_wr): Ditto.
 399
 400 Sun Jan 14 21:41:12 2007  Ben Pfaff  <blp@gnu.org>
 401
 402         * automake.mk: Add casedeque.h to sources.
 403
 404         * casedeque.h: New file.
 405
 406         * procedure.c: (struct dataset) Change lag_count, lag_head,
 407         lag_queue member into single struct casedeque member.  Update all
 408         users to use the casedeque instead.
 409         (lag_case) Removed.
 410
 411 Sun Jan 14 21:43:12 2007  Ben Pfaff  <blp@gnu.org>
 412
 413         * procedure.c: Simplify lagged cases interface.  Updated all
 414         clients--well, the only client--to use the simplified interface.
 415         (dataset_n_lag) Removed.
 416         (dataset_set_n_lag) Removed.
 417         (dataset_need_lag) New function.
 418
 419 Tue Jan  9 07:20:05 WST 2007 John Darrington <john@darrington.wattle.id.au>
 420
 421         * dictionary.c procedure.c: More changes to ensure that callbacks occur
 422         whenever appropriate, but only when the dataset/dictionary is in a
 423         consistent state.
 424
 425 Sun Jan  7 08:33:04 WST 2007 John Darrington <john@darrington.wattle.id.au>
 426
 427         * dictionary.c dictionary.h : Added callbacks for change of filter and
 428         split variables.  Refactored some code to ensure that callbacks get
 429         invoked when appropriate.
 430
 431         * procedure.c (proc_cancel_temporary_transformations): Make sure that
 432         replace_dict callback occurs when permanent_dict replaces the current
 433         dictionary.
 434
 435 Wed Jan  3 11:02:11 WST 2007 John Darrington <john@darrington.wattle.id.au>
 436
 437         * dictionary.c dictionary.h : Added callback for when the weight
 438         variable of a dictionary changes.
 439
 440 Mon Jan  1 10:36:26 WST 2007 John Darrington <john@darrington.wattle.id.au>
 441
 442         * dictionary.c dictionary.h : Added replace_source and replace_dict
 443         callbacks, and functions to deal with them.
 444
 445 Fri Dec 22 13:56:08 2006  Ben Pfaff  <blp@gnu.org>
 446
 447         Simplify missing value handling.
 448
 449         * missing-values.h (enum mv_class): New type.
 450         (enum mv_type): Moved definition into missing-values.c and renamed
 451         each MV_* to MVT_*, to distinguish them from the exposed mv_class
 452         enums.  Updated all uses.
 453         (struct missing_values): Changed type of `type' from `enum
 454         mv_type' to `int' because the definition is no longer exposed.
 455
 456         * missing-values.c (mv_is_value_missing): Add new enum mv_class
 457         parameter.  Update all callers.
 458         (mv_is_num_missing): Ditto.
 459         (mv_is_str_missing): Ditto.
 460         (mv_is_value_user_missing): Removed.  Changed callers to use
 461         mv_is_value_missing.
 462         (mv_is_num_user_missing): Removed.  Changed callers to use
 463         mv_is_num_missing.
 464         (mv_is_str_user_missing): Removed.  Changed callers to use
 465         mv_is_str_missing.
 466         (mv_is_value_system_missing): Removed.  Changed callers to use
 467         mv_is_value_missing.
 468         (mv_set_type): Removed.  Changed callers to use mv_clear.
 469         (mv_clear): New function.
 470
 471         * variable.c (var_is_value_missing): Add new enum mv_class
 472         parameter.  Update all callers.
 473         (var_is_num_missing): Ditto.
 474         (var_is_str_missing): Ditto.
 475         (var_is_value_user_missing): Removed.  Changed callers to use
 476         var_is_value_missing.
 477         (var_is_num_user_missing): Removed.  Changed callers to use
 478         var_is_num_missing.
 479         (var_is_str_user_missing): Removed.  Changed callers to use
 480         var_is_str_missing.
 481         (var_is_value_system_missing): Removed.  Changed callers to use
 482         var_is_value_missing.
 483
 484         * casefilter.c (struct casefilter): Use enum mv_class in place of
 485         bool.
 486         (casefilter_variable_missing): Adapt to new member.
 487         (casefilter_create): Change signature to take enum mv_class,
 488         update callers.
 489
 490 Fri Dec 22 20:08:38 WST 2006 John Darrington <john@darrington.wattle.id.au>
 491
 492         * casefile-factory.h fastfile-factory.c fastfile-factory.h: New files.
 493
 494         * case-sink.c case-sink.h procedure.c procedure.h
 495           storage-stream.c: Now uses the factory.
 496
 497 Sat Dec 16 22:05:18 2006  Ben Pfaff  <blp@gnu.org>
 498
 499         Make it possible to pull cases from the active file with a
 500         function call, instead of requiring indirection through a callback
 501         function.
 502
 503         * case-source.h (struct case_source_class): Change ->read function
 504         to return a single case, instead of calling a callback function
 505         for each case.  Change ->destroy function to return an error
 506         status.
 507
 508         * case-source.c (free_case_source): Pass along the value returned
 509         by the case_source ->destroy function.
 510
 511         * procedure.c (struct write_case_data): Removed.
 512         (struct dataset): Added some members to track procedure state.
 513         (procedure): Optimize the trivial case at this level.
 514         (internal_procedure): Re-implement in terms of proc_open,
 515         proc_read, proc_close.
 516         (proc_open) New function.
 517         (proc_read) New function.
 518         (proc_close) New function.
 519         (write_case) Moved into proc_read.
 520         (close_active_file) Moved closing of data source into proc_close.
 521
 522         * storage-source.c: Rewrote to conform with modified
 523         case_source_class interface.
 524
 525         * transformations.c (trns_chain_execute): Added argument to allow
 526         starting execution from an arbitrary transformation.  Updated
 527         callers.
 528
 529         * transformations.h (enum TRNS_NEXT_CASE) Renamed TRNS_END_CASE.
 530
 531 Sat Dec 16 14:09:25 2006  Ben Pfaff  <blp@gnu.org>
 532
 533         * sys-file-reader.c (read_display_parameters): Don't assume that
 534         MEASURE_* and ALIGN_* have the same values found in system files.
 535
 536         * sys-file-writer.c (write_variable_display_parameters): Ditto.
 537
 538         * variable.h: Change MEASURE_NOMINAL, MEASURE_ORDINAL,
 539         MEASURE_SCALE to be 0-based instead of 1-based.  This also fixes
 540         the value of n_MEASURES, which was off by 1 (at least from my
 541         point of view).
 542
 543 Sat Dec 16 12:17:34 WST 2006 John Darrington <john@darrington.wattle.id.au>
 544
 545         * dictionary.c dictionary.h vardict.h variable.c: Added optional
 546                 callbacks which are invoked when the dictionary or its
 547                 variables are changed.
 548
 549         * missing-values.c missing-values.h value-labels.c: Tidied up
 550                 consistency checks, and made some of them return false
 551                 instead of assert-failing.
 552
 553 Wed Dec 13 19:30:11 2006  Ben Pfaff  <blp@gnu.org>
 554
 555         * calendar.c (calendar_days_in_month): New function.
 556
 557 Mon Dec 11 07:53:39 2006  Ben Pfaff  <blp@gnu.org>
 558
 559         * value-labels.c (hash_int_val_lab): Only hash as many bytes as
 560         the value label's width.
 561
 562 Sun Dec 10 14:21:29 2006  Ben Pfaff  <blp@gnu.org>
 563
 564         * sfm-private.h: Move contents into sys-file-writer.c, which is
 565         the only remaining user.  Removed Borland C++-specific directives.
 566
 567         * sys-file-reader.c: Clean up and rewrite entire file.  The
 568         rewritten version is simpler and better abstracted, and should be
 569         easier to maintain and extend.  It avoids using structures to read
 570         file data, which is prone to padding variations among compilers.
 571         It should also handle non-IEEE 754 system files, although I
 572         haven't been able to find any.  It has been tested against many
 573         .sav files obtained from the Web and found to produce the same
 574         results as the earlier version of the code, or in some cases
 575         improved results.  It is more tolerant of format variations found
 576         in the wild.
 577
 578         * sys-file-reader.h (struct sfm_read_info): Removed `big_endian'
 579         member, putting an enum integer_format in its place.  New member
 580         `float_format'.  Changed `compressed' member to type bool.
 581
 582 Sun Dec 10 13:48:53 2006  Ben Pfaff  <blp@gnu.org>
 583
 584         * dictionary.c (dict_delete_consecutive_vars): New function.
 585
 586 Sat Dec  9 20:08:25 2006  Ben Pfaff  <blp@gnu.org>
 587
 588         * file-name.c (fn_search_path): Remove prefix arg that was unused
 589         by any caller.  Updated all callers.
 590
 591 Sat Dec  9 20:04:22 2006  Ben Pfaff  <blp@gnu.org>
 592
 593         * format.c (fmt_dollar_template): Use user's decimal point
 594         character.  Add assertion.
 595
 596 Sat Dec  9 20:02:25 2006  Ben Pfaff  <blp@gnu.org>
 597
 598         * format.c (fmt_dollar_template): New function, based on
 599         dollar_format_template from var-type-dialog.c.
 600
 601 Sat Dec  9 18:05:59 2006  Ben Pfaff  <blp@gnu.org>
 602
 603         * data-out.c (output_scientific): Fix bad assumption that "buf" is
 604         null-terminated.
 605
 606 Sat Dec  9 17:23:23 2006  Ben Pfaff  <blp@gnu.org>
 607
 608         Finish converting struct variable to an opaque type.  In this
 609         phase, we add remaining setter and getter functions, convert the
 610         remaining PSPP code to use them, and do a bunch of cleanup.  The
 611         resulting changes are pervasive but mostly trivial, and only the
 612         notable changes are logged.
 613
 614         * automake.mk (src_data_libdata_a_SOURCES): Add the new source
 615         files.
 616
 617         * case.c (case_data): Renamed case_data_idx.
 618         (case_num): Renamed case_num_idx.
 619         (case_str): Renamed case_str_idx.
 620         (case_data_rw): Renamed case_data_rw_idx.
 621
 622         * case.h (case_data): New function with old name and an interface
 623         that takes a variable instead of an index, which is easier to
 624         use.  Updated all callers to use the new interface, or to use the
 625         new *_idx function (see above).
 626         (case_num): Ditto.
 627         (case_str): Ditto.
 628         (case_data_rw): Ditto.
 629
 630         * category.c (cat_stored_values_destroy): Changed interface to
 631         take a struct cat_vals * instead of a struct variable *.
 632
 633         * dictionary.c (dict_clone): Use new vector_clone function.
 634         (dict_clear) Use new var_destroy function.
 635         (add_var) New function.
 636         (dict_create_var) Rewrite in terms of dict_create_var_assert.
 637         (dict_create_var_assert) Rewrite in terms of add_var.
 638         (dict_clone_var) Rewrite in terms of dict_clone_var_assert.
 639         (dict_clone_var_assert) Rewrite in terms of var_clone, add_var.
 640         (dict_lookup_var) Use new var_create, var_destroy functions.
 641         (dict_contains_var) Rewrite in terms of new vardict functionality.
 642         (set_var_dict_index) New function.
 643         (set_var_case_index) New function.
 644         (reindex_vars) New function.
 645         (dict_delete_var) Rewrite in terms of new vardict functionality.
 646         (dict_reorder_var) Ditto.
 647         (dict_reorder_vars) Ditto.
 648         (rename_var) New function.
 649         (dict_rename_var) Use rename_var.
 650         (dict_rename_vars) Use pool to simplify code.  Use rename_var.
 651         (dict_get_compacted_idx_to_fv) Rename
 652         dict_get_compacted_dict_index_to_case_index, update callers.
 653         (dict_create_vector) Use new vector_create function.
 654         (dict_clear_vectors) Use new vector_destroy function.
 655         (set_var_short_name_suffix) Move here from variable.c, renamed
 656         from var_set_short_name_suffix, make static, update caller.
 657
 658         * sys-file-private.c: New file.
 659         (sfm_width_to_bytes) Moved here from variable.c, renamed from
 660         width_to_bytes, update callers.
 661
 662         * sys-file-private.h: New file.  Later it will supplant
 663         sfm-private.h; for now it supplements it.
 664         (macro MIN_VERY_LONG_STRING) New macro.
 665         (macro EFFECTIVE_LONG_STRING_LENGTH) New macro, from value.h.
 666
 667         * sys-file-reader.c: Use MIN_VERY_LONG_STRING - 1 where
 668         MAX_LONG_STRING was used before.
 669
 670         * sys-file-writer.c: Ditto.
 671
 672         * value-labels.c: Change the paradigm here to be that a null
 673         pointer is OK for a struct val_labs * in most cases; it just
 674         represents an empty set of value labels.
 675         (val_labs_copy) A copy of a null set is a null set.
 676         (val_labs_count) A null set has 0 labels.
 677         (val_labs_replace) Change return type to void.  Rewrite for
 678         simplicity.
 679         (val_labs_find) A null set does not contain the value.
 680         (value_to_string) Moved to variable.c, renamed var_get_value_name,
 681         transposed argument order, updated all callers.
 682
 683         * value.c: New file.
 684         (value_dup) Moved here from variable.c.
 685         (compare_values) Ditto.
 686         (hash_value) Ditto.
 687
 688         * value.h: (macro MAX_SHORT_STRING) Rewrote for simplicity.
 689         (macro MAX_LONG_STRING) Removed, because it was only interesting
 690         for system files, not for general code.
 691         (macro MAX_VERY_LONG_STRING) Ditto.
 692         (macro EFFECTIVE_LONG_STRING_LENGTH) Moved to sys-file-private.h.
 693         (macro MAX_ELEMS_PER_VALUE) Removed, as it was unused.
 694
 695         * vardict.h: New file, for an interface between variables and
 696         their dictionaries.
 697
 698         * variable.c: A lot of functions were moved around, for better
 699         organization.
 700         (struct variable) Move definition here, from variable.h.
 701         (var_type_adj) Removed--makes i18n hard.
 702         (var_type_noun) Ditto.
 703         (var_create) New function.
 704         (var_clone) New function.
 705         (var_destroy) New function.
 706         (var_set_name) Assert that variable is not in a dictionary.
 707         (compare_var_names) Rename compare_vars_by_name and fix a couple
 708         of callers who thought the args were strings.
 709         (hash_var_name) Rename hash_var_by_name.
 710         (compare_var_ptr_names) Rename compare_var_ptrs_by_name.
 711         (hash_var_ptr_name) Rename hash_var_ptr_by_name.
 712         (var_is_very_long_string) Removed, because it was only interesting
 713         to system file code.
 714         (var_set_missing_values) Allow the argument to be the wrong width,
 715         as long as we can resize it.  Simplify callers who were doing the
 716         resizing themselves.
 717         (var_get_value_labels) New function.
 718         (var_has_value_labels) New function.
 719         (var_set_value_labels) New function.
 720         (alloc_value_labels) New function.
 721         (var_add_value_label) New function.
 722         (var_replace_value_label) New function.
 723         (var_clear_value_labels) New function.
 724         (var_lookup_value_label) New function.
 725         (var_get_value_name) Moved here from variable.c, renamed from
 726         var_get_value_name, transposed argument order, updated all
 727         callers.
 728         (var_to_string) Moved here, from variable-label.c.
 729         (var_set_leave) New function.
 730         (var_get_leave) New function.
 731         (var_must_leave) New function.
 732         (var_set_short_name_suffix) Moved to dictionary.c, renamed
 733         set_var_short_name_suffix.
 734         (var_get_dict_index) New function.
 735         (var_get_case_index) New function.
 736         (var_get_obs_vals) New function.
 737         (var_set_obs_vals) New function.
 738         (var_has_obs_vals) New function.
 739         (var_get_vardict) New function.
 740         (var_set_vardict) New function.
 741         (var_has_vardict) New function.
 742         (var_clear_vardict) New function.
 743         (value_dup) Moved to value.c.
 744         (compare_values) Ditto.
 745         (hash_value) Ditto.
 746
 747         * variable.h: (enum NUMERIC) Rename VAR_NUMERIC, update all users.
 748         (enum ALPHA) Rename VAR_STRING, update all users.
 749
 750         * vector.c: New file.
 751         (struct vector) Moved here, from variable.h.
 752         (check_widths) New function.
 753         (vector_create) New function.
 754         (vector_clone) New function.
 755         (vector_destroy) New function.
 756         (vector_get_name) New function.
 757         (vector_get_var) New function.
 758         (vector_get_var_cnt) New function.
 759         (compare_vector_ptrs_by_name) New function.
 760
 761         * vector.h: New file.
 762
 763 Sun Dec 10 11:32:56 WST 2006 John Darrington <john@darrington.wattle.id.au>
 764
 765         * casefilter.c (casefilter_variable_missing): Avoided comparision of
 766         string variables to SYSMIS.  Thanks to Ben Pfaff for reporting this
 767         problem.
 768
 769 Sat Dec  9 07:18:03 WST 2006 John Darrington <john@darrington.wattle.id.au>
 770
 771         * value-labels.c (destroy_atoms): New function.
 772         * value-labels.c (atom_create): Call destroy_atoms in atexit handler.
 773
 774 Thu Dec  7 17:38:26 2006  Ben Pfaff  <blp@gnu.org>
 775
 776         Thanks to Jason Stover for pointing out this problem.
 777
 778         * data-out.c (output_number): Use gsl_finite from GSL, which is
 779         portable, instead of isfinite, which is not.
 780         (power256) Ditto.
 781
 782 Thu Dec  7 15:22:38 WST 2006 John Darrington <john@darrington.wattle.id.au>
 783
 784         * variable.c variable.h (value_dup): New function.
 785
 786 Mon Dec  4 22:20:17 2006  Ben Pfaff  <blp@gnu.org>
 787
 788         Start converting struct variable to an opaque type.  In this
 789         phase, we add a bunch of setter and getter functions and convert
 790         most of the PSPP code to use them.  The resulting changes are
 791         pervasive but mostly trivial, and only the notable changes are
 792         logged.
 793
 794         * format.c (fmt_equal): New function.
 795
 796         * variable.c (var_type_is_valid): New function.
 797         (measure_is_valid) Moved here, from format.c.
 798         (alignment_is_valid) Moved here, from format.c.
 799         (var_get_name) New function.
 800         (var_set_name) New function.
 801         (width_to_type) New function.
 802         (var_get_type) New function.
 803         (var_get_width) New function.
 804         (var_set_width) New function.
 805         (var_is_numeric) New function.
 806         (var_is_alpha) New function.
 807         (var_is_short_string) New function.
 808         (var_is_long_string) New function.
 809         (var_is_very_long_string) New function.
 810         (var_get_missing_values) New function.
 811         (var_set_missing_values) New function.
 812         (var_clear_missing_values) New function.
 813         (var_has_missing_values) New function.
 814         (var_is_value_missing) New function.
 815         (var_is_num_missing) New function.
 816         (var_is_str_missing) New function.
 817         (var_is_value_user_missing) New function.
 818         (var_is_num_user_missing) New function.
 819         (var_is_str_user_missing) New function.
 820         (var_is_value_system_missing) New function.
 821         (var_get_print_format) New function.
 822         (var_set_print_format) New function.
 823         (var_get_write_format) New function.
 824         (var_set_write_format) New function.
 825         (var_set_both_formats) New function.
 826         (var_get_label) New function.
 827         (var_set_label) New function.
 828         (var_clear_label) New function.
 829         (var_has_label) New function.
 830         (var_get_measure) New function.
 831         (var_set_measure) New function.
 832         (var_get_display_width) New function.
 833         (var_set_display_width) New function.
 834         (var_get_alignment) New function.
 835         (var_set_alignment) New function.
 836         (var_get_value_cnt) New function.
 837         (var_get_leave) New function.
 838         (var_get_short_name) New function.
 839
 840         * variable.h: (struct variable) Removed "type" and "nv" members;
 841         they are now computed from "width" where needed.
 842
 843 Mon Dec  4 21:38:40 2006  Ben Pfaff  <blp@gnu.org>
 844
 845         * missing-values.c (mv_resize): Don't write beyond end of the
 846         allocated buffer when resizing a long string.
 847
 848 Sat Dec  2 16:28:32 2006  Ben Pfaff  <blp@gnu.org>
 849
 850         Clean up identifier code: don't require identifier enumerations to
 851         be in a particular order; make better use of string library;
 852         expose less of the internals.
 853
 854         * identifier.c: (lex_skip_identifier) Rename lex_id_get_length,
 855         change interface.  Updated all callers.
 856         (lex_id_match) Change interface to use struct substring, update
 857         all callers.
 858         (lex_id_match_len) Removed.  Update callers to use lex_id_match.
 859         (global array keywords[]) Make static, change form.  Update all
 860         users to use lex_id_name instead.
 861         (lex_is_keyword) New function.
 862         (lex_id_to_token) Change interface to use struct substring, update
 863         all callers.
 864         (lex_id_name) New function.
 865
 866         * identifier.h: (T_FIRST_KEYWORD) Removed.  Changed users to call
 867         lex_is_keyword instead.
 868         (T_LAST_KEYWORD) Removed.
 869         (T_N_KEYWORDS) Removed.
 870
 871 Sat Nov 18 20:46:35 2006  Ben Pfaff  <blp@gnu.org>
 872
 873         * format.c: (fmt_date_template) Distinguish characters for which a
 874         space is output and any date delimiter is allowed on input, from
 875         those for which a space is output and only a space is allowed on
 876         input.  The former is represented by X, the latter by a space.
 877         Also, drop distinction between h and H, changing the former to the
 878         latter.
 879
 880         * data-in.c: Completely rewrite internals to conform to SPSS input
 881         formats as closely as possible.
 882         (data_in) Changed external interface by replacing the structure
 883         that was used as a single argument by a set of arguments.  Updated
 884         all callers.
 885         (data_in_finite_line) Removed.  Converted all callers to use plain
 886         data_in.
 887         (data_in_get_integer_format) New function.
 888         (data_in_set_integer_format) New function.
 889         (data_in_get_float_format) New function.
 890         (data_in_set_float_format) New function.
 891
 892         * data-in.h: (enums DI_IGNORE_ERROR, DI_IMPLIED_DECIMALS) Removed.
 893         (struct data_in) Removed.
 894
 895         * data-out.c: (output_date) Drop each component from the input as
 896         it is output, to allow us to drop the distinction between h (a
 897         count of hours) and H (the hour of day) template characters.
 898         Also, handle new X template character.
 899         (output_scientific) Follow more rational rule on when to drop
 900         fraction introduced between SPSS 13 and 15.  Updated test case to
 901         match new behavior.
 902
 903 Sat Nov 11 11:41:26 2006  Ben Pfaff  <blp@gnu.org>
 904
 905         Fix buffer overflow reported by John Darrington.
 906
 907         * data-out.c (output_bcd_integer): In case of SYSMIS, etc.,
 908         realize that DIGITS is a count of nibbles, not of bytes.
 909
 910 Sat Nov  4 15:59:56 2006  Ben Pfaff  <blp@gnu.org>
 911
 912         * calendar.c (calendar_offset_to_gregorian) Also return the
 913         year-of-day.  Change callers to new interface.
 914
 915         * data-out.c: Completely rewrite internals to conform to SPSS
 916         output formats as completely as possible.
 917         (data_out) Change interface to put input parameters before output
 918         parameters, for consistency with the style I now prefer.  Update
 919         all callers.
 920         (data_out_get_integer_format) New public function.
 921         (data_out_set_integer_format) New public function.
 922         (data_out_get_float_format) New public function.
 923         (data_out_set_float_format) New public function.
 924
 925         * data-out.h: New file.  Move prototype for data_out here, from
 926         format.h.
 927
 928         * format.c: (fmt_step_width) Use equality comparison instead of
 929         bitwise and, for clarity.
 930         (fmt_is_string) Ditto.
 931         (fmt_input_to_output) Fix categories that are translated to F
 932         format.
 933
 934 Sun Nov  5 08:29:34 WST 2006 John Darrington <john@darrington.wattle.id.au>
 935
 936         * casefilter.c casefilter.h (new files), casefile.c casefile.h
 937         casefile-private.h: Added casefilter to assist commands with missing
 938         values.
 939
 940 Sat Nov  4 11:47:09 2006  Ben Pfaff  <blp@gnu.org>
 941
 942         Implement SET ERRORS, SHOW ERRORS.  Fixes bug #17609.
 943
 944         * settings.c: (route_errors_to_terminal) New variable.
 945         (route_errors_to_listing) New variable.
 946         (get_error_routing_to_terminal) New function.
 947         (set_error_routing_to_terminal) New function.
 948         (get_error_routing_to_listing) New function.
 949         (set_error_routing_to_listing) New function.
 950
 951         * settings.h: (SET_ROUTE_* enums) Removed, because unused.
 952
 953 Tue Oct 31 19:58:27 2006  Ben Pfaff  <blp@gnu.org>
 954
 955         * format.c: Completely rewrite, to achieve better abstraction.
 956         Rewrite all references to formats in other files.
 957
 958         * format.def: Rewrite and reorganize.
 959
 960         * settings.c: Move everything related to custom currency formats
 961         into format.[ch], changing them in form, so as to group related
 962         code and definitions better.  Changed all references to use the
 963         new functions.
 964         (static var decimal) Removed.
 965         (static var grouping) Removed.
 966         (static var cc) Removed.
 967         (get_decimal) Removed.
 968         (set_decimal) Removed.
 969         (get_grouping) Removed.
 970         (set_grouping) Removed.
 971         (get_cc) Removed.
 972         (set_cc) Removed.
 973
 974         * settings.h: (macro CC_CNT) Removed.
 975         (macro CC_WIDTH) Removed.
 976         (struct custom_currency) Removed.
 977
 978 Tue Oct 31 19:56:19 2006  Ben Pfaff  <blp@gnu.org>
 979
 980         * data-in.c (data_in): Use switch statement instead of table, to
 981         avoid dependence on the order of the FMT_* enums.
 982
 983 Tue Oct 31 19:35:36 2006  Ben Pfaff  <blp@gnu.org>
 984
 985         * data-out.c: (num_to_string) Removed, because it was dead code.
 986
 987 Tue Oct 31 18:09:24 2006  Ben Pfaff  <blp@gnu.org>
 988
 989         * data-in.c (parse_trailer): Fix error message.
 990
 991 Sat Oct 28 11:56:50 2006  Ben Pfaff  <blp@gnu.org>
 992
 993         * format.c (fmt_is_binary): New function.
 994
 995 Thu Oct 19 22:59:56 WST 2006 John Darrington <john@darrington.wattle.id.au>
 996
 997         * procedure.c procedure.h: Encapsulated the static data into a single
 998         struct.
 999
1000 Sat Oct 14 16:56:44 2006  Ben Pfaff  <blp@gnu.org>
1001
1002         * casefile.c (casereader_read_xfer): Always initialize the case,
1003         even on an error condition.
1004
1005 Wed Sep 27 09:37:49 WST 2006 John Darrington <john@darrington.wattle.id.au>
1006
1007         * procedure.c (case_limit_trns_proc): Fixed buglet which rendered the
1008         entire function useless.
1009
1010 Mon Sep 25 17:11:46 WST 2006 John Darrington <john@darrington.wattle.id.au>
1011
1012         * casefile-private.h casefile.c casefile.h fastfile.c: Created new
1013         casereader method casereader_clone.
1014
1015         * procedure.c pransformations.h: Introduced new type casenum_t
1016
1017 Thu Sep 21 07:00:30 2006  Ben Pfaff  <blp@gnu.org>
1018
1019         * variable.c: (width_to_bytes) Rephrase code for clarify.
1020
1021 Sun Jul 16 19:52:03 2006  Ben Pfaff  <blp@gnu.org>
1022
1023         * format.c: (fmt_type_from_string) New function.
1024         (fmt_to_string) Include decimals in output if the format has
1025         decimals, even if the format type does not.  This way, we can
1026         accurately reproduce incorrect formats in user output.
1027         (check_common_specifier) Make the check for a bad format type an
1028         assertion, so we get bug reports if they show up.  Fix message.
1029         Check for decimal places with a format type that doesn't allow
1030         them.
1031         (check_input_specifier) Remove check for FMT_X, which has been
1032         deleted.
1033         (check_output_specifier) Ditto.
1034
1035         * format.def: Remove FMT_T, FMT_X, FMT_DESCEND, FMT_NEWREC.
1036
1037         * format.h: (macro FMT_TYPE_LEN_MAX) New macro.
1038         (struct fmt_desc) Use FMT_TYPE_LEN_MAX in definition.
1039         (enum fmt_parse_flags) Removed.
1040
1041 Mon Jul 17 18:26:21 WST 2006 John Darrington <john@darrington.wattle.id.au>
1042
1043         * casefile.c casefile.h: Converted to  an abstract base class.
1044         * casefile-private.h fastfile.c fastfile.h: New files.
1045         * automake.mk procedure.c scratch-writer.c storage-stream.c
1046
1047 Wed Jul 12 21:02:26 2006  Ben Pfaff  <blp@gnu.org>
1048
1049         * procedure.c (internal_procedure): Create sink_case with only as
1050         many values as the compacted dictionary.
1051
1052 Wed Jul 12 21:01:00 2006  Ben Pfaff  <blp@gnu.org>
1053
1054         Remove "debugging" code that caused plenty of false positives and
1055         no true positives.
1056
1057         * case.h (struct ccase): [DEBUGGING] Remove `this' member.
1058
1059         * case.c: Remove all references to `this' member.
1060
1061 Thu Jul  6 19:09:53 2006  Ben Pfaff  <blp@gnu.org>
1062
1063         Fix link error noted by Jason Stover.
1064
1065         * storage-stream.c: Include <assert.h>.
1066
1067 Tue Jul  4 08:47:35 2006  Ben Pfaff  <blp@gnu.org>
1068
1069         Fix bug #15766 (/KEEP subcommand on SAVE doesn't fully support
1070         ALL) and additional underlying system file issues.
1071
1072         Thanks to John Darrington for review.
1073
1074         First problem: var_hash points to variables not owned by the
1075         sys-file-reader, which the caller may free or modify.  Use an
1076         array of sfm_vars instead, as done earlier (e.g. CVS version
1077         1.12).
1078
1079         * sys-file-reader.c (struct sfm_reader): Remove var_hash, svars
1080         members and remove all code that references it.  Add vars, var_cnt
1081         members.  Remove fix_specials member, which was unused.
1082         (struct sfm_var) Remove name member, which was unused.
1083         (sfm_close_reader) Free vars member instead of var_hash.
1084         (compare_var_shortnames) Removed.
1085         (hash_var_shortname) Removed.
1086         (sfm_open_reader) Fill out vars array.
1087         (compare_var_index) Removed.
1088         (sfm_read_case) Use vars instead of var_hash.
1089
1090         Second problem: we're confused about when we actually have very
1091         long strings, causing us to choose incorrectly between slow path
1092         and fast path in sfm_read_case.
1093
1094         * sys-file-reader.c: (sfm_open_reader) Only mark has_vls if we
1095         have very long strings, not when we have long variable names,
1096         which is an unrelated feature.
1097
1098 Tue Jun 27 12:06:49 2006  Ben Pfaff  <blp@gnu.org>
1099
1100         * variable.h: Move var_set and variable parsing declarations to
1101         new header, src/language/lexer/variable-parser.h.  Modified lots
1102         of files to include the new header.
1103
1104 Sun Jun 25 22:39:32 2006  Ben Pfaff  <blp@gnu.org>
1105
1106         * value-labels.c (value_to_string): When there's no value label,
1107         format the variable according to its print format, instead of
1108         always effectively using A or F format.
1109
1110 Mon Jun 19 18:05:42 WST 2006 John Darrington <john@darrington.wattle.id.au>
1111
1112         * casefile.c (casefile_get_random_reader): Nasty hack to get around
1113         the mode assertion.
1114
1115         * format.c: Removed tortological assertion.
1116
1117 Fri Jun  9 12:20:09 2006  Ben Pfaff  <blp@gnu.org>
1118
1119         Reform string library.
1120
1121         * file-name.c (fn_interp_vars): Change interface to take a
1122         substring as input.  Updated all users.
1123
1124 Fri Jun  9 12:11:24 2006  Ben Pfaff  <blp@gnu.org>
1125
1126         * format.c (measure_is_valid): Really return false when m >=
1127         n_MEASURES.
1128
1129 Tue Jun  6 18:46:26 2006  Ben Pfaff  <blp@gnu.org>
1130
1131         Implement random access to casefiles, for use in GUI.
1132
1133         * casefile.c: (struct casereader) Add `random', `file_ofs',
1134         `buffer_ofs' members.
1135         (casefile_get_random_reader) New function.
1136         (read_open_file) Break part into new function
1137         seek_and_fill_buffer().
1138         (fill_buffer) Update buffer_ofs, file_ofs.
1139         (casereader_seek) New function.
1140
1141 Tue May 30 19:52:33 WST 2006 John Darrington <john@darrington.wattle.id.au>
1142
1143         * settings.c: Added call to i18n{done, init}.
1144
1145 Tue May  9 21:09:17 2006  Ben Pfaff  <blp@gnu.org>
1146
1147         * procedure.h: Add WARN_UNUSED_RESULT to procedure function
1148         prototypes.
1149
1150 Tue May  9 21:08:05 2006  Ben Pfaff  <blp@gnu.org>
1151
1152         * casefile.c: Convert many uses of `int' to `bool'.
1153
1154 Sat May  6 22:49:43 2006  Ben Pfaff  <blp@gnu.org>
1155
1156         * transformations.c (trns_chain_destroy): Destroy chain's trns
1157         member, to fix memory leak.
1158
1159 Sat May  6 22:48:30 2006  Ben Pfaff  <blp@gnu.org>
1160
1161         * storage-stream.c (storage_source_decapsulate): Destroy case
1162         source to fix memory leak.
1163
1164 Sat May  6 22:46:47 2006  Ben Pfaff  <blp@gnu.org>
1165
1166         * scratch-reader.c (scratch_reader_read_case): Copy into existing
1167         case passed as argument instead of initializing the argument as a
1168         case.  Fixes memory leak that showed up in
1169         tests/command/aggregate.sh with scratch files.
1170
1171 Sat May  6 22:45:55 2006  Ben Pfaff  <blp@gnu.org>
1172
1173         * procedure.c (proc_done): Destroy default_dict, to fix memory
1174         leak.
1175
1176 Sat May  6 22:44:44 2006  Ben Pfaff  <blp@gnu.org>
1177
1178         Simplify procedure_with_splits().
1179
1180         * procedure.c (struct split_aux_data): Removed case_count member.
1181         (procedure_with_splits) Don't initialize case_count.
1182         (split_procedure_case_func) Check whether prev_case is null
1183         instead of case_count.
1184         (split_procedure_end_func) Ditto.
1185
1186 Sat May  6 22:42:23 2006  Ben Pfaff  <blp@gnu.org>
1187
1188         * case.c (case_move): Do nothing if dst and src are the same
1189         object.
1190         (case_try_create) Merge two similar cases.
1191         (case_copy) Unshare only if data must be actually copied.
1192
1193 Sun May  7 10:04:06 WST 2006 John Darrington <john@darrington.wattle.id.au>
1194
1195         * data-in.c data-out.c dictionary.c sys-file-reader.c
1196         sys-file-writer.c variable.c variable.h:  Reworked very long string
1197         support for better encapsulation.
1198
1199 Sat May  6 19:02:00 2006  Ben Pfaff  <blp@gnu.org>
1200
1201         * value-labels.c (val_labs_can_set_width): New function.
1202         (val_labs_set_width) Clear labels if increasing width to long
1203         string.
1204         (val_labs_destroy) Remove unneeded test for null.
1205
1206 Sat May  6 16:14:08 2006  Ben Pfaff  <blp@gnu.org>
1207
1208         * value-labels.h: Remove unneeded dependency on variable.h.
1209
1210 Sat May  6 15:58:36 2006  Ben Pfaff  <blp@gnu.org>
1211
1212         Get rid of `char *c' member in union value, for cleanliness.
1213
1214         * value.h: (union value) Remove `c' member.
1215
1216 Sat May  6 15:36:59 2006  Ben Pfaff  <blp@gnu.org>
1217
1218         Make dictionary compacting functions a little more general.
1219
1220         * sys-file-writer.c (sfm_open_writer): Use
1221         dict_compacting_would_change().
1222         (does_dict_need_translation) Removed.
1223
1224 Sat May  6 15:35:42 2006  Ben Pfaff  <blp@gnu.org>
1225
1226         Make dictionary compacting functions a little more general.
1227
1228         * dictionary.c (dict_needs_compaction): Rename
1229         dict_compacting_would_shrink().  Update all callers.
1230         (dict_compacting_would_change) New function.
1231
1232 Sat May  6 14:25:49 2006  Ben Pfaff  <blp@gnu.org>
1233
1234         * sys-file-writer.c: (does_dict_need_translation) Fix bug:
1235         inverted return value (!).
1236
1237 Sat May  6 13:37:52 2006  Ben Pfaff  <blp@gnu.org>
1238
1239         Continue reforming procedure execution.
1240
1241         * procedure.c: Search and replace "vfm" by "proc".  Notably:
1242         (static var vfm_source) Rename proc_source.  Update all
1243         references.
1244         (static var vfm_sink) Rename proc_sink.  Update all references.
1245
1246 Sat May  6 12:38:55 2006  Ben Pfaff  <blp@gnu.org>
1247
1248         Continue reforming procedure execution.  In this phase, remove
1249         PROCESS IF, which was deprecated anyway and can be easily
1250         simulated with TEMPORARY followed by SELECT IF.
1251
1252         * procedure.c: (open_active_file) Don't call
1253         add_process_if_trns().
1254         (discard_variables) Get rid of redundant call to
1255         proc_cancel_all_transformations().
1256         (add_process_if_trns) Removed.
1257         (process_if_trns_proc) Removed.
1258         (process_if_trns_free) Removed.
1259
1260 Sat May  6 10:58:05 2006  Ben Pfaff  <blp@gnu.org>
1261
1262         Continue reforming procedure execution.  In this phase, add
1263         `const' to the case passed to procedure()'s callback.
1264
1265         Updated all users of procedure() as well.
1266
1267         * procedure.c: (struct write_case_data) Add "const" to ccase
1268         parameter for case_func member.
1269         (procedure) Add "const" to ccase parameter for proc_func
1270         parameter.
1271         (multipass_case_func) Make ccase parameter const.
1272         (internal_procedure) Add "const" to ccase parameter for case_func
1273         parameter.
1274         (split_procedure_case_func) Make ccase parameter const.
1275         (multipass_split_case_func) Make ccase parameter const.
1276
1277 Sat May  6 10:30:33 2006  Ben Pfaff  <blp@gnu.org>
1278
1279         Continue reforming procedure execution.  In this phase, get rid of
1280         the output code for SPLIT FILE groups in procedure.c, which really
1281         shouldn't be doing any output.  Move it into the individual
1282         procedures instead.  This also adds some flexibility.
1283
1284         Updated many users of procedure_with_splits() and
1285         multipass_procedure_with_splits() to call
1286         output_split_file_values() and to deal with increased use of
1287         const.
1288
1289         * procedure.c: (struct split_aux_data) Add "const struct ccase *"
1290         parameter to begin_func member.
1291         (procedure_with_splits) Add "const struct ccase *" parameter to
1292         begin_func parameter.  Make ccase parameter const in proc_func
1293         parameter.
1294         (split_procedure_case_func) Don't dump split file group.  Pass
1295         case to begin_func.
1296         (dump_splits) Moved to language/dictionary/split-file.c as
1297         output_split_file_values().
1298         (struct multipass_split_aux_data) Add "const struct ccase *"
1299         parameter to split_func member.
1300         (multipass_procedure_with_splits) Add "const struct ccase *"
1301         parameter to split_func parameter.
1302         (multipass_split_case_func) Save new SPLIT FILE case before
1303         outputting case.
1304         (multipass_split_output) Pass saved SPLIT FILE case to split_func.
1305
1306 Fri May  5 22:48:50 2006  Ben Pfaff  <blp@gnu.org>
1307
1308         Continue reforming procedure execution.  Change
1309         internal_procedure() so that it calls open_active_file() and
1310         close_active_file(), which isolates most of the actual procedure
1311         functionality.
1312
1313         * procedure.c: (struct write_case_data) Rename `proc_func' member
1314         to `case_func' and update all references.
1315         (procedure) Rewrite as one-line wrapper around
1316         internal_procedure().
1317         (struct multipass_aux_data) New.
1318         (multipass_callback) Renamed multipass_case_func().  Use struct
1319         multipass_aux_data as auxiliary data.
1320         (multipass_end_func) New function.
1321         (multipass_procedure) Rewrite as wrapper for internal_procedure()
1322         that uses multipass_case_func, multipass_end_func.
1323         (internal_procedure) Add `end_func' argument.  Move optimization
1324         of trivial case in here.  Move call to open_active_file() and
1325         close_active_file() in here.  Now assert that vfm_source is
1326         non-null.
1327         (procedure_with_splits_callback) Rename
1328         split_procedure_case_func().
1329         (split_procedure_end_func) New function.
1330         (multipass_split_callback) Rename multipass_split_case_func.
1331         (multipass_split_end_func) New function.
1332         (discard_variables) No need to test for nonnull vfm_source.
1333
1334 Fri May  5 21:34:02 2006  Ben Pfaff  <blp@gnu.org>
1335
1336         Continue reforming procedure execution.  Get rid of unused member.
1337
1338         * procedure.c: (struct write_case_data) Remove `cases_analyzed'
1339         member.
1340         (write_case) Don't increment cases_analyzed.
1341
1342 Thu May  4 21:50:11 2006  Ben Pfaff  <blp@gnu.org>
1343
1344         Continue reforming procedure execution.  In this phase, move
1345         procedure.c and procedure.h from src to src/data.  Update
1346         makefiles and #includes accordingly.
1347
1348         * procedure.c: Moved here from src/.
1349
1350         * procedure.h: Moved here from src/.
1351
1352 Wed May  3 22:42:12 2006  Ben Pfaff  <blp@gnu.org>
1353
1354         Continue reforming procedure execution.  In this phase, get rid of
1355         many global variables, consolidating procedure execution in
1356         procedure.c.  Encapsulate transformations in new "struct
1357         trns_chain".  Also, change implementation of N OF CASES, FILTER,
1358         and PROCESS IF from special cases to transformations.
1359
1360         * automake.mk: (src_data_libdata_a_SOURCES) Add transformations.c,
1361         transformations.h.
1362
1363         * dictionary.c: (global variable default_dict) Move to
1364         src/procedure.c.
1365
1366         * variable.h: (TRNS_*) Move to transformations.h.
1367         (struct transformation) Move to transformations.c.
1368
1369 Thu May  4 13:47:06 WST 2006 John Darrington <john@darrington.wattle.id.au>
1370
1371         * sys-file-reader.c: Fixed invalid read problems.
1372
1373 Tue May  2 15:57:10 2006  Ben Pfaff  <blp@gnu.org>
1374
1375         * storage-stream.c: Add missing function comments.
1376
1377 Tue May  2 15:50:21 2006  Ben Pfaff  <blp@gnu.org>
1378
1379         Continue reforming procedure execution.  In this phase, add some
1380         new, needed functionality to storage-stream.
1381
1382         * storage-stream.c: (storage_source_decapsulate) New function.
1383
1384 Tue May  2 15:43:36 2006  Ben Pfaff  <blp@gnu.org>
1385
1386         * variable.c (width_to_bytes): Declarations must precede
1387         statements for C90 compliance.
1388
1389 Tue May  2 10:42:05 WST 2006 John Darrington <john@darrington.wattle.id.au>
1390
1391         * data-out.c, data-in.c, variable.c, variable.h: New functions
1392         copy_mangle and copy_demangle for reading/writing cases; emulates the
1393         way SPSS deals with strings > 255 bytes.
1394
1395         * sys-file-reader.c sys-file-writer.c: Added support for Record 7,
1396         subtype 14 needed for strings longer than 255 bytes.
1397
1398         * dictionary.c, format.def, value.c : Updated to use MAX_STRING
1399         instead of literal values. Also fixed some constness issues.
1400
1401         * format.h: Constness
1402
1403         * sfm-private.h: Renamed the case_size identifier, since I discovered
1404         that SPSS's respect for this variable is very nominal.
1405
1406 Mon May  1 15:45:42 2006  Ben Pfaff  <blp@gnu.org>
1407
1408         Change case limit type from int to size_t.
1409
1410         * dictionary.c: (struct dictionary) Change type of case_limit
1411         member.
1412         (dict_get_case_limit) Change return type.
1413         (dict_set_case_limit) Change parameter type.
1414
1415 Wed Apr 26 20:01:19 2006  Ben Pfaff  <blp@gnu.org>
1416
1417         * variable.h: (struct variable) Rename `reinit' member as `leave'
1418         and invert sense.  Fix up all references.
1419
1420 Wed Apr 26 19:39:28 2006  Ben Pfaff  <blp@gnu.org>
1421
1422         Continue reforming procedure execution.  In this phase, break
1423         procedure.c into multiple files.
1424
1425         * automake.mk: (src_data_libdata_a_SOURCES) Add all the new files.
1426
1427         * case-sink.c: New file.
1428
1429         * case-sink.h: New file.
1430
1431         * case-source.c: New file.
1432
1433         * case-source.h: New file.
1434
1435         * storage-stream.c: New file.
1436
1437         * storage-stream.h: New file.
1438
1439 Wed Apr 26 14:55:19 2006  Ben Pfaff  <blp@gnu.org>
1440
1441         * variable.h: (struct variable) Remove `init' member and all
1442         references to it from other files.  It was initialized in several
1443         places, but nothing really ever used it for anything worthwhile.
1444         Thanks to Jason Stover for pointing out how confusing this
1445         member is.
1446
1447 Sun Apr 23 22:04:45 2006  Ben Pfaff  <blp@gnu.org>
1448
1449         Continue reforming error message support.  In this phase, get rid
1450         of message "titles" and put the message text in `struct error'.
1451         Now `struct error' encapsulates a message more properly.
1452
1453         * casefile.c: (io_error) Use err_msg() instead of err_vmsg().
1454         Format message ourselves.
1455
1456         * data-in.c: (vdls_error) Ditto.
1457
1458         * por-file-reader.c: (error) Ditto.
1459
1460         * sys-file-reader.c: (corrupt_msg) Ditto.
1461
1462 Sun Apr 16 18:49:51 2006  Ben Pfaff  <blp@gnu.org>
1463
1464         GNU standards require "file name" instead of "filename" in
1465         documentation.  It's nice for our code to follow the convention
1466         too.
1467
1468         * casefile.c: (struct casefile) Rename `filename' member to
1469         `file_name'.  Updated all references.
1470
1471         * file-name.c: [!unix] (struct file_identity) Rename
1472         normalized_filename member to normalized_file_name.  Updated all
1473         references.
1474
1475 Sun Apr 16 18:35:33 2006  Ben Pfaff  <blp@gnu.org>
1476
1477         We don't really support anything but Unix-like environments well,
1478         so we might as well de-obfuscate by writing directory and path
1479         separators explicitly.
1480
1481         * file-name.h: (macro DIR_SEPARATOR) Removed.  Changed all usages
1482         to just '/'.
1483         (macro PATH_SEPARATOR) Removed.  Changed all usages to just ':'.
1484         (macro DIR_SEPARATOR_STRING) Removed.  Changed all usages to just
1485         "/".
1486         (macro PATH_SEPARATOR_STRING) Removed.  Changed all usages to just
1487         ":"
1488
1489 Sun Apr 16 18:28:35 2006  Ben Pfaff  <blp@gnu.org>
1490
1491         GNU standards require "file name" instead of "filename" in
1492         documentation.  It's nice for our code to follow the convention
1493         too.
1494
1495         * filename.c: Rename to file-name.c.
1496
1497         * filename.h: Rename to file-name.h.  Update all inclusions.
1498         Update header guards.
1499
1500         * automake.mk: Update file names.
1501
1502 Sun Apr 16 16:42:47 2006  Ben Pfaff  <blp@gnu.org>
1503
1504         * filename.c: (fn_dirname) Renamed fn_dir_name(), all references
1505         updated.
1506         (fn_basename) Removed (dead code).
1507         (fn_absolute_p) Renamed fn_is_absolute(), all references updated.
1508         (fn_special_p) Renamed fn_is_special(), all references updated.
1509         (fn_exists_p) Renamed fn_exists(), all references updated.
1510
1511 Sun Apr 16 16:33:58 2006  Ben Pfaff  <blp@gnu.org>
1512
1513         * filename.c: (fn_tilde_expand) Rewrite for cleaner code.
1514         Also, now it only tilde-expands file names, not paths.
1515         (fn_search_path) Tilde-expand one directory at a time.
1516
1517 Sun Apr 16 16:28:06 2006  Ben Pfaff  <blp@gnu.org>
1518
1519         * filename.c: (fn_search_path) rewrite for cleaner code.  Also,
1520         get rid of non-Unixlike version of the code, which has probably
1521         never been tested.
1522         (fn_prepend_dir) Removed (dead code).
1523
1524         * filename.h: (macro DIR_SEPARATOR_STRING) New.
1525         (macro PATH_SEPARATOR_STRING) New.
1526 Sun Apr 16 16:05:28 2006  Ben Pfaff  <blp@gnu.org>
1527
1528         Continue reforming error message support.  In this phase, we get
1529         rid of VM() and the other msg() support for "verbosity", replacing
1530         it by a new function verbose_msg().
1531
1532         * filename.c: (fn_search_path) Use verbose_msg() instead of
1533         msg(VM(), ...).
1534
1535 Sat Apr 15 19:53:19 2006  Ben Pfaff  <blp@gnu.org>
1536
1537         * sfm-private.h: Get rid of #defines after #error, which makes no
1538         sense.
1539
1540 Sat Apr 15 19:48:57 2006  Ben Pfaff  <blp@gnu.org>
1541
1542         Get rid of our own int32 type in favor of the standard int32_t
1543         type.
1544
1545         * sfm-private.h: (int32 macro) Don't define this anymore.  Do
1546         include <stdint.h>.
1547
1548         * sys-file-reader.c: Use int32_t instead of int32 throughout.
1549
1550         * sys-file-writer.c: Use int32_t instead of int32 throughout.
1551
1552 Sat Apr 15 19:36:47 2006  Ben Pfaff  <blp@gnu.org>
1553
1554         Remove ill-considered file routines that are no longer used.
1555
1556         * filename.c: (fn_open_ext) Removed.
1557         (fn_close_ext) Removed.
1558
1559         * filename.h: (struct file_ext) Removed.
1560
1561 Mon Apr  3 13:22:39 2006  Ben Pfaff  <blp@gnu.org>
1562
1563         * variable.c (var_is_valid_name): Move declarations before code
1564         for C90 compliance.
1565
1566 Tue Apr  4 15:28:40 WST 2006 John Darrington <john@darrington.wattle.id.au>
1567
1568         * filename.ch (fn_interp_vars): Fixed small buglet.
1569
1570 Tue Mar 28 13:47:16 WST 2006 John Darrington <john@darrington.wattle.id.au>
1571
1572         * filename.[ch] (fn_interp_vars): Changed the signature and semantics
1573         so as to modify the string inline.   Thus makeing it easier to
1574         destroy the results when no longer needed.
1575
1576 2006-03-25  Jason Stover  <jhs@math.gcsu.edu>
1577
1578         * category.c (cat_stored_values_destroy): Fixed memory leak.
1579
1580 Fri Mar 24 18:15:41 2006  Ben Pfaff  <blp@gnu.org>
1581
1582         Add some missing frees.  Thanks to John Darrington for reporting
1583         these.
1584
1585         * any-writer.c (any_writer_close): Free writer.
1586
1587         * any-reader.c (any_reader_close): Free reader.
1588
1589 Mon Mar 20 16:33:53 2006  Ben Pfaff  <blp@gnu.org>
1590
1591         * por-file-reader.c: (error) Mark as NO_RETURN.
1592
1593 Sat Mar 11 15:06:07 WST 2006 John Darrington <john@darrington.wattle.id.au>
1594
1595         * settings.c: Changed default value of scompress to true.
1596
1597 Sat Mar  4 13:22:51 2006  Ben Pfaff  <blp@gnu.org>
1598
1599         * sfm-private.h: Include variable.h, to get SHORT_NAME_LEN.
1600
1601         * value.h: Remove check on MAX_SHORT_STRING, which I don't think
1602         really applies.
1603
1604         * variable.h: Move definition of SHORT_NAME_LEN, LONG_NAME_LEN
1605         here from pref.h.orig.
1606
1607 Sat Mar  4 12:50:48 WST 2006 John Darrington <john@darrington.wattle.id.au>
1608
1609         * sys-file-reader.c: Fixed bug reading compressed files.
1610
1611 Thu Mar  2 08:40:33 WST 2006 John Darrington <john@darrington.wattle.id.au>
1612
1613         * Numerous renames.  See src/ChangeLog for details.
1614
1615         * Moved files from src directory