TODO

   1 Time-stamp: <2006-05-06 11:03:32 blp>
   2
   3 Procedure processing:
   4
   5 * Should not need temporary casefile in the common case.
   6
   7 * LAG need not be as much of a special case.
   8
   9 * Push PROCESS IF, FILTER, N OF CASES out of procedure.c.
  10
  11 * Change sources into state machines?
  12
  13 Get rid of need for GNU diff in `make check'.
  14
  15 Format specifier code needs to be rewritten for lowered crappiness.
  16
  17 CROSSTABS needs to be re-examined.
  18
  19 RANK, which is needed for the Wilcoxon signed-rank statistic, Mann-Whitney U,
  20 Kruskal-Wallis on NPAR TESTS and for Spearman and the Johnkheere trend test (in
  21 other procedures).
  22
  23 Add NOT_REACHED() macro.
  24
  25 Scratch variables should not be available for use following TEMPORARY.
  26
  27 Check our results against the NIST StRD benchmark results at
  28 strd.itl.nist.gov/div898/strd
  29
  30 Storage of value labels on disk is inefficient.  Invent new data structure.
  31
  32 Fix spanned joint cells, i.e., EDLEVEL on crosstabs.stat.
  33
  34 SELECT IF should be moved before other transformations whenever possible.  It
  35 should only be impossible when one of the variables referred to in SELECT IF is
  36 created or modified by a previous transformation.
  37
  38 Figure out a stylesheet for messages displayed by PSPP: i.e., what quotation
  39 marks around filenames, etc.
  40
  41 From Zvi Grauer <z.grauer@csuohio.edu> and <zvi@mail.ohio.net>:
  42
  43    1. design of experiments software, specifically Factorial, response surface
  44    methodology and mixrture design.
  45
  46    These would be EXTREMELY USEFUL for chemists, engineeris, and anyone
  47    involved in the production of chemicals or formulations.
  48
  49    2. Multidimensional Scaling analysis (for market analysis) -
  50
  51    3. Preference mapping software for market analysis
  52
  53    4. Hierarchical clustering (as well as partition clustering)
  54
  55    5. Conjoint analysis
  56
  57    6. Categorical data analsys ?
  58
  59 Sometimes very wide (or very tall) columns can occur in tables.  What is a good
  60 way to truncate them?  It doesn't seem to cause problems for the ascii or
  61 postscript drivers, but it's not good in the general case.  Should they be
  62 split somehow?  (One way that wide columns can occur is through user request,
  63 for instance through a wide PRINT request--try time-date.stat with a narrow
  64 ascii page or with the postscript driver on letter size paper.)
  65
  66 From Moshe Braner <mbraner@nessie.vdh.state.vt.us>: An idea regarding MATCH
  67 FILES, again getting BEYOND the state of SPSS: it always bothered me that if I
  68 have a large data file and I want to match it to a small lookup table, via
  69 MATCH FILES FILE= /TABLE= /BY key, I need to SORT the large file on key, do the
  70 match, then (usually) re-sort back into the order I really want it.  There is
  71 no reason to do this, when the lookup table is small.  Even a dumb sequential
  72 search through the table, for every case in the big file, is better, in some
  73 cases, than the sort.  So here's my idea: first look at the /TABLE file, if it
  74 is "small enough", read it into memory, and create an index (or hash table,
  75 whatever) for it.  Then read the /FILE and use the index to match to each case.
  76 OTOH, if the /TABLE is too large, then do it the old way, complaining if either
  77 file is not sorted on key.
  78
  79 ----------------------------------------------------------------------
  80 Statistical procedures:
  81
  82 For each case we read from the input program:
  83
  84 1. Execute permanent transformations.  If these drop the case, stop.
  85 2. N OF CASES.  If we have already written N cases, stop.
  86 3. Write case to replacement active file.
  87 4. Execute temporary transformations.  If these drop the case, stop.
  88 5. Post-TEMPORARY N OF CASES.  If we have already analyzed N cases, stop.
  89 6. FILTER, PROCESS IF.  If these drop the case, stop.
  90 7. Pass case to procedure.
  91
  92 Ugly cases:
  93
  94 LAG records cases in step 3.
  95
  96 AGGREGATE: When output goes to an external file, this is just an ordinary
  97 procedure.  When output goes to the active file, step 3 should be skipped,
  98 because AGGREGATE creates its own case sink and writes to it in step 7.  Also,
  99 TEMPORARY has no effect and we just cancel it.  Regardless of direction of
 100 output, we should not implement AGGREGATE through a transformation because that
 101 will fail to honor FILTER, PROCESS IF, N OF CASES.
 102
 103 ADD FILES: Essentially an input program.  It silently cancels unclosed LOOPs
 104 and DO IFs.  If the active file is used for input, then runs EXECUTE (if there
 105 are any transformations) and then steals vfm_source and encapsulates it.  If
 106 the active file is not used for input, then it cancels all the transformations
 107 and deletes the original active file.
 108
 109 CASESTOVARS: ???
 110
 111 FLIP:
 112
 113 MATCH FILES: Similar to AGGREGATE.  This is a procedure.  When the active file
 114 is used for input, it reads the active file; otherwise, it just cancels all the
 115 transformations and deletes the original active file.  Step 3 should be
 116 skipped, because MATCH FILES creates its own case sink and writes to it in step
 117 7.  TEMPORARY is not allowed.
 118
 119 MODIFY VARS:
 120
 121 REPEATING DATA:
 122
 123 SORT CASES:
 124
 125 UPDATE: same as ADD FILES.
 126
 127 VARSTOCASES: ???
 128 ----------------------------------------------------------------------
 129 N OF CASES
 130
 131   * Before TEMPORARY, limits number of cases sent to the sink.
 132
 133   * After TEMPORARY, limits number of cases sent to the procedure.
 134
 135   * Without TEMPORARY, those are the same cases, so it limits both.
 136
 137 SAMPLE
 138
 139   * Sample is just a transformation.  It has no special properties.
 140
 141 FILTER
 142
 143   * Always selects cases sent to the procedure.
 144
 145   * No effect on cases sent to sink.
 146
 147   * Before TEMPORARY, selection is permanent.  After TEMPORARY,
 148     selection stops after a procedure.
 149
 150 PROCESS IF
 151
 152   * Always selects cases sent to the procedure.
 153
 154   * No effect on cases sent to sink.
 155
 156   * Always stops after a procedure.
 157
 158 SPLIT FILE
 159
 160   * Ignored by AGGREGATE.  Used when procedures write matrices.
 161
 162   * Always applies to the procedure.
 163
 164   * Before TEMPORARY, splitting is permanent.  After TEMPORARY,
 165     splitting stops after a procedure.
 166
 167 TEMPORARY
 168
 169   * TEMPORARY has no effect on AGGREGATE when output goes to the active file.
 170
 171   * SORT CASES, ADD FILES, RENAME VARIABLES, CASESTOVARS, VARSTOCASES,
 172     COMPUTE with a lag function cannot be used after TEMPORARY.
 173
 174   * Cannot be used in DO IF...END IF or LOOP...END LOOP.
 175
 176   * FLIP ignores TEMPORARY.  All transformations become permanent.
 177
 178   * MATCH FILES and UPDATE cannot be used after TEMPORARY if active
 179     file is an input source.
 180
 181   * RENAME VARIABLES is invalid after TEMPORARY.
 182
 183   * WEIGHT, SPLIT FILE, N OF CASES, FILTER, PROCESS IF apply only to
 184     the next procedure when used after TEMPORARY.
 185
 186 WEIGHT
 187
 188   * Always applies to the procedure.
 189
 190   * Before TEMPORARY, weighting is permanent.  After TEMPORARY,
 191     weighting stops after a procedure.
 192
 193
 194 -------------------------------------------------------------------------------
 195 Local Variables:
 196 mode: text
 197 fill-column: 79
 198 End: