src/language/stats/oneway.c

   1 /* PSPP - a program for statistical analysis.
   2    Copyright (C) 1997-9, 2000, 2007, 2009, 2010, 2011, 2012 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation, either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>. */
  16
  17 #include <config.h>
  18
  19 #include <gsl/gsl_cdf.h>
  20 #include <gsl/gsl_matrix.h>
  21 #include <math.h>
  22
  23 #include "data/case.h"
  24 #include "data/casegrouper.h"
  25 #include "data/casereader.h"
  26 #include "data/dataset.h"
  27 #include "data/dictionary.h"
  28 #include "data/format.h"
  29 #include "data/value.h"
  30 #include "language/command.h"
  31 #include "language/dictionary/split-file.h"
  32 #include "language/lexer/lexer.h"
  33 #include "language/lexer/value-parser.h"
  34 #include "language/lexer/variable-parser.h"
  35 #include "libpspp/ll.h"
  36 #include "libpspp/message.h"
  37 #include "libpspp/misc.h"
  38 #include "libpspp/taint.h"
  39 #include "linreg/sweep.h"
  40 #include "tukey/tukey.h"
  41 #include "math/categoricals.h"
  42 #include "math/interaction.h"
  43 #include "math/covariance.h"
  44 #include "math/levene.h"
  45 #include "math/moments.h"
  46 #include "output/tab.h"
  47
  48 #include "gettext.h"
  49 #define _(msgid) gettext (msgid)
  50 #define N_(msgid) msgid
  51
  52 /* Workspace variable for each dependent variable */
  53 struct per_var_ws
  54 {
  55   struct categoricals *cat;
  56   struct covariance *cov;
  57   struct levene *nl;
  58
  59   double n;
  60
  61   double sst;
  62   double sse;
  63   double ssa;
  64
  65   int n_groups;
  66
  67   double mse;
  68 };
  69
  70 /* Per category data */
  71 struct descriptive_data
  72 {
  73   const struct variable *var;
  74   struct moments1 *mom;
  75
  76   double minimum;
  77   double maximum;
  78 };
  79
  80 enum missing_type
  81   {
  82     MISS_LISTWISE,
  83     MISS_ANALYSIS,
  84   };
  85
  86 enum statistics
  87   {
  88     STATS_DESCRIPTIVES = 0x0001,
  89     STATS_HOMOGENEITY = 0x0002
  90   };
  91
  92 struct coeff_node
  93 {
  94   struct ll ll;
  95   double coeff;
  96 };
  97
  98
  99 struct contrasts_node
 100 {
 101   struct ll ll;
 102   struct ll_list coefficient_list;
 103 };
 104
 105
 106 struct oneway_spec;
 107
 108 typedef double df_func (const struct per_var_ws *pvw, const struct moments1 *mom_i, const struct moments1 *mom_j);
 109 typedef double ts_func (int k, const struct moments1 *mom_i, const struct moments1 *mom_j, double std_err);
 110 typedef double p1tail_func (double ts, double df1, double df2);
 111
 112 typedef double pinv_func (double std_err, double alpha, double df, int k, const struct moments1 *mom_i, const struct moments1 *mom_j);
 113
 114
 115 struct posthoc
 116 {
 117   const char *syntax;
 118   const char *label;
 119
 120   df_func *dff;
 121   ts_func *tsf;
 122   p1tail_func *p1f;
 123
 124   pinv_func *pinv;
 125 };
 126
 127 struct oneway_spec
 128 {
 129   size_t n_vars;
 130   const struct variable **vars;
 131
 132   const struct variable *indep_var;
 133
 134   enum statistics stats;
 135
 136   enum missing_type missing_type;
 137   enum mv_class exclude;
 138
 139   /* List of contrasts */
 140   struct ll_list contrast_list;
 141
 142   /* The weight variable */
 143   const struct variable *wv;
 144
 145   /* The confidence level for multiple comparisons */
 146   double alpha;
 147
 148   int *posthoc;
 149   int n_posthoc;
 150 };
 151
 152 static double
 153 df_common (const struct per_var_ws *pvw, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 154 {
 155   return  pvw->n - pvw->n_groups;
 156 }
 157
 158 static double
 159 df_individual (const struct per_var_ws *pvw UNUSED, const struct moments1 *mom_i, const struct moments1 *mom_j)
 160 {
 161   double n_i, var_i;
 162   double n_j, var_j;
 163   double nom,denom;
 164
 165   moments1_calculate (mom_i, &n_i, NULL, &var_i, 0, 0);
 166   moments1_calculate (mom_j, &n_j, NULL, &var_j, 0, 0);
 167
 168   nom = pow2 (var_i/n_i + var_j/n_j);
 169   denom = pow2 (var_i/n_i) / (n_i - 1) + pow2 (var_j/n_j) / (n_j - 1);
 170
 171   return nom / denom;
 172 }
 173
 174 static double lsd_pinv (double std_err, double alpha, double df, int k UNUSED, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 175 {
 176   return std_err * gsl_cdf_tdist_Pinv (1.0 - alpha / 2.0, df);
 177 }
 178
 179 static double bonferroni_pinv (double std_err, double alpha, double df, int k, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 180 {
 181   const int m = k * (k - 1) / 2;
 182   return std_err * gsl_cdf_tdist_Pinv (1.0 - alpha / (2.0 * m), df);
 183 }
 184
 185 static double sidak_pinv (double std_err, double alpha, double df, int k, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 186 {
 187   const double m = k * (k - 1) / 2;
 188   double lp = 1.0 - exp (log (1.0 - alpha) / m ) ;
 189   return std_err * gsl_cdf_tdist_Pinv (1.0 - lp / 2.0, df);
 190 }
 191
 192 static double tukey_pinv (double std_err, double alpha, double df, int k, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 193 {
 194   return std_err / sqrt (2.0)  * qtukey (1 - alpha, 1.0, k, df, 1, 0);
 195 }
 196
 197 static double scheffe_pinv (double std_err, double alpha, double df, int k, const struct moments1 *mom_i UNUSED, const struct moments1 *mom_j UNUSED)
 198 {
 199   double x = (k - 1) * gsl_cdf_fdist_Pinv (1.0 - alpha, k - 1, df);
 200   return std_err * sqrt (x);
 201 }
 202
 203 static double gh_pinv (double std_err UNUSED, double alpha, double df, int k, const struct moments1 *mom_i, const struct moments1 *mom_j)
 204 {
 205   double n_i, mean_i, var_i;
 206   double n_j, mean_j, var_j;
 207   double m;
 208
 209   moments1_calculate (mom_i, &n_i, &mean_i, &var_i, 0, 0);
 210   moments1_calculate (mom_j, &n_j, &mean_j, &var_j, 0, 0);
 211
 212   m = sqrt ((var_i/n_i + var_j/n_j) / 2.0);
 213
 214   return m * qtukey (1 - alpha, 1.0, k, df, 1, 0);
 215 }
 216
 217
 218 static double
 219 multiple_comparison_sig (double std_err,
 220                                        const struct per_var_ws *pvw,
 221                                        const struct descriptive_data *dd_i, const struct descriptive_data *dd_j,
 222                                        const struct posthoc *ph)
 223 {
 224   int k = pvw->n_groups;
 225   double df = ph->dff (pvw, dd_i->mom, dd_j->mom);
 226   double ts = ph->tsf (k, dd_i->mom, dd_j->mom, std_err);
 227   return  ph->p1f (ts, k - 1, df);
 228 }
 229
 230 static double
 231 mc_half_range (const struct oneway_spec *cmd, const struct per_var_ws *pvw, double std_err, const struct descriptive_data *dd_i, const struct descriptive_data *dd_j, const struct posthoc *ph)
 232 {
 233   int k = pvw->n_groups;
 234   double df = ph->dff (pvw, dd_i->mom, dd_j->mom);
 235
 236   return ph->pinv (std_err, cmd->alpha, df, k, dd_i->mom, dd_j->mom);
 237 }
 238
 239 static double tukey_1tailsig (double ts, double df1, double df2)
 240 {
 241   double twotailedsig = 1.0 - ptukey (ts, 1.0, df1 + 1, df2, 1, 0);
 242
 243   return twotailedsig / 2.0;
 244 }
 245
 246 static double lsd_1tailsig (double ts, double df1 UNUSED, double df2)
 247 {
 248   return ts < 0 ? gsl_cdf_tdist_P (ts, df2) : gsl_cdf_tdist_Q (ts, df2);
 249 }
 250
 251 static double sidak_1tailsig (double ts, double df1, double df2)
 252 {
 253   double ex = (df1 + 1.0) * df1 / 2.0;
 254   double lsd_sig = 2 * lsd_1tailsig (ts, df1, df2);
 255
 256   return 0.5 * (1.0 - pow (1.0 - lsd_sig, ex));
 257 }
 258
 259 static double bonferroni_1tailsig (double ts, double df1, double df2)
 260 {
 261   const int m = (df1 + 1) * df1 / 2;
 262
 263   double p = ts < 0 ? gsl_cdf_tdist_P (ts, df2) : gsl_cdf_tdist_Q (ts, df2);
 264   p *= m;
 265
 266   return p > 0.5 ? 0.5 : p;
 267 }
 268
 269 static double scheffe_1tailsig (double ts, double df1, double df2)
 270 {
 271   return 0.5 * gsl_cdf_fdist_Q (ts, df1, df2);
 272 }
 273
 274
 275 static double tukey_test_stat (int k UNUSED, const struct moments1 *mom_i, const struct moments1 *mom_j, double std_err)
 276 {
 277   double ts;
 278   double n_i, mean_i, var_i;
 279   double n_j, mean_j, var_j;
 280
 281   moments1_calculate (mom_i, &n_i, &mean_i, &var_i, 0, 0);
 282   moments1_calculate (mom_j, &n_j, &mean_j, &var_j, 0, 0);
 283
 284   ts =  (mean_i - mean_j) / std_err;
 285   ts = fabs (ts) * sqrt (2.0);
 286
 287   return ts;
 288 }
 289
 290 static double lsd_test_stat (int k UNUSED, const struct moments1 *mom_i, const struct moments1 *mom_j, double std_err)
 291 {
 292   double n_i, mean_i, var_i;
 293   double n_j, mean_j, var_j;
 294
 295   moments1_calculate (mom_i, &n_i, &mean_i, &var_i, 0, 0);
 296   moments1_calculate (mom_j, &n_j, &mean_j, &var_j, 0, 0);
 297
 298   return (mean_i - mean_j) / std_err;
 299 }
 300
 301 static double scheffe_test_stat (int k, const struct moments1 *mom_i, const struct moments1 *mom_j, double std_err)
 302 {
 303   double t;
 304   double n_i, mean_i, var_i;
 305   double n_j, mean_j, var_j;
 306
 307   moments1_calculate (mom_i, &n_i, &mean_i, &var_i, 0, 0);
 308   moments1_calculate (mom_j, &n_j, &mean_j, &var_j, 0, 0);
 309
 310   t = (mean_i - mean_j) / std_err;
 311   t = pow2 (t);
 312   t /= k - 1;
 313
 314   return t;
 315 }
 316
 317 static double gh_test_stat (int k UNUSED, const struct moments1 *mom_i, const struct moments1 *mom_j, double std_err UNUSED)
 318 {
 319   double ts;
 320   double thing;
 321   double n_i, mean_i, var_i;
 322   double n_j, mean_j, var_j;
 323
 324   moments1_calculate (mom_i, &n_i, &mean_i, &var_i, 0, 0);
 325   moments1_calculate (mom_j, &n_j, &mean_j, &var_j, 0, 0);
 326
 327   thing = var_i / n_i + var_j / n_j;
 328   thing /= 2.0;
 329   thing = sqrt (thing);
 330
 331   ts = (mean_i - mean_j) / thing;
 332
 333   return fabs (ts);
 334 }
 335
 336
 337
 338 static const struct posthoc ph_tests [] =
 339   {
 340     { "LSD",        N_("LSD"),          df_common, lsd_test_stat,     lsd_1tailsig,          lsd_pinv},
 341     { "TUKEY",      N_("Tukey HSD"),    df_common, tukey_test_stat,   tukey_1tailsig,        tukey_pinv},
 342     { "BONFERRONI", N_("Bonferroni"),   df_common, lsd_test_stat,     bonferroni_1tailsig,   bonferroni_pinv},
 343     { "SCHEFFE",    N_("Scheffé"),      df_common, scheffe_test_stat, scheffe_1tailsig,      scheffe_pinv},
 344     { "GH",         N_("Games-Howell"), df_individual, gh_test_stat,  tukey_1tailsig,        gh_pinv},
 345     { "SIDAK",      N_("Šidák"),        df_common, lsd_test_stat,     sidak_1tailsig,        sidak_pinv}
 346   };
 347
 348
 349 struct oneway_workspace
 350 {
 351   /* The number of distinct values of the independent variable, when all
 352      missing values are disregarded */
 353   int actual_number_of_groups;
 354
 355   struct per_var_ws *vws;
 356
 357   /* An array of descriptive data.  One for each dependent variable */
 358   struct descriptive_data **dd_total;
 359 };
 360
 361 /* Routines to show the output tables */
 362 static void show_anova_table (const struct oneway_spec *, const struct oneway_workspace *);
 363 static void show_descriptives (const struct oneway_spec *, const struct oneway_workspace *);
 364 static void show_homogeneity (const struct oneway_spec *, const struct oneway_workspace *);
 365
 366 static void output_oneway (const struct oneway_spec *, struct oneway_workspace *ws);
 367 static void run_oneway (const struct oneway_spec *cmd, struct casereader *input, const struct dataset *ds);
 368
 369 int
 370 cmd_oneway (struct lexer *lexer, struct dataset *ds)
 371 {
 372   const struct dictionary *dict = dataset_dict (ds);
 373   struct oneway_spec oneway ;
 374   oneway.n_vars = 0;
 375   oneway.vars = NULL;
 376   oneway.indep_var = NULL;
 377   oneway.stats = 0;
 378   oneway.missing_type = MISS_ANALYSIS;
 379   oneway.exclude = MV_ANY;
 380   oneway.wv = dict_get_weight (dict);
 381   oneway.alpha = 0.05;
 382   oneway.posthoc = NULL;
 383   oneway.n_posthoc = 0;
 384
 385   ll_init (&oneway.contrast_list);
 386
 387
 388   if ( lex_match (lexer, T_SLASH))
 389     {
 390       if (!lex_force_match_id (lexer, "VARIABLES"))
 391         {
 392           goto error;
 393         }
 394       lex_match (lexer, T_EQUALS);
 395     }
 396
 397   if (!parse_variables_const (lexer, dict,
 398                               &oneway.vars, &oneway.n_vars,
 399                               PV_NO_DUPLICATE | PV_NUMERIC))
 400     goto error;
 401
 402   lex_force_match (lexer, T_BY);
 403
 404   oneway.indep_var = parse_variable_const (lexer, dict);
 405
 406   while (lex_token (lexer) != T_ENDCMD)
 407     {
 408       lex_match (lexer, T_SLASH);
 409
 410       if (lex_match_id (lexer, "STATISTICS"))
 411         {
 412           lex_match (lexer, T_EQUALS);
 413           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
 414             {
 415               if (lex_match_id (lexer, "DESCRIPTIVES"))
 416                 {
 417                   oneway.stats |= STATS_DESCRIPTIVES;
 418                 }
 419               else if (lex_match_id (lexer, "HOMOGENEITY"))
 420                 {
 421                   oneway.stats |= STATS_HOMOGENEITY;
 422                 }
 423               else
 424                 {
 425                   lex_error (lexer, NULL);
 426                   goto error;
 427                 }
 428             }
 429         }
 430       else if (lex_match_id (lexer, "POSTHOC"))
 431         {
 432           lex_match (lexer, T_EQUALS);
 433           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
 434             {
 435               int p;
 436               bool method = false;
 437               for (p = 0 ; p < sizeof (ph_tests) / sizeof (struct posthoc); ++p)
 438                 {
 439                   if (lex_match_id (lexer, ph_tests[p].syntax))
 440                     {
 441                       oneway.n_posthoc++;
 442                       oneway.posthoc = xrealloc (oneway.posthoc, sizeof (*oneway.posthoc) * oneway.n_posthoc);
 443                       oneway.posthoc[oneway.n_posthoc - 1] = p;
 444                       method = true;
 445                       break;
 446                     }
 447                 }
 448               if ( method == false)
 449                 {
 450                   if (lex_match_id (lexer, "ALPHA"))
 451                     {
 452                       if ( !lex_force_match (lexer, T_LPAREN))
 453                         goto error;
 454                       lex_force_num (lexer);
 455                       oneway.alpha = lex_number (lexer);
 456                       lex_get (lexer);
 457                       if ( !lex_force_match (lexer, T_RPAREN))
 458                         goto error;
 459                     }
 460                   else
 461                     {
 462                       msg (SE, _("The post hoc analysis method %s is not supported."), lex_tokcstr (lexer));
 463                       lex_error (lexer, NULL);
 464                       goto error;
 465                     }
 466                 }
 467             }
 468         }
 469       else if (lex_match_id (lexer, "CONTRAST"))
 470         {
 471           struct contrasts_node *cl = xzalloc (sizeof *cl);
 472
 473           struct ll_list *coefficient_list = &cl->coefficient_list;
 474           lex_match (lexer, T_EQUALS);
 475
 476           ll_init (coefficient_list);
 477
 478           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
 479             {
 480               if ( lex_is_number (lexer))
 481                 {
 482                   struct coeff_node *cc = xmalloc (sizeof *cc);
 483                   cc->coeff = lex_number (lexer);
 484
 485                   ll_push_tail (coefficient_list, &cc->ll);
 486                   lex_get (lexer);
 487                 }
 488               else
 489                 {
 490                   lex_error (lexer, NULL);
 491                   goto error;
 492                 }
 493             }
 494
 495           ll_push_tail (&oneway.contrast_list, &cl->ll);
 496         }
 497       else if (lex_match_id (lexer, "MISSING"))
 498         {
 499           lex_match (lexer, T_EQUALS);
 500           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
 501             {
 502               if (lex_match_id (lexer, "INCLUDE"))
 503                 {
 504                   oneway.exclude = MV_SYSTEM;
 505                 }
 506               else if (lex_match_id (lexer, "EXCLUDE"))
 507                 {
 508                   oneway.exclude = MV_ANY;
 509                 }
 510               else if (lex_match_id (lexer, "LISTWISE"))
 511                 {
 512                   oneway.missing_type = MISS_LISTWISE;
 513                 }
 514               else if (lex_match_id (lexer, "ANALYSIS"))
 515                 {
 516                   oneway.missing_type = MISS_ANALYSIS;
 517                 }
 518               else
 519                 {
 520                   lex_error (lexer, NULL);
 521                   goto error;
 522                 }
 523             }
 524         }
 525       else
 526         {
 527           lex_error (lexer, NULL);
 528           goto error;
 529         }
 530     }
 531
 532
 533   {
 534     struct casegrouper *grouper;
 535     struct casereader *group;
 536     bool ok;
 537
 538     grouper = casegrouper_create_splits (proc_open (ds), dict);
 539     while (casegrouper_get_next_group (grouper, &group))
 540       run_oneway (&oneway, group, ds);
 541     ok = casegrouper_destroy (grouper);
 542     ok = proc_commit (ds) && ok;
 543   }
 544
 545   free (oneway.vars);
 546   return CMD_SUCCESS;
 547
 548  error:
 549   free (oneway.vars);
 550   return CMD_FAILURE;
 551 }
 552
 553
 554 \f
 555
 556
 557 static struct descriptive_data *
 558 dd_create (const struct variable *var)
 559 {
 560   struct descriptive_data *dd = xmalloc (sizeof *dd);
 561
 562   dd->mom = moments1_create (MOMENT_VARIANCE);
 563   dd->minimum = DBL_MAX;
 564   dd->maximum = -DBL_MAX;
 565   dd->var = var;
 566
 567   return dd;
 568 }
 569
 570 static void
 571 dd_destroy (struct descriptive_data *dd)
 572 {
 573   moments1_destroy (dd->mom);
 574   free (dd);
 575 }
 576
 577 static void *
 578 makeit (const void *aux1, void *aux2 UNUSED)
 579 {
 580   const struct variable *var = aux1;
 581
 582   struct descriptive_data *dd = dd_create (var);
 583
 584   return dd;
 585 }
 586
 587 static void
 588 updateit (const void *aux1, void *aux2, void *user_data,
 589           const struct ccase *c, double weight)
 590 {
 591   struct descriptive_data *dd = user_data;
 592
 593   const struct variable *varp = aux1;
 594
 595   const union value *valx = case_data (c, varp);
 596
 597   struct descriptive_data *dd_total = aux2;
 598
 599   moments1_add (dd->mom, valx->f, weight);
 600   if (valx->f < dd->minimum)
 601     dd->minimum = valx->f;
 602
 603   if (valx->f > dd->maximum)
 604     dd->maximum = valx->f;
 605
 606   {
 607     const struct variable *var = dd_total->var;
 608     const union value *val = case_data (c, var);
 609
 610     moments1_add (dd_total->mom,
 611                   val->f,
 612                   weight);
 613
 614     if (val->f < dd_total->minimum)
 615       dd_total->minimum = val->f;
 616
 617     if (val->f > dd_total->maximum)
 618       dd_total->maximum = val->f;
 619   }
 620 }
 621
 622 static void
 623 run_oneway (const struct oneway_spec *cmd,
 624             struct casereader *input,
 625             const struct dataset *ds)
 626 {
 627   int v;
 628   struct taint *taint;
 629   struct dictionary *dict = dataset_dict (ds);
 630   struct casereader *reader;
 631   struct ccase *c;
 632
 633   struct oneway_workspace ws;
 634
 635   ws.actual_number_of_groups = 0;
 636   ws.vws = xzalloc (cmd->n_vars * sizeof (*ws.vws));
 637   ws.dd_total = xmalloc (sizeof (struct descriptive_data) * cmd->n_vars);
 638
 639   for (v = 0 ; v < cmd->n_vars; ++v)
 640     ws.dd_total[v] = dd_create (cmd->vars[v]);
 641
 642   for (v = 0; v < cmd->n_vars; ++v)
 643     {
 644       struct interaction *inter = interaction_create (cmd->indep_var);
 645
 646       struct payload payload;
 647       payload.create = makeit;
 648       payload.update = updateit;
 649
 650       ws.vws[v].cat = categoricals_create (&inter, 1, cmd->wv,
 651                                            cmd->exclude);
 652
 653       categoricals_set_payload (ws.vws[v].cat, &payload,
 654                                 CONST_CAST (struct variable *, cmd->vars[v]),
 655                                 ws.dd_total[v]);
 656
 657
 658       ws.vws[v].cov = covariance_2pass_create (1, &cmd->vars[v],
 659                                                ws.vws[v].cat,
 660                                                cmd->wv, cmd->exclude);
 661       ws.vws[v].nl = levene_create (var_get_width (cmd->indep_var), NULL);
 662     }
 663
 664   c = casereader_peek (input, 0);
 665   if (c == NULL)
 666     {
 667       casereader_destroy (input);
 668       goto finish;
 669     }
 670   output_split_file_values (ds, c);
 671   case_unref (c);
 672
 673   taint = taint_clone (casereader_get_taint (input));
 674
 675   input = casereader_create_filter_missing (input, &cmd->indep_var, 1,
 676                                             cmd->exclude, NULL, NULL);
 677   if (cmd->missing_type == MISS_LISTWISE)
 678     input = casereader_create_filter_missing (input, cmd->vars, cmd->n_vars,
 679                                               cmd->exclude, NULL, NULL);
 680   input = casereader_create_filter_weight (input, dict, NULL, NULL);
 681
 682   reader = casereader_clone (input);
 683   for (; (c = casereader_read (reader)) != NULL; case_unref (c))
 684     {
 685       int i;
 686       double w = dict_get_case_weight (dict, c, NULL);
 687
 688       for (i = 0; i < cmd->n_vars; ++i)
 689         {
 690           struct per_var_ws *pvw = &ws.vws[i];
 691           const struct variable *v = cmd->vars[i];
 692           const union value *val = case_data (c, v);
 693
 694           if ( MISS_ANALYSIS == cmd->missing_type)
 695             {
 696               if ( var_is_value_missing (v, val, cmd->exclude))
 697                 continue;
 698             }
 699
 700           covariance_accumulate_pass1 (pvw->cov, c);
 701           levene_pass_one (pvw->nl, val->f, w, case_data (c, cmd->indep_var));
 702         }
 703     }
 704   casereader_destroy (reader);
 705
 706   reader = casereader_clone (input);
 707   for ( ; (c = casereader_read (reader) ); case_unref (c))
 708     {
 709       int i;
 710       double w = dict_get_case_weight (dict, c, NULL);
 711       for (i = 0; i < cmd->n_vars; ++i)
 712         {
 713           struct per_var_ws *pvw = &ws.vws[i];
 714           const struct variable *v = cmd->vars[i];
 715           const union value *val = case_data (c, v);
 716
 717           if ( MISS_ANALYSIS == cmd->missing_type)
 718             {
 719               if ( var_is_value_missing (v, val, cmd->exclude))
 720                 continue;
 721             }
 722
 723           covariance_accumulate_pass2 (pvw->cov, c);
 724           levene_pass_two (pvw->nl, val->f, w, case_data (c, cmd->indep_var));
 725         }
 726     }
 727   casereader_destroy (reader);
 728
 729   reader = casereader_clone (input);
 730   for ( ; (c = casereader_read (reader) ); case_unref (c))
 731     {
 732       int i;
 733       double w = dict_get_case_weight (dict, c, NULL);
 734
 735       for (i = 0; i < cmd->n_vars; ++i)
 736         {
 737           struct per_var_ws *pvw = &ws.vws[i];
 738           const struct variable *v = cmd->vars[i];
 739           const union value *val = case_data (c, v);
 740
 741           if ( MISS_ANALYSIS == cmd->missing_type)
 742             {
 743               if ( var_is_value_missing (v, val, cmd->exclude))
 744                 continue;
 745             }
 746
 747           levene_pass_three (pvw->nl, val->f, w, case_data (c, cmd->indep_var));
 748         }
 749     }
 750   casereader_destroy (reader);
 751
 752
 753   for (v = 0; v < cmd->n_vars; ++v)
 754     {
 755       gsl_matrix *cm;
 756       struct per_var_ws *pvw = &ws.vws[v];
 757       const struct categoricals *cats = covariance_get_categoricals (pvw->cov);
 758       const bool ok = categoricals_done (cats);
 759
 760       if ( ! ok)
 761         {
 762           msg (MW,
 763                _("Dependent variable %s has no non-missing values.  No analysis for this variable will be done."),
 764                var_get_name (cmd->vars[v]));
 765           continue;
 766         }
 767
 768       cm = covariance_calculate_unnormalized (pvw->cov);
 769
 770       moments1_calculate (ws.dd_total[v]->mom, &pvw->n, NULL, NULL, NULL, NULL);
 771
 772       pvw->sst = gsl_matrix_get (cm, 0, 0);
 773
 774       reg_sweep (cm, 0);
 775
 776       pvw->sse = gsl_matrix_get (cm, 0, 0);
 777
 778       pvw->ssa = pvw->sst - pvw->sse;
 779
 780       pvw->n_groups = categoricals_n_total (cats);
 781
 782       pvw->mse = (pvw->sst - pvw->ssa) / (pvw->n - pvw->n_groups);
 783
 784       gsl_matrix_free (cm);
 785     }
 786
 787   for (v = 0; v < cmd->n_vars; ++v)
 788     {
 789       const struct categoricals *cats = covariance_get_categoricals (ws.vws[v].cov);
 790
 791       if ( ! categoricals_is_complete (cats))
 792         {
 793           continue;
 794         }
 795
 796       if (categoricals_n_total (cats) > ws.actual_number_of_groups)
 797         ws.actual_number_of_groups = categoricals_n_total (cats);
 798     }
 799
 800   casereader_destroy (input);
 801
 802   if (!taint_has_tainted_successor (taint))
 803     output_oneway (cmd, &ws);
 804
 805   taint_destroy (taint);
 806
 807  finish:
 808   for (v = 0; v < cmd->n_vars; ++v)
 809     {
 810       covariance_destroy (ws.vws[v].cov);
 811       levene_destroy (ws.vws[v].nl);
 812       dd_destroy (ws.dd_total[v]);
 813     }
 814   free (ws.vws);
 815   free (ws.dd_total);
 816 }
 817
 818 static void show_contrast_coeffs (const struct oneway_spec *cmd, const struct oneway_workspace *ws);
 819 static void show_contrast_tests (const struct oneway_spec *cmd, const struct oneway_workspace *ws);
 820 static void show_comparisons (const struct oneway_spec *cmd, const struct oneway_workspace *ws, int depvar);
 821
 822 static void
 823 output_oneway (const struct oneway_spec *cmd, struct oneway_workspace *ws)
 824 {
 825   size_t i = 0;
 826
 827   /* Check the sanity of the given contrast values */
 828   struct contrasts_node *coeff_list  = NULL;
 829   struct contrasts_node *coeff_next  = NULL;
 830   ll_for_each_safe (coeff_list, coeff_next, struct contrasts_node, ll, &cmd->contrast_list)
 831     {
 832       struct coeff_node *cn = NULL;
 833       double sum = 0;
 834       struct ll_list *cl = &coeff_list->coefficient_list;
 835       ++i;
 836
 837       if (ll_count (cl) != ws->actual_number_of_groups)
 838         {
 839           msg (SW,
 840                _("In contrast list %zu, the number of coefficients (%zu) does not equal the number of groups (%d). This contrast list will be ignored."),
 841                i, ll_count (cl), ws->actual_number_of_groups);
 842
 843           ll_remove (&coeff_list->ll);
 844           continue;
 845         }
 846
 847       ll_for_each (cn, struct coeff_node, ll, cl)
 848         sum += cn->coeff;
 849
 850       if ( sum != 0.0 )
 851         msg (SW, _("Coefficients for contrast %zu do not total zero"), i);
 852     }
 853
 854   if (cmd->stats & STATS_DESCRIPTIVES)
 855     show_descriptives (cmd, ws);
 856
 857   if (cmd->stats & STATS_HOMOGENEITY)
 858     show_homogeneity (cmd, ws);
 859
 860   show_anova_table (cmd, ws);
 861
 862   if (ll_count (&cmd->contrast_list) > 0)
 863     {
 864       show_contrast_coeffs (cmd, ws);
 865       show_contrast_tests (cmd, ws);
 866     }
 867
 868   if ( cmd->posthoc )
 869     {
 870       int v;
 871       for (v = 0 ; v < cmd->n_vars; ++v)
 872         {
 873           const struct categoricals *cats = covariance_get_categoricals (ws->vws[v].cov);
 874
 875           if ( categoricals_is_complete (cats))
 876             show_comparisons (cmd, ws, v);
 877         }
 878     }
 879 }
 880
 881
 882 /* Show the ANOVA table */
 883 static void
 884 show_anova_table (const struct oneway_spec *cmd, const struct oneway_workspace *ws)
 885 {
 886   size_t i;
 887   int n_cols =7;
 888   size_t n_rows = cmd->n_vars * 3 + 1;
 889
 890   struct tab_table *t = tab_create (n_cols, n_rows);
 891
 892   tab_headers (t, 2, 0, 1, 0);
 893
 894   tab_box (t,
 895            TAL_2, TAL_2,
 896            -1, TAL_1,
 897            0, 0,
 898            n_cols - 1, n_rows - 1);
 899
 900   tab_hline (t, TAL_2, 0, n_cols - 1, 1 );
 901   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
 902   tab_vline (t, TAL_0, 1, 0, 0);
 903
 904   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("Sum of Squares"));
 905   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("df"));
 906   tab_text (t, 4, 0, TAB_CENTER | TAT_TITLE, _("Mean Square"));
 907   tab_text (t, 5, 0, TAB_CENTER | TAT_TITLE, _("F"));
 908   tab_text (t, 6, 0, TAB_CENTER | TAT_TITLE, _("Significance"));
 909
 910
 911   for (i = 0; i < cmd->n_vars; ++i)
 912     {
 913       double n;
 914       double df1, df2;
 915       double msa;
 916       const char *s = var_to_string (cmd->vars[i]);
 917       const struct per_var_ws *pvw = &ws->vws[i];
 918
 919       moments1_calculate (ws->dd_total[i]->mom, &n, NULL, NULL, NULL, NULL);
 920
 921       df1 = pvw->n_groups - 1;
 922       df2 = n - pvw->n_groups;
 923       msa = pvw->ssa / df1;
 924
 925       tab_text (t, 0, i * 3 + 1, TAB_LEFT | TAT_TITLE, s);
 926       tab_text (t, 1, i * 3 + 1, TAB_LEFT | TAT_TITLE, _("Between Groups"));
 927       tab_text (t, 1, i * 3 + 2, TAB_LEFT | TAT_TITLE, _("Within Groups"));
 928       tab_text (t, 1, i * 3 + 3, TAB_LEFT | TAT_TITLE, _("Total"));
 929
 930       if (i > 0)
 931         tab_hline (t, TAL_1, 0, n_cols - 1, i * 3 + 1);
 932
 933
 934       /* Sums of Squares */
 935       tab_double (t, 2, i * 3 + 1, 0, pvw->ssa, NULL);
 936       tab_double (t, 2, i * 3 + 3, 0, pvw->sst, NULL);
 937       tab_double (t, 2, i * 3 + 2, 0, pvw->sse, NULL);
 938
 939
 940       /* Degrees of freedom */
 941       tab_fixed (t, 3, i * 3 + 1, 0, df1, 4, 0);
 942       tab_fixed (t, 3, i * 3 + 2, 0, df2, 4, 0);
 943       tab_fixed (t, 3, i * 3 + 3, 0, n - 1, 4, 0);
 944
 945       /* Mean Squares */
 946       tab_double (t, 4, i * 3 + 1, TAB_RIGHT, msa, NULL);
 947       tab_double (t, 4, i * 3 + 2, TAB_RIGHT, pvw->mse, NULL);
 948
 949       {
 950         const double F = msa / pvw->mse ;
 951
 952         /* The F value */
 953         tab_double (t, 5, i * 3 + 1, 0,  F, NULL);
 954
 955         /* The significance */
 956         tab_double (t, 6, i * 3 + 1, 0, gsl_cdf_fdist_Q (F, df1, df2), NULL);
 957       }
 958     }
 959
 960   tab_title (t, _("ANOVA"));
 961   tab_submit (t);
 962 }
 963
 964
 965 /* Show the descriptives table */
 966 static void
 967 show_descriptives (const struct oneway_spec *cmd, const struct oneway_workspace *ws)
 968 {
 969   size_t v;
 970   int n_cols = 10;
 971   struct tab_table *t;
 972   int row;
 973
 974   const double confidence = 0.95;
 975   const double q = (1.0 - confidence) / 2.0;
 976
 977   const struct fmt_spec *wfmt = cmd->wv ? var_get_print_format (cmd->wv) : &F_8_0;
 978
 979   int n_rows = 2;
 980
 981   for (v = 0; v < cmd->n_vars; ++v)
 982     n_rows += ws->actual_number_of_groups + 1;
 983
 984   t = tab_create (n_cols, n_rows);
 985   tab_headers (t, 2, 0, 2, 0);
 986
 987   /* Put a frame around the entire box, and vertical lines inside */
 988   tab_box (t,
 989            TAL_2, TAL_2,
 990            -1, TAL_1,
 991            0, 0,
 992            n_cols - 1, n_rows - 1);
 993
 994   /* Underline headers */
 995   tab_hline (t, TAL_2, 0, n_cols - 1, 2);
 996   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
 997
 998   tab_text (t, 2, 1, TAB_CENTER | TAT_TITLE, _("N"));
 999   tab_text (t, 3, 1, TAB_CENTER | TAT_TITLE, _("Mean"));
1000   tab_text (t, 4, 1, TAB_CENTER | TAT_TITLE, _("Std. Deviation"));
1001   tab_text (t, 5, 1, TAB_CENTER | TAT_TITLE, _("Std. Error"));
1002
1003
1004   tab_vline (t, TAL_0, 7, 0, 0);
1005   tab_hline (t, TAL_1, 6, 7, 1);
1006   tab_joint_text_format (t, 6, 0, 7, 0, TAB_CENTER | TAT_TITLE,
1007                          _("%g%% Confidence Interval for Mean"),
1008                          confidence*100.0);
1009
1010   tab_text (t, 6, 1, TAB_CENTER | TAT_TITLE, _("Lower Bound"));
1011   tab_text (t, 7, 1, TAB_CENTER | TAT_TITLE, _("Upper Bound"));
1012
1013   tab_text (t, 8, 1, TAB_CENTER | TAT_TITLE, _("Minimum"));
1014   tab_text (t, 9, 1, TAB_CENTER | TAT_TITLE, _("Maximum"));
1015
1016   tab_title (t, _("Descriptives"));
1017
1018   row = 2;
1019   for (v = 0; v < cmd->n_vars; ++v)
1020     {
1021       const char *s = var_to_string (cmd->vars[v]);
1022       const struct fmt_spec *fmt = var_get_print_format (cmd->vars[v]);
1023
1024       int count = 0;
1025
1026       struct per_var_ws *pvw = &ws->vws[v];
1027       const struct categoricals *cats = covariance_get_categoricals (pvw->cov);
1028
1029       tab_text (t, 0, row, TAB_LEFT | TAT_TITLE, s);
1030       if ( v > 0)
1031         tab_hline (t, TAL_1, 0, n_cols - 1, row);
1032
1033       for (count = 0; count < categoricals_n_total (cats); ++count)
1034         {
1035           double T;
1036           double n, mean, variance;
1037           double std_dev, std_error ;
1038
1039           struct string vstr;
1040
1041           const struct ccase *gcc = categoricals_get_case_by_category (cats, count);
1042           const struct descriptive_data *dd = categoricals_get_user_data_by_category (cats, count);
1043
1044           moments1_calculate (dd->mom, &n, &mean, &variance, NULL, NULL);
1045
1046           std_dev = sqrt (variance);
1047           std_error = std_dev / sqrt (n) ;
1048
1049           ds_init_empty (&vstr);
1050
1051           var_append_value_name (cmd->indep_var, case_data (gcc, cmd->indep_var), &vstr);
1052
1053           tab_text (t, 1, row + count,
1054                     TAB_LEFT | TAT_TITLE,
1055                     ds_cstr (&vstr));
1056
1057           ds_destroy (&vstr);
1058
1059           /* Now fill in the numbers ... */
1060
1061           tab_double (t, 2, row + count, 0, n, wfmt);
1062
1063           tab_double (t, 3, row + count, 0, mean, NULL);
1064
1065           tab_double (t, 4, row + count, 0, std_dev, NULL);
1066
1067
1068           tab_double (t, 5, row + count, 0, std_error, NULL);
1069
1070           /* Now the confidence interval */
1071
1072           T = gsl_cdf_tdist_Qinv (q, n - 1);
1073
1074           tab_double (t, 6, row + count, 0,
1075                       mean - T * std_error, NULL);
1076
1077           tab_double (t, 7, row + count, 0,
1078                       mean + T * std_error, NULL);
1079
1080           /* Min and Max */
1081
1082           tab_double (t, 8, row + count, 0,  dd->minimum, fmt);
1083           tab_double (t, 9, row + count, 0,  dd->maximum, fmt);
1084         }
1085
1086       if (categoricals_is_complete (cats))
1087       {
1088         double T;
1089         double n, mean, variance;
1090         double std_dev;
1091         double std_error;
1092
1093         moments1_calculate (ws->dd_total[v]->mom, &n, &mean, &variance, NULL, NULL);
1094
1095         std_dev = sqrt (variance);
1096         std_error = std_dev / sqrt (n) ;
1097
1098         tab_text (t, 1, row + count,
1099                   TAB_LEFT | TAT_TITLE, _("Total"));
1100
1101         tab_double (t, 2, row + count, 0, n, wfmt);
1102
1103         tab_double (t, 3, row + count, 0, mean, NULL);
1104
1105         tab_double (t, 4, row + count, 0, std_dev, NULL);
1106
1107         tab_double (t, 5, row + count, 0, std_error, NULL);
1108
1109         /* Now the confidence interval */
1110         T = gsl_cdf_tdist_Qinv (q, n - 1);
1111
1112         tab_double (t, 6, row + count, 0,
1113                     mean - T * std_error, NULL);
1114
1115         tab_double (t, 7, row + count, 0,
1116                     mean + T * std_error, NULL);
1117
1118
1119         /* Min and Max */
1120         tab_double (t, 8, row + count, 0,  ws->dd_total[v]->minimum, fmt);
1121         tab_double (t, 9, row + count, 0,  ws->dd_total[v]->maximum, fmt);
1122       }
1123
1124       row += categoricals_n_total (cats) + 1;
1125     }
1126
1127   tab_submit (t);
1128 }
1129
1130 /* Show the homogeneity table */
1131 static void
1132 show_homogeneity (const struct oneway_spec *cmd, const struct oneway_workspace *ws)
1133 {
1134   size_t v;
1135   int n_cols = 5;
1136   size_t n_rows = cmd->n_vars + 1;
1137
1138   struct tab_table *t = tab_create (n_cols, n_rows);
1139   tab_headers (t, 1, 0, 1, 0);
1140
1141   /* Put a frame around the entire box, and vertical lines inside */
1142   tab_box (t,
1143            TAL_2, TAL_2,
1144            -1, TAL_1,
1145            0, 0,
1146            n_cols - 1, n_rows - 1);
1147
1148
1149   tab_hline (t, TAL_2, 0, n_cols - 1, 1);
1150   tab_vline (t, TAL_2, 1, 0, n_rows - 1);
1151
1152   tab_text (t, 1, 0, TAB_CENTER | TAT_TITLE, _("Levene Statistic"));
1153   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("df1"));
1154   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("df2"));
1155   tab_text (t, 4, 0, TAB_CENTER | TAT_TITLE, _("Significance"));
1156
1157   tab_title (t, _("Test of Homogeneity of Variances"));
1158
1159   for (v = 0; v < cmd->n_vars; ++v)
1160     {
1161       double n;
1162       const struct per_var_ws *pvw = &ws->vws[v];
1163       double F = levene_calculate (pvw->nl);
1164
1165       const struct variable *var = cmd->vars[v];
1166       const char *s = var_to_string (var);
1167       double df1, df2;
1168
1169       moments1_calculate (ws->dd_total[v]->mom, &n, NULL, NULL, NULL, NULL);
1170
1171       df1 = pvw->n_groups - 1;
1172       df2 = n - pvw->n_groups;
1173
1174       tab_text (t, 0, v + 1, TAB_LEFT | TAT_TITLE, s);
1175
1176       tab_double (t, 1, v + 1, TAB_RIGHT, F, NULL);
1177       tab_fixed (t, 2, v + 1, TAB_RIGHT, df1, 8, 0);
1178       tab_fixed (t, 3, v + 1, TAB_RIGHT, df2, 8, 0);
1179
1180       /* Now the significance */
1181       tab_double (t, 4, v + 1, TAB_RIGHT, gsl_cdf_fdist_Q (F, df1, df2), NULL);
1182     }
1183
1184   tab_submit (t);
1185 }
1186
1187
1188 /* Show the contrast coefficients table */
1189 static void
1190 show_contrast_coeffs (const struct oneway_spec *cmd, const struct oneway_workspace *ws)
1191 {
1192   int c_num = 0;
1193   struct ll *cli;
1194
1195   int n_contrasts = ll_count (&cmd->contrast_list);
1196   int n_cols = 2 + ws->actual_number_of_groups;
1197   int n_rows = 2 + n_contrasts;
1198
1199   struct tab_table *t;
1200
1201   const struct covariance *cov = ws->vws[0].cov ;
1202
1203   t = tab_create (n_cols, n_rows);
1204   tab_headers (t, 2, 0, 2, 0);
1205
1206   /* Put a frame around the entire box, and vertical lines inside */
1207   tab_box (t,
1208            TAL_2, TAL_2,
1209            -1, TAL_1,
1210            0, 0,
1211            n_cols - 1, n_rows - 1);
1212
1213   tab_box (t,
1214            -1, -1,
1215            TAL_0, TAL_0,
1216            2, 0,
1217            n_cols - 1, 0);
1218
1219   tab_box (t,
1220            -1, -1,
1221            TAL_0, TAL_0,
1222            0, 0,
1223            1, 1);
1224
1225   tab_hline (t, TAL_1, 2, n_cols - 1, 1);
1226   tab_hline (t, TAL_2, 0, n_cols - 1, 2);
1227
1228   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
1229
1230   tab_title (t, _("Contrast Coefficients"));
1231
1232   tab_text (t,  0, 2, TAB_LEFT | TAT_TITLE, _("Contrast"));
1233
1234
1235   tab_joint_text (t, 2, 0, n_cols - 1, 0, TAB_CENTER | TAT_TITLE,
1236                   var_to_string (cmd->indep_var));
1237
1238   for ( cli = ll_head (&cmd->contrast_list);
1239         cli != ll_null (&cmd->contrast_list);
1240         cli = ll_next (cli))
1241     {
1242       int count = 0;
1243       struct contrasts_node *cn = ll_data (cli, struct contrasts_node, ll);
1244       struct ll *coeffi ;
1245
1246       tab_text_format (t, 1, c_num + 2, TAB_CENTER, "%d", c_num + 1);
1247
1248       for (coeffi = ll_head (&cn->coefficient_list);
1249            coeffi != ll_null (&cn->coefficient_list);
1250            ++count, coeffi = ll_next (coeffi))
1251         {
1252           const struct categoricals *cats = covariance_get_categoricals (cov);
1253           const struct ccase *gcc = categoricals_get_case_by_category (cats, count);
1254           struct coeff_node *coeffn = ll_data (coeffi, struct coeff_node, ll);
1255           struct string vstr;
1256
1257           ds_init_empty (&vstr);
1258
1259           var_append_value_name (cmd->indep_var, case_data (gcc, cmd->indep_var), &vstr);
1260
1261           tab_text (t, count + 2, 1, TAB_CENTER | TAT_TITLE, ds_cstr (&vstr));
1262
1263           ds_destroy (&vstr);
1264
1265           tab_text_format (t, count + 2, c_num + 2, TAB_RIGHT, "%g", coeffn->coeff);
1266         }
1267       ++c_num;
1268     }
1269
1270   tab_submit (t);
1271 }
1272
1273
1274 /* Show the results of the contrast tests */
1275 static void
1276 show_contrast_tests (const struct oneway_spec *cmd, const struct oneway_workspace *ws)
1277 {
1278   int n_contrasts = ll_count (&cmd->contrast_list);
1279   size_t v;
1280   int n_cols = 8;
1281   size_t n_rows = 1 + cmd->n_vars * 2 * n_contrasts;
1282
1283   struct tab_table *t;
1284
1285   t = tab_create (n_cols, n_rows);
1286   tab_headers (t, 3, 0, 1, 0);
1287
1288   /* Put a frame around the entire box, and vertical lines inside */
1289   tab_box (t,
1290            TAL_2, TAL_2,
1291            -1, TAL_1,
1292            0, 0,
1293            n_cols - 1, n_rows - 1);
1294
1295   tab_box (t,
1296            -1, -1,
1297            TAL_0, TAL_0,
1298            0, 0,
1299            2, 0);
1300
1301   tab_hline (t, TAL_2, 0, n_cols - 1, 1);
1302   tab_vline (t, TAL_2, 3, 0, n_rows - 1);
1303
1304   tab_title (t, _("Contrast Tests"));
1305
1306   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("Contrast"));
1307   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("Value of Contrast"));
1308   tab_text (t,  4, 0, TAB_CENTER | TAT_TITLE, _("Std. Error"));
1309   tab_text (t,  5, 0, TAB_CENTER | TAT_TITLE, _("t"));
1310   tab_text (t,  6, 0, TAB_CENTER | TAT_TITLE, _("df"));
1311   tab_text (t,  7, 0, TAB_CENTER | TAT_TITLE, _("Sig. (2-tailed)"));
1312
1313   for (v = 0; v < cmd->n_vars; ++v)
1314     {
1315       const struct per_var_ws *pvw = &ws->vws[v];
1316       const struct categoricals *cats = covariance_get_categoricals (pvw->cov);
1317       struct ll *cli;
1318       int i = 0;
1319       int lines_per_variable = 2 * n_contrasts;
1320
1321       tab_text (t,  0, (v * lines_per_variable) + 1, TAB_LEFT | TAT_TITLE,
1322                 var_to_string (cmd->vars[v]));
1323
1324       for ( cli = ll_head (&cmd->contrast_list);
1325             cli != ll_null (&cmd->contrast_list);
1326             ++i, cli = ll_next (cli))
1327         {
1328           struct contrasts_node *cn = ll_data (cli, struct contrasts_node, ll);
1329           struct ll *coeffi ;
1330           int ci = 0;
1331           double contrast_value = 0.0;
1332           double coef_msq = 0.0;
1333
1334           double T;
1335           double std_error_contrast;
1336           double df;
1337           double sec_vneq = 0.0;
1338
1339           /* Note: The calculation of the degrees of freedom in the
1340              "variances not equal" case is painfull!!
1341              The following formula may help to understand it:
1342              \frac{\left (\sum_{i=1}^k{c_i^2\frac{s_i^2}{n_i}}\right)^2}
1343              {
1344              \sum_{i=1}^k\left (
1345              \frac{\left (c_i^2\frac{s_i^2}{n_i}\right)^2}  {n_i-1}
1346              \right)
1347              }
1348           */
1349
1350           double df_denominator = 0.0;
1351           double df_numerator = 0.0;
1352
1353           double grand_n;
1354           moments1_calculate (ws->dd_total[v]->mom, &grand_n, NULL, NULL, NULL, NULL);
1355           df = grand_n - pvw->n_groups;
1356
1357           if ( i == 0 )
1358             {
1359               tab_text (t,  1, (v * lines_per_variable) + i + 1,
1360                         TAB_LEFT | TAT_TITLE,
1361                         _("Assume equal variances"));
1362
1363               tab_text (t,  1, (v * lines_per_variable) + i + 1 + n_contrasts,
1364                         TAB_LEFT | TAT_TITLE,
1365                         _("Does not assume equal"));
1366             }
1367
1368           tab_text_format (t,  2, (v * lines_per_variable) + i + 1,
1369                            TAB_CENTER | TAT_TITLE, "%d", i + 1);
1370
1371
1372           tab_text_format (t,  2,
1373                            (v * lines_per_variable) + i + 1 + n_contrasts,
1374                            TAB_CENTER | TAT_TITLE, "%d", i + 1);
1375
1376           for (coeffi = ll_head (&cn->coefficient_list);
1377                coeffi != ll_null (&cn->coefficient_list);
1378                ++ci, coeffi = ll_next (coeffi))
1379             {
1380               double n, mean, variance;
1381               const struct descriptive_data *dd = categoricals_get_user_data_by_category (cats, ci);
1382               struct coeff_node *cn = ll_data (coeffi, struct coeff_node, ll);
1383               const double coef = cn->coeff;
1384               double winv ;
1385
1386               moments1_calculate (dd->mom, &n, &mean, &variance, NULL, NULL);
1387
1388               winv = variance / n;
1389
1390               contrast_value += coef * mean;
1391
1392               coef_msq += (pow2 (coef)) / n;
1393
1394               sec_vneq += (pow2 (coef)) * variance / n;
1395
1396               df_numerator += (pow2 (coef)) * winv;
1397               df_denominator += pow2((pow2 (coef)) * winv) / (n - 1);
1398             }
1399
1400           sec_vneq = sqrt (sec_vneq);
1401
1402           df_numerator = pow2 (df_numerator);
1403
1404           tab_double (t,  3, (v * lines_per_variable) + i + 1,
1405                       TAB_RIGHT, contrast_value, NULL);
1406
1407           tab_double (t,  3, (v * lines_per_variable) + i + 1 +
1408                       n_contrasts,
1409                       TAB_RIGHT, contrast_value, NULL);
1410
1411           std_error_contrast = sqrt (pvw->mse * coef_msq);
1412
1413           /* Std. Error */
1414           tab_double (t,  4, (v * lines_per_variable) + i + 1,
1415                       TAB_RIGHT, std_error_contrast,
1416                       NULL);
1417
1418           T = fabs (contrast_value / std_error_contrast);
1419
1420           /* T Statistic */
1421
1422           tab_double (t,  5, (v * lines_per_variable) + i + 1,
1423                       TAB_RIGHT, T,
1424                       NULL);
1425
1426
1427           /* Degrees of Freedom */
1428           tab_fixed (t,  6, (v * lines_per_variable) + i + 1,
1429                      TAB_RIGHT,  df,
1430                      8, 0);
1431
1432
1433           /* Significance TWO TAILED !!*/
1434           tab_double (t,  7, (v * lines_per_variable) + i + 1,
1435                       TAB_RIGHT,  2 * gsl_cdf_tdist_Q (T, df),
1436                       NULL);
1437
1438           /* Now for the Variances NOT Equal case */
1439
1440           /* Std. Error */
1441           tab_double (t,  4,
1442                       (v * lines_per_variable) + i + 1 + n_contrasts,
1443                       TAB_RIGHT, sec_vneq,
1444                       NULL);
1445
1446           T = contrast_value / sec_vneq;
1447           tab_double (t,  5,
1448                       (v * lines_per_variable) + i + 1 + n_contrasts,
1449                       TAB_RIGHT, T,
1450                       NULL);
1451
1452           df = df_numerator / df_denominator;
1453
1454           tab_double (t,  6,
1455                       (v * lines_per_variable) + i + 1 + n_contrasts,
1456                       TAB_RIGHT, df,
1457                       NULL);
1458
1459           /* The Significance */
1460           tab_double (t, 7, (v * lines_per_variable) + i + 1 + n_contrasts,
1461                       TAB_RIGHT,  2 * gsl_cdf_tdist_Q (T,df),
1462                       NULL);
1463         }
1464
1465       if ( v > 0 )
1466         tab_hline (t, TAL_1, 0, n_cols - 1, (v * lines_per_variable) + 1);
1467     }
1468
1469   tab_submit (t);
1470 }
1471
1472
1473
1474 static void
1475 show_comparisons (const struct oneway_spec *cmd, const struct oneway_workspace *ws, int v)
1476 {
1477   const int n_cols = 8;
1478   const int heading_rows = 2;
1479   const int heading_cols = 3;
1480
1481   int p;
1482   int r = heading_rows ;
1483
1484   const struct per_var_ws *pvw = &ws->vws[v];
1485   const struct categoricals *cat = pvw->cat;
1486   const int n_rows = heading_rows + cmd->n_posthoc * pvw->n_groups * (pvw->n_groups - 1);
1487
1488   struct tab_table *t = tab_create (n_cols, n_rows);
1489
1490   tab_headers (t, heading_cols, 0, heading_rows, 0);
1491
1492   /* Put a frame around the entire box, and vertical lines inside */
1493   tab_box (t,
1494            TAL_2, TAL_2,
1495            -1, -1,
1496            0, 0,
1497            n_cols - 1, n_rows - 1);
1498
1499   tab_box (t,
1500            -1, -1,
1501            -1, TAL_1,
1502            heading_cols, 0,
1503            n_cols - 1, n_rows - 1);
1504
1505   tab_vline (t, TAL_2, heading_cols, 0, n_rows - 1);
1506
1507   tab_title (t, _("Multiple Comparisons"));
1508
1509   tab_text_format (t,  1, 1, TAB_LEFT | TAT_TITLE, _("(I) %s"), var_to_string (cmd->indep_var));
1510   tab_text_format (t,  2, 1, TAB_LEFT | TAT_TITLE, _("(J) %s"), var_to_string (cmd->indep_var));
1511   tab_text (t,  3, 0, TAB_CENTER | TAT_TITLE, _("Mean Difference"));
1512   tab_text (t,  3, 1, TAB_CENTER | TAT_TITLE, _("(I - J)"));
1513   tab_text (t,  4, 1, TAB_CENTER | TAT_TITLE, _("Std. Error"));
1514   tab_text (t,  5, 1, TAB_CENTER | TAT_TITLE, _("Sig."));
1515
1516   tab_joint_text_format (t, 6, 0, 7, 0, TAB_CENTER | TAT_TITLE,
1517                          _("%g%% Confidence Interval"),
1518                          (1 - cmd->alpha) * 100.0);
1519
1520   tab_text (t,  6, 1, TAB_CENTER | TAT_TITLE, _("Lower Bound"));
1521   tab_text (t,  7, 1, TAB_CENTER | TAT_TITLE, _("Upper Bound"));
1522
1523
1524   for (p = 0; p < cmd->n_posthoc; ++p)
1525     {
1526       int i;
1527       const struct posthoc *ph = &ph_tests[cmd->posthoc[p]];
1528
1529       tab_hline (t, TAL_2, 0, n_cols - 1, r);
1530
1531       tab_text (t, 0, r, TAB_LEFT | TAT_TITLE, gettext (ph->label));
1532
1533       for (i = 0; i < pvw->n_groups ; ++i)
1534         {
1535           double weight_i, mean_i, var_i;
1536           int rx = 0;
1537           struct string vstr;
1538           int j;
1539           struct descriptive_data *dd_i = categoricals_get_user_data_by_category (cat, i);
1540           const struct ccase *gcc = categoricals_get_case_by_category (cat, i);
1541
1542
1543           ds_init_empty (&vstr);
1544           var_append_value_name (cmd->indep_var, case_data (gcc, cmd->indep_var), &vstr);
1545
1546           if ( i != 0)
1547             tab_hline (t, TAL_1, 1, n_cols - 1, r);
1548           tab_text (t, 1, r, TAB_LEFT | TAT_TITLE, ds_cstr (&vstr));
1549
1550           moments1_calculate (dd_i->mom, &weight_i, &mean_i, &var_i, 0, 0);
1551
1552           for (j = 0 ; j < pvw->n_groups; ++j)
1553             {
1554               double std_err;
1555               double weight_j, mean_j, var_j;
1556               double half_range;
1557               const struct ccase *cc;
1558               struct descriptive_data *dd_j = categoricals_get_user_data_by_category (cat, j);
1559               if (j == i)
1560                 continue;
1561
1562               ds_clear (&vstr);
1563               cc = categoricals_get_case_by_category (cat, j);
1564               var_append_value_name (cmd->indep_var, case_data (cc, cmd->indep_var), &vstr);
1565               tab_text (t, 2, r + rx, TAB_LEFT | TAT_TITLE, ds_cstr (&vstr));
1566
1567               moments1_calculate (dd_j->mom, &weight_j, &mean_j, &var_j, 0, 0);
1568
1569               tab_double  (t, 3, r + rx, 0, mean_i - mean_j, 0);
1570
1571               std_err = pvw->mse;
1572               std_err *= weight_i + weight_j;
1573               std_err /= weight_i * weight_j;
1574               std_err = sqrt (std_err);
1575
1576               tab_double  (t, 4, r + rx, 0, std_err, 0);
1577
1578               tab_double (t, 5, r + rx, 0, 2 * multiple_comparison_sig (std_err, pvw, dd_i, dd_j, ph), 0);
1579
1580               half_range = mc_half_range (cmd, pvw, std_err, dd_i, dd_j, ph);
1581
1582               tab_double (t, 6, r + rx, 0,
1583                            (mean_i - mean_j) - half_range, 0 );
1584
1585               tab_double (t, 7, r + rx, 0,
1586                            (mean_i - mean_j) + half_range, 0 );
1587
1588               rx++;
1589             }
1590           ds_destroy (&vstr);
1591           r += pvw->n_groups - 1;
1592         }
1593     }
1594
1595   tab_submit (t);
1596 }