src/language/stats/oneway.q

   1 /* PSPP - a program for statistical analysis.
   2    Copyright (C) 1997-9, 2000, 2007, 2009 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation, either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>. */
  16
  17 #include <config.h>
  18
  19 #include <gsl/gsl_cdf.h>
  20 #include <math.h>
  21 #include <stdio.h>
  22 #include <stdlib.h>
  23
  24 #include <data/case.h>
  25 #include <data/casegrouper.h>
  26 #include <data/casereader.h>
  27 #include <data/dictionary.h>
  28 #include <data/procedure.h>
  29 #include <data/value-labels.h>
  30 #include <data/variable.h>
  31 #include <language/command.h>
  32 #include <language/dictionary/split-file.h>
  33 #include <language/lexer/lexer.h>
  34 #include <libpspp/compiler.h>
  35 #include <libpspp/hash.h>
  36 #include <libpspp/message.h>
  37 #include <libpspp/misc.h>
  38 #include <libpspp/str.h>
  39 #include <libpspp/taint.h>
  40 #include <math/group-proc.h>
  41 #include <math/group.h>
  42 #include <math/levene.h>
  43 #include <output/manager.h>
  44 #include <output/table.h>
  45 #include "sort-criteria.h"
  46 #include <data/format.h>
  47
  48 #include "xalloc.h"
  49
  50 #include "gettext.h"
  51 #define _(msgid) gettext (msgid)
  52
  53 /* (headers) */
  54
  55 /* (specification)
  56    "ONEWAY" (oneway_):
  57    *^variables=custom;
  58    missing=miss:!analysis/listwise,
  59    incl:include/!exclude;
  60    +contrast= double list;
  61    +statistics[st_]=descriptives,homogeneity.
  62 */
  63 /* (declarations) */
  64 /* (functions) */
  65
  66 static struct cmd_oneway cmd;
  67
  68 /* The independent variable */
  69 static const struct variable *indep_var;
  70
  71 /* Number of dependent variables */
  72 static size_t n_vars;
  73
  74 /* The dependent variables */
  75 static const struct variable **vars;
  76
  77
  78 /* A  hash table containing all the distinct values of the independent
  79    variables */
  80 static struct hsh_table *global_group_hash;
  81
  82 /* The number of distinct values of the independent variable, when all
  83    missing values are disregarded */
  84 static int ostensible_number_of_groups = -1;
  85
  86
  87 static void run_oneway (struct cmd_oneway *, struct casereader *,
  88                         const struct dataset *);
  89
  90
  91 /* Routines to show the output tables */
  92 static void show_anova_table(void);
  93 static void show_descriptives (const struct dictionary *dict);
  94 static void show_homogeneity(void);
  95
  96 static void show_contrast_coeffs (short *);
  97 static void show_contrast_tests (short *);
  98
  99
 100 enum stat_table_t {STAT_DESC = 1, STAT_HOMO = 2};
 101
 102 static enum stat_table_t stat_tables;
 103
 104 static void output_oneway (const struct dictionary *dict);
 105
 106
 107 int
 108 cmd_oneway (struct lexer *lexer, struct dataset *ds)
 109 {
 110   struct casegrouper *grouper;
 111   struct casereader *group;
 112   int i;
 113   bool ok;
 114
 115   if ( !parse_oneway (lexer, ds, &cmd, NULL))
 116     return CMD_FAILURE;
 117
 118   /* What statistics were requested */
 119   if ( cmd.sbc_statistics)
 120     {
 121
 122       for (i = 0; i < ONEWAY_ST_count; ++i)
 123         {
 124           if (! cmd.a_statistics[i]) continue;
 125
 126           switch (i)
 127             {
 128             case ONEWAY_ST_DESCRIPTIVES:
 129               stat_tables |= STAT_DESC;
 130               break;
 131             case ONEWAY_ST_HOMOGENEITY:
 132               stat_tables |= STAT_HOMO;
 133               break;
 134             }
 135         }
 136     }
 137
 138   /* Data pass.  FIXME: error handling. */
 139   grouper = casegrouper_create_splits (proc_open (ds), dataset_dict (ds));
 140   while (casegrouper_get_next_group (grouper, &group))
 141     run_oneway (&cmd, group, ds);
 142   ok = casegrouper_destroy (grouper);
 143   ok = proc_commit (ds) && ok;
 144
 145   free (vars);
 146   free_oneway (&cmd);
 147
 148   return ok ? CMD_SUCCESS : CMD_CASCADING_FAILURE;
 149 }
 150
 151
 152 static void
 153 output_oneway (const struct dictionary *dict)
 154 {
 155   size_t i;
 156   short *bad_contrast;
 157
 158   bad_contrast = xnmalloc (cmd.sbc_contrast, sizeof *bad_contrast);
 159
 160   /* Check the sanity of the given contrast values */
 161   for (i = 0; i < cmd.sbc_contrast; ++i)
 162     {
 163       int j;
 164       double sum = 0;
 165
 166       bad_contrast[i] = 0;
 167       if (subc_list_double_count (&cmd.dl_contrast[i]) !=
 168           ostensible_number_of_groups)
 169         {
 170           msg (SW,
 171                _("Number of contrast coefficients must equal the number of groups"));
 172           bad_contrast[i] = 1;
 173           continue;
 174         }
 175
 176       for (j = 0; j < ostensible_number_of_groups; ++j)
 177         sum += subc_list_double_at (&cmd.dl_contrast[i], j);
 178
 179       if ( sum != 0.0 )
 180         msg (SW, _("Coefficients for contrast %zu do not total zero"), i + 1);
 181     }
 182
 183   if ( stat_tables & STAT_DESC )
 184     show_descriptives (dict);
 185
 186   if ( stat_tables & STAT_HOMO )
 187     show_homogeneity ();
 188
 189   show_anova_table ();
 190
 191   if (cmd.sbc_contrast )
 192     {
 193       show_contrast_coeffs (bad_contrast);
 194       show_contrast_tests (bad_contrast);
 195     }
 196
 197   free (bad_contrast);
 198
 199   /* Clean up */
 200   for (i = 0; i < n_vars; ++i )
 201     {
 202       struct hsh_table *group_hash = group_proc_get (vars[i])->group_hash;
 203
 204       hsh_destroy (group_hash);
 205     }
 206
 207   hsh_destroy (global_group_hash);
 208 }
 209
 210
 211 /* Parser for the variables sub command */
 212 static int
 213 oneway_custom_variables (struct lexer *lexer,
 214                          struct dataset *ds, struct cmd_oneway *cmd UNUSED,
 215                          void *aux UNUSED)
 216 {
 217   struct dictionary *dict = dataset_dict (ds);
 218
 219   lex_match (lexer, '=');
 220
 221   if ((lex_token (lexer) != T_ID ||
 222        dict_lookup_var (dict, lex_tokid (lexer)) == NULL)
 223       && lex_token (lexer) != T_ALL)
 224     return 2;
 225
 226   if (!parse_variables_const (lexer, dict, &vars, &n_vars,
 227                               PV_DUPLICATE
 228                               | PV_NUMERIC | PV_NO_SCRATCH) )
 229     {
 230       free (vars);
 231       return 0;
 232     }
 233
 234   assert (n_vars);
 235
 236   if ( ! lex_match (lexer, T_BY))
 237     return 2;
 238
 239   indep_var = parse_variable (lexer, dict);
 240
 241   if ( !indep_var )
 242     {
 243       msg (SE, _("`%s' is not a variable name"), lex_tokid (lexer));
 244       return 0;
 245     }
 246
 247   return 1;
 248 }
 249
 250
 251 /* Show the ANOVA table */
 252 static void
 253 show_anova_table (void)
 254 {
 255   size_t i;
 256   int n_cols =7;
 257   size_t n_rows = n_vars * 3 + 1;
 258
 259   struct tab_table *t;
 260
 261
 262   t = tab_create (n_cols, n_rows, 0);
 263   tab_headers (t, 2, 0, 1, 0);
 264   tab_dim (t, tab_natural_dimensions, NULL);
 265
 266
 267   tab_box (t,
 268            TAL_2, TAL_2,
 269            -1, TAL_1,
 270            0, 0,
 271            n_cols - 1, n_rows - 1);
 272
 273   tab_hline (t, TAL_2, 0, n_cols - 1, 1 );
 274   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
 275   tab_vline (t, TAL_0, 1, 0, 0);
 276
 277   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("Sum of Squares"));
 278   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("df"));
 279   tab_text (t, 4, 0, TAB_CENTER | TAT_TITLE, _("Mean Square"));
 280   tab_text (t, 5, 0, TAB_CENTER | TAT_TITLE, _("F"));
 281   tab_text (t, 6, 0, TAB_CENTER | TAT_TITLE, _("Significance"));
 282
 283
 284   for (i = 0; i < n_vars; ++i)
 285     {
 286       struct group_statistics *totals = &group_proc_get (vars[i])->ugs;
 287       struct hsh_table *group_hash = group_proc_get (vars[i])->group_hash;
 288       struct hsh_iterator g;
 289       struct group_statistics *gs;
 290       double ssa = 0;
 291       const char *s = var_to_string (vars[i]);
 292
 293       for (gs =  hsh_first (group_hash, &g);
 294            gs != 0;
 295            gs = hsh_next (group_hash, &g))
 296         {
 297           ssa += pow2 (gs->sum) / gs->n;
 298         }
 299
 300       ssa -= pow2 (totals->sum) / totals->n;
 301
 302       tab_text (t, 0, i * 3 + 1, TAB_LEFT | TAT_TITLE, s);
 303       tab_text (t, 1, i * 3 + 1, TAB_LEFT | TAT_TITLE, _("Between Groups"));
 304       tab_text (t, 1, i * 3 + 2, TAB_LEFT | TAT_TITLE, _("Within Groups"));
 305       tab_text (t, 1, i * 3 + 3, TAB_LEFT | TAT_TITLE, _("Total"));
 306
 307       if (i > 0)
 308         tab_hline (t, TAL_1, 0, n_cols - 1, i * 3 + 1);
 309
 310       {
 311         struct group_proc *gp = group_proc_get (vars[i]);
 312         const double sst = totals->ssq - pow2 (totals->sum) / totals->n;
 313         const double df1 = gp->n_groups - 1;
 314         const double df2 = totals->n - gp->n_groups;
 315         const double msa = ssa / df1;
 316
 317         gp->mse  = (sst - ssa) / df2;
 318
 319
 320         /* Sums of Squares */
 321         tab_double (t, 2, i * 3 + 1, 0, ssa, NULL);
 322         tab_double (t, 2, i * 3 + 3, 0, sst, NULL);
 323         tab_double (t, 2, i * 3 + 2, 0, sst - ssa, NULL);
 324
 325
 326         /* Degrees of freedom */
 327         tab_fixed (t, 3, i * 3 + 1, 0, df1, 4, 0);
 328         tab_fixed (t, 3, i * 3 + 2, 0, df2, 4, 0);
 329         tab_fixed (t, 3, i * 3 + 3, 0, totals->n - 1, 4, 0);
 330
 331         /* Mean Squares */
 332         tab_double (t, 4, i * 3 + 1, TAB_RIGHT, msa, NULL);
 333         tab_double (t, 4, i * 3 + 2, TAB_RIGHT, gp->mse, NULL);
 334
 335         {
 336           const double F = msa / gp->mse ;
 337
 338           /* The F value */
 339           tab_double (t, 5, i * 3 + 1, 0,  F, NULL);
 340
 341           /* The significance */
 342           tab_double (t, 6, i * 3 + 1, 0, gsl_cdf_fdist_Q (F, df1, df2), NULL);
 343         }
 344       }
 345     }
 346
 347
 348   tab_title (t, _("ANOVA"));
 349   tab_submit (t);
 350 }
 351
 352
 353 /* Show the descriptives table */
 354 static void
 355 show_descriptives (const struct dictionary *dict)
 356 {
 357   size_t v;
 358   int n_cols = 10;
 359   struct tab_table *t;
 360   int row;
 361
 362   const double confidence = 0.95;
 363   const double q = (1.0 - confidence) / 2.0;
 364
 365   const struct variable *wv = dict_get_weight (dict);
 366   const struct fmt_spec *wfmt = wv ? var_get_print_format (wv) : & F_8_0;
 367
 368   int n_rows = 2;
 369
 370   for ( v = 0; v < n_vars; ++v )
 371     n_rows += group_proc_get (vars[v])->n_groups + 1;
 372
 373   t = tab_create (n_cols, n_rows, 0);
 374   tab_headers (t, 2, 0, 2, 0);
 375   tab_dim (t, tab_natural_dimensions, NULL);
 376
 377
 378   /* Put a frame around the entire box, and vertical lines inside */
 379   tab_box (t,
 380            TAL_2, TAL_2,
 381            -1, TAL_1,
 382            0, 0,
 383            n_cols - 1, n_rows - 1);
 384
 385   /* Underline headers */
 386   tab_hline (t, TAL_2, 0, n_cols - 1, 2);
 387   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
 388
 389   tab_text (t, 2, 1, TAB_CENTER | TAT_TITLE, _("N"));
 390   tab_text (t, 3, 1, TAB_CENTER | TAT_TITLE, _("Mean"));
 391   tab_text (t, 4, 1, TAB_CENTER | TAT_TITLE, _("Std. Deviation"));
 392   tab_text (t, 5, 1, TAB_CENTER | TAT_TITLE, _("Std. Error"));
 393
 394
 395   tab_vline (t, TAL_0, 7, 0, 0);
 396   tab_hline (t, TAL_1, 6, 7, 1);
 397   tab_joint_text (t, 6, 0, 7, 0, TAB_CENTER | TAT_TITLE | TAT_PRINTF,
 398                   _("%g%% Confidence Interval for Mean"), confidence*100.0);
 399
 400   tab_text (t, 6, 1, TAB_CENTER | TAT_TITLE, _("Lower Bound"));
 401   tab_text (t, 7, 1, TAB_CENTER | TAT_TITLE, _("Upper Bound"));
 402
 403   tab_text (t, 8, 1, TAB_CENTER | TAT_TITLE, _("Minimum"));
 404   tab_text (t, 9, 1, TAB_CENTER | TAT_TITLE, _("Maximum"));
 405
 406
 407   tab_title (t, _("Descriptives"));
 408
 409
 410   row = 2;
 411   for (v = 0; v < n_vars; ++v)
 412     {
 413       double T;
 414       double std_error;
 415
 416       struct group_proc *gp = group_proc_get (vars[v]);
 417
 418       struct group_statistics *gs;
 419       struct group_statistics *totals = &gp->ugs;
 420
 421       const char *s = var_to_string (vars[v]);
 422       const struct fmt_spec *fmt = var_get_print_format (vars[v]);
 423
 424       struct group_statistics *const *gs_array =
 425         (struct group_statistics *const *) hsh_sort (gp->group_hash);
 426       int count = 0;
 427
 428       tab_text (t, 0, row, TAB_LEFT | TAT_TITLE, s);
 429       if ( v > 0)
 430         tab_hline (t, TAL_1, 0, n_cols - 1, row);
 431
 432       for (count = 0; count < hsh_count (gp->group_hash); ++count)
 433         {
 434           struct string vstr;
 435           ds_init_empty (&vstr);
 436           gs = gs_array[count];
 437
 438           var_append_value_name (indep_var, &gs->id, &vstr);
 439
 440           tab_text (t, 1, row + count,
 441                     TAB_LEFT | TAT_TITLE,
 442                     ds_cstr (&vstr));
 443
 444           ds_destroy (&vstr);
 445
 446           /* Now fill in the numbers ... */
 447
 448           tab_fixed (t, 2, row + count, 0, gs->n, 8, 0);
 449
 450           tab_double (t, 3, row + count, 0, gs->mean, NULL);
 451
 452           tab_double (t, 4, row + count, 0, gs->std_dev, NULL);
 453
 454           std_error = gs->std_dev / sqrt (gs->n) ;
 455           tab_double (t, 5, row + count, 0,
 456                      std_error, NULL);
 457
 458           /* Now the confidence interval */
 459
 460           T = gsl_cdf_tdist_Qinv (q, gs->n - 1);
 461
 462           tab_double (t, 6, row + count, 0,
 463                     gs->mean - T * std_error, NULL);
 464
 465           tab_double (t, 7, row + count, 0,
 466                     gs->mean + T * std_error, NULL);
 467
 468           /* Min and Max */
 469
 470           tab_double (t, 8, row + count, 0,  gs->minimum, fmt);
 471           tab_double (t, 9, row + count, 0,  gs->maximum, fmt);
 472         }
 473
 474       tab_text (t, 1, row + count,
 475                 TAB_LEFT | TAT_TITLE, _("Total"));
 476
 477       tab_double (t, 2, row + count, 0, totals->n, wfmt);
 478
 479       tab_double (t, 3, row + count, 0, totals->mean, NULL);
 480
 481       tab_double (t, 4, row + count, 0, totals->std_dev, NULL);
 482
 483       std_error = totals->std_dev / sqrt (totals->n) ;
 484
 485       tab_double (t, 5, row + count, 0, std_error, NULL);
 486
 487       /* Now the confidence interval */
 488
 489       T = gsl_cdf_tdist_Qinv (q, totals->n - 1);
 490
 491       tab_double (t, 6, row + count, 0,
 492                   totals->mean - T * std_error, NULL);
 493
 494       tab_double (t, 7, row + count, 0,
 495                   totals->mean + T * std_error, NULL);
 496
 497       /* Min and Max */
 498
 499       tab_double (t, 8, row + count, 0,  totals->minimum, fmt);
 500       tab_double (t, 9, row + count, 0,  totals->maximum, fmt);
 501
 502       row += gp->n_groups + 1;
 503     }
 504
 505   tab_submit (t);
 506 }
 507
 508 /* Show the homogeneity table */
 509 static void
 510 show_homogeneity (void)
 511 {
 512   size_t v;
 513   int n_cols = 5;
 514   size_t n_rows = n_vars + 1;
 515
 516   struct tab_table *t;
 517
 518
 519   t = tab_create (n_cols, n_rows, 0);
 520   tab_headers (t, 1, 0, 1, 0);
 521   tab_dim (t, tab_natural_dimensions, NULL);
 522
 523   /* Put a frame around the entire box, and vertical lines inside */
 524   tab_box (t,
 525            TAL_2, TAL_2,
 526            -1, TAL_1,
 527            0, 0,
 528            n_cols - 1, n_rows - 1);
 529
 530
 531   tab_hline (t, TAL_2, 0, n_cols - 1, 1);
 532   tab_vline (t, TAL_2, 1, 0, n_rows - 1);
 533
 534
 535   tab_text (t, 1, 0, TAB_CENTER | TAT_TITLE, _("Levene Statistic"));
 536   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("df1"));
 537   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("df2"));
 538   tab_text (t, 4, 0, TAB_CENTER | TAT_TITLE, _("Significance"));
 539
 540   tab_title (t, _("Test of Homogeneity of Variances"));
 541
 542   for (v = 0; v < n_vars; ++v)
 543     {
 544       double F;
 545       const struct variable *var = vars[v];
 546       const struct group_proc *gp = group_proc_get (vars[v]);
 547       const char *s = var_to_string (var);
 548       const struct group_statistics *totals = &gp->ugs;
 549
 550       const double df1 = gp->n_groups - 1;
 551       const double df2 = totals->n - gp->n_groups;
 552
 553       tab_text (t, 0, v + 1, TAB_LEFT | TAT_TITLE, s);
 554
 555       F = gp->levene;
 556       tab_double (t, 1, v + 1, TAB_RIGHT, F, NULL);
 557       tab_fixed (t, 2, v + 1, TAB_RIGHT, df1, 8, 0);
 558       tab_fixed (t, 3, v + 1, TAB_RIGHT, df2, 8, 0);
 559
 560       /* Now the significance */
 561       tab_double (t, 4, v + 1, TAB_RIGHT,gsl_cdf_fdist_Q (F, df1, df2), NULL);
 562     }
 563
 564   tab_submit (t);
 565 }
 566
 567
 568 /* Show the contrast coefficients table */
 569 static void
 570 show_contrast_coeffs (short *bad_contrast)
 571 {
 572   int n_cols = 2 + ostensible_number_of_groups;
 573   int n_rows = 2 + cmd.sbc_contrast;
 574   int count = 0;
 575   void *const *group_values;
 576
 577   struct tab_table *t;
 578
 579   t = tab_create (n_cols, n_rows, 0);
 580   tab_headers (t, 2, 0, 2, 0);
 581   tab_dim (t, tab_natural_dimensions, NULL);
 582
 583   /* Put a frame around the entire box, and vertical lines inside */
 584   tab_box (t,
 585            TAL_2, TAL_2,
 586            -1, TAL_1,
 587            0, 0,
 588            n_cols - 1, n_rows - 1);
 589
 590   tab_box (t,
 591            -1, -1,
 592            TAL_0, TAL_0,
 593            2, 0,
 594            n_cols - 1, 0);
 595
 596   tab_box (t,
 597            -1, -1,
 598            TAL_0, TAL_0,
 599            0, 0,
 600            1, 1);
 601
 602   tab_hline (t, TAL_1, 2, n_cols - 1, 1);
 603   tab_hline (t, TAL_2, 0, n_cols - 1, 2);
 604
 605   tab_vline (t, TAL_2, 2, 0, n_rows - 1);
 606
 607   tab_title (t, _("Contrast Coefficients"));
 608
 609   tab_text (t,  0, 2, TAB_LEFT | TAT_TITLE, _("Contrast"));
 610
 611
 612   tab_joint_text (t, 2, 0, n_cols - 1, 0, TAB_CENTER | TAT_TITLE,
 613                   var_to_string (indep_var));
 614
 615   group_values = hsh_sort (global_group_hash);
 616   for (count = 0;
 617        count < hsh_count (global_group_hash);
 618        ++count)
 619     {
 620       double *group_value_p;
 621       union value group_value;
 622       int i;
 623       struct string vstr;
 624
 625       ds_init_empty (&vstr);
 626
 627       group_value_p = group_values[count];
 628       group_value.f = *group_value_p;
 629       var_append_value_name (indep_var, &group_value, &vstr);
 630
 631       tab_text (t, count + 2, 1, TAB_CENTER | TAT_TITLE,
 632                 ds_cstr (&vstr));
 633
 634       ds_destroy (&vstr);
 635
 636
 637       for (i = 0; i < cmd.sbc_contrast; ++i )
 638         {
 639           tab_text (t, 1, i + 2, TAB_CENTER | TAT_PRINTF, "%d", i + 1);
 640
 641           if ( bad_contrast[i] )
 642             tab_text (t, count + 2, i + 2, TAB_RIGHT, "?" );
 643           else
 644             tab_text (t, count + 2, i + 2, TAB_RIGHT | TAT_PRINTF, "%g",
 645                       subc_list_double_at (&cmd.dl_contrast[i], count)
 646                       );
 647         }
 648     }
 649
 650   tab_submit (t);
 651 }
 652
 653
 654 /* Show the results of the contrast tests */
 655 static void
 656 show_contrast_tests (short *bad_contrast)
 657 {
 658   size_t v;
 659   int n_cols = 8;
 660   size_t n_rows = 1 + n_vars * 2 * cmd.sbc_contrast;
 661
 662   struct tab_table *t;
 663
 664   t = tab_create (n_cols, n_rows, 0);
 665   tab_headers (t, 3, 0, 1, 0);
 666   tab_dim (t, tab_natural_dimensions, NULL);
 667
 668   /* Put a frame around the entire box, and vertical lines inside */
 669   tab_box (t,
 670            TAL_2, TAL_2,
 671            -1, TAL_1,
 672            0, 0,
 673            n_cols - 1, n_rows - 1);
 674
 675   tab_box (t,
 676            -1, -1,
 677            TAL_0, TAL_0,
 678            0, 0,
 679            2, 0);
 680
 681   tab_hline (t, TAL_2, 0, n_cols - 1, 1);
 682   tab_vline (t, TAL_2, 3, 0, n_rows - 1);
 683
 684
 685   tab_title (t, _("Contrast Tests"));
 686
 687   tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("Contrast"));
 688   tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("Value of Contrast"));
 689   tab_text (t,  4, 0, TAB_CENTER | TAT_TITLE, _("Std. Error"));
 690   tab_text (t,  5, 0, TAB_CENTER | TAT_TITLE, _("t"));
 691   tab_text (t,  6, 0, TAB_CENTER | TAT_TITLE, _("df"));
 692   tab_text (t,  7, 0, TAB_CENTER | TAT_TITLE, _("Sig. (2-tailed)"));
 693
 694   for (v = 0; v < n_vars; ++v)
 695     {
 696       int i;
 697       int lines_per_variable = 2 * cmd.sbc_contrast;
 698
 699
 700       tab_text (t,  0, (v * lines_per_variable) + 1, TAB_LEFT | TAT_TITLE,
 701                 var_to_string (vars[v]));
 702
 703       for (i = 0; i < cmd.sbc_contrast; ++i)
 704         {
 705           int ci;
 706           double contrast_value = 0.0;
 707           double coef_msq = 0.0;
 708           struct group_proc *grp_data = group_proc_get (vars[v]);
 709           struct hsh_table *group_hash = grp_data->group_hash;
 710
 711           void *const *group_stat_array;
 712
 713           double T;
 714           double std_error_contrast;
 715           double df;
 716           double sec_vneq = 0.0;
 717
 718
 719           /* Note: The calculation of the degrees of freedom in the
 720              "variances not equal" case is painfull!!
 721              The following formula may help to understand it:
 722              \frac{\left (\sum_{i=1}^k{c_i^2\frac{s_i^2}{n_i}}\right)^2}
 723              {
 724              \sum_{i=1}^k\left (
 725              \frac{\left (c_i^2\frac{s_i^2}{n_i}\right)^2}  {n_i-1}
 726              \right)
 727              }
 728           */
 729
 730           double df_denominator = 0.0;
 731           double df_numerator = 0.0;
 732           if ( i == 0 )
 733             {
 734               tab_text (t,  1, (v * lines_per_variable) + i + 1,
 735                         TAB_LEFT | TAT_TITLE,
 736                         _("Assume equal variances"));
 737
 738               tab_text (t,  1, (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 739                         TAB_LEFT | TAT_TITLE,
 740                         _("Does not assume equal"));
 741             }
 742
 743           tab_text (t,  2, (v * lines_per_variable) + i + 1,
 744                     TAB_CENTER | TAT_TITLE | TAT_PRINTF, "%d", i + 1);
 745
 746
 747           tab_text (t,  2, (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 748                     TAB_CENTER | TAT_TITLE | TAT_PRINTF, "%d", i + 1);
 749
 750
 751           if ( bad_contrast[i])
 752             continue;
 753
 754           group_stat_array = hsh_sort (group_hash);
 755
 756           for (ci = 0; ci < hsh_count (group_hash);  ++ci)
 757             {
 758               const double coef = subc_list_double_at (&cmd.dl_contrast[i], ci);
 759               struct group_statistics *gs = group_stat_array[ci];
 760
 761               const double winv = pow2 (gs->std_dev) / gs->n;
 762
 763               contrast_value += coef * gs->mean;
 764
 765               coef_msq += (coef * coef) / gs->n;
 766
 767               sec_vneq += (coef * coef) * pow2 (gs->std_dev) /gs->n;
 768
 769               df_numerator += (coef * coef) * winv;
 770               df_denominator += pow2((coef * coef) * winv) / (gs->n - 1);
 771             }
 772           sec_vneq = sqrt (sec_vneq);
 773
 774           df_numerator = pow2 (df_numerator);
 775
 776           tab_double (t,  3, (v * lines_per_variable) + i + 1,
 777                      TAB_RIGHT, contrast_value, NULL);
 778
 779           tab_double (t,  3, (v * lines_per_variable) + i + 1 +
 780                      cmd.sbc_contrast,
 781                      TAB_RIGHT, contrast_value, NULL);
 782
 783           std_error_contrast = sqrt (grp_data->mse * coef_msq);
 784
 785           /* Std. Error */
 786           tab_double (t,  4, (v * lines_per_variable) + i + 1,
 787                      TAB_RIGHT, std_error_contrast,
 788                      NULL);
 789
 790           T = fabs (contrast_value / std_error_contrast);
 791
 792           /* T Statistic */
 793
 794           tab_double (t,  5, (v * lines_per_variable) + i + 1,
 795                      TAB_RIGHT, T,
 796                      NULL);
 797
 798           df = grp_data->ugs.n - grp_data->n_groups;
 799
 800           /* Degrees of Freedom */
 801           tab_fixed (t,  6, (v * lines_per_variable) + i + 1,
 802                      TAB_RIGHT,  df,
 803                      8, 0);
 804
 805
 806           /* Significance TWO TAILED !!*/
 807           tab_double (t,  7, (v * lines_per_variable) + i + 1,
 808                      TAB_RIGHT,  2 * gsl_cdf_tdist_Q (T, df),
 809                      NULL);
 810
 811           /* Now for the Variances NOT Equal case */
 812
 813           /* Std. Error */
 814           tab_double (t,  4,
 815                      (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 816                      TAB_RIGHT, sec_vneq,
 817                      NULL);
 818
 819           T = contrast_value / sec_vneq;
 820           tab_double (t,  5,
 821                      (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 822                      TAB_RIGHT, T,
 823                      NULL);
 824
 825           df = df_numerator / df_denominator;
 826
 827           tab_double (t,  6,
 828                      (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 829                      TAB_RIGHT, df,
 830                      NULL);
 831
 832           /* The Significance */
 833
 834           tab_double (t, 7, (v * lines_per_variable) + i + 1 + cmd.sbc_contrast,
 835                      TAB_RIGHT,  2 * gsl_cdf_tdist_Q (T,df),
 836                      NULL);
 837         }
 838
 839       if ( v > 0 )
 840         tab_hline (t, TAL_1, 0, n_cols - 1, (v * lines_per_variable) + 1);
 841     }
 842
 843   tab_submit (t);
 844 }
 845
 846
 847 /* ONEWAY ANOVA Calculations */
 848
 849 static void  postcalc (struct cmd_oneway *cmd UNUSED);
 850
 851 static void  precalc (struct cmd_oneway *cmd UNUSED);
 852
 853
 854
 855 /* Pre calculations */
 856 static void
 857 precalc (struct cmd_oneway *cmd UNUSED)
 858 {
 859   size_t i = 0;
 860
 861   for (i = 0; i < n_vars; ++i)
 862     {
 863       struct group_proc *gp = group_proc_get (vars[i]);
 864       struct group_statistics *totals = &gp->ugs;
 865
 866       /* Create a hash for each of the dependent variables.
 867          The hash contains a group_statistics structure,
 868          and is keyed by value of the independent variable */
 869
 870       gp->group_hash = hsh_create (4, compare_group, hash_group,
 871                                    (hsh_free_func *) free_group,
 872                                    indep_var);
 873
 874       totals->sum = 0;
 875       totals->n = 0;
 876       totals->ssq = 0;
 877       totals->sum_diff = 0;
 878       totals->maximum = -DBL_MAX;
 879       totals->minimum = DBL_MAX;
 880     }
 881 }
 882
 883 static int
 884 compare_double_3way (const void *a_, const void *b_, const void *aux UNUSED)
 885 {
 886   const double *a = a_;
 887   const double *b = b_;
 888   return *a < *b ? -1 : *a > *b;
 889 }
 890
 891 static unsigned
 892 do_hash_double (const void *value_, const void *aux UNUSED)
 893 {
 894   const double *value = value_;
 895   return hash_double (*value, 0);
 896 }
 897
 898 static void
 899 free_double (void *value_, const void *aux UNUSED)
 900 {
 901   double *value = value_;
 902   free (value);
 903 }
 904
 905 static void
 906 run_oneway (struct cmd_oneway *cmd,
 907             struct casereader *input,
 908             const struct dataset *ds)
 909 {
 910   struct taint *taint;
 911   struct dictionary *dict = dataset_dict (ds);
 912   enum mv_class exclude;
 913   struct casereader *reader;
 914   struct ccase *c;
 915
 916   c = casereader_peek (input, 0);
 917   if (c == NULL)
 918     {
 919       casereader_destroy (input);
 920       return;
 921     }
 922   output_split_file_values (ds, c);
 923   case_unref (c);
 924
 925   taint = taint_clone (casereader_get_taint (input));
 926
 927   global_group_hash = hsh_create (4,
 928                                   compare_double_3way,
 929                                   do_hash_double,
 930                                   free_double,
 931                                   indep_var);
 932
 933   precalc (cmd);
 934
 935   exclude = cmd->incl != ONEWAY_INCLUDE ? MV_ANY : MV_SYSTEM;
 936   input = casereader_create_filter_missing (input, &indep_var, 1,
 937                                             exclude, NULL, NULL);
 938   if (cmd->miss == ONEWAY_LISTWISE)
 939     input = casereader_create_filter_missing (input, vars, n_vars,
 940                                               exclude, NULL, NULL);
 941   input = casereader_create_filter_weight (input, dict, NULL, NULL);
 942
 943   reader = casereader_clone (input);
 944   for (; (c = casereader_read (reader)) != NULL; case_unref (c))
 945     {
 946       size_t i;
 947
 948       const double weight = dict_get_case_weight (dict, c, NULL);
 949
 950       const union value *indep_val = case_data (c, indep_var);
 951       void **p = hsh_probe (global_group_hash, &indep_val->f);
 952       if (*p == NULL)
 953         {
 954           double *value = *p = xmalloc (sizeof *value);
 955           *value = indep_val->f;
 956         }
 957
 958       for (i = 0; i < n_vars; ++i)
 959         {
 960           const struct variable *v = vars[i];
 961
 962           const union value *val = case_data (c, v);
 963
 964           struct group_proc *gp = group_proc_get (vars[i]);
 965           struct hsh_table *group_hash = gp->group_hash;
 966
 967           struct group_statistics *gs;
 968
 969           gs = hsh_find (group_hash, indep_val );
 970
 971           if ( ! gs )
 972             {
 973               gs = xmalloc (sizeof *gs);
 974               gs->id = *indep_val;
 975               gs->sum = 0;
 976               gs->n = 0;
 977               gs->ssq = 0;
 978               gs->sum_diff = 0;
 979               gs->minimum = DBL_MAX;
 980               gs->maximum = -DBL_MAX;
 981
 982               hsh_insert ( group_hash, gs );
 983             }
 984
 985           if (!var_is_value_missing (v, val, exclude))
 986             {
 987               struct group_statistics *totals = &gp->ugs;
 988
 989               totals->n += weight;
 990               totals->sum += weight * val->f;
 991               totals->ssq += weight * pow2 (val->f);
 992
 993               if ( val->f * weight  < totals->minimum )
 994                 totals->minimum = val->f * weight;
 995
 996               if ( val->f * weight  > totals->maximum )
 997                 totals->maximum = val->f * weight;
 998
 999               gs->n += weight;
1000               gs->sum += weight * val->f;
1001               gs->ssq += weight * pow2 (val->f);
1002
1003               if ( val->f * weight  < gs->minimum )
1004                 gs->minimum = val->f * weight;
1005
1006               if ( val->f * weight  > gs->maximum )
1007                 gs->maximum = val->f * weight;
1008             }
1009
1010           gp->n_groups = hsh_count ( group_hash );
1011         }
1012
1013     }
1014   casereader_destroy (reader);
1015
1016   postcalc (cmd);
1017
1018
1019   if ( stat_tables & STAT_HOMO )
1020     levene (dict, casereader_clone (input), indep_var, n_vars, vars, exclude);
1021
1022   casereader_destroy (input);
1023
1024   ostensible_number_of_groups = hsh_count (global_group_hash);
1025
1026   if (!taint_has_tainted_successor (taint))
1027     output_oneway (dict);
1028
1029   taint_destroy (taint);
1030 }
1031
1032
1033 /* Post calculations for the ONEWAY command */
1034 void
1035 postcalc (  struct cmd_oneway *cmd UNUSED )
1036 {
1037   size_t i = 0;
1038
1039   for (i = 0; i < n_vars; ++i)
1040     {
1041       struct group_proc *gp = group_proc_get (vars[i]);
1042       struct hsh_table *group_hash = gp->group_hash;
1043       struct group_statistics *totals = &gp->ugs;
1044
1045       struct hsh_iterator g;
1046       struct group_statistics *gs;
1047
1048       for (gs =  hsh_first (group_hash, &g);
1049            gs != 0;
1050            gs = hsh_next (group_hash, &g))
1051         {
1052           gs->mean = gs->sum / gs->n;
1053           gs->s_std_dev = sqrt (gs->ssq / gs->n - pow2 (gs->mean));
1054
1055           gs->std_dev = sqrt (
1056                               gs->n / (gs->n - 1) *
1057                               ( gs->ssq / gs->n - pow2 (gs->mean))
1058                               );
1059
1060           gs->se_mean = gs->std_dev / sqrt (gs->n);
1061           gs->mean_diff = gs->sum_diff / gs->n;
1062         }
1063
1064       totals->mean = totals->sum / totals->n;
1065       totals->std_dev = sqrt (
1066                               totals->n / (totals->n - 1) *
1067                               (totals->ssq / totals->n - pow2 (totals->mean))
1068                               );
1069
1070       totals->se_mean = totals->std_dev / sqrt (totals->n);
1071     }
1072 }
1073
1074 /*
1075   Local Variables:
1076   mode: c
1077   End:
1078 */