pintos-os.org Git - pspp/blob - src/language/stats/factor.c

   1 /* PSPP - a program for statistical analysis.
   2    Copyright (C) 2009, 2010, 2011, 2012, 2014 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation, either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>. */
  16
  17 #include <config.h>
  18
  19 #include <gsl/gsl_vector.h>
  20 #include <gsl/gsl_linalg.h>
  21 #include <gsl/gsl_matrix.h>
  22 #include <gsl/gsl_eigen.h>
  23 #include <gsl/gsl_blas.h>
  24 #include <gsl/gsl_sort_vector.h>
  25 #include <gsl/gsl_cdf.h>
  26
  27 #include "data/casegrouper.h"
  28 #include "data/casereader.h"
  29 #include "data/casewriter.h"
  30 #include "data/dataset.h"
  31 #include "data/dictionary.h"
  32 #include "data/format.h"
  33 #include "data/subcase.h"
  34 #include "language/command.h"
  35 #include "language/lexer/lexer.h"
  36 #include "language/lexer/value-parser.h"
  37 #include "language/lexer/variable-parser.h"
  38 #include "libpspp/cast.h"
  39 #include "libpspp/message.h"
  40 #include "libpspp/misc.h"
  41 #include "math/correlation.h"
  42 #include "math/covariance.h"
  43 #include "math/moments.h"
  44 #include "output/chart-item.h"
  45 #include "output/charts/scree.h"
  46 #include "output/tab.h"
  47
  48 #include "gettext.h"
  49 #define _(msgid) gettext (msgid)
  50 #define N_(msgid) msgid
  51
  52 enum method
  53   {
  54     METHOD_CORR,
  55     METHOD_COV
  56   };
  57
  58 enum missing_type
  59   {
  60     MISS_LISTWISE,
  61     MISS_PAIRWISE,
  62     MISS_MEANSUB,
  63   };
  64
  65 enum extraction_method
  66   {
  67     EXTRACTION_PC,
  68     EXTRACTION_PAF,
  69   };
  70
  71 enum plot_opts
  72   {
  73     PLOT_SCREE = 0x0001,
  74     PLOT_ROTATION = 0x0002
  75   };
  76
  77 enum print_opts
  78   {
  79     PRINT_UNIVARIATE  = 0x0001,
  80     PRINT_DETERMINANT = 0x0002,
  81     PRINT_INV         = 0x0004,
  82     PRINT_AIC         = 0x0008,
  83     PRINT_SIG         = 0x0010,
  84     PRINT_COVARIANCE  = 0x0020,
  85     PRINT_CORRELATION = 0x0040,
  86     PRINT_ROTATION    = 0x0080,
  87     PRINT_EXTRACTION  = 0x0100,
  88     PRINT_INITIAL     = 0x0200,
  89     PRINT_KMO         = 0x0400,
  90     PRINT_REPR        = 0x0800,
  91     PRINT_FSCORE      = 0x1000
  92   };
  93
  94 enum rotation_type
  95   {
  96     ROT_VARIMAX = 0,
  97     ROT_EQUAMAX,
  98     ROT_QUARTIMAX,
  99     ROT_PROMAX,
 100     ROT_NONE
 101   };
 102
 103 typedef void (*rotation_coefficients) (double *x, double *y,
 104                                     double a, double b, double c, double d,
 105                                     const gsl_matrix *loadings );
 106
 107
 108 static void
 109 varimax_coefficients (double *x, double *y,
 110                       double a, double b, double c, double d,
 111                       const gsl_matrix *loadings )
 112 {
 113   *x = d - 2 * a * b / loadings->size1;
 114   *y = c - (a * a - b * b) / loadings->size1;
 115 }
 116
 117 static void
 118 equamax_coefficients (double *x, double *y,
 119                       double a, double b, double c, double d,
 120                       const gsl_matrix *loadings )
 121 {
 122   *x = d - loadings->size2 * a * b / loadings->size1;
 123   *y = c - loadings->size2 * (a * a - b * b) / (2 * loadings->size1);
 124 }
 125
 126 static void
 127 quartimax_coefficients (double *x, double *y,
 128                       double a UNUSED, double b UNUSED, double c, double d,
 129                       const gsl_matrix *loadings UNUSED)
 130 {
 131   *x = d ;
 132   *y = c ;
 133 }
 134
 135 static const rotation_coefficients rotation_coeff[] = {
 136   varimax_coefficients,
 137   equamax_coefficients,
 138   quartimax_coefficients,
 139   varimax_coefficients  /* PROMAX is identical to VARIMAX */
 140 };
 141
 142
 143 /* return diag (C'C) ^ {-0.5} */
 144 static gsl_matrix *
 145 diag_rcp_sqrt (const gsl_matrix *C)
 146 {
 147   int j;
 148   gsl_matrix *d =  gsl_matrix_calloc (C->size1, C->size2);
 149   gsl_matrix *r =  gsl_matrix_calloc (C->size1, C->size2);
 150
 151   assert (C->size1 == C->size2);
 152
 153   gsl_linalg_matmult_mod (C,  GSL_LINALG_MOD_TRANSPOSE,
 154                           C,  GSL_LINALG_MOD_NONE,
 155                           d);
 156
 157   for (j = 0 ; j < d->size2; ++j)
 158     {
 159       double e = gsl_matrix_get (d, j, j);
 160       e = 1.0 / sqrt (e);
 161       gsl_matrix_set (r, j, j, e);
 162     }
 163
 164   gsl_matrix_free (d);
 165
 166   return r;
 167 }
 168
 169
 170
 171 /* return diag ((C'C)^-1) ^ {-0.5} */
 172 static gsl_matrix *
 173 diag_rcp_inv_sqrt (const gsl_matrix *CCinv)
 174 {
 175   int j;
 176   gsl_matrix *r =  gsl_matrix_calloc (CCinv->size1, CCinv->size2);
 177
 178   assert (CCinv->size1 == CCinv->size2);
 179
 180   for (j = 0 ; j < CCinv->size2; ++j)
 181     {
 182       double e = gsl_matrix_get (CCinv, j, j);
 183       e = 1.0 / sqrt (e);
 184       gsl_matrix_set (r, j, j, e);
 185     }
 186
 187   return r;
 188 }
 189
 190
 191
 192
 193
 194 struct cmd_factor
 195 {
 196   size_t n_vars;
 197   const struct variable **vars;
 198
 199   const struct variable *wv;
 200
 201   enum method method;
 202   enum missing_type missing_type;
 203   enum mv_class exclude;
 204   enum print_opts print;
 205   enum extraction_method extraction;
 206   enum plot_opts plot;
 207   enum rotation_type rotation;
 208   int rotation_iterations;
 209   int promax_power;
 210
 211   /* Extraction Criteria */
 212   int n_factors;
 213   double min_eigen;
 214   double econverge;
 215   int extraction_iterations;
 216
 217   double rconverge;
 218
 219   /* Format */
 220   double blank;
 221   bool sort;
 222 };
 223
 224 struct idata
 225 {
 226   /* Intermediate values used in calculation */
 227
 228   const gsl_matrix *corr ;  /* The correlation matrix */
 229   gsl_matrix *cov ;         /* The covariance matrix */
 230   const gsl_matrix *n ;     /* Matrix of number of samples */
 231
 232   gsl_vector *eval ;  /* The eigenvalues */
 233   gsl_matrix *evec ;  /* The eigenvectors */
 234
 235   int n_extractions;
 236
 237   gsl_vector *msr ;  /* Multiple Squared Regressions */
 238
 239   double detR;  /* The determinant of the correlation matrix */
 240 };
 241
 242 static struct idata *
 243 idata_alloc (size_t n_vars)
 244 {
 245   struct idata *id = xzalloc (sizeof (*id));
 246
 247   id->n_extractions = 0;
 248   id->msr = gsl_vector_alloc (n_vars);
 249
 250   id->eval = gsl_vector_alloc (n_vars);
 251   id->evec = gsl_matrix_alloc (n_vars, n_vars);
 252
 253   return id;
 254 }
 255
 256 static void
 257 idata_free (struct idata *id)
 258 {
 259   gsl_vector_free (id->msr);
 260   gsl_vector_free (id->eval);
 261   gsl_matrix_free (id->evec);
 262   if (id->cov != NULL)
 263     gsl_matrix_free (id->cov);
 264   if (id->corr != NULL)
 265     gsl_matrix_free (CONST_CAST (gsl_matrix *, id->corr));
 266
 267   free (id);
 268 }
 269
 270
 271 static gsl_matrix *
 272 anti_image (const gsl_matrix *m)
 273 {
 274   int i, j;
 275   gsl_matrix *a;
 276   assert (m->size1 == m->size2);
 277
 278   a = gsl_matrix_alloc (m->size1, m->size2);
 279
 280   for (i = 0; i < m->size1; ++i)
 281     {
 282       for (j = 0; j < m->size2; ++j)
 283         {
 284           double *p = gsl_matrix_ptr (a, i, j);
 285           *p = gsl_matrix_get (m, i, j);
 286           *p /= gsl_matrix_get (m, i, i);
 287           *p /= gsl_matrix_get (m, j, j);
 288         }
 289     }
 290
 291   return a;
 292 }
 293
 294
 295 /* Return the sum of all the elements excluding row N */
 296 static double
 297 ssq_od_n (const gsl_matrix *m, int n)
 298 {
 299   int i, j;
 300   double ss = 0;
 301   assert (m->size1 == m->size2);
 302
 303   assert (n < m->size1);
 304
 305   for (i = 0; i < m->size1; ++i)
 306     {
 307       if (i == n ) continue;
 308       for (j = 0; j < m->size2; ++j)
 309         {
 310           ss += pow2 (gsl_matrix_get (m, i, j));
 311         }
 312     }
 313
 314   return ss;
 315 }
 316
 317
 318
 319 #if 0
 320 static void
 321 dump_matrix (const gsl_matrix *m)
 322 {
 323   size_t i, j;
 324
 325   for (i = 0 ; i < m->size1; ++i)
 326     {
 327       for (j = 0 ; j < m->size2; ++j)
 328         printf ("%02f ", gsl_matrix_get (m, i, j));
 329       printf ("\n");
 330     }
 331 }
 332
 333 static void
 334 dump_matrix_permute (const gsl_matrix *m, const gsl_permutation *p)
 335 {
 336   size_t i, j;
 337
 338   for (i = 0 ; i < m->size1; ++i)
 339     {
 340       for (j = 0 ; j < m->size2; ++j)
 341         printf ("%02f ", gsl_matrix_get (m, gsl_permutation_get (p, i), j));
 342       printf ("\n");
 343     }
 344 }
 345
 346
 347 static void
 348 dump_vector (const gsl_vector *v)
 349 {
 350   size_t i;
 351   for (i = 0 ; i < v->size; ++i)
 352     {
 353       printf ("%02f\n", gsl_vector_get (v, i));
 354     }
 355   printf ("\n");
 356 }
 357 #endif
 358
 359
 360 static int
 361 n_extracted_factors (const struct cmd_factor *factor, struct idata *idata)
 362 {
 363   int i;
 364
 365   /* If there is a cached value, then return that. */
 366   if ( idata->n_extractions != 0)
 367     return idata->n_extractions;
 368
 369   /* Otherwise, if the number of factors has been explicitly requested,
 370      use that. */
 371   if (factor->n_factors > 0)
 372     {
 373       idata->n_extractions = factor->n_factors;
 374       goto finish;
 375     }
 376
 377   /* Use the MIN_EIGEN setting. */
 378   for (i = 0 ; i < idata->eval->size; ++i)
 379     {
 380       double evali = fabs (gsl_vector_get (idata->eval, i));
 381
 382       idata->n_extractions = i;
 383
 384       if (evali < factor->min_eigen)
 385         goto finish;
 386     }
 387
 388  finish:
 389   return idata->n_extractions;
 390 }
 391
 392
 393 /* Returns a newly allocated matrix identical to M.
 394    It it the callers responsibility to free the returned value.
 395 */
 396 static gsl_matrix *
 397 matrix_dup (const gsl_matrix *m)
 398 {
 399   gsl_matrix *n =  gsl_matrix_alloc (m->size1, m->size2);
 400
 401   gsl_matrix_memcpy (n, m);
 402
 403   return n;
 404 }
 405
 406
 407 struct smr_workspace
 408 {
 409   /* Copy of the subject */
 410   gsl_matrix *m;
 411
 412   gsl_matrix *inverse;
 413
 414   gsl_permutation *perm;
 415
 416   gsl_matrix *result1;
 417   gsl_matrix *result2;
 418 };
 419
 420
 421 static struct smr_workspace *ws_create (const gsl_matrix *input)
 422 {
 423   struct smr_workspace *ws = xmalloc (sizeof (*ws));
 424
 425   ws->m = gsl_matrix_alloc (input->size1, input->size2);
 426   ws->inverse = gsl_matrix_calloc (input->size1 - 1, input->size2 - 1);
 427   ws->perm = gsl_permutation_alloc (input->size1 - 1);
 428   ws->result1 = gsl_matrix_calloc (input->size1 - 1, 1);
 429   ws->result2 = gsl_matrix_calloc (1, 1);
 430
 431   return ws;
 432 }
 433
 434 static void
 435 ws_destroy (struct smr_workspace *ws)
 436 {
 437   gsl_matrix_free (ws->result2);
 438   gsl_matrix_free (ws->result1);
 439   gsl_permutation_free (ws->perm);
 440   gsl_matrix_free (ws->inverse);
 441   gsl_matrix_free (ws->m);
 442
 443   free (ws);
 444 }
 445
 446
 447 /*
 448    Return the square of the regression coefficient for VAR regressed against all other variables.
 449  */
 450 static double
 451 squared_multiple_correlation (const gsl_matrix *corr, int var, struct smr_workspace *ws)
 452 {
 453   /* For an explanation of what this is doing, see
 454      http://www.visualstatistics.net/Visual%20Statistics%20Multimedia/multiple_regression_analysis.htm
 455   */
 456
 457   int signum = 0;
 458   gsl_matrix_view rxx;
 459
 460   gsl_matrix_memcpy (ws->m, corr);
 461
 462   gsl_matrix_swap_rows (ws->m, 0, var);
 463   gsl_matrix_swap_columns (ws->m, 0, var);
 464
 465   rxx = gsl_matrix_submatrix (ws->m, 1, 1, ws->m->size1 - 1, ws->m->size1 - 1);
 466
 467   gsl_linalg_LU_decomp (&rxx.matrix, ws->perm, &signum);
 468
 469   gsl_linalg_LU_invert (&rxx.matrix, ws->perm, ws->inverse);
 470
 471   {
 472     gsl_matrix_const_view rxy = gsl_matrix_const_submatrix (ws->m, 1, 0, ws->m->size1 - 1, 1);
 473     gsl_matrix_const_view ryx = gsl_matrix_const_submatrix (ws->m, 0, 1, 1, ws->m->size1 - 1);
 474
 475     gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans,
 476                     1.0, ws->inverse, &rxy.matrix, 0.0, ws->result1);
 477
 478     gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans,
 479                     1.0, &ryx.matrix, ws->result1, 0.0, ws->result2);
 480   }
 481
 482   return gsl_matrix_get (ws->result2, 0, 0);
 483 }
 484
 485
 486
 487 static double the_communality (const gsl_matrix *evec, const gsl_vector *eval, int n, int n_factors);
 488
 489
 490 struct factor_matrix_workspace
 491 {
 492   size_t n_factors;
 493   gsl_eigen_symmv_workspace *eigen_ws;
 494
 495   gsl_vector *eval ;
 496   gsl_matrix *evec ;
 497
 498   gsl_matrix *gamma ;
 499
 500   gsl_matrix *r;
 501 };
 502
 503 static struct factor_matrix_workspace *
 504 factor_matrix_workspace_alloc (size_t n, size_t nf)
 505 {
 506   struct factor_matrix_workspace *ws = xmalloc (sizeof (*ws));
 507
 508   ws->n_factors = nf;
 509   ws->gamma = gsl_matrix_calloc (nf, nf);
 510   ws->eigen_ws = gsl_eigen_symmv_alloc (n);
 511   ws->eval = gsl_vector_alloc (n);
 512   ws->evec = gsl_matrix_alloc (n, n);
 513   ws->r  = gsl_matrix_alloc (n, n);
 514
 515   return ws;
 516 }
 517
 518 static void
 519 factor_matrix_workspace_free (struct factor_matrix_workspace *ws)
 520 {
 521   gsl_eigen_symmv_free (ws->eigen_ws);
 522   gsl_vector_free (ws->eval);
 523   gsl_matrix_free (ws->evec);
 524   gsl_matrix_free (ws->gamma);
 525   gsl_matrix_free (ws->r);
 526   free (ws);
 527 }
 528
 529 /*
 530   Shift P left by OFFSET places, and overwrite TARGET
 531   with the shifted result.
 532   Positions in TARGET less than OFFSET are unchanged.
 533 */
 534 static void
 535 perm_shift_apply (gsl_permutation *target, const gsl_permutation *p,
 536                   size_t offset)
 537 {
 538   size_t i;
 539   assert (target->size == p->size);
 540   assert (offset <= target->size);
 541
 542   for (i = 0; i < target->size - offset; ++i)
 543     {
 544       target->data[i] = p->data [i + offset];
 545     }
 546 }
 547
 548
 549 /*
 550    Indirectly sort the rows of matrix INPUT, storing the sort order in PERM.
 551    The sort criteria are as follows:
 552
 553    Rows are sorted on the first column, until the absolute value of an
 554    element in a subsequent column  is greater than that of the first
 555    column.  Thereafter, rows will be sorted on the second column,
 556    until the absolute value of an element in a subsequent column
 557    exceeds that of the second column ...
 558 */
 559 static void
 560 sort_matrix_indirect (const gsl_matrix *input, gsl_permutation *perm)
 561 {
 562   const size_t n = perm->size;
 563   const size_t m = input->size2;
 564   int i, j;
 565   gsl_matrix *mat ;
 566   int column_n = 0;
 567   int row_n = 0;
 568   gsl_permutation *p;
 569
 570   assert (perm->size == input->size1);
 571
 572   p = gsl_permutation_alloc (n);
 573
 574   /* Copy INPUT into MAT, discarding the sign */
 575   mat = gsl_matrix_alloc (n, m);
 576   for (i = 0 ; i < mat->size1; ++i)
 577     {
 578       for (j = 0 ; j < mat->size2; ++j)
 579         {
 580           double x = gsl_matrix_get (input, i, j);
 581           gsl_matrix_set (mat, i, j, fabs (x));
 582         }
 583     }
 584
 585   while (column_n < m && row_n < n)
 586     {
 587       gsl_vector_const_view columni = gsl_matrix_const_column (mat, column_n);
 588       gsl_sort_vector_index (p, &columni.vector);
 589
 590       for (i = 0 ; i < n; ++i)
 591         {
 592           gsl_vector_view row = gsl_matrix_row (mat, p->data[n - 1 - i]);
 593           size_t maxindex = gsl_vector_max_index (&row.vector);
 594
 595           if ( maxindex > column_n )
 596             break;
 597
 598           /* All subsequent elements of this row, are of no interest.
 599              So set them all to a highly negative value */
 600           for (j = column_n + 1; j < row.vector.size ; ++j)
 601             gsl_vector_set (&row.vector, j, -DBL_MAX);
 602         }
 603
 604       perm_shift_apply (perm, p, row_n);
 605       row_n += i;
 606
 607       column_n++;
 608     }
 609
 610   gsl_permutation_free (p);
 611   gsl_matrix_free (mat);
 612
 613   assert ( 0 == gsl_permutation_valid (perm));
 614
 615   /* We want the biggest value to be first */
 616   gsl_permutation_reverse (perm);
 617 }
 618
 619
 620 static void
 621 drot_go (double phi, double *l0, double *l1)
 622 {
 623   double r0 = cos (phi) * *l0 + sin (phi) * *l1;
 624   double r1 = - sin (phi) * *l0 + cos (phi) * *l1;
 625
 626   *l0 = r0;
 627   *l1 = r1;
 628 }
 629
 630
 631 static gsl_matrix *
 632 clone_matrix (const gsl_matrix *m)
 633 {
 634   int j, k;
 635   gsl_matrix *c = gsl_matrix_calloc (m->size1, m->size2);
 636
 637   for (j = 0 ; j < c->size1; ++j)
 638     {
 639       for (k = 0 ; k < c->size2; ++k)
 640         {
 641           const double *v = gsl_matrix_const_ptr (m, j, k);
 642           gsl_matrix_set (c, j, k, *v);
 643         }
 644     }
 645
 646   return c;
 647 }
 648
 649
 650 static double
 651 initial_sv (const gsl_matrix *fm)
 652 {
 653   int j, k;
 654
 655   double sv = 0.0;
 656   for (j = 0 ; j < fm->size2; ++j)
 657     {
 658       double l4s = 0;
 659       double l2s = 0;
 660
 661       for (k = j + 1 ; k < fm->size2; ++k)
 662         {
 663           double lambda = gsl_matrix_get (fm, k, j);
 664           double lambda_sq = lambda * lambda;
 665           double lambda_4 = lambda_sq * lambda_sq;
 666
 667           l4s += lambda_4;
 668           l2s += lambda_sq;
 669         }
 670       sv += ( fm->size1 * l4s - (l2s * l2s) ) / (fm->size1 * fm->size1 );
 671     }
 672   return sv;
 673 }
 674
 675 static void
 676 rotate (const struct cmd_factor *cf, const gsl_matrix *unrot,
 677         const gsl_vector *communalities,
 678         gsl_matrix *result,
 679         gsl_vector *rotated_loadings,
 680         gsl_matrix *pattern_matrix,
 681         gsl_matrix *factor_correlation_matrix
 682         )
 683 {
 684   int j, k;
 685   int i;
 686   double prev_sv;
 687
 688   /* First get a normalised version of UNROT */
 689   gsl_matrix *normalised = gsl_matrix_calloc (unrot->size1, unrot->size2);
 690   gsl_matrix *h_sqrt = gsl_matrix_calloc (communalities->size, communalities->size);
 691   gsl_matrix *h_sqrt_inv ;
 692
 693   /* H is the diagonal matrix containing the absolute values of the communalities */
 694   for (i = 0 ; i < communalities->size ; ++i)
 695     {
 696       double *ptr = gsl_matrix_ptr (h_sqrt, i, i);
 697       *ptr = fabs (gsl_vector_get (communalities, i));
 698     }
 699
 700   /* Take the square root of the communalities */
 701   gsl_linalg_cholesky_decomp (h_sqrt);
 702
 703
 704   /* Save a copy of h_sqrt and invert it */
 705   h_sqrt_inv = clone_matrix (h_sqrt);
 706   gsl_linalg_cholesky_decomp (h_sqrt_inv);
 707   gsl_linalg_cholesky_invert (h_sqrt_inv);
 708
 709   /* normalised vertion is H^{1/2} x UNROT */
 710   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0, h_sqrt_inv, unrot, 0.0, normalised);
 711
 712   gsl_matrix_free (h_sqrt_inv);
 713
 714
 715   /* Now perform the rotation iterations */
 716
 717   prev_sv = initial_sv (normalised);
 718   for (i = 0 ; i < cf->rotation_iterations ; ++i)
 719     {
 720       double sv = 0.0;
 721       for (j = 0 ; j < normalised->size2; ++j)
 722         {
 723           /* These variables relate to the convergence criterium */
 724           double l4s = 0;
 725           double l2s = 0;
 726
 727           for (k = j + 1 ; k < normalised->size2; ++k)
 728             {
 729               int p;
 730               double a = 0.0;
 731               double b = 0.0;
 732               double c = 0.0;
 733               double d = 0.0;
 734               double x, y;
 735               double phi;
 736
 737               for (p = 0; p < normalised->size1; ++p)
 738                 {
 739                   double jv = gsl_matrix_get (normalised, p, j);
 740                   double kv = gsl_matrix_get (normalised, p, k);
 741
 742                   double u = jv * jv - kv * kv;
 743                   double v = 2 * jv * kv;
 744                   a += u;
 745                   b += v;
 746                   c +=  u * u - v * v;
 747                   d += 2 * u * v;
 748                 }
 749
 750               rotation_coeff [cf->rotation] (&x, &y, a, b, c, d, normalised);
 751
 752               phi = atan2 (x,  y) / 4.0 ;
 753
 754               /* Don't bother rotating if the angle is small */
 755               if ( fabs (sin (phi) ) <= pow (10.0, -15.0))
 756                   continue;
 757
 758               for (p = 0; p < normalised->size1; ++p)
 759                 {
 760                   double *lambda0 = gsl_matrix_ptr (normalised, p, j);
 761                   double *lambda1 = gsl_matrix_ptr (normalised, p, k);
 762                   drot_go (phi, lambda0, lambda1);
 763                 }
 764
 765               /* Calculate the convergence criterium */
 766               {
 767                 double lambda = gsl_matrix_get (normalised, k, j);
 768                 double lambda_sq = lambda * lambda;
 769                 double lambda_4 = lambda_sq * lambda_sq;
 770
 771                 l4s += lambda_4;
 772                 l2s += lambda_sq;
 773               }
 774             }
 775           sv += ( normalised->size1 * l4s - (l2s * l2s) ) / (normalised->size1 * normalised->size1 );
 776         }
 777
 778       if ( fabs (sv - prev_sv) <= cf->rconverge)
 779         break;
 780
 781       prev_sv = sv;
 782     }
 783
 784   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0,
 785                   h_sqrt, normalised,  0.0,   result);
 786
 787   gsl_matrix_free (h_sqrt);
 788   gsl_matrix_free (normalised);
 789
 790   if (cf->rotation == ROT_PROMAX)
 791     {
 792       /* general purpose m by m matrix, where m is the number of factors */
 793       gsl_matrix *mm1 =  gsl_matrix_calloc (unrot->size2, unrot->size2);
 794       gsl_matrix *mm2 =  gsl_matrix_calloc (unrot->size2, unrot->size2);
 795
 796       /* general purpose m by p matrix, where p is the number of variables */
 797       gsl_matrix *mp1 =  gsl_matrix_calloc (unrot->size2, unrot->size1);
 798
 799       gsl_matrix *pm1 =  gsl_matrix_calloc (unrot->size1, unrot->size2);
 800
 801       gsl_permutation *perm = gsl_permutation_alloc (unrot->size2);
 802
 803       int signum;
 804
 805       int i, j;
 806
 807       /* The following variables follow the notation by SPSS Statistical Algorithms
 808          page 342 */
 809       gsl_matrix *L =  gsl_matrix_calloc (unrot->size2, unrot->size2);
 810       gsl_matrix *P = clone_matrix (result);
 811       gsl_matrix *D ;
 812       gsl_matrix *Q ;
 813
 814
 815       /* Vector of length p containing (indexed by i)
 816          \Sum^m_j {\lambda^2_{ij}} */
 817       gsl_vector *rssq = gsl_vector_calloc (unrot->size1);
 818
 819       for (i = 0; i < P->size1; ++i)
 820         {
 821           double sum = 0;
 822           for (j = 0; j < P->size2; ++j)
 823             {
 824               sum += gsl_matrix_get (result, i, j)
 825                 * gsl_matrix_get (result, i, j);
 826
 827             }
 828
 829           gsl_vector_set (rssq, i, sqrt (sum));
 830         }
 831
 832       for (i = 0; i < P->size1; ++i)
 833         {
 834           for (j = 0; j < P->size2; ++j)
 835             {
 836               double l = gsl_matrix_get (result, i, j);
 837               double r = gsl_vector_get (rssq, i);
 838               gsl_matrix_set (P, i, j, pow (fabs (l / r), cf->promax_power + 1) * r / l);
 839             }
 840         }
 841
 842       gsl_vector_free (rssq);
 843
 844       gsl_linalg_matmult_mod (result,
 845                               GSL_LINALG_MOD_TRANSPOSE,
 846                               result,
 847                               GSL_LINALG_MOD_NONE,
 848                               mm1);
 849
 850       gsl_linalg_LU_decomp (mm1, perm, &signum);
 851       gsl_linalg_LU_invert (mm1, perm, mm2);
 852
 853       gsl_linalg_matmult_mod (mm2,   GSL_LINALG_MOD_NONE,
 854                               result,  GSL_LINALG_MOD_TRANSPOSE,
 855                               mp1);
 856
 857       gsl_linalg_matmult_mod (mp1, GSL_LINALG_MOD_NONE,
 858                               P,   GSL_LINALG_MOD_NONE,
 859                               L);
 860
 861       D = diag_rcp_sqrt (L);
 862       Q = gsl_matrix_calloc (unrot->size2, unrot->size2);
 863
 864       gsl_linalg_matmult_mod (L, GSL_LINALG_MOD_NONE,
 865                               D, GSL_LINALG_MOD_NONE,
 866                               Q);
 867
 868       gsl_matrix *QQinv = gsl_matrix_calloc (unrot->size2, unrot->size2);
 869
 870       gsl_linalg_matmult_mod (Q, GSL_LINALG_MOD_TRANSPOSE,
 871                               Q,  GSL_LINALG_MOD_NONE,
 872                               QQinv);
 873
 874       gsl_linalg_cholesky_decomp (QQinv);
 875       gsl_linalg_cholesky_invert (QQinv);
 876
 877
 878       gsl_matrix *C = diag_rcp_inv_sqrt (QQinv);
 879       gsl_matrix *Cinv =  clone_matrix (C);
 880
 881       gsl_linalg_cholesky_decomp (Cinv);
 882       gsl_linalg_cholesky_invert (Cinv);
 883
 884
 885       gsl_linalg_matmult_mod (result, GSL_LINALG_MOD_NONE,
 886                               Q,      GSL_LINALG_MOD_NONE,
 887                               pm1);
 888
 889       gsl_linalg_matmult_mod (pm1,      GSL_LINALG_MOD_NONE,
 890                               Cinv,         GSL_LINALG_MOD_NONE,
 891                               pattern_matrix);
 892
 893
 894       gsl_linalg_matmult_mod (C,      GSL_LINALG_MOD_NONE,
 895                               QQinv,  GSL_LINALG_MOD_NONE,
 896                               mm1);
 897
 898       gsl_linalg_matmult_mod (mm1,      GSL_LINALG_MOD_NONE,
 899                               C,  GSL_LINALG_MOD_TRANSPOSE,
 900                               factor_correlation_matrix);
 901
 902       gsl_linalg_matmult_mod (pattern_matrix,      GSL_LINALG_MOD_NONE,
 903                               factor_correlation_matrix,  GSL_LINALG_MOD_NONE,
 904                               pm1);
 905
 906       gsl_matrix_memcpy (result, pm1);
 907
 908
 909       gsl_matrix_free (QQinv);
 910       gsl_matrix_free (C);
 911       gsl_matrix_free (Cinv);
 912
 913       gsl_matrix_free (D);
 914       gsl_matrix_free (Q);
 915       gsl_matrix_free (L);
 916       gsl_matrix_free (P);
 917
 918       gsl_permutation_free (perm);
 919
 920       gsl_matrix_free (mm1);
 921       gsl_matrix_free (mm2);
 922       gsl_matrix_free (mp1);
 923       gsl_matrix_free (pm1);
 924     }
 925
 926
 927   /* reflect negative sums and populate the rotated loadings vector*/
 928   for (i = 0 ; i < result->size2; ++i)
 929     {
 930       double ssq = 0.0;
 931       double sum = 0.0;
 932       for (j = 0 ; j < result->size1; ++j)
 933         {
 934           double s = gsl_matrix_get (result, j, i);
 935           ssq += s * s;
 936           sum += s;
 937         }
 938
 939       gsl_vector_set (rotated_loadings, i, ssq);
 940
 941       if ( sum < 0 )
 942         for (j = 0 ; j < result->size1; ++j)
 943           {
 944             double *lambda = gsl_matrix_ptr (result, j, i);
 945             *lambda = - *lambda;
 946           }
 947     }
 948 }
 949
 950
 951 /*
 952   Get an approximation for the factor matrix into FACTORS, and the communalities into COMMUNALITIES.
 953   R is the matrix to be analysed.
 954   WS is a pointer to a structure which must have been initialised with factor_matrix_workspace_init.
 955  */
 956 static void
 957 iterate_factor_matrix (const gsl_matrix *r, gsl_vector *communalities, gsl_matrix *factors,
 958                        struct factor_matrix_workspace *ws)
 959 {
 960   size_t i;
 961   gsl_matrix_view mv ;
 962
 963   assert (r->size1 == r->size2);
 964   assert (r->size1 == communalities->size);
 965
 966   assert (factors->size1 == r->size1);
 967   assert (factors->size2 == ws->n_factors);
 968
 969   gsl_matrix_memcpy (ws->r, r);
 970
 971   /* Apply Communalities to diagonal of correlation matrix */
 972   for (i = 0 ; i < communalities->size ; ++i)
 973     {
 974       double *x = gsl_matrix_ptr (ws->r, i, i);
 975       *x = gsl_vector_get (communalities, i);
 976     }
 977
 978   gsl_eigen_symmv (ws->r, ws->eval, ws->evec, ws->eigen_ws);
 979
 980   mv = gsl_matrix_submatrix (ws->evec, 0, 0, ws->evec->size1, ws->n_factors);
 981
 982   /* Gamma is the diagonal matrix containing the absolute values of the eigenvalues */
 983   for (i = 0 ; i < ws->n_factors ; ++i)
 984     {
 985       double *ptr = gsl_matrix_ptr (ws->gamma, i, i);
 986       *ptr = fabs (gsl_vector_get (ws->eval, i));
 987     }
 988
 989   /* Take the square root of gamma */
 990   gsl_linalg_cholesky_decomp (ws->gamma);
 991
 992   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0, &mv.matrix, ws->gamma, 0.0, factors);
 993
 994   for (i = 0 ; i < r->size1 ; ++i)
 995     {
 996       double h = the_communality (ws->evec, ws->eval, i, ws->n_factors);
 997       gsl_vector_set (communalities, i, h);
 998     }
 999 }
1000
1001
1002
1003 static bool run_factor (struct dataset *ds, const struct cmd_factor *factor);
1004
1005
1006 int
1007 cmd_factor (struct lexer *lexer, struct dataset *ds)
1008 {
1009   const struct dictionary *dict = dataset_dict (ds);
1010   int n_iterations = 25;
1011   struct cmd_factor factor;
1012   factor.n_vars = 0;
1013   factor.vars = NULL;
1014   factor.method = METHOD_CORR;
1015   factor.missing_type = MISS_LISTWISE;
1016   factor.exclude = MV_ANY;
1017   factor.print = PRINT_INITIAL | PRINT_EXTRACTION | PRINT_ROTATION;
1018   factor.extraction = EXTRACTION_PC;
1019   factor.n_factors = 0;
1020   factor.min_eigen = SYSMIS;
1021   factor.extraction_iterations = 25;
1022   factor.rotation_iterations = 25;
1023   factor.econverge = 0.001;
1024
1025   factor.blank = 0;
1026   factor.sort = false;
1027   factor.plot = 0;
1028   factor.rotation = ROT_VARIMAX;
1029
1030   factor.rconverge = 0.0001;
1031
1032   factor.wv = dict_get_weight (dict);
1033
1034   lex_match (lexer, T_SLASH);
1035
1036   if (!lex_force_match_id (lexer, "VARIABLES"))
1037     {
1038       goto error;
1039     }
1040
1041   lex_match (lexer, T_EQUALS);
1042
1043   if (!parse_variables_const (lexer, dict, &factor.vars, &factor.n_vars,
1044                               PV_NO_DUPLICATE | PV_NUMERIC))
1045     goto error;
1046
1047   if (factor.n_vars < 2)
1048     msg (MW, _("Factor analysis on a single variable is not useful."));
1049
1050   while (lex_token (lexer) != T_ENDCMD)
1051     {
1052       lex_match (lexer, T_SLASH);
1053
1054       if (lex_match_id (lexer, "PLOT"))
1055         {
1056           lex_match (lexer, T_EQUALS);
1057           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1058             {
1059               if (lex_match_id (lexer, "EIGEN"))
1060                 {
1061                   factor.plot |= PLOT_SCREE;
1062                 }
1063 #if FACTOR_FULLY_IMPLEMENTED
1064               else if (lex_match_id (lexer, "ROTATION"))
1065                 {
1066                 }
1067 #endif
1068               else
1069                 {
1070                   lex_error (lexer, NULL);
1071                   goto error;
1072                 }
1073             }
1074         }
1075       else if (lex_match_id (lexer, "METHOD"))
1076         {
1077           lex_match (lexer, T_EQUALS);
1078           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1079             {
1080               if (lex_match_id (lexer, "COVARIANCE"))
1081                 {
1082                   factor.method = METHOD_COV;
1083                 }
1084               else if (lex_match_id (lexer, "CORRELATION"))
1085                 {
1086                   factor.method = METHOD_CORR;
1087                 }
1088               else
1089                 {
1090                   lex_error (lexer, NULL);
1091                   goto error;
1092                 }
1093             }
1094         }
1095       else if (lex_match_id (lexer, "ROTATION"))
1096         {
1097           lex_match (lexer, T_EQUALS);
1098           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1099             {
1100               /* VARIMAX and DEFAULT are defaults */
1101               if (lex_match_id (lexer, "VARIMAX") || lex_match_id (lexer, "DEFAULT"))
1102                 {
1103                   factor.rotation = ROT_VARIMAX;
1104                 }
1105               else if (lex_match_id (lexer, "EQUAMAX"))
1106                 {
1107                   factor.rotation = ROT_EQUAMAX;
1108                 }
1109               else if (lex_match_id (lexer, "QUARTIMAX"))
1110                 {
1111                   factor.rotation = ROT_QUARTIMAX;
1112                 }
1113               else if (lex_match_id (lexer, "PROMAX"))
1114                 {
1115                   factor.promax_power = 5;
1116                   if (lex_match (lexer, T_LPAREN))
1117                     {
1118                       lex_force_int (lexer);
1119                       factor.promax_power = lex_integer (lexer);
1120                       lex_get (lexer);
1121                       lex_force_match (lexer, T_RPAREN);
1122                     }
1123                   factor.rotation = ROT_PROMAX;
1124                 }
1125               else if (lex_match_id (lexer, "NOROTATE"))
1126                 {
1127                   factor.rotation = ROT_NONE;
1128                 }
1129               else
1130                 {
1131                   lex_error (lexer, NULL);
1132                   goto error;
1133                 }
1134             }
1135           factor.rotation_iterations = n_iterations;
1136         }
1137       else if (lex_match_id (lexer, "CRITERIA"))
1138         {
1139           lex_match (lexer, T_EQUALS);
1140           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1141             {
1142               if (lex_match_id (lexer, "FACTORS"))
1143                 {
1144                   if ( lex_force_match (lexer, T_LPAREN))
1145                     {
1146                       lex_force_int (lexer);
1147                       factor.n_factors = lex_integer (lexer);
1148                       lex_get (lexer);
1149                       lex_force_match (lexer, T_RPAREN);
1150                     }
1151                 }
1152               else if (lex_match_id (lexer, "MINEIGEN"))
1153                 {
1154                   if ( lex_force_match (lexer, T_LPAREN))
1155                     {
1156                       lex_force_num (lexer);
1157                       factor.min_eigen = lex_number (lexer);
1158                       lex_get (lexer);
1159                       lex_force_match (lexer, T_RPAREN);
1160                     }
1161                 }
1162               else if (lex_match_id (lexer, "ECONVERGE"))
1163                 {
1164                   if ( lex_force_match (lexer, T_LPAREN))
1165                     {
1166                       lex_force_num (lexer);
1167                       factor.econverge = lex_number (lexer);
1168                       lex_get (lexer);
1169                       lex_force_match (lexer, T_RPAREN);
1170                     }
1171                 }
1172               else if (lex_match_id (lexer, "RCONVERGE"))
1173                 {
1174                   if ( lex_force_match (lexer, T_LPAREN))
1175                     {
1176                       lex_force_num (lexer);
1177                       factor.rconverge = lex_number (lexer);
1178                       lex_get (lexer);
1179                       lex_force_match (lexer, T_RPAREN);
1180                     }
1181                 }
1182               else if (lex_match_id (lexer, "ITERATE"))
1183                 {
1184                   if ( lex_force_match (lexer, T_LPAREN))
1185                     {
1186                       lex_force_int (lexer);
1187                       n_iterations = lex_integer (lexer);
1188                       lex_get (lexer);
1189                       lex_force_match (lexer, T_RPAREN);
1190                     }
1191                 }
1192               else if (lex_match_id (lexer, "DEFAULT"))
1193                 {
1194                   factor.n_factors = 0;
1195                   factor.min_eigen = 1;
1196                   n_iterations = 25;
1197                 }
1198               else
1199                 {
1200                   lex_error (lexer, NULL);
1201                   goto error;
1202                 }
1203             }
1204         }
1205       else if (lex_match_id (lexer, "EXTRACTION"))
1206         {
1207           lex_match (lexer, T_EQUALS);
1208           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1209             {
1210               if (lex_match_id (lexer, "PAF"))
1211                 {
1212                   factor.extraction = EXTRACTION_PAF;
1213                 }
1214               else if (lex_match_id (lexer, "PC"))
1215                 {
1216                   factor.extraction = EXTRACTION_PC;
1217                 }
1218               else if (lex_match_id (lexer, "PA1"))
1219                 {
1220                   factor.extraction = EXTRACTION_PC;
1221                 }
1222               else if (lex_match_id (lexer, "DEFAULT"))
1223                 {
1224                   factor.extraction = EXTRACTION_PC;
1225                 }
1226               else
1227                 {
1228                   lex_error (lexer, NULL);
1229                   goto error;
1230                 }
1231             }
1232           factor.extraction_iterations = n_iterations;
1233         }
1234       else if (lex_match_id (lexer, "FORMAT"))
1235         {
1236           lex_match (lexer, T_EQUALS);
1237           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1238             {
1239               if (lex_match_id (lexer, "SORT"))
1240                 {
1241                   factor.sort = true;
1242                 }
1243               else if (lex_match_id (lexer, "BLANK"))
1244                 {
1245                   if ( lex_force_match (lexer, T_LPAREN))
1246                     {
1247                       lex_force_num (lexer);
1248                       factor.blank = lex_number (lexer);
1249                       lex_get (lexer);
1250                       lex_force_match (lexer, T_RPAREN);
1251                     }
1252                 }
1253               else if (lex_match_id (lexer, "DEFAULT"))
1254                 {
1255                   factor.blank = 0;
1256                   factor.sort = false;
1257                 }
1258               else
1259                 {
1260                   lex_error (lexer, NULL);
1261                   goto error;
1262                 }
1263             }
1264         }
1265       else if (lex_match_id (lexer, "PRINT"))
1266         {
1267           factor.print = 0;
1268           lex_match (lexer, T_EQUALS);
1269           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1270             {
1271               if (lex_match_id (lexer, "UNIVARIATE"))
1272                 {
1273                   factor.print |= PRINT_UNIVARIATE;
1274                 }
1275               else if (lex_match_id (lexer, "DET"))
1276                 {
1277                   factor.print |= PRINT_DETERMINANT;
1278                 }
1279 #if FACTOR_FULLY_IMPLEMENTED
1280               else if (lex_match_id (lexer, "INV"))
1281                 {
1282                 }
1283               else if (lex_match_id (lexer, "AIC"))
1284                 {
1285                 }
1286 #endif
1287               else if (lex_match_id (lexer, "SIG"))
1288                 {
1289                   factor.print |= PRINT_SIG;
1290                 }
1291               else if (lex_match_id (lexer, "CORRELATION"))
1292                 {
1293                   factor.print |= PRINT_CORRELATION;
1294                 }
1295 #if FACTOR_FULLY_IMPLEMENTED
1296               else if (lex_match_id (lexer, "COVARIANCE"))
1297                 {
1298                 }
1299 #endif
1300               else if (lex_match_id (lexer, "ROTATION"))
1301                 {
1302                   factor.print |= PRINT_ROTATION;
1303                 }
1304               else if (lex_match_id (lexer, "EXTRACTION"))
1305                 {
1306                   factor.print |= PRINT_EXTRACTION;
1307                 }
1308               else if (lex_match_id (lexer, "INITIAL"))
1309                 {
1310                   factor.print |= PRINT_INITIAL;
1311                 }
1312               else if (lex_match_id (lexer, "KMO"))
1313                 {
1314                   factor.print |= PRINT_KMO;
1315                 }
1316 #if FACTOR_FULLY_IMPLEMENTED
1317               else if (lex_match_id (lexer, "REPR"))
1318                 {
1319                 }
1320               else if (lex_match_id (lexer, "FSCORE"))
1321                 {
1322                 }
1323 #endif
1324               else if (lex_match (lexer, T_ALL))
1325                 {
1326                   factor.print = 0xFFFF;
1327                 }
1328               else if (lex_match_id (lexer, "DEFAULT"))
1329                 {
1330                   factor.print |= PRINT_INITIAL ;
1331                   factor.print |= PRINT_EXTRACTION ;
1332                   factor.print |= PRINT_ROTATION ;
1333                 }
1334               else
1335                 {
1336                   lex_error (lexer, NULL);
1337                   goto error;
1338                 }
1339             }
1340         }
1341       else if (lex_match_id (lexer, "MISSING"))
1342         {
1343           lex_match (lexer, T_EQUALS);
1344           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1345             {
1346               if (lex_match_id (lexer, "INCLUDE"))
1347                 {
1348                   factor.exclude = MV_SYSTEM;
1349                 }
1350               else if (lex_match_id (lexer, "EXCLUDE"))
1351                 {
1352                   factor.exclude = MV_ANY;
1353                 }
1354               else if (lex_match_id (lexer, "LISTWISE"))
1355                 {
1356                   factor.missing_type = MISS_LISTWISE;
1357                 }
1358               else if (lex_match_id (lexer, "PAIRWISE"))
1359                 {
1360                   factor.missing_type = MISS_PAIRWISE;
1361                 }
1362               else if (lex_match_id (lexer, "MEANSUB"))
1363                 {
1364                   factor.missing_type = MISS_MEANSUB;
1365                 }
1366               else
1367                 {
1368                   lex_error (lexer, NULL);
1369                   goto error;
1370                 }
1371             }
1372         }
1373       else
1374         {
1375           lex_error (lexer, NULL);
1376           goto error;
1377         }
1378     }
1379
1380   if ( factor.rotation == ROT_NONE )
1381     factor.print &= ~PRINT_ROTATION;
1382
1383   if ( ! run_factor (ds, &factor))
1384     goto error;
1385
1386   free (factor.vars);
1387   return CMD_SUCCESS;
1388
1389  error:
1390   free (factor.vars);
1391   return CMD_FAILURE;
1392 }
1393
1394 static void do_factor (const struct cmd_factor *factor, struct casereader *group);
1395
1396
1397 static bool
1398 run_factor (struct dataset *ds, const struct cmd_factor *factor)
1399 {
1400   struct dictionary *dict = dataset_dict (ds);
1401   bool ok;
1402   struct casereader *group;
1403
1404   struct casegrouper *grouper = casegrouper_create_splits (proc_open (ds), dict);
1405
1406   while (casegrouper_get_next_group (grouper, &group))
1407     {
1408       if ( factor->missing_type == MISS_LISTWISE )
1409         group  = casereader_create_filter_missing (group, factor->vars, factor->n_vars,
1410                                                    factor->exclude,
1411                                                    NULL,  NULL);
1412       do_factor (factor, group);
1413     }
1414
1415   ok = casegrouper_destroy (grouper);
1416   ok = proc_commit (ds) && ok;
1417
1418   return ok;
1419 }
1420
1421
1422 /* Return the communality of variable N, calculated to N_FACTORS */
1423 static double
1424 the_communality (const gsl_matrix *evec, const gsl_vector *eval, int n, int n_factors)
1425 {
1426   size_t i;
1427
1428   double comm = 0;
1429
1430   assert (n >= 0);
1431   assert (n < eval->size);
1432   assert (n < evec->size1);
1433   assert (n_factors <= eval->size);
1434
1435   for (i = 0 ; i < n_factors; ++i)
1436     {
1437       double evali = fabs (gsl_vector_get (eval, i));
1438
1439       double eveci = gsl_matrix_get (evec, n, i);
1440
1441       comm += pow2 (eveci) * evali;
1442     }
1443
1444   return comm;
1445 }
1446
1447 /* Return the communality of variable N, calculated to N_FACTORS */
1448 static double
1449 communality (struct idata *idata, int n, int n_factors)
1450 {
1451   return the_communality (idata->evec, idata->eval, n, n_factors);
1452 }
1453
1454
1455 static void
1456 show_scree (const struct cmd_factor *f, struct idata *idata)
1457 {
1458   struct scree *s;
1459   const char *label ;
1460
1461   if ( !(f->plot & PLOT_SCREE) )
1462     return;
1463
1464
1465   label = f->extraction == EXTRACTION_PC ? _("Component Number") : _("Factor Number");
1466
1467   s = scree_create (idata->eval, label);
1468
1469   scree_submit (s);
1470 }
1471
1472 static void
1473 show_communalities (const struct cmd_factor * factor,
1474                     const gsl_vector *initial, const gsl_vector *extracted)
1475 {
1476   int i;
1477   int c = 0;
1478   const int heading_columns = 1;
1479   int nc = heading_columns;
1480   const int heading_rows = 1;
1481   const int nr = heading_rows + factor->n_vars;
1482   struct tab_table *t;
1483
1484   if (factor->print & PRINT_EXTRACTION)
1485     nc++;
1486
1487   if (factor->print & PRINT_INITIAL)
1488     nc++;
1489
1490   /* No point having a table with only headings */
1491   if (nc <= 1)
1492     return;
1493
1494   t = tab_create (nc, nr);
1495
1496   tab_title (t, _("Communalities"));
1497
1498   tab_headers (t, heading_columns, 0, heading_rows, 0);
1499
1500   c = 1;
1501   if (factor->print & PRINT_INITIAL)
1502     tab_text (t, c++, 0, TAB_CENTER | TAT_TITLE, _("Initial"));
1503
1504   if (factor->print & PRINT_EXTRACTION)
1505     tab_text (t, c++, 0, TAB_CENTER | TAT_TITLE, _("Extraction"));
1506
1507   /* Outline the box */
1508   tab_box (t,
1509            TAL_2, TAL_2,
1510            -1, -1,
1511            0, 0,
1512            nc - 1, nr - 1);
1513
1514   /* Vertical lines */
1515   tab_box (t,
1516            -1, -1,
1517            -1, TAL_1,
1518            heading_columns, 0,
1519            nc - 1, nr - 1);
1520
1521   tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
1522   tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
1523
1524   for (i = 0 ; i < factor->n_vars; ++i)
1525     {
1526       c = 0;
1527       tab_text (t, c++, i + heading_rows, TAT_TITLE, var_to_string (factor->vars[i]));
1528
1529       if (factor->print & PRINT_INITIAL)
1530         tab_double (t, c++, i + heading_rows, 0, gsl_vector_get (initial, i), NULL, RC_OTHER);
1531
1532       if (factor->print & PRINT_EXTRACTION)
1533         tab_double (t, c++, i + heading_rows, 0, gsl_vector_get (extracted, i), NULL, RC_OTHER);
1534     }
1535
1536   tab_submit (t);
1537 }
1538
1539
1540 static void
1541 show_factor_matrix (const struct cmd_factor *factor, struct idata *idata, const char *title, const gsl_matrix *fm)
1542 {
1543   int i;
1544
1545   const int n_factors = idata->n_extractions;
1546
1547   const int heading_columns = 1;
1548   const int heading_rows = 2;
1549   const int nr = heading_rows + factor->n_vars;
1550   const int nc = heading_columns + n_factors;
1551   gsl_permutation *perm;
1552
1553   struct tab_table *t = tab_create (nc, nr);
1554
1555   /*
1556   if ( factor->extraction == EXTRACTION_PC )
1557     tab_title (t, _("Component Matrix"));
1558   else
1559     tab_title (t, _("Factor Matrix"));
1560   */
1561
1562   tab_title (t, "%s", title);
1563
1564   tab_headers (t, heading_columns, 0, heading_rows, 0);
1565
1566   if ( factor->extraction == EXTRACTION_PC )
1567     tab_joint_text (t,
1568                     1, 0,
1569                     nc - 1, 0,
1570                     TAB_CENTER | TAT_TITLE, _("Component"));
1571   else
1572     tab_joint_text (t,
1573                     1, 0,
1574                     nc - 1, 0,
1575                     TAB_CENTER | TAT_TITLE, _("Factor"));
1576
1577
1578   tab_hline (t, TAL_1, heading_columns, nc - 1, 1);
1579
1580
1581   /* Outline the box */
1582   tab_box (t,
1583            TAL_2, TAL_2,
1584            -1, -1,
1585            0, 0,
1586            nc - 1, nr - 1);
1587
1588   /* Vertical lines */
1589   tab_box (t,
1590            -1, -1,
1591            -1, TAL_1,
1592            heading_columns, 1,
1593            nc - 1, nr - 1);
1594
1595   tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
1596   tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
1597
1598
1599   /* Initialise to the identity permutation */
1600   perm = gsl_permutation_calloc (factor->n_vars);
1601
1602   if ( factor->sort)
1603     sort_matrix_indirect (fm, perm);
1604
1605   for (i = 0 ; i < n_factors; ++i)
1606     {
1607       tab_text_format (t, heading_columns + i, 1, TAB_CENTER | TAT_TITLE, _("%d"), i + 1);
1608     }
1609
1610   for (i = 0 ; i < factor->n_vars; ++i)
1611     {
1612       int j;
1613       const int matrix_row = perm->data[i];
1614       tab_text (t, 0, i + heading_rows, TAT_TITLE, var_to_string (factor->vars[matrix_row]));
1615
1616       for (j = 0 ; j < n_factors; ++j)
1617         {
1618           double x = gsl_matrix_get (fm, matrix_row, j);
1619
1620           if ( fabs (x) < factor->blank)
1621             continue;
1622
1623           tab_double (t, heading_columns + j, heading_rows + i, 0, x, NULL, RC_OTHER);
1624         }
1625     }
1626
1627   gsl_permutation_free (perm);
1628
1629   tab_submit (t);
1630 }
1631
1632
1633 static void
1634 show_explained_variance (const struct cmd_factor * factor, struct idata *idata,
1635                          const gsl_vector *initial_eigenvalues,
1636                          const gsl_vector *extracted_eigenvalues,
1637                          const gsl_vector *rotated_loadings)
1638 {
1639   size_t i;
1640   int c = 0;
1641   const int heading_columns = 1;
1642   const int heading_rows = 2;
1643   const int nr = heading_rows + factor->n_vars;
1644
1645   struct tab_table *t ;
1646
1647   double i_total = 0.0;
1648   double i_cum = 0.0;
1649
1650   double e_total = 0.0;
1651   double e_cum = 0.0;
1652
1653   double r_cum = 0.0;
1654
1655   int nc = heading_columns;
1656
1657   if (factor->print & PRINT_EXTRACTION)
1658     nc += 3;
1659
1660   if (factor->print & PRINT_INITIAL)
1661     nc += 3;
1662
1663   if (factor->print & PRINT_ROTATION)
1664     {
1665       nc += factor->rotation == ROT_PROMAX ? 1 : 3;
1666     }
1667
1668   /* No point having a table with only headings */
1669   if ( nc <= heading_columns)
1670     return;
1671
1672   t = tab_create (nc, nr);
1673
1674   tab_title (t, _("Total Variance Explained"));
1675
1676   tab_headers (t, heading_columns, 0, heading_rows, 0);
1677
1678   /* Outline the box */
1679   tab_box (t,
1680            TAL_2, TAL_2,
1681            -1, -1,
1682            0, 0,
1683            nc - 1, nr - 1);
1684
1685   /* Vertical lines */
1686   tab_box (t,
1687            -1, -1,
1688            -1, TAL_1,
1689            heading_columns, 0,
1690            nc - 1, nr - 1);
1691
1692   tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
1693   tab_hline (t, TAL_1, 1, nc - 1, 1);
1694
1695   tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
1696
1697
1698   if ( factor->extraction == EXTRACTION_PC)
1699     tab_text (t, 0, 1, TAB_LEFT | TAT_TITLE, _("Component"));
1700   else
1701     tab_text (t, 0, 1, TAB_LEFT | TAT_TITLE, _("Factor"));
1702
1703   c = 1;
1704   if (factor->print & PRINT_INITIAL)
1705     {
1706       tab_joint_text (t, c, 0, c + 2, 0, TAB_CENTER | TAT_TITLE, _("Initial Eigenvalues"));
1707       c += 3;
1708     }
1709
1710   if (factor->print & PRINT_EXTRACTION)
1711     {
1712       tab_joint_text (t, c, 0, c + 2, 0, TAB_CENTER | TAT_TITLE, _("Extraction Sums of Squared Loadings"));
1713       c += 3;
1714     }
1715
1716   if (factor->print & PRINT_ROTATION)
1717     {
1718       const int width = factor->rotation == ROT_PROMAX ? 0 : 2;
1719       tab_joint_text (t, c, 0, c + width, 0, TAB_CENTER | TAT_TITLE, _("Rotation Sums of Squared Loadings"));
1720       c += width + 1;
1721     }
1722
1723   for (i = 0; i < (nc - heading_columns + 2) / 3 ; ++i)
1724     {
1725       tab_text (t, i * 3 + 1, 1, TAB_CENTER | TAT_TITLE, _("Total"));
1726
1727       tab_vline (t, TAL_2, heading_columns + i * 3, 0, nr - 1);
1728
1729       if (i == 2 && factor->rotation == ROT_PROMAX)
1730         continue;
1731
1732       /* xgettext:no-c-format */
1733       tab_text (t, i * 3 + 2, 1, TAB_CENTER | TAT_TITLE, _("% of Variance"));
1734       tab_text (t, i * 3 + 3, 1, TAB_CENTER | TAT_TITLE, _("Cumulative %"));
1735     }
1736
1737   for (i = 0 ; i < initial_eigenvalues->size; ++i)
1738     i_total += gsl_vector_get (initial_eigenvalues, i);
1739
1740   if ( factor->extraction == EXTRACTION_PAF)
1741     {
1742       e_total = factor->n_vars;
1743     }
1744   else
1745     {
1746       e_total = i_total;
1747     }
1748
1749   for (i = 0 ; i < factor->n_vars; ++i)
1750     {
1751       const double i_lambda = gsl_vector_get (initial_eigenvalues, i);
1752       double i_percent = 100.0 * i_lambda / i_total ;
1753
1754       const double e_lambda = gsl_vector_get (extracted_eigenvalues, i);
1755       double e_percent = 100.0 * e_lambda / e_total ;
1756
1757       c = 0;
1758
1759       tab_text_format (t, c++, i + heading_rows, TAB_LEFT | TAT_TITLE, _("%zu"), i + 1);
1760
1761       i_cum += i_percent;
1762       e_cum += e_percent;
1763
1764       /* Initial Eigenvalues */
1765       if (factor->print & PRINT_INITIAL)
1766       {
1767         tab_double (t, c++, i + heading_rows, 0, i_lambda, NULL, RC_OTHER);
1768         tab_double (t, c++, i + heading_rows, 0, i_percent, NULL, RC_OTHER);
1769         tab_double (t, c++, i + heading_rows, 0, i_cum, NULL, RC_OTHER);
1770       }
1771
1772
1773       if (factor->print & PRINT_EXTRACTION)
1774         {
1775           if (i < idata->n_extractions)
1776             {
1777               /* Sums of squared loadings */
1778               tab_double (t, c++, i + heading_rows, 0, e_lambda, NULL, RC_OTHER);
1779               tab_double (t, c++, i + heading_rows, 0, e_percent, NULL, RC_OTHER);
1780               tab_double (t, c++, i + heading_rows, 0, e_cum, NULL, RC_OTHER);
1781             }
1782         }
1783
1784       if (rotated_loadings != NULL)
1785         {
1786           const double r_lambda = gsl_vector_get (rotated_loadings, i);
1787           double r_percent = 100.0 * r_lambda / e_total ;
1788
1789           if (factor->print & PRINT_ROTATION)
1790             {
1791               if (i < idata->n_extractions)
1792                 {
1793                   r_cum += r_percent;
1794                   tab_double (t, c++, i + heading_rows, 0, r_lambda, NULL, RC_OTHER);
1795                   if (factor->rotation != ROT_PROMAX)
1796                     {
1797                       tab_double (t, c++, i + heading_rows, 0, r_percent, NULL, RC_OTHER);
1798                       tab_double (t, c++, i + heading_rows, 0, r_cum, NULL, RC_OTHER);
1799                     }
1800                 }
1801             }
1802         }
1803     }
1804
1805   tab_submit (t);
1806 }
1807
1808
1809 static void
1810 show_factor_correlation (const struct cmd_factor * factor, const gsl_matrix *fcm)
1811 {
1812   size_t i, j;
1813   const int heading_columns = 1;
1814   const int heading_rows = 1;
1815   const int nr = heading_rows + fcm->size2;
1816   const int nc = heading_columns + fcm->size1;
1817   struct tab_table *t = tab_create (nc, nr);
1818
1819   tab_title (t, _("Factor Correlation Matrix"));
1820
1821   tab_headers (t, heading_columns, 0, heading_rows, 0);
1822
1823   /* Outline the box */
1824   tab_box (t,
1825            TAL_2, TAL_2,
1826            -1, -1,
1827            0, 0,
1828            nc - 1, nr - 1);
1829
1830   /* Vertical lines */
1831   tab_box (t,
1832            -1, -1,
1833            -1, TAL_1,
1834            heading_columns, 0,
1835            nc - 1, nr - 1);
1836
1837   tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
1838   tab_hline (t, TAL_1, 1, nc - 1, 1);
1839
1840   tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
1841
1842
1843   if ( factor->extraction == EXTRACTION_PC)
1844     tab_text (t, 0, 0, TAB_LEFT | TAT_TITLE, _("Component"));
1845   else
1846     tab_text (t, 0, 0, TAB_LEFT | TAT_TITLE, _("Factor"));
1847
1848   for (i = 0 ; i < fcm->size1; ++i)
1849     {
1850       tab_text_format (t, heading_columns + i, 0, TAB_CENTER | TAT_TITLE, _("%zu"), i + 1);
1851     }
1852
1853   for (i = 0 ; i < fcm->size2; ++i)
1854     {
1855       tab_text_format (t, 0, heading_rows + i, TAB_CENTER | TAT_TITLE, _("%zu"), i + 1);
1856     }
1857
1858
1859   for (i = 0 ; i < fcm->size1; ++i)
1860     {
1861       for (j = 0 ; j < fcm->size2; ++j)
1862         tab_double (t, heading_columns + i,  heading_rows +j, 0,
1863                     gsl_matrix_get (fcm, i, j), NULL, RC_OTHER);
1864     }
1865
1866   tab_submit (t);
1867 }
1868
1869
1870 static void
1871 show_correlation_matrix (const struct cmd_factor *factor, const struct idata *idata)
1872 {
1873   struct tab_table *t ;
1874   size_t i, j;
1875   int y_pos_corr = -1;
1876   int y_pos_sig = -1;
1877   int suffix_rows = 0;
1878
1879   const int heading_rows = 1;
1880   const int heading_columns = 2;
1881
1882   int nc = heading_columns ;
1883   int nr = heading_rows ;
1884   int n_data_sets = 0;
1885
1886   if (factor->print & PRINT_CORRELATION)
1887     {
1888       y_pos_corr = n_data_sets;
1889       n_data_sets++;
1890       nc = heading_columns + factor->n_vars;
1891     }
1892
1893   if (factor->print & PRINT_SIG)
1894     {
1895       y_pos_sig = n_data_sets;
1896       n_data_sets++;
1897       nc = heading_columns + factor->n_vars;
1898     }
1899
1900   nr += n_data_sets * factor->n_vars;
1901
1902   if (factor->print & PRINT_DETERMINANT)
1903     suffix_rows = 1;
1904
1905   /* If the table would contain only headings, don't bother rendering it */
1906   if (nr <= heading_rows && suffix_rows == 0)
1907     return;
1908
1909   t = tab_create (nc, nr + suffix_rows);
1910
1911   tab_title (t, _("Correlation Matrix"));
1912
1913   tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
1914
1915   if (nr > heading_rows)
1916     {
1917       tab_headers (t, heading_columns, 0, heading_rows, 0);
1918
1919       tab_vline (t, TAL_2, 2, 0, nr - 1);
1920
1921       /* Outline the box */
1922       tab_box (t,
1923                TAL_2, TAL_2,
1924                -1, -1,
1925                0, 0,
1926                nc - 1, nr - 1);
1927
1928       /* Vertical lines */
1929       tab_box (t,
1930                -1, -1,
1931                -1, TAL_1,
1932                heading_columns, 0,
1933                nc - 1, nr - 1);
1934
1935
1936       for (i = 0; i < factor->n_vars; ++i)
1937         tab_text (t, heading_columns + i, 0, TAT_TITLE, var_to_string (factor->vars[i]));
1938
1939
1940       for (i = 0 ; i < n_data_sets; ++i)
1941         {
1942           int y = heading_rows + i * factor->n_vars;
1943           size_t v;
1944           for (v = 0; v < factor->n_vars; ++v)
1945             tab_text (t, 1, y + v, TAT_TITLE, var_to_string (factor->vars[v]));
1946
1947           tab_hline (t, TAL_1, 0, nc - 1, y);
1948         }
1949
1950       if (factor->print & PRINT_CORRELATION)
1951         {
1952           const double y = heading_rows + y_pos_corr;
1953           tab_text (t, 0, y, TAT_TITLE, _("Correlations"));
1954
1955           for (i = 0; i < factor->n_vars; ++i)
1956             {
1957               for (j = 0; j < factor->n_vars; ++j)
1958                 tab_double (t, heading_columns + i,  y + j, 0, gsl_matrix_get (idata->corr, i, j), NULL, RC_OTHER);
1959             }
1960         }
1961
1962       if (factor->print & PRINT_SIG)
1963         {
1964           const double y = heading_rows + y_pos_sig * factor->n_vars;
1965           tab_text (t, 0, y, TAT_TITLE, _("Sig. (1-tailed)"));
1966
1967           for (i = 0; i < factor->n_vars; ++i)
1968             {
1969               for (j = 0; j < factor->n_vars; ++j)
1970                 {
1971                   double rho = gsl_matrix_get (idata->corr, i, j);
1972                   double w = gsl_matrix_get (idata->n, i, j);
1973
1974                   if (i == j)
1975                     continue;
1976
1977                   tab_double (t, heading_columns + i,  y + j, 0, significance_of_correlation (rho, w), NULL, RC_PVALUE);
1978                 }
1979             }
1980         }
1981     }
1982
1983   if (factor->print & PRINT_DETERMINANT)
1984     {
1985       tab_text (t, 0, nr, TAB_LEFT | TAT_TITLE, _("Determinant"));
1986
1987       tab_double (t, 1, nr, 0, idata->detR, NULL, RC_OTHER);
1988     }
1989
1990   tab_submit (t);
1991 }
1992
1993
1994
1995 static void
1996 do_factor (const struct cmd_factor *factor, struct casereader *r)
1997 {
1998   struct ccase *c;
1999   const gsl_matrix *var_matrix;
2000   const gsl_matrix *mean_matrix;
2001
2002   const gsl_matrix *analysis_matrix;
2003   struct idata *idata = idata_alloc (factor->n_vars);
2004
2005   struct covariance *cov = covariance_1pass_create (factor->n_vars, factor->vars,
2006                                               factor->wv, factor->exclude);
2007
2008   for ( ; (c = casereader_read (r) ); case_unref (c))
2009     {
2010       covariance_accumulate (cov, c);
2011     }
2012
2013   idata->cov = covariance_calculate (cov);
2014
2015   if (idata->cov == NULL)
2016     {
2017       msg (MW, _("The dataset contains no complete observations. No analysis will be performed."));
2018       covariance_destroy (cov);
2019       goto finish;
2020     }
2021
2022   var_matrix = covariance_moments (cov, MOMENT_VARIANCE);
2023   mean_matrix = covariance_moments (cov, MOMENT_MEAN);
2024   idata->n = covariance_moments (cov, MOMENT_NONE);
2025
2026
2027   if ( factor->method == METHOD_CORR)
2028     {
2029       idata->corr = correlation_from_covariance (idata->cov, var_matrix);
2030
2031       analysis_matrix = idata->corr;
2032     }
2033   else
2034     analysis_matrix = idata->cov;
2035
2036
2037   if (factor->print & PRINT_DETERMINANT
2038       || factor->print & PRINT_KMO)
2039     {
2040       int sign = 0;
2041
2042       const int size = idata->corr->size1;
2043       gsl_permutation *p = gsl_permutation_calloc (size);
2044       gsl_matrix *tmp = gsl_matrix_calloc (size, size);
2045       gsl_matrix_memcpy (tmp, idata->corr);
2046
2047       gsl_linalg_LU_decomp (tmp, p, &sign);
2048       idata->detR = gsl_linalg_LU_det (tmp, sign);
2049       gsl_permutation_free (p);
2050       gsl_matrix_free (tmp);
2051     }
2052
2053   if ( factor->print & PRINT_UNIVARIATE)
2054     {
2055       const struct fmt_spec *wfmt = factor->wv ? var_get_print_format (factor->wv) : & F_8_0;
2056       const int nc = 4;
2057       int i;
2058
2059       const int heading_columns = 1;
2060       const int heading_rows = 1;
2061
2062       const int nr = heading_rows + factor->n_vars;
2063
2064       struct tab_table *t = tab_create (nc, nr);
2065       tab_set_format (t, RC_WEIGHT, wfmt);
2066       tab_title (t, _("Descriptive Statistics"));
2067
2068       tab_headers (t, heading_columns, 0, heading_rows, 0);
2069
2070       /* Outline the box */
2071       tab_box (t,
2072                TAL_2, TAL_2,
2073                -1, -1,
2074                0, 0,
2075                nc - 1, nr - 1);
2076
2077       /* Vertical lines */
2078       tab_box (t,
2079                -1, -1,
2080                -1, TAL_1,
2081                heading_columns, 0,
2082                nc - 1, nr - 1);
2083
2084       tab_hline (t, TAL_1, 0, nc - 1, heading_rows);
2085       tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
2086
2087       tab_text (t, 1, 0, TAB_CENTER | TAT_TITLE, _("Mean"));
2088       tab_text (t, 2, 0, TAB_CENTER | TAT_TITLE, _("Std. Deviation"));
2089       tab_text (t, 3, 0, TAB_CENTER | TAT_TITLE, _("Analysis N"));
2090
2091       for (i = 0 ; i < factor->n_vars; ++i)
2092         {
2093           const struct variable *v = factor->vars[i];
2094           tab_text (t, 0, i + heading_rows, TAB_LEFT | TAT_TITLE, var_to_string (v));
2095
2096           tab_double (t, 1, i + heading_rows, 0, gsl_matrix_get (mean_matrix, i, i), NULL, RC_OTHER);
2097           tab_double (t, 2, i + heading_rows, 0, sqrt (gsl_matrix_get (var_matrix, i, i)), NULL, RC_OTHER);
2098           tab_double (t, 3, i + heading_rows, 0, gsl_matrix_get (idata->n, i, i), NULL, RC_WEIGHT);
2099         }
2100
2101       tab_submit (t);
2102     }
2103
2104   if (factor->print & PRINT_KMO)
2105     {
2106       int i;
2107       double sum_ssq_r = 0;
2108       double sum_ssq_a = 0;
2109
2110       double df = factor->n_vars * ( factor->n_vars - 1) / 2;
2111
2112       double w = 0;
2113
2114
2115       double xsq;
2116
2117       const int heading_columns = 2;
2118       const int heading_rows = 0;
2119
2120       const int nr = heading_rows + 4;
2121       const int nc = heading_columns + 1;
2122
2123       gsl_matrix *a, *x;
2124
2125       struct tab_table *t = tab_create (nc, nr);
2126       tab_title (t, _("KMO and Bartlett's Test"));
2127
2128       x  = clone_matrix (idata->corr);
2129       gsl_linalg_cholesky_decomp (x);
2130       gsl_linalg_cholesky_invert (x);
2131
2132       a = anti_image (x);
2133
2134       for (i = 0; i < x->size1; ++i)
2135         {
2136           sum_ssq_r += ssq_od_n (x, i);
2137           sum_ssq_a += ssq_od_n (a, i);
2138         }
2139
2140       gsl_matrix_free (a);
2141       gsl_matrix_free (x);
2142
2143       tab_headers (t, heading_columns, 0, heading_rows, 0);
2144
2145       /* Outline the box */
2146       tab_box (t,
2147                TAL_2, TAL_2,
2148                -1, -1,
2149                0, 0,
2150                nc - 1, nr - 1);
2151
2152       tab_vline (t, TAL_2, heading_columns, 0, nr - 1);
2153
2154       tab_text (t, 0, 0, TAT_TITLE | TAB_LEFT, _("Kaiser-Meyer-Olkin Measure of Sampling Adequacy"));
2155
2156       tab_double (t, 2, 0, 0, sum_ssq_r /  (sum_ssq_r + sum_ssq_a), NULL, RC_OTHER);
2157
2158       tab_text (t, 0, 1, TAT_TITLE | TAB_LEFT, _("Bartlett's Test of Sphericity"));
2159
2160       tab_text (t, 1, 1, TAT_TITLE, _("Approx. Chi-Square"));
2161       tab_text (t, 1, 2, TAT_TITLE, _("df"));
2162       tab_text (t, 1, 3, TAT_TITLE, _("Sig."));
2163
2164
2165       /* The literature doesn't say what to do for the value of W when
2166          missing values are involved.  The best thing I can think of
2167          is to take the mean average. */
2168       w = 0;
2169       for (i = 0; i < idata->n->size1; ++i)
2170         w += gsl_matrix_get (idata->n, i, i);
2171       w /= idata->n->size1;
2172
2173       xsq = w - 1 - (2 * factor->n_vars + 5) / 6.0;
2174       xsq *= -log (idata->detR);
2175
2176       tab_double (t, 2, 1, 0, xsq, NULL, RC_OTHER);
2177       tab_double (t, 2, 2, 0, df, NULL, RC_INTEGER);
2178       tab_double (t, 2, 3, 0, gsl_cdf_chisq_Q (xsq, df), NULL, RC_PVALUE);
2179
2180
2181       tab_submit (t);
2182     }
2183
2184   show_correlation_matrix (factor, idata);
2185   covariance_destroy (cov);
2186
2187   {
2188     gsl_matrix *am = matrix_dup (analysis_matrix);
2189     gsl_eigen_symmv_workspace *workspace = gsl_eigen_symmv_alloc (factor->n_vars);
2190
2191     gsl_eigen_symmv (am, idata->eval, idata->evec, workspace);
2192
2193     gsl_eigen_symmv_free (workspace);
2194     gsl_matrix_free (am);
2195   }
2196
2197   gsl_eigen_symmv_sort (idata->eval, idata->evec, GSL_EIGEN_SORT_ABS_DESC);
2198
2199   idata->n_extractions = n_extracted_factors (factor, idata);
2200
2201   if (idata->n_extractions == 0)
2202     {
2203       msg (MW, _("The %s criteria result in zero factors extracted. Therefore no analysis will be performed."), "FACTOR");
2204       goto finish;
2205     }
2206
2207   if (idata->n_extractions > factor->n_vars)
2208     {
2209       msg (MW,
2210            _("The %s criteria result in more factors than variables, which is not meaningful. No analysis will be performed."),
2211            "FACTOR");
2212       goto finish;
2213     }
2214
2215   {
2216     gsl_matrix *rotated_factors = NULL;
2217     gsl_matrix *pattern_matrix = NULL;
2218     gsl_matrix *fcm = NULL;
2219     gsl_vector *rotated_loadings = NULL;
2220
2221     const gsl_vector *extracted_eigenvalues = NULL;
2222     gsl_vector *initial_communalities = gsl_vector_alloc (factor->n_vars);
2223     gsl_vector *extracted_communalities = gsl_vector_alloc (factor->n_vars);
2224     size_t i;
2225     struct factor_matrix_workspace *fmw = factor_matrix_workspace_alloc (idata->msr->size, idata->n_extractions);
2226     gsl_matrix *factor_matrix = gsl_matrix_calloc (factor->n_vars, fmw->n_factors);
2227
2228     if ( factor->extraction == EXTRACTION_PAF)
2229       {
2230         gsl_vector *diff = gsl_vector_alloc (idata->msr->size);
2231         struct smr_workspace *ws = ws_create (analysis_matrix);
2232
2233         for (i = 0 ; i < factor->n_vars ; ++i)
2234           {
2235             double r2 = squared_multiple_correlation (analysis_matrix, i, ws);
2236
2237             gsl_vector_set (idata->msr, i, r2);
2238           }
2239         ws_destroy (ws);
2240
2241         gsl_vector_memcpy (initial_communalities, idata->msr);
2242
2243         for (i = 0; i < factor->extraction_iterations; ++i)
2244           {
2245             double min, max;
2246             gsl_vector_memcpy (diff, idata->msr);
2247
2248             iterate_factor_matrix (analysis_matrix, idata->msr, factor_matrix, fmw);
2249
2250             gsl_vector_sub (diff, idata->msr);
2251
2252             gsl_vector_minmax (diff, &min, &max);
2253
2254             if ( fabs (min) < factor->econverge && fabs (max) < factor->econverge)
2255               break;
2256           }
2257         gsl_vector_free (diff);
2258
2259
2260
2261         gsl_vector_memcpy (extracted_communalities, idata->msr);
2262         extracted_eigenvalues = fmw->eval;
2263       }
2264     else if (factor->extraction == EXTRACTION_PC)
2265       {
2266         for (i = 0; i < factor->n_vars; ++i)
2267           gsl_vector_set (initial_communalities, i, communality (idata, i, factor->n_vars));
2268
2269         gsl_vector_memcpy (extracted_communalities, initial_communalities);
2270
2271         iterate_factor_matrix (analysis_matrix, extracted_communalities, factor_matrix, fmw);
2272
2273
2274         extracted_eigenvalues = idata->eval;
2275       }
2276
2277
2278     show_communalities (factor, initial_communalities, extracted_communalities);
2279
2280
2281     if ( factor->rotation != ROT_NONE)
2282       {
2283         rotated_factors = gsl_matrix_calloc (factor_matrix->size1, factor_matrix->size2);
2284         rotated_loadings = gsl_vector_calloc (factor_matrix->size2);
2285         if (factor->rotation == ROT_PROMAX)
2286           {
2287             pattern_matrix = gsl_matrix_calloc (factor_matrix->size1, factor_matrix->size2);
2288             fcm = gsl_matrix_calloc (factor_matrix->size2, factor_matrix->size2);
2289           }
2290
2291
2292         rotate (factor, factor_matrix, extracted_communalities, rotated_factors, rotated_loadings, pattern_matrix, fcm);
2293       }
2294
2295     show_explained_variance (factor, idata, idata->eval, extracted_eigenvalues, rotated_loadings);
2296
2297     factor_matrix_workspace_free (fmw);
2298
2299     show_scree (factor, idata);
2300
2301     show_factor_matrix (factor, idata,
2302                         factor->extraction == EXTRACTION_PC ? _("Component Matrix") : _("Factor Matrix"),
2303                         factor_matrix);
2304
2305     if ( factor->rotation == ROT_PROMAX)
2306       {
2307         show_factor_matrix (factor, idata, _("Pattern Matrix"),  pattern_matrix);
2308         gsl_matrix_free (pattern_matrix);
2309       }
2310
2311     if ( factor->rotation != ROT_NONE)
2312       {
2313         show_factor_matrix (factor, idata,
2314                             (factor->rotation == ROT_PROMAX) ? _("Structure Matrix") :
2315                             (factor->extraction == EXTRACTION_PC ? _("Rotated Component Matrix") : _("Rotated Factor Matrix")),
2316                             rotated_factors);
2317
2318         gsl_matrix_free (rotated_factors);
2319       }
2320
2321     if ( factor->rotation == ROT_PROMAX)
2322       {
2323         show_factor_correlation (factor, fcm);
2324         gsl_matrix_free (fcm);
2325       }
2326
2327     gsl_matrix_free (factor_matrix);
2328     gsl_vector_free (rotated_loadings);
2329     gsl_vector_free (initial_communalities);
2330     gsl_vector_free (extracted_communalities);
2331   }
2332
2333  finish:
2334
2335   idata_free (idata);
2336
2337   casereader_destroy (r);
2338 }
2339
2340