4ec49010c9dcf6fc44a2ca934ef6ec4e942ce644
[pspp] / src / language / stats / factor.c
1 /* PSPP - a program for statistical analysis.
2    Copyright (C) 2009, 2010, 2011, 2012, 2014, 2015,
3    2016, 2017 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation, either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>. */
17
18 #include <config.h>
19
20 #include <gsl/gsl_vector.h>
21 #include <gsl/gsl_linalg.h>
22 #include <gsl/gsl_matrix.h>
23 #include <gsl/gsl_eigen.h>
24 #include <gsl/gsl_blas.h>
25 #include <gsl/gsl_sort_vector.h>
26 #include <gsl/gsl_cdf.h>
27
28 #include "data/any-reader.h"
29 #include "data/casegrouper.h"
30 #include "data/casereader.h"
31 #include "data/casewriter.h"
32 #include "data/dataset.h"
33 #include "data/dictionary.h"
34 #include "data/format.h"
35 #include "data/subcase.h"
36 #include "language/command.h"
37 #include "language/lexer/lexer.h"
38 #include "language/lexer/value-parser.h"
39 #include "language/lexer/variable-parser.h"
40 #include "language/data-io/file-handle.h"
41 #include "language/data-io/matrix-reader.h"
42 #include "libpspp/cast.h"
43 #include "libpspp/message.h"
44 #include "libpspp/misc.h"
45 #include "math/correlation.h"
46 #include "math/covariance.h"
47 #include "math/moments.h"
48 #include "output/charts/scree.h"
49 #include "output/pivot-table.h"
50
51
52 #include "gettext.h"
53 #define _(msgid) gettext (msgid)
54 #define N_(msgid) msgid
55
56 enum method
57   {
58     METHOD_CORR,
59     METHOD_COV
60   };
61
62 enum missing_type
63   {
64     MISS_LISTWISE,
65     MISS_PAIRWISE,
66     MISS_MEANSUB,
67   };
68
69 enum extraction_method
70   {
71     EXTRACTION_PC,
72     EXTRACTION_PAF,
73   };
74
75 enum plot_opts
76   {
77     PLOT_SCREE = 0x0001,
78     PLOT_ROTATION = 0x0002
79   };
80
81 enum print_opts
82   {
83     PRINT_UNIVARIATE  = 0x0001,
84     PRINT_DETERMINANT = 0x0002,
85     PRINT_INV         = 0x0004,
86     PRINT_AIC         = 0x0008,
87     PRINT_SIG         = 0x0010,
88     PRINT_COVARIANCE  = 0x0020,
89     PRINT_CORRELATION = 0x0040,
90     PRINT_ROTATION    = 0x0080,
91     PRINT_EXTRACTION  = 0x0100,
92     PRINT_INITIAL     = 0x0200,
93     PRINT_KMO         = 0x0400,
94     PRINT_REPR        = 0x0800,
95     PRINT_FSCORE      = 0x1000
96   };
97
98 enum rotation_type
99   {
100     ROT_VARIMAX = 0,
101     ROT_EQUAMAX,
102     ROT_QUARTIMAX,
103     ROT_PROMAX,
104     ROT_NONE
105   };
106
107 typedef void (*rotation_coefficients) (double *x, double *y,
108                                     double a, double b, double c, double d,
109                                     const gsl_matrix *loadings);
110
111
112 static void
113 varimax_coefficients (double *x, double *y,
114                       double a, double b, double c, double d,
115                       const gsl_matrix *loadings)
116 {
117   *x = d - 2 * a * b / loadings->size1;
118   *y = c - (a * a - b * b) / loadings->size1;
119 }
120
121 static void
122 equamax_coefficients (double *x, double *y,
123                       double a, double b, double c, double d,
124                       const gsl_matrix *loadings)
125 {
126   *x = d - loadings->size2 * a * b / loadings->size1;
127   *y = c - loadings->size2 * (a * a - b * b) / (2 * loadings->size1);
128 }
129
130 static void
131 quartimax_coefficients (double *x, double *y,
132                       double a UNUSED, double b UNUSED, double c, double d,
133                       const gsl_matrix *loadings UNUSED)
134 {
135   *x = d ;
136   *y = c ;
137 }
138
139 static const rotation_coefficients rotation_coeff[] = {
140   varimax_coefficients,
141   equamax_coefficients,
142   quartimax_coefficients,
143   varimax_coefficients  /* PROMAX is identical to VARIMAX */
144 };
145
146
147 /* return diag (C'C) ^ {-0.5} */
148 static gsl_matrix *
149 diag_rcp_sqrt (const gsl_matrix *C)
150 {
151   int j;
152   gsl_matrix *d =  gsl_matrix_calloc (C->size1, C->size2);
153   gsl_matrix *r =  gsl_matrix_calloc (C->size1, C->size2);
154
155   assert (C->size1 == C->size2);
156
157   gsl_linalg_matmult_mod (C,  GSL_LINALG_MOD_TRANSPOSE,
158                           C,  GSL_LINALG_MOD_NONE,
159                           d);
160
161   for (j = 0 ; j < d->size2; ++j)
162     {
163       double e = gsl_matrix_get (d, j, j);
164       e = 1.0 / sqrt (e);
165       gsl_matrix_set (r, j, j, e);
166     }
167
168   gsl_matrix_free (d);
169
170   return r;
171 }
172
173
174
175 /* return diag ((C'C)^-1) ^ {-0.5} */
176 static gsl_matrix *
177 diag_rcp_inv_sqrt (const gsl_matrix *CCinv)
178 {
179   int j;
180   gsl_matrix *r =  gsl_matrix_calloc (CCinv->size1, CCinv->size2);
181
182   assert (CCinv->size1 == CCinv->size2);
183
184   for (j = 0 ; j < CCinv->size2; ++j)
185     {
186       double e = gsl_matrix_get (CCinv, j, j);
187       e = 1.0 / sqrt (e);
188       gsl_matrix_set (r, j, j, e);
189     }
190
191   return r;
192 }
193
194
195
196
197
198 struct cmd_factor
199 {
200   size_t n_vars;
201   const struct variable **vars;
202
203   const struct variable *wv;
204
205   enum method method;
206   enum missing_type missing_type;
207   enum mv_class exclude;
208   enum print_opts print;
209   enum extraction_method extraction;
210   enum plot_opts plot;
211   enum rotation_type rotation;
212   int rotation_iterations;
213   int promax_power;
214
215   /* Extraction Criteria */
216   int n_factors;
217   double min_eigen;
218   double econverge;
219   int extraction_iterations;
220
221   double rconverge;
222
223   /* Format */
224   double blank;
225   bool sort;
226 };
227
228
229 struct idata
230 {
231   /* Intermediate values used in calculation */
232   struct matrix_material mm;
233
234   gsl_matrix *analysis_matrix; /* A pointer to either mm.corr or mm.cov */
235
236   gsl_vector *eval ;  /* The eigenvalues */
237   gsl_matrix *evec ;  /* The eigenvectors */
238
239   int n_extractions;
240
241   gsl_vector *msr ;  /* Multiple Squared Regressions */
242
243   double detR;  /* The determinant of the correlation matrix */
244
245   gsl_matrix *ai_cov; /* The anti-image covariance matrix */
246   gsl_matrix *ai_cor; /* The anti-image correlation matrix */
247   struct covariance *cvm;
248 };
249
250 static struct idata *
251 idata_alloc (size_t n_vars)
252 {
253   struct idata *id = xzalloc (sizeof (*id));
254
255   id->n_extractions = 0;
256   id->msr = gsl_vector_alloc (n_vars);
257
258   id->eval = gsl_vector_alloc (n_vars);
259   id->evec = gsl_matrix_alloc (n_vars, n_vars);
260
261   return id;
262 }
263
264 static void
265 idata_free (struct idata *id)
266 {
267   gsl_vector_free (id->msr);
268   gsl_vector_free (id->eval);
269   gsl_matrix_free (id->evec);
270   gsl_matrix_free (id->ai_cov);
271   gsl_matrix_free (id->ai_cor);
272
273   free (id);
274 }
275
276 /* Return the sum of squares of all the elements in row J excluding column J */
277 static double
278 ssq_row_od_n (const gsl_matrix *m, int j)
279 {
280   int i;
281   double ss = 0;
282   assert (m->size1 == m->size2);
283
284   assert (j < m->size1);
285
286   for (i = 0; i < m->size1; ++i)
287     {
288       if (i == j) continue;
289       ss += pow2 (gsl_matrix_get (m, i, j));
290     }
291
292   return ss;
293 }
294
295 /* Return the sum of squares of all the elements excluding row N */
296 static double
297 ssq_od_n (const gsl_matrix *m, int n)
298 {
299   int i, j;
300   double ss = 0;
301   assert (m->size1 == m->size2);
302
303   assert (n < m->size1);
304
305   for (i = 0; i < m->size1; ++i)
306     {
307       for (j = 0; j < m->size2; ++j)
308         {
309           if (i == j) continue;
310           ss += pow2 (gsl_matrix_get (m, i, j));
311         }
312     }
313
314   return ss;
315 }
316
317
318 static gsl_matrix *
319 anti_image_corr (const gsl_matrix *m, const struct idata *idata)
320 {
321   int i, j;
322   gsl_matrix *a;
323   assert (m->size1 == m->size2);
324
325   a = gsl_matrix_alloc (m->size1, m->size2);
326
327   for (i = 0; i < m->size1; ++i)
328     {
329       for (j = 0; j < m->size2; ++j)
330         {
331           double *p = gsl_matrix_ptr (a, i, j);
332           *p = gsl_matrix_get (m, i, j);
333           *p /= sqrt (gsl_matrix_get (m, i, i) *
334                       gsl_matrix_get (m, j, j));
335         }
336     }
337
338   for (i = 0; i < m->size1; ++i)
339     {
340       double r = ssq_row_od_n (idata->mm.corr, i);
341       double u = ssq_row_od_n (a, i);
342       gsl_matrix_set (a, i, i, r / (r + u));
343     }
344
345   return a;
346 }
347
348 static gsl_matrix *
349 anti_image_cov (const gsl_matrix *m)
350 {
351   int i, j;
352   gsl_matrix *a;
353   assert (m->size1 == m->size2);
354
355   a = gsl_matrix_alloc (m->size1, m->size2);
356
357   for (i = 0; i < m->size1; ++i)
358     {
359       for (j = 0; j < m->size2; ++j)
360         {
361           double *p = gsl_matrix_ptr (a, i, j);
362           *p = gsl_matrix_get (m, i, j);
363           *p /= gsl_matrix_get (m, i, i);
364           *p /= gsl_matrix_get (m, j, j);
365         }
366     }
367
368   return a;
369 }
370
371 #if 0
372 static void
373 dump_matrix (const gsl_matrix *m)
374 {
375   size_t i, j;
376
377   for (i = 0 ; i < m->size1; ++i)
378     {
379       for (j = 0 ; j < m->size2; ++j)
380         printf ("%02f ", gsl_matrix_get (m, i, j));
381       printf ("\n");
382     }
383 }
384
385 static void
386 dump_matrix_permute (const gsl_matrix *m, const gsl_permutation *p)
387 {
388   size_t i, j;
389
390   for (i = 0 ; i < m->size1; ++i)
391     {
392       for (j = 0 ; j < m->size2; ++j)
393         printf ("%02f ", gsl_matrix_get (m, gsl_permutation_get (p, i), j));
394       printf ("\n");
395     }
396 }
397
398
399 static void
400 dump_vector (const gsl_vector *v)
401 {
402   size_t i;
403   for (i = 0 ; i < v->size; ++i)
404     {
405       printf ("%02f\n", gsl_vector_get (v, i));
406     }
407   printf ("\n");
408 }
409 #endif
410
411
412 static int
413 n_extracted_factors (const struct cmd_factor *factor, struct idata *idata)
414 {
415   int i;
416
417   /* If there is a cached value, then return that. */
418   if (idata->n_extractions != 0)
419     return idata->n_extractions;
420
421   /* Otherwise, if the number of factors has been explicitly requested,
422      use that. */
423   if (factor->n_factors > 0)
424     {
425       idata->n_extractions = factor->n_factors;
426       goto finish;
427     }
428
429   /* Use the MIN_EIGEN setting. */
430   for (i = 0 ; i < idata->eval->size; ++i)
431     {
432       double evali = fabs (gsl_vector_get (idata->eval, i));
433
434       idata->n_extractions = i;
435
436       if (evali < factor->min_eigen)
437         goto finish;
438     }
439
440  finish:
441   return idata->n_extractions;
442 }
443
444
445 /* Returns a newly allocated matrix identical to M.
446    It it the callers responsibility to free the returned value.
447 */
448 static gsl_matrix *
449 matrix_dup (const gsl_matrix *m)
450 {
451   gsl_matrix *n =  gsl_matrix_alloc (m->size1, m->size2);
452
453   gsl_matrix_memcpy (n, m);
454
455   return n;
456 }
457
458
459 struct smr_workspace
460 {
461   /* Copy of the subject */
462   gsl_matrix *m;
463
464   gsl_matrix *inverse;
465
466   gsl_permutation *perm;
467
468   gsl_matrix *result1;
469   gsl_matrix *result2;
470 };
471
472
473 static struct smr_workspace *ws_create (const gsl_matrix *input)
474 {
475   struct smr_workspace *ws = xmalloc (sizeof (*ws));
476
477   ws->m = gsl_matrix_alloc (input->size1, input->size2);
478   ws->inverse = gsl_matrix_calloc (input->size1 - 1, input->size2 - 1);
479   ws->perm = gsl_permutation_alloc (input->size1 - 1);
480   ws->result1 = gsl_matrix_calloc (input->size1 - 1, 1);
481   ws->result2 = gsl_matrix_calloc (1, 1);
482
483   return ws;
484 }
485
486 static void
487 ws_destroy (struct smr_workspace *ws)
488 {
489   gsl_matrix_free (ws->result2);
490   gsl_matrix_free (ws->result1);
491   gsl_permutation_free (ws->perm);
492   gsl_matrix_free (ws->inverse);
493   gsl_matrix_free (ws->m);
494
495   free (ws);
496 }
497
498
499 /*
500    Return the square of the regression coefficient for VAR regressed against all other variables.
501  */
502 static double
503 squared_multiple_correlation (const gsl_matrix *corr, int var, struct smr_workspace *ws)
504 {
505   /* For an explanation of what this is doing, see
506      http://www.visualstatistics.net/Visual%20Statistics%20Multimedia/multiple_regression_analysis.htm
507   */
508
509   int signum = 0;
510   gsl_matrix_view rxx;
511
512   gsl_matrix_memcpy (ws->m, corr);
513
514   gsl_matrix_swap_rows (ws->m, 0, var);
515   gsl_matrix_swap_columns (ws->m, 0, var);
516
517   rxx = gsl_matrix_submatrix (ws->m, 1, 1, ws->m->size1 - 1, ws->m->size1 - 1);
518
519   gsl_linalg_LU_decomp (&rxx.matrix, ws->perm, &signum);
520
521   gsl_linalg_LU_invert (&rxx.matrix, ws->perm, ws->inverse);
522
523   {
524     gsl_matrix_const_view rxy = gsl_matrix_const_submatrix (ws->m, 1, 0, ws->m->size1 - 1, 1);
525     gsl_matrix_const_view ryx = gsl_matrix_const_submatrix (ws->m, 0, 1, 1, ws->m->size1 - 1);
526
527     gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans,
528                     1.0, ws->inverse, &rxy.matrix, 0.0, ws->result1);
529
530     gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans,
531                     1.0, &ryx.matrix, ws->result1, 0.0, ws->result2);
532   }
533
534   return gsl_matrix_get (ws->result2, 0, 0);
535 }
536
537
538
539 static double the_communality (const gsl_matrix *evec, const gsl_vector *eval, int n, int n_factors);
540
541
542 struct factor_matrix_workspace
543 {
544   size_t n_factors;
545   gsl_eigen_symmv_workspace *eigen_ws;
546
547   gsl_vector *eval ;
548   gsl_matrix *evec ;
549
550   gsl_matrix *gamma ;
551
552   gsl_matrix *r;
553 };
554
555 static struct factor_matrix_workspace *
556 factor_matrix_workspace_alloc (size_t n, size_t nf)
557 {
558   struct factor_matrix_workspace *ws = xmalloc (sizeof (*ws));
559
560   ws->n_factors = nf;
561   ws->gamma = gsl_matrix_calloc (nf, nf);
562   ws->eigen_ws = gsl_eigen_symmv_alloc (n);
563   ws->eval = gsl_vector_alloc (n);
564   ws->evec = gsl_matrix_alloc (n, n);
565   ws->r  = gsl_matrix_alloc (n, n);
566
567   return ws;
568 }
569
570 static void
571 factor_matrix_workspace_free (struct factor_matrix_workspace *ws)
572 {
573   gsl_eigen_symmv_free (ws->eigen_ws);
574   gsl_vector_free (ws->eval);
575   gsl_matrix_free (ws->evec);
576   gsl_matrix_free (ws->gamma);
577   gsl_matrix_free (ws->r);
578   free (ws);
579 }
580
581 /*
582   Shift P left by OFFSET places, and overwrite TARGET
583   with the shifted result.
584   Positions in TARGET less than OFFSET are unchanged.
585 */
586 static void
587 perm_shift_apply (gsl_permutation *target, const gsl_permutation *p,
588                   size_t offset)
589 {
590   size_t i;
591   assert (target->size == p->size);
592   assert (offset <= target->size);
593
594   for (i = 0; i < target->size - offset; ++i)
595     {
596       target->data[i] = p->data [i + offset];
597     }
598 }
599
600
601 /*
602    Indirectly sort the rows of matrix INPUT, storing the sort order in PERM.
603    The sort criteria are as follows:
604
605    Rows are sorted on the first column, until the absolute value of an
606    element in a subsequent column  is greater than that of the first
607    column.  Thereafter, rows will be sorted on the second column,
608    until the absolute value of an element in a subsequent column
609    exceeds that of the second column ...
610 */
611 static void
612 sort_matrix_indirect (const gsl_matrix *input, gsl_permutation *perm)
613 {
614   const size_t n = perm->size;
615   const size_t m = input->size2;
616   int i, j;
617   gsl_matrix *mat ;
618   int column_n = 0;
619   int row_n = 0;
620   gsl_permutation *p;
621
622   assert (perm->size == input->size1);
623
624   p = gsl_permutation_alloc (n);
625
626   /* Copy INPUT into MAT, discarding the sign */
627   mat = gsl_matrix_alloc (n, m);
628   for (i = 0 ; i < mat->size1; ++i)
629     {
630       for (j = 0 ; j < mat->size2; ++j)
631         {
632           double x = gsl_matrix_get (input, i, j);
633           gsl_matrix_set (mat, i, j, fabs (x));
634         }
635     }
636
637   while (column_n < m && row_n < n)
638     {
639       gsl_vector_const_view columni = gsl_matrix_const_column (mat, column_n);
640       gsl_sort_vector_index (p, &columni.vector);
641
642       for (i = 0 ; i < n; ++i)
643         {
644           gsl_vector_view row = gsl_matrix_row (mat, p->data[n - 1 - i]);
645           size_t maxindex = gsl_vector_max_index (&row.vector);
646
647           if (maxindex > column_n)
648             break;
649
650           /* All subsequent elements of this row, are of no interest.
651              So set them all to a highly negative value */
652           for (j = column_n + 1; j < row.vector.size ; ++j)
653             gsl_vector_set (&row.vector, j, -DBL_MAX);
654         }
655
656       perm_shift_apply (perm, p, row_n);
657       row_n += i;
658
659       column_n++;
660     }
661
662   gsl_permutation_free (p);
663   gsl_matrix_free (mat);
664
665   assert (0 == gsl_permutation_valid (perm));
666
667   /* We want the biggest value to be first */
668   gsl_permutation_reverse (perm);
669 }
670
671
672 static void
673 drot_go (double phi, double *l0, double *l1)
674 {
675   double r0 = cos (phi) * *l0 + sin (phi) * *l1;
676   double r1 = - sin (phi) * *l0 + cos (phi) * *l1;
677
678   *l0 = r0;
679   *l1 = r1;
680 }
681
682
683 static gsl_matrix *
684 clone_matrix (const gsl_matrix *m)
685 {
686   int j, k;
687   gsl_matrix *c = gsl_matrix_calloc (m->size1, m->size2);
688
689   for (j = 0 ; j < c->size1; ++j)
690     {
691       for (k = 0 ; k < c->size2; ++k)
692         {
693           const double *v = gsl_matrix_const_ptr (m, j, k);
694           gsl_matrix_set (c, j, k, *v);
695         }
696     }
697
698   return c;
699 }
700
701
702 static double
703 initial_sv (const gsl_matrix *fm)
704 {
705   int j, k;
706
707   double sv = 0.0;
708   for (j = 0 ; j < fm->size2; ++j)
709     {
710       double l4s = 0;
711       double l2s = 0;
712
713       for (k = j + 1 ; k < fm->size2; ++k)
714         {
715           double lambda = gsl_matrix_get (fm, k, j);
716           double lambda_sq = lambda * lambda;
717           double lambda_4 = lambda_sq * lambda_sq;
718
719           l4s += lambda_4;
720           l2s += lambda_sq;
721         }
722       sv += (fm->size1 * l4s - (l2s * l2s)) / (fm->size1 * fm->size1);
723     }
724   return sv;
725 }
726
727 static void
728 rotate (const struct cmd_factor *cf, const gsl_matrix *unrot,
729         const gsl_vector *communalities,
730         gsl_matrix *result,
731         gsl_vector *rotated_loadings,
732         gsl_matrix *pattern_matrix,
733         gsl_matrix *factor_correlation_matrix
734         )
735 {
736   int j, k;
737   int i;
738   double prev_sv;
739
740   /* First get a normalised version of UNROT */
741   gsl_matrix *normalised = gsl_matrix_calloc (unrot->size1, unrot->size2);
742   gsl_matrix *h_sqrt = gsl_matrix_calloc (communalities->size, communalities->size);
743   gsl_matrix *h_sqrt_inv ;
744
745   /* H is the diagonal matrix containing the absolute values of the communalities */
746   for (i = 0 ; i < communalities->size ; ++i)
747     {
748       double *ptr = gsl_matrix_ptr (h_sqrt, i, i);
749       *ptr = fabs (gsl_vector_get (communalities, i));
750     }
751
752   /* Take the square root of the communalities */
753   gsl_linalg_cholesky_decomp (h_sqrt);
754
755
756   /* Save a copy of h_sqrt and invert it */
757   h_sqrt_inv = clone_matrix (h_sqrt);
758   gsl_linalg_cholesky_decomp (h_sqrt_inv);
759   gsl_linalg_cholesky_invert (h_sqrt_inv);
760
761   /* normalised vertion is H^{1/2} x UNROT */
762   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0, h_sqrt_inv, unrot, 0.0, normalised);
763
764   gsl_matrix_free (h_sqrt_inv);
765
766
767   /* Now perform the rotation iterations */
768
769   prev_sv = initial_sv (normalised);
770   for (i = 0 ; i < cf->rotation_iterations ; ++i)
771     {
772       double sv = 0.0;
773       for (j = 0 ; j < normalised->size2; ++j)
774         {
775           /* These variables relate to the convergence criterium */
776           double l4s = 0;
777           double l2s = 0;
778
779           for (k = j + 1 ; k < normalised->size2; ++k)
780             {
781               int p;
782               double a = 0.0;
783               double b = 0.0;
784               double c = 0.0;
785               double d = 0.0;
786               double x, y;
787               double phi;
788
789               for (p = 0; p < normalised->size1; ++p)
790                 {
791                   double jv = gsl_matrix_get (normalised, p, j);
792                   double kv = gsl_matrix_get (normalised, p, k);
793
794                   double u = jv * jv - kv * kv;
795                   double v = 2 * jv * kv;
796                   a += u;
797                   b += v;
798                   c +=  u * u - v * v;
799                   d += 2 * u * v;
800                 }
801
802               rotation_coeff [cf->rotation] (&x, &y, a, b, c, d, normalised);
803
804               phi = atan2 (x,  y) / 4.0 ;
805
806               /* Don't bother rotating if the angle is small */
807               if (fabs (sin (phi)) <= pow (10.0, -15.0))
808                   continue;
809
810               for (p = 0; p < normalised->size1; ++p)
811                 {
812                   double *lambda0 = gsl_matrix_ptr (normalised, p, j);
813                   double *lambda1 = gsl_matrix_ptr (normalised, p, k);
814                   drot_go (phi, lambda0, lambda1);
815                 }
816
817               /* Calculate the convergence criterium */
818               {
819                 double lambda = gsl_matrix_get (normalised, k, j);
820                 double lambda_sq = lambda * lambda;
821                 double lambda_4 = lambda_sq * lambda_sq;
822
823                 l4s += lambda_4;
824                 l2s += lambda_sq;
825               }
826             }
827           sv += (normalised->size1 * l4s - (l2s * l2s)) / (normalised->size1 * normalised->size1);
828         }
829
830       if (fabs (sv - prev_sv) <= cf->rconverge)
831         break;
832
833       prev_sv = sv;
834     }
835
836   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0,
837                   h_sqrt, normalised,  0.0,   result);
838
839   gsl_matrix_free (h_sqrt);
840   gsl_matrix_free (normalised);
841
842   if (cf->rotation == ROT_PROMAX)
843     {
844       /* general purpose m by m matrix, where m is the number of factors */
845       gsl_matrix *mm1 =  gsl_matrix_calloc (unrot->size2, unrot->size2);
846       gsl_matrix *mm2 =  gsl_matrix_calloc (unrot->size2, unrot->size2);
847
848       /* general purpose m by p matrix, where p is the number of variables */
849       gsl_matrix *mp1 =  gsl_matrix_calloc (unrot->size2, unrot->size1);
850
851       gsl_matrix *pm1 =  gsl_matrix_calloc (unrot->size1, unrot->size2);
852
853       gsl_permutation *perm = gsl_permutation_alloc (unrot->size2);
854
855       int signum;
856
857       int i, j;
858
859       /* The following variables follow the notation by SPSS Statistical Algorithms
860          page 342 */
861       gsl_matrix *L =  gsl_matrix_calloc (unrot->size2, unrot->size2);
862       gsl_matrix *P = clone_matrix (result);
863       gsl_matrix *D ;
864       gsl_matrix *Q ;
865
866
867       /* Vector of length p containing (indexed by i)
868          \Sum^m_j {\lambda^2_{ij}} */
869       gsl_vector *rssq = gsl_vector_calloc (unrot->size1);
870
871       for (i = 0; i < P->size1; ++i)
872         {
873           double sum = 0;
874           for (j = 0; j < P->size2; ++j)
875             {
876               sum += gsl_matrix_get (result, i, j)
877                 * gsl_matrix_get (result, i, j);
878
879             }
880
881           gsl_vector_set (rssq, i, sqrt (sum));
882         }
883
884       for (i = 0; i < P->size1; ++i)
885         {
886           for (j = 0; j < P->size2; ++j)
887             {
888               double l = gsl_matrix_get (result, i, j);
889               double r = gsl_vector_get (rssq, i);
890               gsl_matrix_set (P, i, j, pow (fabs (l / r), cf->promax_power + 1) * r / l);
891             }
892         }
893
894       gsl_vector_free (rssq);
895
896       gsl_linalg_matmult_mod (result,
897                               GSL_LINALG_MOD_TRANSPOSE,
898                               result,
899                               GSL_LINALG_MOD_NONE,
900                               mm1);
901
902       gsl_linalg_LU_decomp (mm1, perm, &signum);
903       gsl_linalg_LU_invert (mm1, perm, mm2);
904
905       gsl_linalg_matmult_mod (mm2,   GSL_LINALG_MOD_NONE,
906                               result,  GSL_LINALG_MOD_TRANSPOSE,
907                               mp1);
908
909       gsl_linalg_matmult_mod (mp1, GSL_LINALG_MOD_NONE,
910                               P,   GSL_LINALG_MOD_NONE,
911                               L);
912
913       D = diag_rcp_sqrt (L);
914       Q = gsl_matrix_calloc (unrot->size2, unrot->size2);
915
916       gsl_linalg_matmult_mod (L, GSL_LINALG_MOD_NONE,
917                               D, GSL_LINALG_MOD_NONE,
918                               Q);
919
920       gsl_matrix *QQinv = gsl_matrix_calloc (unrot->size2, unrot->size2);
921
922       gsl_linalg_matmult_mod (Q, GSL_LINALG_MOD_TRANSPOSE,
923                               Q,  GSL_LINALG_MOD_NONE,
924                               QQinv);
925
926       gsl_linalg_cholesky_decomp (QQinv);
927       gsl_linalg_cholesky_invert (QQinv);
928
929
930       gsl_matrix *C = diag_rcp_inv_sqrt (QQinv);
931       gsl_matrix *Cinv =  clone_matrix (C);
932
933       gsl_linalg_cholesky_decomp (Cinv);
934       gsl_linalg_cholesky_invert (Cinv);
935
936
937       gsl_linalg_matmult_mod (result, GSL_LINALG_MOD_NONE,
938                               Q,      GSL_LINALG_MOD_NONE,
939                               pm1);
940
941       gsl_linalg_matmult_mod (pm1,      GSL_LINALG_MOD_NONE,
942                               Cinv,         GSL_LINALG_MOD_NONE,
943                               pattern_matrix);
944
945
946       gsl_linalg_matmult_mod (C,      GSL_LINALG_MOD_NONE,
947                               QQinv,  GSL_LINALG_MOD_NONE,
948                               mm1);
949
950       gsl_linalg_matmult_mod (mm1,      GSL_LINALG_MOD_NONE,
951                               C,  GSL_LINALG_MOD_TRANSPOSE,
952                               factor_correlation_matrix);
953
954       gsl_linalg_matmult_mod (pattern_matrix,      GSL_LINALG_MOD_NONE,
955                               factor_correlation_matrix,  GSL_LINALG_MOD_NONE,
956                               pm1);
957
958       gsl_matrix_memcpy (result, pm1);
959
960
961       gsl_matrix_free (QQinv);
962       gsl_matrix_free (C);
963       gsl_matrix_free (Cinv);
964
965       gsl_matrix_free (D);
966       gsl_matrix_free (Q);
967       gsl_matrix_free (L);
968       gsl_matrix_free (P);
969
970       gsl_permutation_free (perm);
971
972       gsl_matrix_free (mm1);
973       gsl_matrix_free (mm2);
974       gsl_matrix_free (mp1);
975       gsl_matrix_free (pm1);
976     }
977
978
979   /* reflect negative sums and populate the rotated loadings vector*/
980   for (i = 0 ; i < result->size2; ++i)
981     {
982       double ssq = 0.0;
983       double sum = 0.0;
984       for (j = 0 ; j < result->size1; ++j)
985         {
986           double s = gsl_matrix_get (result, j, i);
987           ssq += s * s;
988           sum += s;
989         }
990
991       gsl_vector_set (rotated_loadings, i, ssq);
992
993       if (sum < 0)
994         for (j = 0 ; j < result->size1; ++j)
995           {
996             double *lambda = gsl_matrix_ptr (result, j, i);
997             *lambda = - *lambda;
998           }
999     }
1000 }
1001
1002
1003 /*
1004   Get an approximation for the factor matrix into FACTORS, and the communalities into COMMUNALITIES.
1005   R is the matrix to be analysed.
1006   WS is a pointer to a structure which must have been initialised with factor_matrix_workspace_init.
1007  */
1008 static void
1009 iterate_factor_matrix (const gsl_matrix *r, gsl_vector *communalities, gsl_matrix *factors,
1010                        struct factor_matrix_workspace *ws)
1011 {
1012   size_t i;
1013   gsl_matrix_view mv ;
1014
1015   assert (r->size1 == r->size2);
1016   assert (r->size1 == communalities->size);
1017
1018   assert (factors->size1 == r->size1);
1019   assert (factors->size2 == ws->n_factors);
1020
1021   gsl_matrix_memcpy (ws->r, r);
1022
1023   /* Apply Communalities to diagonal of correlation matrix */
1024   for (i = 0 ; i < communalities->size ; ++i)
1025     {
1026       double *x = gsl_matrix_ptr (ws->r, i, i);
1027       *x = gsl_vector_get (communalities, i);
1028     }
1029
1030   gsl_eigen_symmv (ws->r, ws->eval, ws->evec, ws->eigen_ws);
1031
1032   mv = gsl_matrix_submatrix (ws->evec, 0, 0, ws->evec->size1, ws->n_factors);
1033
1034   /* Gamma is the diagonal matrix containing the absolute values of the eigenvalues */
1035   for (i = 0 ; i < ws->n_factors ; ++i)
1036     {
1037       double *ptr = gsl_matrix_ptr (ws->gamma, i, i);
1038       *ptr = fabs (gsl_vector_get (ws->eval, i));
1039     }
1040
1041   /* Take the square root of gamma */
1042   gsl_linalg_cholesky_decomp (ws->gamma);
1043
1044   gsl_blas_dgemm (CblasNoTrans,  CblasNoTrans, 1.0, &mv.matrix, ws->gamma, 0.0, factors);
1045
1046   for (i = 0 ; i < r->size1 ; ++i)
1047     {
1048       double h = the_communality (ws->evec, ws->eval, i, ws->n_factors);
1049       gsl_vector_set (communalities, i, h);
1050     }
1051 }
1052
1053
1054
1055 static bool run_factor (struct dataset *ds, const struct cmd_factor *factor);
1056
1057 static void do_factor_by_matrix (const struct cmd_factor *factor, struct idata *idata);
1058
1059
1060
1061 int
1062 cmd_factor (struct lexer *lexer, struct dataset *ds)
1063 {
1064   struct dictionary *dict = NULL;
1065   int n_iterations = 25;
1066   struct cmd_factor factor;
1067   factor.n_vars = 0;
1068   factor.vars = NULL;
1069   factor.method = METHOD_CORR;
1070   factor.missing_type = MISS_LISTWISE;
1071   factor.exclude = MV_ANY;
1072   factor.print = PRINT_INITIAL | PRINT_EXTRACTION | PRINT_ROTATION;
1073   factor.extraction = EXTRACTION_PC;
1074   factor.n_factors = 0;
1075   factor.min_eigen = SYSMIS;
1076   factor.extraction_iterations = 25;
1077   factor.rotation_iterations = 25;
1078   factor.econverge = 0.001;
1079
1080   factor.blank = 0;
1081   factor.sort = false;
1082   factor.plot = 0;
1083   factor.rotation = ROT_VARIMAX;
1084   factor.wv = NULL;
1085
1086   factor.rconverge = 0.0001;
1087
1088   lex_match (lexer, T_SLASH);
1089
1090   struct matrix_reader *mr = NULL;
1091   struct casereader *matrix_reader = NULL;
1092
1093   if (lex_match_id (lexer, "VARIABLES"))
1094     {
1095       lex_match (lexer, T_EQUALS);
1096       dict = dataset_dict (ds);
1097       factor.wv = dict_get_weight (dict);
1098
1099       if (!parse_variables_const (lexer, dict, &factor.vars, &factor.n_vars,
1100                                   PV_NO_DUPLICATE | PV_NUMERIC))
1101         goto error;
1102     }
1103   else if (lex_match_id (lexer, "MATRIX"))
1104     {
1105       lex_match (lexer, T_EQUALS);
1106       if (! lex_force_match_id (lexer, "IN"))
1107         goto error;
1108       if (!lex_force_match (lexer, T_LPAREN))
1109         {
1110           goto error;
1111         }
1112       if (lex_match_id (lexer, "CORR"))
1113         {
1114         }
1115       else if (lex_match_id (lexer, "COV"))
1116         {
1117         }
1118       else
1119         {
1120           lex_error (lexer, _("Matrix input for %s must be either COV or CORR"), "FACTOR");
1121           goto error;
1122         }
1123       if (! lex_force_match (lexer, T_EQUALS))
1124         goto error;
1125       if (lex_match (lexer, T_ASTERISK))
1126         {
1127           dict = dataset_dict (ds);
1128           matrix_reader = casereader_clone (dataset_source (ds));
1129         }
1130       else
1131         {
1132           struct file_handle *fh = fh_parse (lexer, FH_REF_FILE, NULL);
1133           if (fh == NULL)
1134             goto error;
1135
1136           matrix_reader
1137             = any_reader_open_and_decode (fh, NULL, &dict, NULL);
1138
1139           if (! (matrix_reader && dict))
1140             {
1141               goto error;
1142             }
1143         }
1144
1145       if (! lex_force_match (lexer, T_RPAREN))
1146         goto error;
1147
1148       mr = create_matrix_reader_from_case_reader (dict, matrix_reader,
1149                                                   &factor.vars, &factor.n_vars);
1150     }
1151   else
1152     {
1153       goto error;
1154     }
1155
1156   while (lex_token (lexer) != T_ENDCMD)
1157     {
1158       lex_match (lexer, T_SLASH);
1159
1160       if (lex_match_id (lexer, "ANALYSIS"))
1161         {
1162           struct const_var_set *vs;
1163           const struct variable **vars;
1164           size_t n_vars;
1165           bool ok;
1166
1167           lex_match (lexer, T_EQUALS);
1168
1169           vs = const_var_set_create_from_array (factor.vars, factor.n_vars);
1170           ok = parse_const_var_set_vars (lexer, vs, &vars, &n_vars,
1171                                          PV_NO_DUPLICATE | PV_NUMERIC);
1172           const_var_set_destroy (vs);
1173
1174           if (!ok)
1175             goto error;
1176
1177           free (factor.vars);
1178           factor.vars = vars;
1179           factor.n_vars = n_vars;
1180         }
1181       else if (lex_match_id (lexer, "PLOT"))
1182         {
1183           lex_match (lexer, T_EQUALS);
1184           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1185             {
1186               if (lex_match_id (lexer, "EIGEN"))
1187                 {
1188                   factor.plot |= PLOT_SCREE;
1189                 }
1190 #if FACTOR_FULLY_IMPLEMENTED
1191               else if (lex_match_id (lexer, "ROTATION"))
1192                 {
1193                 }
1194 #endif
1195               else
1196                 {
1197                   lex_error (lexer, NULL);
1198                   goto error;
1199                 }
1200             }
1201         }
1202       else if (lex_match_id (lexer, "METHOD"))
1203         {
1204           lex_match (lexer, T_EQUALS);
1205           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1206             {
1207               if (lex_match_id (lexer, "COVARIANCE"))
1208                 {
1209                   factor.method = METHOD_COV;
1210                 }
1211               else if (lex_match_id (lexer, "CORRELATION"))
1212                 {
1213                   factor.method = METHOD_CORR;
1214                 }
1215               else
1216                 {
1217                   lex_error (lexer, NULL);
1218                   goto error;
1219                 }
1220             }
1221         }
1222       else if (lex_match_id (lexer, "ROTATION"))
1223         {
1224           lex_match (lexer, T_EQUALS);
1225           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1226             {
1227               /* VARIMAX and DEFAULT are defaults */
1228               if (lex_match_id (lexer, "VARIMAX") || lex_match_id (lexer, "DEFAULT"))
1229                 {
1230                   factor.rotation = ROT_VARIMAX;
1231                 }
1232               else if (lex_match_id (lexer, "EQUAMAX"))
1233                 {
1234                   factor.rotation = ROT_EQUAMAX;
1235                 }
1236               else if (lex_match_id (lexer, "QUARTIMAX"))
1237                 {
1238                   factor.rotation = ROT_QUARTIMAX;
1239                 }
1240               else if (lex_match_id (lexer, "PROMAX"))
1241                 {
1242                   factor.promax_power = 5;
1243                   if (lex_match (lexer, T_LPAREN)
1244                       && lex_force_int (lexer))
1245                     {
1246                       factor.promax_power = lex_integer (lexer);
1247                       lex_get (lexer);
1248                       if (! lex_force_match (lexer, T_RPAREN))
1249                         goto error;
1250                     }
1251                   factor.rotation = ROT_PROMAX;
1252                 }
1253               else if (lex_match_id (lexer, "NOROTATE"))
1254                 {
1255                   factor.rotation = ROT_NONE;
1256                 }
1257               else
1258                 {
1259                   lex_error (lexer, NULL);
1260                   goto error;
1261                 }
1262             }
1263           factor.rotation_iterations = n_iterations;
1264         }
1265       else if (lex_match_id (lexer, "CRITERIA"))
1266         {
1267           lex_match (lexer, T_EQUALS);
1268           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1269             {
1270               if (lex_match_id (lexer, "FACTORS"))
1271                 {
1272                   if (lex_force_match (lexer, T_LPAREN)
1273                        && lex_force_int (lexer))
1274                     {
1275                       factor.n_factors = lex_integer (lexer);
1276                       lex_get (lexer);
1277                       if (! lex_force_match (lexer, T_RPAREN))
1278                         goto error;
1279                     }
1280                 }
1281               else if (lex_match_id (lexer, "MINEIGEN"))
1282                 {
1283                   if (lex_force_match (lexer, T_LPAREN)
1284                        && lex_force_num (lexer))
1285                     {
1286                       factor.min_eigen = lex_number (lexer);
1287                       lex_get (lexer);
1288                       if (! lex_force_match (lexer, T_RPAREN))
1289                         goto error;
1290                     }
1291                 }
1292               else if (lex_match_id (lexer, "ECONVERGE"))
1293                 {
1294                   if (lex_force_match (lexer, T_LPAREN)
1295                        && lex_force_num (lexer))
1296                     {
1297                       factor.econverge = lex_number (lexer);
1298                       lex_get (lexer);
1299                       if (! lex_force_match (lexer, T_RPAREN))
1300                         goto error;
1301                     }
1302                 }
1303               else if (lex_match_id (lexer, "RCONVERGE"))
1304                 {
1305                   if (lex_force_match (lexer, T_LPAREN)
1306                       && lex_force_num (lexer))
1307                     {
1308                       factor.rconverge = lex_number (lexer);
1309                       lex_get (lexer);
1310                       if (! lex_force_match (lexer, T_RPAREN))
1311                         goto error;
1312                     }
1313                 }
1314               else if (lex_match_id (lexer, "ITERATE"))
1315                 {
1316                   if (lex_force_match (lexer, T_LPAREN)
1317                       && lex_force_int_range (lexer, "ITERATE", 0, INT_MAX))
1318                     {
1319                       n_iterations = lex_integer (lexer);
1320                       lex_get (lexer);
1321                       if (! lex_force_match (lexer, T_RPAREN))
1322                         goto error;
1323                     }
1324                 }
1325               else if (lex_match_id (lexer, "DEFAULT"))
1326                 {
1327                   factor.n_factors = 0;
1328                   factor.min_eigen = 1;
1329                   n_iterations = 25;
1330                 }
1331               else
1332                 {
1333                   lex_error (lexer, NULL);
1334                   goto error;
1335                 }
1336             }
1337         }
1338       else if (lex_match_id (lexer, "EXTRACTION"))
1339         {
1340           lex_match (lexer, T_EQUALS);
1341           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1342             {
1343               if (lex_match_id (lexer, "PAF"))
1344                 {
1345                   factor.extraction = EXTRACTION_PAF;
1346                 }
1347               else if (lex_match_id (lexer, "PC"))
1348                 {
1349                   factor.extraction = EXTRACTION_PC;
1350                 }
1351               else if (lex_match_id (lexer, "PA1"))
1352                 {
1353                   factor.extraction = EXTRACTION_PC;
1354                 }
1355               else if (lex_match_id (lexer, "DEFAULT"))
1356                 {
1357                   factor.extraction = EXTRACTION_PC;
1358                 }
1359               else
1360                 {
1361                   lex_error (lexer, NULL);
1362                   goto error;
1363                 }
1364             }
1365           factor.extraction_iterations = n_iterations;
1366         }
1367       else if (lex_match_id (lexer, "FORMAT"))
1368         {
1369           lex_match (lexer, T_EQUALS);
1370           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1371             {
1372               if (lex_match_id (lexer, "SORT"))
1373                 {
1374                   factor.sort = true;
1375                 }
1376               else if (lex_match_id (lexer, "BLANK"))
1377                 {
1378                   if (lex_force_match (lexer, T_LPAREN)
1379                        && lex_force_num (lexer))
1380                     {
1381                       factor.blank = lex_number (lexer);
1382                       lex_get (lexer);
1383                       if (! lex_force_match (lexer, T_RPAREN))
1384                         goto error;
1385                     }
1386                 }
1387               else if (lex_match_id (lexer, "DEFAULT"))
1388                 {
1389                   factor.blank = 0;
1390                   factor.sort = false;
1391                 }
1392               else
1393                 {
1394                   lex_error (lexer, NULL);
1395                   goto error;
1396                 }
1397             }
1398         }
1399       else if (lex_match_id (lexer, "PRINT"))
1400         {
1401           factor.print = 0;
1402           lex_match (lexer, T_EQUALS);
1403           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1404             {
1405               if (lex_match_id (lexer, "UNIVARIATE"))
1406                 {
1407                   factor.print |= PRINT_UNIVARIATE;
1408                 }
1409               else if (lex_match_id (lexer, "DET"))
1410                 {
1411                   factor.print |= PRINT_DETERMINANT;
1412                 }
1413 #if FACTOR_FULLY_IMPLEMENTED
1414               else if (lex_match_id (lexer, "INV"))
1415                 {
1416                 }
1417 #endif
1418               else if (lex_match_id (lexer, "AIC"))
1419                 {
1420                   factor.print |= PRINT_AIC;
1421                 }
1422               else if (lex_match_id (lexer, "SIG"))
1423                 {
1424                   factor.print |= PRINT_SIG;
1425                 }
1426               else if (lex_match_id (lexer, "CORRELATION"))
1427                 {
1428                   factor.print |= PRINT_CORRELATION;
1429                 }
1430               else if (lex_match_id (lexer, "COVARIANCE"))
1431                 {
1432                   factor.print |= PRINT_COVARIANCE;
1433                 }
1434               else if (lex_match_id (lexer, "ROTATION"))
1435                 {
1436                   factor.print |= PRINT_ROTATION;
1437                 }
1438               else if (lex_match_id (lexer, "EXTRACTION"))
1439                 {
1440                   factor.print |= PRINT_EXTRACTION;
1441                 }
1442               else if (lex_match_id (lexer, "INITIAL"))
1443                 {
1444                   factor.print |= PRINT_INITIAL;
1445                 }
1446               else if (lex_match_id (lexer, "KMO"))
1447                 {
1448                   factor.print |= PRINT_KMO;
1449                 }
1450 #if FACTOR_FULLY_IMPLEMENTED
1451               else if (lex_match_id (lexer, "REPR"))
1452                 {
1453                 }
1454               else if (lex_match_id (lexer, "FSCORE"))
1455                 {
1456                 }
1457 #endif
1458               else if (lex_match (lexer, T_ALL))
1459                 {
1460                   factor.print = 0xFFFF;
1461                 }
1462               else if (lex_match_id (lexer, "DEFAULT"))
1463                 {
1464                   factor.print |= PRINT_INITIAL ;
1465                   factor.print |= PRINT_EXTRACTION ;
1466                   factor.print |= PRINT_ROTATION ;
1467                 }
1468               else
1469                 {
1470                   lex_error (lexer, NULL);
1471                   goto error;
1472                 }
1473             }
1474         }
1475       else if (lex_match_id (lexer, "MISSING"))
1476         {
1477           lex_match (lexer, T_EQUALS);
1478           while (lex_token (lexer) != T_ENDCMD && lex_token (lexer) != T_SLASH)
1479             {
1480               if (lex_match_id (lexer, "INCLUDE"))
1481                 {
1482                   factor.exclude = MV_SYSTEM;
1483                 }
1484               else if (lex_match_id (lexer, "EXCLUDE"))
1485                 {
1486                   factor.exclude = MV_ANY;
1487                 }
1488               else if (lex_match_id (lexer, "LISTWISE"))
1489                 {
1490                   factor.missing_type = MISS_LISTWISE;
1491                 }
1492               else if (lex_match_id (lexer, "PAIRWISE"))
1493                 {
1494                   factor.missing_type = MISS_PAIRWISE;
1495                 }
1496               else if (lex_match_id (lexer, "MEANSUB"))
1497                 {
1498                   factor.missing_type = MISS_MEANSUB;
1499                 }
1500               else
1501                 {
1502                   lex_error (lexer, NULL);
1503                   goto error;
1504                 }
1505             }
1506         }
1507       else
1508         {
1509           lex_error (lexer, NULL);
1510           goto error;
1511         }
1512     }
1513
1514   if (factor.rotation == ROT_NONE)
1515     factor.print &= ~PRINT_ROTATION;
1516
1517   if (factor.n_vars < 2)
1518     msg (MW, _("Factor analysis on a single variable is not useful."));
1519
1520   if (factor.n_vars < 1)
1521     {
1522       msg (ME, _("Factor analysis without variables is not possible."));
1523       goto error;
1524     }
1525
1526   if (matrix_reader)
1527     {
1528       struct idata *id = idata_alloc (factor.n_vars);
1529
1530       while (next_matrix_from_reader (&id->mm, mr,
1531                                       factor.vars, factor.n_vars))
1532         {
1533           do_factor_by_matrix (&factor, id);
1534
1535           gsl_matrix_free (id->ai_cov);
1536           id->ai_cov = NULL;
1537           gsl_matrix_free (id->ai_cor);
1538           id->ai_cor = NULL;
1539           gsl_matrix_free (id->mm.corr);
1540           id->mm.corr = NULL;
1541           gsl_matrix_free (id->mm.cov);
1542           id->mm.cov = NULL;
1543         }
1544
1545       idata_free (id);
1546     }
1547   else
1548     if (! run_factor (ds, &factor))
1549       goto error;
1550
1551
1552   destroy_matrix_reader (mr);
1553   free (factor.vars);
1554   return CMD_SUCCESS;
1555
1556  error:
1557   destroy_matrix_reader (mr);
1558   free (factor.vars);
1559   return CMD_FAILURE;
1560 }
1561
1562 static void do_factor (const struct cmd_factor *factor, struct casereader *group);
1563
1564
1565 static bool
1566 run_factor (struct dataset *ds, const struct cmd_factor *factor)
1567 {
1568   struct dictionary *dict = dataset_dict (ds);
1569   bool ok;
1570   struct casereader *group;
1571
1572   struct casegrouper *grouper = casegrouper_create_splits (proc_open (ds), dict);
1573
1574   while (casegrouper_get_next_group (grouper, &group))
1575     {
1576       if (factor->missing_type == MISS_LISTWISE)
1577         group  = casereader_create_filter_missing (group, factor->vars, factor->n_vars,
1578                                                    factor->exclude,
1579                                                    NULL,  NULL);
1580       do_factor (factor, group);
1581     }
1582
1583   ok = casegrouper_destroy (grouper);
1584   ok = proc_commit (ds) && ok;
1585
1586   return ok;
1587 }
1588
1589
1590 /* Return the communality of variable N, calculated to N_FACTORS */
1591 static double
1592 the_communality (const gsl_matrix *evec, const gsl_vector *eval, int n, int n_factors)
1593 {
1594   size_t i;
1595
1596   double comm = 0;
1597
1598   assert (n >= 0);
1599   assert (n < eval->size);
1600   assert (n < evec->size1);
1601   assert (n_factors <= eval->size);
1602
1603   for (i = 0 ; i < n_factors; ++i)
1604     {
1605       double evali = fabs (gsl_vector_get (eval, i));
1606
1607       double eveci = gsl_matrix_get (evec, n, i);
1608
1609       comm += pow2 (eveci) * evali;
1610     }
1611
1612   return comm;
1613 }
1614
1615 /* Return the communality of variable N, calculated to N_FACTORS */
1616 static double
1617 communality (const struct idata *idata, int n, int n_factors)
1618 {
1619   return the_communality (idata->evec, idata->eval, n, n_factors);
1620 }
1621
1622
1623 static void
1624 show_scree (const struct cmd_factor *f, const struct idata *idata)
1625 {
1626   struct scree *s;
1627   const char *label ;
1628
1629   if (!(f->plot & PLOT_SCREE))
1630     return;
1631
1632
1633   label = f->extraction == EXTRACTION_PC ? _("Component Number") : _("Factor Number");
1634
1635   s = scree_create (idata->eval, label);
1636
1637   scree_submit (s);
1638 }
1639
1640 static void
1641 show_communalities (const struct cmd_factor * factor,
1642                     const gsl_vector *initial, const gsl_vector *extracted)
1643 {
1644   if (!(factor->print & (PRINT_INITIAL | PRINT_EXTRACTION)))
1645     return;
1646
1647   struct pivot_table *table = pivot_table_create (N_("Communalities"));
1648
1649   struct pivot_dimension *communalities = pivot_dimension_create (
1650     table, PIVOT_AXIS_COLUMN, N_("Communalities"));
1651   if (factor->print & PRINT_INITIAL)
1652     pivot_category_create_leaves (communalities->root, N_("Initial"));
1653   if (factor->print & PRINT_EXTRACTION)
1654     pivot_category_create_leaves (communalities->root, N_("Extraction"));
1655
1656   struct pivot_dimension *variables = pivot_dimension_create (
1657     table, PIVOT_AXIS_ROW, N_("Variables"));
1658
1659   for (size_t i = 0 ; i < factor->n_vars; ++i)
1660     {
1661       int row = pivot_category_create_leaf (
1662         variables->root, pivot_value_new_variable (factor->vars[i]));
1663
1664       int col = 0;
1665       if (factor->print & PRINT_INITIAL)
1666         pivot_table_put2 (table, col++, row, pivot_value_new_number (
1667                             gsl_vector_get (initial, i)));
1668       if (factor->print & PRINT_EXTRACTION)
1669         pivot_table_put2 (table, col++, row, pivot_value_new_number (
1670                             gsl_vector_get (extracted, i)));
1671     }
1672
1673   pivot_table_submit (table);
1674 }
1675
1676 static struct pivot_dimension *
1677 create_numeric_dimension (struct pivot_table *table,
1678                           enum pivot_axis_type axis_type, const char *name,
1679                           size_t n, bool show_label)
1680 {
1681   struct pivot_dimension *d = pivot_dimension_create (table, axis_type, name);
1682   d->root->show_label = show_label;
1683   for (int i = 0 ; i < n; ++i)
1684     pivot_category_create_leaf (d->root, pivot_value_new_integer (i + 1));
1685   return d;
1686 }
1687
1688 static void
1689 show_factor_matrix (const struct cmd_factor *factor, const struct idata *idata, const char *title, const gsl_matrix *fm)
1690 {
1691   struct pivot_table *table = pivot_table_create (title);
1692
1693   const int n_factors = idata->n_extractions;
1694   create_numeric_dimension (
1695     table, PIVOT_AXIS_COLUMN,
1696     factor->extraction == EXTRACTION_PC ? N_("Component") : N_("Factor"),
1697     n_factors, true);
1698
1699   struct pivot_dimension *variables = pivot_dimension_create (
1700     table, PIVOT_AXIS_ROW, N_("Variables"));
1701
1702   /* Initialise to the identity permutation */
1703   gsl_permutation *perm = gsl_permutation_calloc (factor->n_vars);
1704
1705   if (factor->sort)
1706     sort_matrix_indirect (fm, perm);
1707
1708   for (size_t i = 0 ; i < factor->n_vars; ++i)
1709     {
1710       const int matrix_row = perm->data[i];
1711
1712       int var_idx = pivot_category_create_leaf (
1713         variables->root, pivot_value_new_variable (factor->vars[matrix_row]));
1714
1715       for (size_t j = 0 ; j < n_factors; ++j)
1716         {
1717           double x = gsl_matrix_get (fm, matrix_row, j);
1718           if (fabs (x) < factor->blank)
1719             continue;
1720
1721           pivot_table_put2 (table, j, var_idx, pivot_value_new_number (x));
1722         }
1723     }
1724
1725   gsl_permutation_free (perm);
1726
1727   pivot_table_submit (table);
1728 }
1729
1730 static void
1731 put_variance (struct pivot_table *table, int row, int phase_idx,
1732               double lambda, double percent, double cum)
1733 {
1734   double entries[] = { lambda, percent, cum };
1735   for (size_t i = 0; i < sizeof entries / sizeof *entries; i++)
1736     pivot_table_put3 (table, i, phase_idx, row,
1737                       pivot_value_new_number (entries[i]));
1738 }
1739
1740 static void
1741 show_explained_variance (const struct cmd_factor * factor,
1742                          const struct idata *idata,
1743                          const gsl_vector *initial_eigenvalues,
1744                          const gsl_vector *extracted_eigenvalues,
1745                          const gsl_vector *rotated_loadings)
1746 {
1747   if (!(factor->print & (PRINT_INITIAL | PRINT_EXTRACTION | PRINT_ROTATION)))
1748     return;
1749
1750   struct pivot_table *table = pivot_table_create (
1751     N_("Total Variance Explained"));
1752
1753   pivot_dimension_create (table, PIVOT_AXIS_COLUMN, N_("Statistics"),
1754                           N_("Total"), PIVOT_RC_OTHER,
1755                           /* xgettext:no-c-format */
1756                           N_("% of Variance"), PIVOT_RC_PERCENT,
1757                           /* xgettext:no-c-format */
1758                           N_("Cumulative %"), PIVOT_RC_PERCENT);
1759
1760   struct pivot_dimension *phase = pivot_dimension_create (
1761     table, PIVOT_AXIS_COLUMN, N_("Phase"));
1762   if (factor->print & PRINT_INITIAL)
1763     pivot_category_create_leaves (phase->root, N_("Initial Eigenvalues"));
1764
1765   if (factor->print & PRINT_EXTRACTION)
1766     pivot_category_create_leaves (phase->root,
1767                                   N_("Extraction Sums of Squared Loadings"));
1768
1769   if (factor->print & PRINT_ROTATION)
1770     pivot_category_create_leaves (phase->root,
1771                                   N_("Rotation Sums of Squared Loadings"));
1772
1773   struct pivot_dimension *components = pivot_dimension_create (
1774     table, PIVOT_AXIS_ROW,
1775     factor->extraction == EXTRACTION_PC ? N_("Component") : N_("Factor"));
1776
1777   double i_total = 0.0;
1778   for (size_t i = 0 ; i < initial_eigenvalues->size; ++i)
1779     i_total += gsl_vector_get (initial_eigenvalues, i);
1780
1781   double e_total = (factor->extraction == EXTRACTION_PAF
1782                     ? factor->n_vars
1783                     : i_total);
1784
1785   double i_cum = 0.0;
1786   double e_cum = 0.0;
1787   double r_cum = 0.0;
1788   for (size_t i = 0 ; i < factor->n_vars; ++i)
1789     {
1790       const double i_lambda = gsl_vector_get (initial_eigenvalues, i);
1791       double i_percent = 100.0 * i_lambda / i_total ;
1792       i_cum += i_percent;
1793
1794       const double e_lambda = gsl_vector_get (extracted_eigenvalues, i);
1795       double e_percent = 100.0 * e_lambda / e_total ;
1796       e_cum += e_percent;
1797
1798       int row = pivot_category_create_leaf (
1799         components->root, pivot_value_new_integer (i + 1));
1800
1801       int phase_idx = 0;
1802
1803       /* Initial Eigenvalues */
1804       if (factor->print & PRINT_INITIAL)
1805         put_variance (table, row, phase_idx++, i_lambda, i_percent, i_cum);
1806
1807       if (i < idata->n_extractions)
1808         {
1809           if (factor->print & PRINT_EXTRACTION)
1810             put_variance (table, row, phase_idx++, e_lambda, e_percent, e_cum);
1811
1812           if (rotated_loadings != NULL && factor->print & PRINT_ROTATION)
1813             {
1814               double r_lambda = gsl_vector_get (rotated_loadings, i);
1815               double r_percent = 100.0 * r_lambda / e_total ;
1816               if (factor->rotation == ROT_PROMAX)
1817                 r_lambda = r_percent = SYSMIS;
1818
1819               r_cum += r_percent;
1820               put_variance (table, row, phase_idx++, r_lambda, r_percent,
1821                             r_cum);
1822             }
1823         }
1824     }
1825
1826   pivot_table_submit (table);
1827 }
1828
1829 static void
1830 show_factor_correlation (const struct cmd_factor * factor, const gsl_matrix *fcm)
1831 {
1832   struct pivot_table *table = pivot_table_create (
1833     N_("Factor Correlation Matrix"));
1834
1835   create_numeric_dimension (
1836     table, PIVOT_AXIS_ROW,
1837     factor->extraction == EXTRACTION_PC ? N_("Component") : N_("Factor"),
1838     fcm->size2, true);
1839
1840   create_numeric_dimension (table, PIVOT_AXIS_COLUMN, N_("Factor 2"),
1841                             fcm->size1, false);
1842
1843   for (size_t i = 0 ; i < fcm->size1; ++i)
1844     for (size_t j = 0 ; j < fcm->size2; ++j)
1845       pivot_table_put2 (table, j, i,
1846                         pivot_value_new_number (gsl_matrix_get (fcm, i, j)));
1847
1848   pivot_table_submit (table);
1849 }
1850
1851 static void
1852 add_var_dims (struct pivot_table *table, const struct cmd_factor *factor)
1853 {
1854   for (int i = 0; i < 2; i++)
1855     {
1856       struct pivot_dimension *d = pivot_dimension_create (
1857         table, i ? PIVOT_AXIS_ROW : PIVOT_AXIS_COLUMN,
1858         N_("Variables"));
1859
1860       for (size_t j = 0; j < factor->n_vars; j++)
1861         pivot_category_create_leaf (
1862           d->root, pivot_value_new_variable (factor->vars[j]));
1863     }
1864 }
1865
1866 static void
1867 show_aic (const struct cmd_factor *factor, const struct idata *idata)
1868 {
1869   if ((factor->print & PRINT_AIC) == 0)
1870     return;
1871
1872   struct pivot_table *table = pivot_table_create (N_("Anti-Image Matrices"));
1873
1874   add_var_dims (table, factor);
1875
1876   pivot_dimension_create (table, PIVOT_AXIS_ROW, N_("Statistics"),
1877                           N_("Anti-image Covariance"),
1878                           N_("Anti-image Correlation"));
1879
1880   for (size_t i = 0; i < factor->n_vars; ++i)
1881     for (size_t j = 0; j < factor->n_vars; ++j)
1882       {
1883         double cov = gsl_matrix_get (idata->ai_cov, i, j);
1884         pivot_table_put3 (table, i, j, 0, pivot_value_new_number (cov));
1885
1886         double corr = gsl_matrix_get (idata->ai_cor, i, j);
1887         pivot_table_put3 (table, i, j, 1, pivot_value_new_number (corr));
1888       }
1889
1890   pivot_table_submit (table);
1891 }
1892
1893 static void
1894 show_correlation_matrix (const struct cmd_factor *factor, const struct idata *idata)
1895 {
1896   if (!(factor->print & (PRINT_CORRELATION | PRINT_SIG | PRINT_DETERMINANT)))
1897     return;
1898
1899   struct pivot_table *table = pivot_table_create (N_("Correlation Matrix"));
1900
1901   if (factor->print & (PRINT_CORRELATION | PRINT_SIG))
1902     {
1903       add_var_dims (table, factor);
1904
1905       struct pivot_dimension *statistics = pivot_dimension_create (
1906         table, PIVOT_AXIS_ROW, N_("Statistics"));
1907       if (factor->print & PRINT_CORRELATION)
1908         pivot_category_create_leaves (statistics->root, N_("Correlation"),
1909                                       PIVOT_RC_CORRELATION);
1910       if (factor->print & PRINT_SIG)
1911         pivot_category_create_leaves (statistics->root, N_("Sig. (1-tailed)"),
1912                                       PIVOT_RC_SIGNIFICANCE);
1913
1914       int stat_idx = 0;
1915       if (factor->print & PRINT_CORRELATION)
1916         {
1917           for (int i = 0; i < factor->n_vars; ++i)
1918             for (int j = 0; j < factor->n_vars; ++j)
1919               {
1920                 double corr = gsl_matrix_get (idata->mm.corr, i, j);
1921                 pivot_table_put3 (table, j, i, stat_idx,
1922                                   pivot_value_new_number (corr));
1923               }
1924           stat_idx++;
1925         }
1926
1927       if (factor->print & PRINT_SIG)
1928         {
1929           for (int i = 0; i < factor->n_vars; ++i)
1930             for (int j = 0; j < factor->n_vars; ++j)
1931               if (i != j)
1932                 {
1933                   double rho = gsl_matrix_get (idata->mm.corr, i, j);
1934                   double w = gsl_matrix_get (idata->mm.n, i, j);
1935                   double sig = significance_of_correlation (rho, w);
1936                   pivot_table_put3 (table, j, i, stat_idx,
1937                                     pivot_value_new_number (sig));
1938                 }
1939           stat_idx++;
1940         }
1941     }
1942
1943   if (factor->print & PRINT_DETERMINANT)
1944     table->caption = pivot_value_new_user_text_nocopy (
1945       xasprintf ("%s: %.2f", _("Determinant"), idata->detR));
1946
1947   pivot_table_submit (table);
1948 }
1949
1950 static void
1951 show_covariance_matrix (const struct cmd_factor *factor, const struct idata *idata)
1952 {
1953   if (!(factor->print & PRINT_COVARIANCE))
1954     return;
1955
1956   struct pivot_table *table = pivot_table_create (N_("Covariance Matrix"));
1957   add_var_dims (table, factor);
1958
1959   for (int i = 0; i < factor->n_vars; ++i)
1960     for (int j = 0; j < factor->n_vars; ++j)
1961       {
1962         double cov = gsl_matrix_get (idata->mm.cov, i, j);
1963         pivot_table_put2 (table, j, i, pivot_value_new_number (cov));
1964       }
1965
1966   pivot_table_submit (table);
1967 }
1968
1969
1970 static void
1971 do_factor (const struct cmd_factor *factor, struct casereader *r)
1972 {
1973   struct ccase *c;
1974   struct idata *idata = idata_alloc (factor->n_vars);
1975
1976   idata->cvm = covariance_1pass_create (factor->n_vars, factor->vars,
1977                                         factor->wv, factor->exclude, true);
1978
1979   for (; (c = casereader_read (r)); case_unref (c))
1980     {
1981       covariance_accumulate (idata->cvm, c);
1982     }
1983
1984   idata->mm.cov = covariance_calculate (idata->cvm);
1985
1986   if (idata->mm.cov == NULL)
1987     {
1988       msg (MW, _("The dataset contains no complete observations. No analysis will be performed."));
1989       covariance_destroy (idata->cvm);
1990       goto finish;
1991     }
1992
1993   idata->mm.var_matrix = covariance_moments (idata->cvm, MOMENT_VARIANCE);
1994   idata->mm.mean_matrix = covariance_moments (idata->cvm, MOMENT_MEAN);
1995   idata->mm.n = covariance_moments (idata->cvm, MOMENT_NONE);
1996
1997   do_factor_by_matrix (factor, idata);
1998
1999  finish:
2000   gsl_matrix_free (idata->mm.corr);
2001   gsl_matrix_free (idata->mm.cov);
2002
2003   idata_free (idata);
2004   casereader_destroy (r);
2005 }
2006
2007 static void
2008 do_factor_by_matrix (const struct cmd_factor *factor, struct idata *idata)
2009 {
2010   if (!idata->mm.cov && !idata->mm.corr)
2011     {
2012       msg (ME, _("The dataset has no complete covariance or correlation matrix."));
2013       return;
2014     }
2015
2016   if (idata->mm.cov && !idata->mm.corr)
2017     idata->mm.corr = correlation_from_covariance (idata->mm.cov, idata->mm.var_matrix);
2018   if (idata->mm.corr && !idata->mm.cov)
2019     idata->mm.cov = covariance_from_correlation (idata->mm.corr, idata->mm.var_matrix);
2020   if (factor->method == METHOD_CORR)
2021     idata->analysis_matrix = idata->mm.corr;
2022   else
2023     idata->analysis_matrix = idata->mm.cov;
2024
2025   gsl_matrix *r_inv;
2026   r_inv  = clone_matrix (idata->mm.corr);
2027   gsl_linalg_cholesky_decomp (r_inv);
2028   gsl_linalg_cholesky_invert (r_inv);
2029
2030   idata->ai_cov = anti_image_cov (r_inv);
2031   idata->ai_cor = anti_image_corr (r_inv, idata);
2032
2033   int i;
2034   double sum_ssq_r = 0;
2035   double sum_ssq_a = 0;
2036   for (i = 0; i < r_inv->size1; ++i)
2037     {
2038       sum_ssq_r += ssq_od_n (idata->mm.corr, i);
2039       sum_ssq_a += ssq_od_n (idata->ai_cor, i);
2040     }
2041
2042   gsl_matrix_free (r_inv);
2043
2044   if (factor->print & PRINT_DETERMINANT
2045       || factor->print & PRINT_KMO)
2046     {
2047       int sign = 0;
2048
2049       const int size = idata->mm.corr->size1;
2050       gsl_permutation *p = gsl_permutation_calloc (size);
2051       gsl_matrix *tmp = gsl_matrix_calloc (size, size);
2052       gsl_matrix_memcpy (tmp, idata->mm.corr);
2053
2054       gsl_linalg_LU_decomp (tmp, p, &sign);
2055       idata->detR = gsl_linalg_LU_det (tmp, sign);
2056       gsl_permutation_free (p);
2057       gsl_matrix_free (tmp);
2058     }
2059
2060   if (factor->print & PRINT_UNIVARIATE)
2061     {
2062       struct pivot_table *table = pivot_table_create (
2063         N_("Descriptive Statistics"));
2064       pivot_table_set_weight_var (table, factor->wv);
2065
2066       pivot_dimension_create (table, PIVOT_AXIS_COLUMN, N_("Statistics"),
2067                               N_("Mean"), PIVOT_RC_OTHER,
2068                               N_("Std. Deviation"), PIVOT_RC_OTHER,
2069                               N_("Analysis N"), PIVOT_RC_COUNT);
2070
2071       struct pivot_dimension *variables = pivot_dimension_create (
2072         table, PIVOT_AXIS_ROW, N_("Variables"));
2073
2074       for (i = 0 ; i < factor->n_vars; ++i)
2075         {
2076           const struct variable *v = factor->vars[i];
2077
2078           int row = pivot_category_create_leaf (
2079             variables->root, pivot_value_new_variable (v));
2080
2081           double entries[] = {
2082             gsl_matrix_get (idata->mm.mean_matrix, i, i),
2083             sqrt (gsl_matrix_get (idata->mm.var_matrix, i, i)),
2084             gsl_matrix_get (idata->mm.n, i, i),
2085           };
2086           for (size_t j = 0; j < sizeof entries / sizeof *entries; j++)
2087             pivot_table_put2 (table, j, row,
2088                               pivot_value_new_number (entries[j]));
2089         }
2090
2091       pivot_table_submit (table);
2092     }
2093
2094   if (factor->print & PRINT_KMO)
2095     {
2096       struct pivot_table *table = pivot_table_create (
2097         N_("KMO and Bartlett's Test"));
2098
2099       struct pivot_dimension *statistics = pivot_dimension_create (
2100         table, PIVOT_AXIS_ROW, N_("Statistics"),
2101         N_("Kaiser-Meyer-Olkin Measure of Sampling Adequacy"), PIVOT_RC_OTHER);
2102       pivot_category_create_group (
2103         statistics->root, N_("Bartlett's Test of Sphericity"),
2104         N_("Approx. Chi-Square"), PIVOT_RC_OTHER,
2105         N_("df"), PIVOT_RC_INTEGER,
2106         N_("Sig."), PIVOT_RC_SIGNIFICANCE);
2107
2108       /* The literature doesn't say what to do for the value of W when
2109          missing values are involved.  The best thing I can think of
2110          is to take the mean average. */
2111       double w = 0;
2112       for (i = 0; i < idata->mm.n->size1; ++i)
2113         w += gsl_matrix_get (idata->mm.n, i, i);
2114       w /= idata->mm.n->size1;
2115
2116       double xsq = ((w - 1 - (2 * factor->n_vars + 5) / 6.0)
2117                     * -log (idata->detR));
2118       double df = factor->n_vars * (factor->n_vars - 1) / 2;
2119       double entries[] = {
2120         sum_ssq_r / (sum_ssq_r + sum_ssq_a),
2121         xsq,
2122         df,
2123         gsl_cdf_chisq_Q (xsq, df)
2124       };
2125       for (size_t i = 0; i < sizeof entries / sizeof *entries; i++)
2126         pivot_table_put1 (table, i, pivot_value_new_number (entries[i]));
2127
2128       pivot_table_submit (table);
2129     }
2130
2131   show_correlation_matrix (factor, idata);
2132   show_covariance_matrix (factor, idata);
2133   if (idata->cvm)
2134     covariance_destroy (idata->cvm);
2135
2136   {
2137     gsl_matrix *am = matrix_dup (idata->analysis_matrix);
2138     gsl_eigen_symmv_workspace *workspace = gsl_eigen_symmv_alloc (factor->n_vars);
2139
2140     gsl_eigen_symmv (am, idata->eval, idata->evec, workspace);
2141
2142     gsl_eigen_symmv_free (workspace);
2143     gsl_matrix_free (am);
2144   }
2145
2146   gsl_eigen_symmv_sort (idata->eval, idata->evec, GSL_EIGEN_SORT_ABS_DESC);
2147
2148   idata->n_extractions = n_extracted_factors (factor, idata);
2149
2150   if (idata->n_extractions == 0)
2151     {
2152       msg (MW, _("The %s criteria result in zero factors extracted. Therefore no analysis will be performed."), "FACTOR");
2153       return;
2154     }
2155
2156   if (idata->n_extractions > factor->n_vars)
2157     {
2158       msg (MW,
2159            _("The %s criteria result in more factors than variables, which is not meaningful. No analysis will be performed."),
2160            "FACTOR");
2161       return;
2162     }
2163
2164   {
2165     gsl_matrix *rotated_factors = NULL;
2166     gsl_matrix *pattern_matrix = NULL;
2167     gsl_matrix *fcm = NULL;
2168     gsl_vector *rotated_loadings = NULL;
2169
2170     const gsl_vector *extracted_eigenvalues = NULL;
2171     gsl_vector *initial_communalities = gsl_vector_alloc (factor->n_vars);
2172     gsl_vector *extracted_communalities = gsl_vector_alloc (factor->n_vars);
2173     size_t i;
2174     struct factor_matrix_workspace *fmw = factor_matrix_workspace_alloc (idata->msr->size, idata->n_extractions);
2175     gsl_matrix *factor_matrix = gsl_matrix_calloc (factor->n_vars, fmw->n_factors);
2176
2177     if (factor->extraction == EXTRACTION_PAF)
2178       {
2179         gsl_vector *diff = gsl_vector_alloc (idata->msr->size);
2180         struct smr_workspace *ws = ws_create (idata->analysis_matrix);
2181
2182         for (i = 0 ; i < factor->n_vars ; ++i)
2183           {
2184             double r2 = squared_multiple_correlation (idata->analysis_matrix, i, ws);
2185
2186             gsl_vector_set (idata->msr, i, r2);
2187           }
2188         ws_destroy (ws);
2189
2190         gsl_vector_memcpy (initial_communalities, idata->msr);
2191
2192         for (i = 0; i < factor->extraction_iterations; ++i)
2193           {
2194             double min, max;
2195             gsl_vector_memcpy (diff, idata->msr);
2196
2197             iterate_factor_matrix (idata->analysis_matrix, idata->msr, factor_matrix, fmw);
2198
2199             gsl_vector_sub (diff, idata->msr);
2200
2201             gsl_vector_minmax (diff, &min, &max);
2202
2203             if (fabs (min) < factor->econverge && fabs (max) < factor->econverge)
2204               break;
2205           }
2206         gsl_vector_free (diff);
2207
2208
2209
2210         gsl_vector_memcpy (extracted_communalities, idata->msr);
2211         extracted_eigenvalues = fmw->eval;
2212       }
2213     else if (factor->extraction == EXTRACTION_PC)
2214       {
2215         for (i = 0; i < factor->n_vars; ++i)
2216           gsl_vector_set (initial_communalities, i, communality (idata, i, factor->n_vars));
2217
2218         gsl_vector_memcpy (extracted_communalities, initial_communalities);
2219
2220         iterate_factor_matrix (idata->analysis_matrix, extracted_communalities, factor_matrix, fmw);
2221
2222
2223         extracted_eigenvalues = idata->eval;
2224       }
2225
2226
2227     show_aic (factor, idata);
2228     show_communalities (factor, initial_communalities, extracted_communalities);
2229
2230     if (factor->rotation != ROT_NONE)
2231       {
2232         rotated_factors = gsl_matrix_calloc (factor_matrix->size1, factor_matrix->size2);
2233         rotated_loadings = gsl_vector_calloc (factor_matrix->size2);
2234         if (factor->rotation == ROT_PROMAX)
2235           {
2236             pattern_matrix = gsl_matrix_calloc (factor_matrix->size1, factor_matrix->size2);
2237             fcm = gsl_matrix_calloc (factor_matrix->size2, factor_matrix->size2);
2238           }
2239
2240
2241         rotate (factor, factor_matrix, extracted_communalities, rotated_factors, rotated_loadings, pattern_matrix, fcm);
2242       }
2243
2244     show_explained_variance (factor, idata, idata->eval, extracted_eigenvalues, rotated_loadings);
2245
2246     factor_matrix_workspace_free (fmw);
2247
2248     show_scree (factor, idata);
2249
2250     show_factor_matrix (factor, idata,
2251                         (factor->extraction == EXTRACTION_PC
2252                          ? N_("Component Matrix") : N_("Factor Matrix")),
2253                         factor_matrix);
2254
2255     if (factor->rotation == ROT_PROMAX)
2256       {
2257         show_factor_matrix (factor, idata, N_("Pattern Matrix"),
2258                             pattern_matrix);
2259         gsl_matrix_free (pattern_matrix);
2260       }
2261
2262     if (factor->rotation != ROT_NONE)
2263       {
2264         show_factor_matrix (factor, idata,
2265                             (factor->rotation == ROT_PROMAX
2266                              ? N_("Structure Matrix")
2267                              : factor->extraction == EXTRACTION_PC
2268                              ? N_("Rotated Component Matrix")
2269                              : N_("Rotated Factor Matrix")),
2270                             rotated_factors);
2271
2272         gsl_matrix_free (rotated_factors);
2273       }
2274
2275     if (factor->rotation == ROT_PROMAX)
2276       {
2277         show_factor_correlation (factor, fcm);
2278         gsl_matrix_free (fcm);
2279       }
2280
2281     gsl_matrix_free (factor_matrix);
2282     gsl_vector_free (rotated_loadings);
2283     gsl_vector_free (initial_communalities);
2284     gsl_vector_free (extracted_communalities);
2285   }
2286 }
2287
2288