work
[pspp] / src / language / stats / ctables.c
index 96d12e03fcd4d94c4c5dbddbdf3547b315e560cf..8cf79c01230d3c87165e24e475d1f98c5de3e29c 100644 (file)
@@ -16,6 +16,8 @@
 
 #include <config.h>
 
+#include <math.h>
+
 #include "data/casereader.h"
 #include "data/dataset.h"
 #include "data/dictionary.h"
 #include "language/lexer/format-parser.h"
 #include "language/lexer/lexer.h"
 #include "language/lexer/variable-parser.h"
-#include "language/stats/freq.h"
 #include "libpspp/array.h"
 #include "libpspp/assertion.h"
 #include "libpspp/hmap.h"
 #include "libpspp/message.h"
 #include "libpspp/string-array.h"
+#include "math/moments.h"
 #include "output/pivot-table.h"
 
 #include "gl/minmax.h"
 
 enum ctables_vlabel
   {
-    CTVL_DEFAULT = SETTINGS_VALUE_SHOW_DEFAULT,
+    CTVL_NONE = SETTINGS_VALUE_SHOW_DEFAULT,
     CTVL_NAME = SETTINGS_VALUE_SHOW_VALUE,
     CTVL_LABEL = SETTINGS_VALUE_SHOW_LABEL,
     CTVL_BOTH = SETTINGS_VALUE_SHOW_BOTH,
-    CTVL_NONE,
   };
-static void UNUSED
-ctables_vlabel_unique (enum ctables_vlabel vlabel)
-{
-  /* This ensures that all of the values are unique. */
-  switch (vlabel)
-    {
-    case CTVL_DEFAULT:
-    case CTVL_NAME:
-    case CTVL_LABEL:
-    case CTVL_BOTH:
-    case CTVL_NONE:
-      abort ();
-    }
-}
 
 /* XXX:
    - unweighted summaries (U*)
@@ -416,7 +403,7 @@ struct ctables_axis
           {
             struct ctables_var var;
             bool scale;
-            struct ctables_summary *summaries;
+            struct ctables_summary_spec *summaries;
             size_t n_summaries;
             size_t allocated_summaries;
           };
@@ -444,7 +431,7 @@ enum ctables_function_availability
     CTFA_MRSETS,             /* Only multiple-response sets */
   };
 
-struct ctables_summary
+struct ctables_summary_spec
   {
     enum ctables_summary_function function;
     double percentile;          /* CTSF_PTILE only. */
@@ -453,7 +440,7 @@ struct ctables_summary
   };
 
 static void
-ctables_summary_uninit (struct ctables_summary *s)
+ctables_summary_spec_uninit (struct ctables_summary_spec *s)
 {
   if (s)
     free (s->label);
@@ -553,7 +540,7 @@ ctables_axis_destroy (struct ctables_axis *axis)
     {
     case CTAO_VAR:
       for (size_t i = 0; i < axis->n_summaries; i++)
-        ctables_summary_uninit (&axis->summaries[i]);
+        ctables_summary_spec_uninit (&axis->summaries[i]);
       free (axis->summaries);
       break;
 
@@ -627,10 +614,10 @@ ctables_summary_function_name (enum ctables_summary_function function)
 }
 
 static bool
-add_summary (struct ctables_axis *axis,
-             enum ctables_summary_function function, double percentile,
-             const char *label, const struct fmt_spec *format,
-             const struct msg_location *loc)
+add_summary_spec (struct ctables_axis *axis,
+                  enum ctables_summary_function function, double percentile,
+                  const char *label, const struct fmt_spec *format,
+                  const struct msg_location *loc)
 {
   if (axis->op == CTAO_VAR)
     {
@@ -670,8 +657,8 @@ add_summary (struct ctables_axis *axis,
           break;
         }
 
-      struct ctables_summary *dst = &axis->summaries[axis->n_summaries++];
-      *dst = (struct ctables_summary) {
+      struct ctables_summary_spec *dst = &axis->summaries[axis->n_summaries++];
+      *dst = (struct ctables_summary_spec) {
         .function = function,
         .percentile = percentile,
         .label = xstrdup (label),
@@ -683,8 +670,8 @@ add_summary (struct ctables_axis *axis,
   else
     {
       for (size_t i = 0; i < 2; i++)
-        if (!add_summary (axis->subs[i], function, percentile, label, format,
-                          loc))
+        if (!add_summary_spec (axis->subs[i], function, percentile, label,
+                               format, loc))
           return false;
       return true;
     }
@@ -822,7 +809,7 @@ ctables_axis_parse_postfix (struct ctables_axis_parse_ctx *ctx)
 
       struct msg_location *loc = lex_ofs_location (ctx->lexer, start_ofs,
                                                    lex_ofs (ctx->lexer) - 1);
-      add_summary (sub, function, percentile, label, formatp, loc);
+      add_summary_spec (sub, function, percentile, label, formatp, loc);
       free (label);
       msg_location_destroy (loc);
 
@@ -865,7 +852,7 @@ find_scale (const struct ctables_axis *axis)
 }
 
 static const struct ctables_axis *
-find_categorical_summary (const struct ctables_axis *axis)
+find_categorical_summary_spec (const struct ctables_axis *axis)
 {
   if (!axis)
     return NULL;
@@ -876,7 +863,7 @@ find_categorical_summary (const struct ctables_axis *axis)
       for (size_t i = 0; i < 2; i++)
         {
           const struct ctables_axis *sum
-            = find_categorical_summary (axis->subs[i]);
+            = find_categorical_summary_spec (axis->subs[i]);
           if (sum)
             return sum;
         }
@@ -912,7 +899,7 @@ ctables_axis_parse_nest (struct ctables_axis_parse_ctx *ctx)
           return NULL;
         }
 
-      const struct ctables_axis *outer_sum = find_categorical_summary (lhs);
+      const struct ctables_axis *outer_sum = find_categorical_summary_spec (lhs);
       if (outer_sum)
         {
           msg_at (SE, nest->loc,
@@ -1256,7 +1243,9 @@ ctables_table_parse_categories (struct lexer *lexer, struct dictionary *dict,
 
 struct var_array
   {
+    const struct ctables_axis *summary;
     struct variable **vars;
+    enum pivot_axis_type *axes;
     size_t n;
   };
 
@@ -1264,7 +1253,10 @@ static void
 var_array_uninit (struct var_array *va)
 {
   if (va)
-    free (va->vars);
+    {
+      free (va->vars);
+      free (va->axes);
+    }
 }
 
 struct var_array2
@@ -1296,16 +1288,34 @@ nest_fts (struct var_array2 va0, struct var_array2 va1)
   for (size_t i = 0; i < va0.n; i++)
     for (size_t j = 0; j < va1.n; j++)
       {
-        size_t allocate = va0.vas[i].n + va1.vas[j].n;
+        const struct var_array *a = &va0.vas[i];
+        const struct var_array *b = &va1.vas[j];
+
+        size_t allocate = a->n + b->n;
         struct variable **vars = xnmalloc (allocate, sizeof *vars);
+        enum pivot_axis_type *axes = xnmalloc (allocate, sizeof *axes);
         size_t n = 0;
-        for (size_t k = 0; k < va0.vas[i].n; k++)
-          vars[n++] = va0.vas[i].vars[k];
-        for (size_t k = 0; k < va1.vas[j].n; k++)
-          vars[n++] = va1.vas[j].vars[k];
+        for (size_t k = 0; k < a->n; k++)
+          {
+            vars[n] = a->vars[k];
+            axes[n] = a->axes[k];
+            n++;
+          }
+        for (size_t k = 0; k < b->n; k++)
+          {
+            vars[n] = b->vars[k];
+            axes[n] = b->axes[k];
+            n++;
+          }
         assert (n == allocate);
 
-        vaa.vas[vaa.n++] = (struct var_array) { .vars = vars, n = n };
+        assert (!(a->summary && b->summary));
+        vaa.vas[vaa.n++] = (struct var_array) {
+          .summary = a->summary ? a->summary : b->summary,
+          .vars = vars,
+          .axes = axes,
+          .n = n
+        };
       }
   var_array2_uninit (&va0);
   var_array2_uninit (&va1);
@@ -1327,7 +1337,7 @@ stack_fts (struct var_array2 va0, struct var_array2 va1)
 }
 
 static struct var_array2
-enumerate_fts (const struct ctables_axis *a)
+enumerate_fts (enum pivot_axis_type axis_type, const struct ctables_axis *a)
 {
   if (!a)
     return (struct var_array2) { .n = 0 };
@@ -1336,46 +1346,521 @@ enumerate_fts (const struct ctables_axis *a)
     {
     case CTAO_VAR:
       assert (!a->var.is_mrset);
-      struct variable **v = xmalloc (sizeof *v);
-      *v = a->var.var;
       struct var_array *va = xmalloc (sizeof *va);
-      *va = (struct var_array) { .vars = v, .n = 1 };
+      if (a->scale)
+        *va = (struct var_array) { .n = 0 };
+      else
+        {
+          struct variable **vars = xmalloc (sizeof *vars);
+          *vars = a->var.var;
+          enum pivot_axis_type *axes = xmalloc (sizeof *axes);
+          *axes = axis_type;
+          *va = (struct var_array) { .vars = vars, .axes = axes, .n = 1 };
+        }
+      va->summary = a->scale || a->n_summaries ? a : NULL;
       return (struct var_array2) { .vas = va, .n = 1 };
 
     case CTAO_STACK:
-      return stack_fts (enumerate_fts (a->subs[0]),
-                        enumerate_fts (a->subs[1]));
+      return stack_fts (enumerate_fts (axis_type, a->subs[0]),
+                        enumerate_fts (axis_type, a->subs[1]));
 
     case CTAO_NEST:
-      return nest_fts (enumerate_fts (a->subs[0]),
-                       enumerate_fts (a->subs[1]));
+      return nest_fts (enumerate_fts (axis_type, a->subs[0]),
+                       enumerate_fts (axis_type, a->subs[1]));
+    }
+
+  NOT_REACHED ();
+}
+
+union ctables_summary
+  {
+    /* COUNT, VALIDN, TOTALN. */
+    struct
+      {
+        double valid;
+        double missing;
+      };
+
+    /* MINIMUM, MAXIMUM, RANGE. */
+    struct
+      {
+        double min;
+        double max;
+      };
+
+    /* MEAN, SEMEAN, STDDEV, SUM, VARIANCE, *.SUM. */
+    struct moments1 *moments;
+
+    /* XXX percentiles, median, mode, multiple response */
+  };
+
+static void
+ctables_summary_init (union ctables_summary *s,
+                      const struct ctables_summary_spec *ss)
+{
+  switch (ss->function)
+    {
+    case CTSF_COUNT:
+    case CTSF_ECOUNT:
+    case CTSF_ROWPCT_COUNT:
+    case CTSF_COLPCT_COUNT:
+    case CTSF_TABLEPCT_COUNT:
+    case CTSF_SUBTABLEPCT_COUNT:
+    case CTSF_LAYERPCT_COUNT:
+    case CTSF_LAYERROWPCT_COUNT:
+    case CTSF_LAYERCOLPCT_COUNT:
+    case CTSF_ROWPCT_VALIDN:
+    case CTSF_COLPCT_VALIDN:
+    case CTSF_TABLEPCT_VALIDN:
+    case CTSF_SUBTABLEPCT_VALIDN:
+    case CTSF_LAYERPCT_VALIDN:
+    case CTSF_LAYERROWPCT_VALIDN:
+    case CTSF_LAYERCOLPCT_VALIDN:
+    case CTSF_ROWPCT_TOTALN:
+    case CTSF_COLPCT_TOTALN:
+    case CTSF_TABLEPCT_TOTALN:
+    case CTSF_SUBTABLEPCT_TOTALN:
+    case CTSF_LAYERPCT_TOTALN:
+    case CTSF_LAYERROWPCT_TOTALN:
+    case CTSF_LAYERCOLPCT_TOTALN:
+    case CSTF_TOTALN:
+    case CTSF_ETOTALN:
+    case CTSF_VALIDN:
+    case CTSF_EVALIDN:
+      s->missing = s->valid = 0;
+      break;
+
+    case CTSF_MAXIMUM:
+    case CTSF_MINIMUM:
+    case CTSF_RANGE:
+      s->min = s->max = SYSMIS;
+      break;
+
+    case CTSF_MEAN:
+    case CTSF_SEMEAN:
+    case CTSF_STDDEV:
+    case CTSF_SUM:
+    case CTSF_VARIANCE:
+    case CTSF_ROWPCT_SUM:
+    case CTSF_COLPCT_SUM:
+    case CTSF_TABLEPCT_SUM:
+    case CTSF_SUBTABLEPCT_SUM:
+    case CTSF_LAYERPCT_SUM:
+    case CTSF_LAYERROWPCT_SUM:
+    case CTSF_LAYERCOLPCT_SUM:
+      s->moments = moments1_create (MOMENT_VARIANCE);
+      break;
+
+    case CTSF_MEDIAN:
+    case CTSF_MISSING:
+    case CTSF_MODE:
+    case CTSF_PTILE:
+      NOT_REACHED ();
+
+    case CTSF_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES:
+    case CTSF_COLPCT_RESPONSES:
+    case CTSF_TABLEPCT_RESPONSES:
+    case CTSF_SUBTABLEPCT_RESPONSES:
+    case CTSF_LAYERPCT_RESPONSES:
+    case CTSF_LAYERROWPCT_RESPONSES:
+    case CTSF_LAYERCOLPCT_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES_COUNT:
+    case CTSF_COLPCT_RESPONSES_COUNT:
+    case CTSF_TABLEPCT_RESPONSES_COUNT:
+    case CTSF_SUBTABLEPCT_RESPONSES_COUNT:
+    case CTSF_LAYERPCT_RESPONSES_COUNT:
+    case CTSF_LAYERROWPCT_RESPONSES_COUNT:
+    case CTSF_LAYERCOLPCT_RESPONSES_COUNT:
+    case CTSF_ROWPCT_COUNT_RESPONSES:
+    case CTSF_COLPCT_COUNT_RESPONSES:
+    case CTSF_TABLEPCT_COUNT_RESPONSES:
+    case CTSF_SUBTABLEPCT_COUNT_RESPONSES:
+    case CTSF_LAYERPCT_COUNT_RESPONSES:
+    case CTSF_LAYERROWPCT_COUNT_RESPONSES:
+    case CTSF_LAYERCOLPCT_COUNT_RESPONSES:
+      NOT_REACHED ();
+    }
+}
+
+static void
+ctables_summary_uninit (union ctables_summary *s,
+                        const struct ctables_summary_spec *ss)
+{
+  switch (ss->function)
+    {
+    case CTSF_COUNT:
+    case CTSF_ECOUNT:
+    case CTSF_ROWPCT_COUNT:
+    case CTSF_COLPCT_COUNT:
+    case CTSF_TABLEPCT_COUNT:
+    case CTSF_SUBTABLEPCT_COUNT:
+    case CTSF_LAYERPCT_COUNT:
+    case CTSF_LAYERROWPCT_COUNT:
+    case CTSF_LAYERCOLPCT_COUNT:
+    case CTSF_ROWPCT_VALIDN:
+    case CTSF_COLPCT_VALIDN:
+    case CTSF_TABLEPCT_VALIDN:
+    case CTSF_SUBTABLEPCT_VALIDN:
+    case CTSF_LAYERPCT_VALIDN:
+    case CTSF_LAYERROWPCT_VALIDN:
+    case CTSF_LAYERCOLPCT_VALIDN:
+    case CTSF_ROWPCT_TOTALN:
+    case CTSF_COLPCT_TOTALN:
+    case CTSF_TABLEPCT_TOTALN:
+    case CTSF_SUBTABLEPCT_TOTALN:
+    case CTSF_LAYERPCT_TOTALN:
+    case CTSF_LAYERROWPCT_TOTALN:
+    case CTSF_LAYERCOLPCT_TOTALN:
+    case CSTF_TOTALN:
+    case CTSF_ETOTALN:
+    case CTSF_VALIDN:
+    case CTSF_EVALIDN:
+      break;
+
+    case CTSF_MAXIMUM:
+    case CTSF_MINIMUM:
+    case CTSF_RANGE:
+      break;
+
+    case CTSF_MEAN:
+    case CTSF_SEMEAN:
+    case CTSF_STDDEV:
+    case CTSF_SUM:
+    case CTSF_VARIANCE:
+    case CTSF_ROWPCT_SUM:
+    case CTSF_COLPCT_SUM:
+    case CTSF_TABLEPCT_SUM:
+    case CTSF_SUBTABLEPCT_SUM:
+    case CTSF_LAYERPCT_SUM:
+    case CTSF_LAYERROWPCT_SUM:
+    case CTSF_LAYERCOLPCT_SUM:
+      moments1_destroy (s->moments);
+      break;
+
+    case CTSF_MEDIAN:
+    case CTSF_MISSING:
+    case CTSF_MODE:
+    case CTSF_PTILE:
+      NOT_REACHED ();
+
+    case CTSF_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES:
+    case CTSF_COLPCT_RESPONSES:
+    case CTSF_TABLEPCT_RESPONSES:
+    case CTSF_SUBTABLEPCT_RESPONSES:
+    case CTSF_LAYERPCT_RESPONSES:
+    case CTSF_LAYERROWPCT_RESPONSES:
+    case CTSF_LAYERCOLPCT_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES_COUNT:
+    case CTSF_COLPCT_RESPONSES_COUNT:
+    case CTSF_TABLEPCT_RESPONSES_COUNT:
+    case CTSF_SUBTABLEPCT_RESPONSES_COUNT:
+    case CTSF_LAYERPCT_RESPONSES_COUNT:
+    case CTSF_LAYERROWPCT_RESPONSES_COUNT:
+    case CTSF_LAYERCOLPCT_RESPONSES_COUNT:
+    case CTSF_ROWPCT_COUNT_RESPONSES:
+    case CTSF_COLPCT_COUNT_RESPONSES:
+    case CTSF_TABLEPCT_COUNT_RESPONSES:
+    case CTSF_SUBTABLEPCT_COUNT_RESPONSES:
+    case CTSF_LAYERPCT_COUNT_RESPONSES:
+    case CTSF_LAYERROWPCT_COUNT_RESPONSES:
+    case CTSF_LAYERCOLPCT_COUNT_RESPONSES:
+      NOT_REACHED ();
+    }
+}
+
+static void
+ctables_summary_add (union ctables_summary *s,
+                     const struct ctables_summary_spec *ss,
+                     const struct variable *var, const union value *value,
+                     double weight)
+{
+  switch (ss->function)
+    {
+    case CTSF_COUNT:
+    case CTSF_ECOUNT:
+    case CTSF_ROWPCT_COUNT:
+    case CTSF_COLPCT_COUNT:
+    case CTSF_TABLEPCT_COUNT:
+    case CTSF_SUBTABLEPCT_COUNT:
+    case CTSF_LAYERPCT_COUNT:
+    case CTSF_LAYERROWPCT_COUNT:
+    case CTSF_LAYERCOLPCT_COUNT:
+    case CTSF_ROWPCT_VALIDN:
+    case CTSF_COLPCT_VALIDN:
+    case CTSF_TABLEPCT_VALIDN:
+    case CTSF_SUBTABLEPCT_VALIDN:
+    case CTSF_LAYERPCT_VALIDN:
+    case CTSF_LAYERROWPCT_VALIDN:
+    case CTSF_LAYERCOLPCT_VALIDN:
+    case CTSF_ROWPCT_TOTALN:
+    case CTSF_COLPCT_TOTALN:
+    case CTSF_TABLEPCT_TOTALN:
+    case CTSF_SUBTABLEPCT_TOTALN:
+    case CTSF_LAYERPCT_TOTALN:
+    case CTSF_LAYERROWPCT_TOTALN:
+    case CTSF_LAYERCOLPCT_TOTALN:
+    case CSTF_TOTALN:
+    case CTSF_ETOTALN:
+    case CTSF_VALIDN:
+    case CTSF_EVALIDN:
+      if (var_is_value_missing (var, value))
+        s->missing += weight;
+      else
+        s->valid += weight;
+      break;
+
+    case CTSF_MAXIMUM:
+    case CTSF_MINIMUM:
+    case CTSF_RANGE:
+      if (!var_is_value_missing (var, value))
+        {
+          assert (!var_is_alpha (var)); /* XXX? */
+          if (s->min == SYSMIS || value->f < s->min)
+            s->min = value->f;
+          if (s->max == SYSMIS || value->f > s->max)
+            s->max = value->f;
+        }
+      break;
+
+    case CTSF_MEAN:
+    case CTSF_SEMEAN:
+    case CTSF_STDDEV:
+    case CTSF_SUM:
+    case CTSF_VARIANCE:
+    case CTSF_ROWPCT_SUM:
+    case CTSF_COLPCT_SUM:
+    case CTSF_TABLEPCT_SUM:
+    case CTSF_SUBTABLEPCT_SUM:
+    case CTSF_LAYERPCT_SUM:
+    case CTSF_LAYERROWPCT_SUM:
+    case CTSF_LAYERCOLPCT_SUM:
+      moments1_add (s->moments, value->f, weight);
+      break;
+
+    case CTSF_MEDIAN:
+    case CTSF_MISSING:
+    case CTSF_MODE:
+    case CTSF_PTILE:
+      NOT_REACHED ();
+
+    case CTSF_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES:
+    case CTSF_COLPCT_RESPONSES:
+    case CTSF_TABLEPCT_RESPONSES:
+    case CTSF_SUBTABLEPCT_RESPONSES:
+    case CTSF_LAYERPCT_RESPONSES:
+    case CTSF_LAYERROWPCT_RESPONSES:
+    case CTSF_LAYERCOLPCT_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES_COUNT:
+    case CTSF_COLPCT_RESPONSES_COUNT:
+    case CTSF_TABLEPCT_RESPONSES_COUNT:
+    case CTSF_SUBTABLEPCT_RESPONSES_COUNT:
+    case CTSF_LAYERPCT_RESPONSES_COUNT:
+    case CTSF_LAYERROWPCT_RESPONSES_COUNT:
+    case CTSF_LAYERCOLPCT_RESPONSES_COUNT:
+    case CTSF_ROWPCT_COUNT_RESPONSES:
+    case CTSF_COLPCT_COUNT_RESPONSES:
+    case CTSF_TABLEPCT_COUNT_RESPONSES:
+    case CTSF_SUBTABLEPCT_COUNT_RESPONSES:
+    case CTSF_LAYERPCT_COUNT_RESPONSES:
+    case CTSF_LAYERROWPCT_COUNT_RESPONSES:
+    case CTSF_LAYERCOLPCT_COUNT_RESPONSES:
+      NOT_REACHED ();
+    }
+}
+
+
+static double UNUSED
+ctables_summary_value (union ctables_summary *s,
+                       const struct ctables_summary_spec *ss)
+{
+  switch (ss->function)
+    {
+    case CTSF_COUNT:
+    case CTSF_ECOUNT:
+      return s->valid;
+
+    case CTSF_ROWPCT_COUNT:
+    case CTSF_COLPCT_COUNT:
+    case CTSF_TABLEPCT_COUNT:
+    case CTSF_SUBTABLEPCT_COUNT:
+    case CTSF_LAYERPCT_COUNT:
+    case CTSF_LAYERROWPCT_COUNT:
+    case CTSF_LAYERCOLPCT_COUNT:
+    case CTSF_ROWPCT_VALIDN:
+    case CTSF_COLPCT_VALIDN:
+    case CTSF_TABLEPCT_VALIDN:
+    case CTSF_SUBTABLEPCT_VALIDN:
+    case CTSF_LAYERPCT_VALIDN:
+    case CTSF_LAYERROWPCT_VALIDN:
+    case CTSF_LAYERCOLPCT_VALIDN:
+    case CTSF_ROWPCT_TOTALN:
+    case CTSF_COLPCT_TOTALN:
+    case CTSF_TABLEPCT_TOTALN:
+    case CTSF_SUBTABLEPCT_TOTALN:
+    case CTSF_LAYERPCT_TOTALN:
+    case CTSF_LAYERROWPCT_TOTALN:
+    case CTSF_LAYERCOLPCT_TOTALN:
+      NOT_REACHED ();
+
+    case CSTF_TOTALN:
+    case CTSF_ETOTALN:
+      return s->valid + s->missing;
+
+    case CTSF_VALIDN:
+    case CTSF_EVALIDN:
+      return s->valid;
+
+    case CTSF_MAXIMUM:
+      return s->max;
+
+    case CTSF_MINIMUM:
+      return s->min;
+
+    case CTSF_RANGE:
+      return s->max != SYSMIS && s->min != SYSMIS ? s->max - s->min : SYSMIS;
+
+    case CTSF_MEAN:
+      {
+        double mean;
+        moments1_calculate (s->moments, NULL, &mean, NULL, NULL, NULL);
+        return mean;
+      }
+
+    case CTSF_SEMEAN:
+      {
+        double weight, variance;
+        moments1_calculate (s->moments, &weight, NULL, &variance, NULL, NULL);
+        return calc_semean (variance, weight);
+      }
+
+    case CTSF_STDDEV:
+      {
+        double variance;
+        moments1_calculate (s->moments, NULL, NULL, &variance, NULL, NULL);
+        return variance != SYSMIS ? sqrt (variance) : SYSMIS;
+      }
+
+    case CTSF_SUM:
+      {
+        double weight, mean;
+        moments1_calculate (s->moments, &weight, &mean, NULL, NULL, NULL);
+        return weight != SYSMIS && mean != SYSMIS ? weight * mean : SYSMIS;
+      }
+
+    case CTSF_VARIANCE:
+      {
+        double variance;
+        moments1_calculate (s->moments, NULL, NULL, &variance, NULL, NULL);
+        return variance;
+      }
+
+    case CTSF_ROWPCT_SUM:
+    case CTSF_COLPCT_SUM:
+    case CTSF_TABLEPCT_SUM:
+    case CTSF_SUBTABLEPCT_SUM:
+    case CTSF_LAYERPCT_SUM:
+    case CTSF_LAYERROWPCT_SUM:
+    case CTSF_LAYERCOLPCT_SUM:
+      NOT_REACHED ();
+
+    case CTSF_MEDIAN:
+    case CTSF_MISSING:
+    case CTSF_MODE:
+    case CTSF_PTILE:
+      NOT_REACHED ();
+
+    case CTSF_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES:
+    case CTSF_COLPCT_RESPONSES:
+    case CTSF_TABLEPCT_RESPONSES:
+    case CTSF_SUBTABLEPCT_RESPONSES:
+    case CTSF_LAYERPCT_RESPONSES:
+    case CTSF_LAYERROWPCT_RESPONSES:
+    case CTSF_LAYERCOLPCT_RESPONSES:
+    case CTSF_ROWPCT_RESPONSES_COUNT:
+    case CTSF_COLPCT_RESPONSES_COUNT:
+    case CTSF_TABLEPCT_RESPONSES_COUNT:
+    case CTSF_SUBTABLEPCT_RESPONSES_COUNT:
+    case CTSF_LAYERPCT_RESPONSES_COUNT:
+    case CTSF_LAYERROWPCT_RESPONSES_COUNT:
+    case CTSF_LAYERCOLPCT_RESPONSES_COUNT:
+    case CTSF_ROWPCT_COUNT_RESPONSES:
+    case CTSF_COLPCT_COUNT_RESPONSES:
+    case CTSF_TABLEPCT_COUNT_RESPONSES:
+    case CTSF_SUBTABLEPCT_COUNT_RESPONSES:
+    case CTSF_LAYERPCT_COUNT_RESPONSES:
+    case CTSF_LAYERROWPCT_COUNT_RESPONSES:
+    case CTSF_LAYERCOLPCT_COUNT_RESPONSES:
+      NOT_REACHED ();
     }
 
   NOT_REACHED ();
 }
 
+struct ctables_freq
+  {
+    struct hmap_node node;      /* Element in hash table. */
+    union ctables_summary *summaries;
+    union value values[];      /* The value. */
+  };
+
 struct ctables_freqtab
   {
     struct var_array vars;
-    struct hmap data;           /* Contains "struct freq"s. */
-    struct freq **sorted;
+    struct hmap data;           /* Contains "struct ctables_freq"s. */
+    const struct ctables_summary_spec *summaries;
+    size_t n_summaries;
+    const struct variable *summary_var;
+  };
+
+static struct ctables_freq *
+ctables_freq_create (struct ctables_freqtab *ft)
+{
+  struct ctables_freq *f = xmalloc (sizeof *f + ft->vars.n * sizeof *f->values);
+  f->summaries = xmalloc (ft->n_summaries * sizeof *f->summaries);
+  for (size_t i = 0; i < ft->n_summaries; i++)
+    ctables_summary_init (&f->summaries[i], &ft->summaries[i]);
+  return f;
+}
+
+static void
+ctables_freq_add (struct ctables_freqtab *ft, struct ctables_freq *f,
+                  const struct variable *var, const union value *value,
+                  double weight)
+{
+  for (size_t i = 0; i < ft->n_summaries; i++)
+    ctables_summary_add (&f->summaries[i], &ft->summaries[i],
+                         var, value, weight);
+}
+
+struct ctables_axis_render
+  {
+    size_t ofs;
+    struct variable **vars;
+    size_t n_vars;
+
+    struct ctables_freq **freqs;
+    size_t n_freqs;
   };
 
 static int
-compare_freq_3way (const void *a_, const void *b_, const void *vars_)
+ctables_freq_compare_3way (const void *a_, const void *b_, const void *ar_)
 {
-  const struct var_array *vars = vars_;
-  struct freq *const *a = a_;
-  struct freq *const *b = b_;
+  const struct ctables_axis_render *ar = ar_;
+  struct ctables_freq *const *a = a_;
+  struct ctables_freq *const *b = b_;
 
-  for (size_t i = 0; i < vars->n; i++)
+  for (size_t i = 0; i < ar->n_vars; i++)
     {
-      int cmp = value_compare_3way (&(*a)->values[i], &(*b)->values[i],
-                                    var_get_width (vars->vars[i]));
+      int cmp = value_compare_3way (&(*a)->values[i + ar->ofs],
+                                    &(*b)->values[i + ar->ofs],
+                                    var_get_width (ar->vars[i]));
       if (cmp)
         return cmp;
     }
-  
   return 0;
 }
 
@@ -1387,25 +1872,65 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
       size_t allocated_fts = 0;
 
       struct ctables_table *t = &ct->tables[i];
-      struct var_array2 vaa = enumerate_fts (t->axes[PIVOT_AXIS_ROW]);
-      vaa = nest_fts (vaa, enumerate_fts (t->axes[PIVOT_AXIS_COLUMN]));
-      vaa = nest_fts (vaa, enumerate_fts (t->axes[PIVOT_AXIS_LAYER]));
+      struct var_array2 vaa = { .n = 0 };
+      for (enum pivot_axis_type a = 0; a < PIVOT_N_AXES; a++)
+        vaa = nest_fts (vaa, enumerate_fts (a, t->axes[a]));
       for (size_t i = 0; i < vaa.n; i++)
         {
           for (size_t j = 0; j < vaa.vas[i].n; j++)
             {
               if (j)
                 fputs (", ", stdout);
-              fputs (var_get_name (vaa.vas[i].vars[j]), stdout);
+              printf ("%s (%c)", var_get_name (vaa.vas[i].vars[j]),
+                      vaa.vas[i].axes[j] == PIVOT_AXIS_ROW ? 'r'
+                      : vaa.vas[i].axes[j] == PIVOT_AXIS_COLUMN ? 'c'
+                      : vaa.vas[i].axes[j] == PIVOT_AXIS_LAYER ? 'l'
+                      : '?');
             }
           putchar ('\n');
         }
 
       for (size_t j = 0; j < vaa.n; j++)
         {
+          const struct var_array *va = &vaa.vas[j];
+          const struct ctables_summary_spec *summaries;
+          size_t n_summaries;
+          const struct variable *summary_var;
+          if (!va->summary)
+            {
+              static const struct ctables_summary_spec count = {
+                .function = CTSF_COUNT,
+                .label = (char *) N_("Count"),
+                .format = { .type = FMT_F, .w = 40 },
+              };
+              summaries = &count;
+              n_summaries = 1;
+              summary_var = va->vars[0];
+            }
+          else if (va->summary->n_summaries)
+            {
+              summaries = va->summary->summaries;
+              n_summaries = va->summary->n_summaries;
+              summary_var = va->summary->var.var;
+            }
+          else
+            {
+              static const struct ctables_summary_spec mean = {
+                .function = CTSF_MEAN,
+                .label = (char *) N_("Mean"),
+                .format = { .type = FMT_F, .w = 40, .d = 2}, /* XXX */
+              };
+              summaries = &mean;
+              n_summaries = 1;
+              summary_var = va->summary->var.var;
+            };
+
           struct ctables_freqtab *ft = xmalloc (sizeof *ft);
           *ft = (struct ctables_freqtab) {
-            .vars = vaa.vas[j],
+            .vars = *va,
+            .summaries = summaries,
+            .n_summaries = n_summaries,
+            .summary_var = summary_var,
             .data = HMAP_INITIALIZER (ft->data),
           };
 
@@ -1457,8 +1982,8 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
                   hash = value_hash (case_data (c, var), var_get_width (var), hash);
                 }
 
-              struct freq *f;
-              HMAP_FOR_EACH_WITH_HASH (f, struct freq, node, hash, &ft->data)
+              struct ctables_freq *f;
+              HMAP_FOR_EACH_WITH_HASH (f, struct ctables_freq, node, hash, &ft->data)
                 {
                   for (size_t k = 0; k < ft->vars.n; k++)
                     {
@@ -1467,15 +1992,12 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
                                         var_get_width (var)))
                         goto next_hash_node;
                     }
-
-                  f->count += weight;
-                  goto next_ft;
+                  goto found;
 
                 next_hash_node: ;
                 }
 
-              f = xmalloc (table_entry_size (ft->vars.n));
-              f->count = weight;
+              f = ctables_freq_create (ft);
               for (size_t k = 0; k < ft->vars.n; k++)
                 {
                   const struct variable *var = ft->vars.vars[k];
@@ -1484,6 +2006,10 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
                 }
               hmap_insert (&ft->data, &f->node, hash);
 
+            found:
+              ctables_freq_add (ft, f, ft->summary_var,
+                                case_data (c, ft->summary_var), weight);
+
             next_ft: ;
             }
         }
@@ -1495,55 +2021,119 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
       struct ctables_table *t = &ct->tables[i];
 
       struct pivot_table *pt = pivot_table_create (N_("Custom Tables"));
-      struct pivot_dimension *d = pivot_dimension_create (
-        pt, PIVOT_AXIS_ROW, N_("Rows"));
+      pivot_table_set_look (pt, ct->look);
+      struct pivot_dimension *d[PIVOT_N_AXES];
+      for (enum pivot_axis_type a = 0; a < PIVOT_N_AXES; a++)
+        {
+          static const char *names[] = {
+            [PIVOT_AXIS_ROW] = N_("Rows"),
+            [PIVOT_AXIS_COLUMN] = N_("Columns"),
+            [PIVOT_AXIS_LAYER] = N_("Layers"),
+          };
+          d[a] = (t->axes[a] || a == t->slabels_position
+                  ? pivot_dimension_create (pt, a, names[a])
+                  : NULL);
+        }
       for (size_t j = 0; j < t->n_fts; j++)
         {
           struct ctables_freqtab *ft = t->fts[j];
-          ft->sorted = xnmalloc (ft->data.count, sizeof *ft->sorted);
-
-          struct freq *f;
-          size_t n = 0;
-          HMAP_FOR_EACH (f, struct freq, node, &ft->data)
-            ft->sorted[n++] = f;
-          assert (n == ft->data.count);
-          sort (ft->sorted, n, sizeof *ft->sorted,
-                compare_freq_3way, &ft->vars);
-
-          struct pivot_category **groups = xnmalloc (ft->vars.n,
-                                                     sizeof *groups);
-          for (size_t k = 0; k < n; k++)
+
+          struct ctables_axis_render axis_renders[PIVOT_N_AXES];
+
+          for (enum pivot_axis_type a = 0; a < PIVOT_N_AXES; a++)
             {
-              struct freq *prev = k > 0 ? ft->sorted[k - 1] : NULL;
-              struct freq *f = ft->sorted[k];
-
-              size_t n_common = 0;
-              if (prev)
-                for (; n_common + 1 < ft->vars.n; n_common++)
-                  if (!value_equal (&prev->values[n_common],
-                                    &f->values[n_common],
-                                    var_get_type (ft->vars.vars[n_common])))
+              size_t ofs = 0;
+              struct variable **vars = NULL;
+              size_t n = 0;
+              for (size_t k = 0; k < ft->vars.n; k++)
+                if (ft->vars.axes[k] == a)
+                  {
+                    ofs = k;
+                    vars = &ft->vars.vars[k];
+                    for (n = 1; k + n < ft->vars.n; n++)
+                      if (ft->vars.axes[k + n] != a)
+                        break;
                     break;
+                  }
+
+              struct ctables_axis_render *ar = &axis_renders[a];
+              *ar = (struct ctables_axis_render) {
+                .ofs = ofs,
+                .vars = vars,
+                .n_vars = n
+              };
+              printf ("axis %s: %zu variables\n", pivot_axis_type_to_string (a), n);
+              if (!n)
+                continue;
+
+              ar->freqs = xnmalloc (ft->data.count, sizeof *ar->freqs);
+
+              struct ctables_freq *f;
+              size_t n_freqs = 0;
+              HMAP_FOR_EACH (f, struct ctables_freq, node, &ft->data)
+                ar->freqs[n_freqs++] = f;
+              assert (n_freqs == ft->data.count);
+              ar->n_freqs = sort_unique (ar->freqs, n_freqs, sizeof *ar->freqs,
+                                         ctables_freq_compare_3way, ar);
+            }
 
-              for (size_t m = n_common; m + 1 < ft->vars.n; m++)
+          for (enum pivot_axis_type a = 0; a < PIVOT_N_AXES; a++)
+            {
+              struct ctables_axis_render *ar = &axis_renders[a];
+              if (!ar->n_vars && a != t->slabels_position)
+                continue;
+
+              struct pivot_category **groups = xnmalloc (ar->n_vars,
+                                                         sizeof *groups);
+              for (size_t k = 0; k < ar->n_freqs; k++)
                 {
-                  struct pivot_category *parent = m > 0 ? groups[m - 1] : d->root;
-                  if (true)
-                    parent = pivot_category_create_group__ (
-                      parent, pivot_value_new_variable (ft->vars.vars[m]));
-                  groups[m] = pivot_category_create_group__ (
-                    parent,
-                    pivot_value_new_var_value (ft->vars.vars[m], &f->values[m]));
-                }
+                  struct ctables_freq *prev = k > 0 ? ar->freqs[k - 1] : NULL;
+                  struct ctables_freq *f = ar->freqs[k];
+
+                  size_t n_common = 0;
+                  if (prev)
+                    for (; n_common + 1 < ar->n_vars; n_common++)
+                      if (!value_equal (&prev->values[ar->ofs + n_common],
+                                        &f->values[ar->ofs + n_common],
+                                        var_get_type (ar->vars[n_common])))
+                        break;
+
+                  for (size_t m = n_common; m < ar->n_vars; m++)
+                    {
+                      struct pivot_category *parent = m > 0 ? groups[m - 1] : d[a]->root;
+                      const struct variable *var = ar->vars[m];
+                      enum ctables_vlabel vlabel = ct->vlabels[var_get_dict_index (var)];
+
+                      if (vlabel != CTVL_NONE)
+                        parent = pivot_category_create_group__ (
+                          parent, pivot_value_new_variable (ar->vars[m]));
 
-              int leaf = pivot_category_create_leaf (
-                ft->vars.n > 1 ? groups[ft->vars.n - 2] : d->root,
-                pivot_value_new_var_value (ft->vars.vars[ft->vars.n - 1],
-                                           &f->values[ft->vars.n - 1]));
+                      if (m + 1 < ar->n_vars)
+                        parent = pivot_category_create_group__ (
+                          parent,
+                          pivot_value_new_var_value (ar->vars[m], &f->values[m]));
+                      groups[m] = parent;
 
-              pivot_table_put1 (pt, leaf, pivot_value_new_number (f->count));
+                      if (m == ar->n_vars - 1)
+                        {
+                          pivot_category_create_leaf (
+                            parent,
+                            pivot_value_new_var_value (ar->vars[ar->n_vars - 1],
+                                                       &f->values[ar->ofs + ar->n_vars - 1]));
+#if 0
+                          for (size_t p = 0; p < ft->n_summaries; p++)
+                            {
+                              if (a == t->slabels_position)
+                                pivot_category_create_leaf (
+                                  c, pivot_value_new_text (ft->summaries[p].label));
+                              //pivot_table_put1 (pt, leaf, pivot_value_new_number (value));
+                            }
+#endif
+                        }
+                    }
+                }
+              free (groups);
             }
-          free (groups);
         }
       pivot_table_submit (pt);
     }
@@ -1555,10 +2145,13 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
       for (size_t j = 0; j < t->n_fts; j++)
         {
           struct ctables_freqtab *ft = t->fts[j];
-          struct freq *f, *next;
-          HMAP_FOR_EACH_SAFE (f, next, struct freq, node, &ft->data)
+          struct ctables_freq *f, *next;
+          HMAP_FOR_EACH_SAFE (f, next, struct ctables_freq, node, &ft->data)
             {
               hmap_delete (&ft->data, &f->node);
+              for (size_t k = 0; k < ft->n_summaries; k++)
+                ctables_summary_uninit (&f->summaries[k], &ft->summaries[k]);
+              free (f->summaries);
               for (size_t k = 0; k < ft->vars.n; k++)
                 {
                   const struct variable *var = ft->vars.vars[k];
@@ -1567,7 +2160,6 @@ ctables_execute (struct dataset *ds, struct ctables *ct)
               free (f);
             }
           hmap_destroy (&ft->data);
-          free (ft->sorted);
           var_array_uninit (&ft->vars);
           free (ft);
         }
@@ -1582,8 +2174,9 @@ cmd_ctables (struct lexer *lexer, struct dataset *ds)
 {
   size_t n_vars = dict_get_n_vars (dataset_dict (ds));
   enum ctables_vlabel *vlabels = xnmalloc (n_vars, sizeof *vlabels);
+  enum settings_value_show tvars = settings_get_show_variables ();
   for (size_t i = 0; i < n_vars; i++)
-    vlabels[i] = CTVL_DEFAULT;
+    vlabels[i] = (enum ctables_vlabel) tvars;
 
   struct ctables *ct = xmalloc (sizeof *ct);
   *ct = (struct ctables) {
@@ -1592,6 +2185,7 @@ cmd_ctables (struct lexer *lexer, struct dataset *ds)
     .vlabels = vlabels,
     .hide_threshold = 5,
   };
+  ct->look->omit_empty = false;
 
   if (!lex_force_match (lexer, T_SLASH))
     goto error;
@@ -1707,7 +2301,7 @@ cmd_ctables (struct lexer *lexer, struct dataset *ds)
 
           enum ctables_vlabel vlabel;
           if (lex_match_id (lexer, "DEFAULT"))
-            vlabel = CTVL_DEFAULT;
+            vlabel = (enum ctables_vlabel) settings_get_show_variables ();
           else if (lex_match_id (lexer, "NAME"))
             vlabel = CTVL_NAME;
           else if (lex_match_id (lexer, "LABEL"))