2d60467845361a61b78aaea5e95382ac7372887e
[pspp] / src / language / stats / graph.c
1 /*
2   PSPP - a program for statistical analysis.
3   Copyright (C) 2012, 2013, 2015 Free Software Foundation, Inc.
4
5   This program is free software: you can redistribute it and/or modify
6   it under the terms of the GNU General Public License as published by
7   the Free Software Foundation, either version 3 of the License, or
8   (at your option) any later version.
9
10   This program is distributed in the hope that it will be useful,
11   but WITHOUT ANY WARRANTY; without even the implied warranty of
12   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13   GNU General Public License for more details.
14
15   You should have received a copy of the GNU General Public License
16   along with this program.  If not, see <http://www.gnu.org/licenses/>.
17 */
18
19 /*
20  * This module implements the graph command
21  */
22
23 #include <config.h>
24
25 #include <math.h>
26 #include "gl/xalloc.h"
27 #include <gsl/gsl_cdf.h>
28
29 #include "libpspp/assertion.h"
30 #include "libpspp/message.h"
31 #include "libpspp/pool.h"
32
33
34 #include "data/dataset.h"
35 #include "data/dictionary.h"
36 #include "data/casegrouper.h"
37 #include "data/casereader.h"
38 #include "data/casewriter.h"
39 #include "data/caseproto.h"
40 #include "data/subcase.h"
41
42
43 #include "data/format.h"
44
45 #include "math/chart-geometry.h"
46 #include "math/histogram.h"
47 #include "math/moments.h"
48 #include "math/sort.h"
49 #include "math/order-stats.h"
50 #include "output/charts/plot-hist.h"
51 #include "output/charts/scatterplot.h"
52 #include "output/charts/barchart.h"
53
54 #include "language/command.h"
55 #include "language/lexer/lexer.h"
56 #include "language/lexer/value-parser.h"
57 #include "language/lexer/variable-parser.h"
58 #include "language/stats/freq.h"
59 #include "language/stats/chart-category.h"
60
61 #include "gettext.h"
62 #define _(msgid) gettext (msgid)
63 #define N_(msgid) msgid
64
65 enum chart_type
66   {
67     CT_NONE,
68     CT_BAR,
69     CT_LINE,
70     CT_PIE,
71     CT_ERRORBAR,
72     CT_HILO,
73     CT_HISTOGRAM,
74     CT_SCATTERPLOT,
75     CT_PARETO
76   };
77
78 enum scatter_type
79   {
80     ST_BIVARIATE,
81     ST_OVERLAY,
82     ST_MATRIX,
83     ST_XYZ
84   };
85
86 enum  bar_type
87   {
88     CBT_SIMPLE,
89     CBT_GROUPED,
90     CBT_STACKED,
91     CBT_RANGE
92   };
93
94
95 /* Variable index for histogram case */
96 enum
97   {
98     HG_IDX_X,
99     HG_IDX_WT
100   };
101
102 struct exploratory_stats
103 {
104   double missing;
105   double non_missing;
106
107   struct moments *mom;
108
109   double minimum;
110   double maximum;
111
112   /* Total weight */
113   double cc;
114
115   /* The minimum weight */
116   double cmin;
117 };
118
119
120 struct graph
121 {
122   struct pool *pool;
123
124   size_t n_dep_vars;
125   const struct variable **dep_vars;
126   struct exploratory_stats *es;
127
128   enum mv_class dep_excl;
129   enum mv_class fctr_excl;
130
131   const struct dictionary *dict;
132
133   bool missing_pw;
134
135   /* ------------ Graph ---------------- */
136   bool normal; /* For histograms, draw the normal curve */
137
138   enum chart_type chart_type;
139   enum scatter_type scatter_type;
140   enum bar_type bar_type;
141   const struct variable *by_var[2];
142   size_t n_by_vars;
143
144   struct subcase ordering; /* Ordering for aggregation */
145   int agr; /* Index into ag_func */
146
147   /* A caseproto that contains the plot data */
148   struct caseproto *gr_proto;
149 };
150
151
152
153
154 static double
155 calc_mom1 (double acc, double x, double w)
156 {
157   return acc + x * w;
158 }
159
160 static double
161 calc_mom0 (double acc, double x UNUSED, double w)
162 {
163   return acc + w;
164 }
165
166 static double
167 pre_low_extreme (void)
168 {
169   return -DBL_MAX;
170 }
171
172 static double
173 calc_max (double acc, double x, double w UNUSED)
174 {
175   return (acc > x) ? acc : x;
176 }
177
178 static double
179 pre_high_extreme (void)
180 {
181   return DBL_MAX;
182 }
183
184 static double
185 calc_min (double acc, double x, double w UNUSED)
186 {
187   return (acc < x) ? acc : x;
188 }
189
190 static double
191 post_normalise (double acc, double cc)
192 {
193   return acc / cc;
194 }
195
196 static double
197 post_percentage (double acc, double ccc)
198 {
199   return acc / ccc * 100.0;
200 }
201
202
203 const struct ag_func ag_func[] =
204   {
205     {"COUNT",   N_("Count"),      0, 0, NULL, calc_mom0, 0, 0},
206     {"PCT",     N_("Percentage"), 0, 0, NULL, calc_mom0, 0, post_percentage},
207     {"CUFREQ",  N_("Cumulative Count"),   0, 1, NULL, calc_mom0, 0, 0},
208     {"CUPCT",   N_("Cumulative Percent"), 0, 1, NULL, calc_mom0, 0,
209      post_percentage},
210
211     {"MEAN",    N_("Mean"),    1, 0, NULL, calc_mom1, post_normalise, 0},
212     {"SUM",     N_("Sum"),     1, 0, NULL, calc_mom1, 0, 0},
213     {"MAXIMUM", N_("Maximum"), 1, 0, pre_low_extreme, calc_max, 0, 0},
214     {"MINIMUM", N_("Minimum"), 1, 0, pre_high_extreme, calc_min, 0, 0},
215   };
216
217 const int N_AG_FUNCS = sizeof (ag_func) / sizeof (ag_func[0]);
218
219 static bool
220 parse_function (struct lexer *lexer, struct graph *graph)
221 {
222   int i;
223   for (i = 0 ; i < N_AG_FUNCS; ++i)
224     {
225       if (lex_match_id (lexer, ag_func[i].name))
226         {
227           graph->agr = i;
228           break;
229         }
230     }
231   if (i == N_AG_FUNCS)
232     {
233       goto error;
234     }
235
236   graph->n_dep_vars = ag_func[i].arity;
237   if (ag_func[i].arity > 0)
238     {
239       int v;
240       if (!lex_force_match (lexer, T_LPAREN))
241         goto error;
242
243       graph->dep_vars = xzalloc (sizeof (graph->dep_vars) * graph->n_dep_vars);
244       for (v = 0; v < ag_func[i].arity; ++v)
245         {
246           graph->dep_vars[v] = parse_variable (lexer, graph->dict);
247           if (! graph->dep_vars[v])
248             goto error;
249         }
250
251       if (!lex_force_match (lexer, T_RPAREN))
252         goto error;
253     }
254
255   if (!lex_force_match (lexer, T_BY))
256     goto error;
257
258   graph->by_var[0] = parse_variable (lexer, graph->dict);
259   if (!graph->by_var[0])
260     {
261       goto error;
262     }
263   subcase_add_var (&graph->ordering, graph->by_var[0], SC_ASCEND);
264   graph->n_by_vars++;
265
266   if (lex_match (lexer, T_BY))
267     {
268       graph->by_var[1] = parse_variable (lexer, graph->dict);
269       if (!graph->by_var[1])
270         {
271           goto error;
272         }
273       subcase_add_var (&graph->ordering, graph->by_var[1], SC_ASCEND);
274       graph->n_by_vars++;
275     }
276
277   return true;
278
279  error:
280   lex_error (lexer, NULL);
281   return false;
282 }
283
284
285 static void
286 show_scatterplot (const struct graph *cmd, struct casereader *input)
287 {
288   struct string title;
289   struct scatterplot_chart *scatterplot;
290   bool byvar_overflow = false;
291
292   ds_init_empty (&title);
293
294   if (cmd->n_by_vars > 0)
295     {
296       ds_put_format (&title, _("%s vs. %s by %s"),
297                            var_to_string (cmd->dep_vars[1]),
298                            var_to_string (cmd->dep_vars[0]),
299                            var_to_string (cmd->by_var[0]));
300     }
301   else
302     {
303       ds_put_format (&title, _("%s vs. %s"),
304                      var_to_string (cmd->dep_vars[1]),
305                      var_to_string (cmd->dep_vars[0]));
306     }
307
308   scatterplot = scatterplot_create (input,
309                                     var_to_string(cmd->dep_vars[0]),
310                                     var_to_string(cmd->dep_vars[1]),
311                                     (cmd->n_by_vars > 0) ? cmd->by_var[0]
312                                                          : NULL,
313                                     &byvar_overflow,
314                                     ds_cstr (&title),
315                                     cmd->es[0].minimum, cmd->es[0].maximum,
316                                     cmd->es[1].minimum, cmd->es[1].maximum);
317   scatterplot_chart_submit (scatterplot);
318   ds_destroy (&title);
319
320   if (byvar_overflow)
321     {
322       msg (MW, _("Maximum number of scatterplot categories reached. "
323                  "Your BY variable has too many distinct values. "
324                  "The coloring of the plot will not be correct."));
325     }
326 }
327
328 static void
329 show_histogr (const struct graph *cmd, struct casereader *input)
330 {
331   struct histogram *histogram;
332   struct ccase *c;
333
334   if (cmd->es[0].cc <= 0)
335     {
336       casereader_destroy (input);
337       return;
338     }
339
340   {
341     /* Sturges Rule */
342     double bin_width = fabs (cmd->es[0].minimum - cmd->es[0].maximum)
343       / (1 + log2 (cmd->es[0].cc))
344       ;
345
346     histogram =
347       histogram_create (bin_width, cmd->es[0].minimum, cmd->es[0].maximum);
348   }
349
350   if (NULL == histogram)
351     {
352       casereader_destroy (input);
353       return;
354     }
355
356   for (;(c = casereader_read (input)) != NULL; case_unref (c))
357     {
358       const double x      = case_data_idx (c, HG_IDX_X)->f;
359       const double weight = case_data_idx (c, HG_IDX_WT)->f;
360       moments_pass_two (cmd->es[0].mom, x, weight);
361       histogram_add (histogram, x, weight);
362     }
363   casereader_destroy (input);
364
365
366   {
367     double n, mean, var;
368
369     struct string label;
370
371     ds_init_cstr (&label,
372                   var_to_string (cmd->dep_vars[0]));
373
374     moments_calculate (cmd->es[0].mom, &n, &mean, &var, NULL, NULL);
375
376     chart_item_submit
377       ( histogram_chart_create (histogram->gsl_hist,
378                                 ds_cstr (&label), n, mean,
379                                 sqrt (var), cmd->normal));
380
381     statistic_destroy (&histogram->parent);
382     ds_destroy (&label);
383   }
384 }
385
386 static void
387 cleanup_exploratory_stats (struct graph *cmd)
388 {
389   int v;
390
391   for (v = 0; v < cmd->n_dep_vars; ++v)
392     {
393       moments_destroy (cmd->es[v].mom);
394     }
395 }
396
397
398 static void
399 run_barchart (struct graph *cmd, struct casereader *input)
400 {
401   struct casegrouper *grouper;
402   struct casereader *group;
403   double ccc = 0.0;
404
405   if ( cmd->missing_pw == false)
406     input = casereader_create_filter_missing (input,
407                                               cmd->dep_vars,
408                                               cmd->n_dep_vars,
409                                               cmd->dep_excl,
410                                               NULL,
411                                               NULL);
412
413
414   input = sort_execute (input, &cmd->ordering);
415
416   struct freq **cells = NULL;
417   int n_cells = 0;
418
419   assert (cmd->n_by_vars <= 2);
420   for (grouper = casegrouper_create_vars (input, cmd->by_var,
421                                           cmd->n_by_vars);
422        casegrouper_get_next_group (grouper, &group);
423        casereader_destroy (group))
424     {
425       int v;
426       struct ccase *c = casereader_peek (group, 0);
427
428       /* Deal with missing values in the categorical variables */
429       for (v = 0; v < cmd->n_by_vars; ++v)
430         {
431           if (var_is_value_missing (cmd->by_var[v],
432                                     case_data (c, cmd->by_var[v]),
433                                     cmd->fctr_excl))
434             break;
435         }
436
437       if (v < cmd->n_by_vars)
438         {
439           case_unref (c);
440           continue;
441         }
442
443       cells = xrealloc (cells, sizeof (*cells) * ++n_cells);
444       cells[n_cells - 1] = xzalloc (sizeof (**cells)
445                                     + sizeof (union value)
446                                     * (cmd->n_by_vars - 1));
447
448       if (ag_func[cmd->agr].cumulative && n_cells >= 2)
449         cells[n_cells - 1]->count = cells[n_cells - 2]->count;
450       else
451         cells[n_cells - 1]->count = 0;
452       if (ag_func[cmd->agr].pre)
453         cells[n_cells - 1]->count = ag_func[cmd->agr].pre();
454
455
456       for (v = 0; v < cmd->n_by_vars; ++v)
457         {
458           value_clone (&cells[n_cells - 1]->values[v],
459                        case_data (c, cmd->by_var[v]),
460                        var_get_width (cmd->by_var[v]));
461         }
462       case_unref (c);
463
464       double cc = 0;
465       for (;(c = casereader_read (group)) != NULL; case_unref (c))
466         {
467           const double weight = dict_get_case_weight (cmd->dict,c,NULL);
468           const double x = (cmd->n_dep_vars > 0)
469             ? case_data (c, cmd->dep_vars[0])->f : SYSMIS;
470
471           cc += weight;
472
473           cells[n_cells - 1]->count
474             = ag_func[cmd->agr].calc (cells[n_cells - 1]->count, x, weight);
475         }
476
477       if (ag_func[cmd->agr].post)
478         cells[n_cells - 1]->count
479           = ag_func[cmd->agr].post (cells[n_cells - 1]->count, cc);
480
481       ccc += cc;
482     }
483
484   casegrouper_destroy (grouper);
485
486   for (int i = 0; i < n_cells; ++i)
487     {
488       if (ag_func[cmd->agr].ppost)
489         cells[i]->count = ag_func[cmd->agr].ppost (cells[i]->count, ccc);
490     }
491
492
493   {
494     struct string label;
495     ds_init_empty (&label);
496
497     if (cmd->n_dep_vars > 0)
498       ds_put_format (&label, _("%s of %s"),
499                      ag_func[cmd->agr].description,
500                      var_get_name (cmd->dep_vars[0]));
501     else
502       ds_put_cstr (&label,
503                      ag_func[cmd->agr].description);
504
505     chart_item_submit (barchart_create (cmd->by_var, cmd->n_by_vars,
506                                         ds_cstr (&label), false,
507                                         cells, n_cells));
508
509     ds_destroy (&label);
510   }
511
512   for (int i = 0; i < n_cells; ++i)
513     free (cells[i]);
514
515   free (cells);
516 }
517
518
519 static void
520 run_graph (struct graph *cmd, struct casereader *input)
521 {
522   struct ccase *c;
523   struct casereader *reader;
524   struct casewriter *writer;
525
526   cmd->es = pool_calloc (cmd->pool,cmd->n_dep_vars, sizeof *cmd->es);
527   for(int v=0;v<cmd->n_dep_vars;v++)
528     {
529       cmd->es[v].mom = moments_create (MOMENT_KURTOSIS);
530       cmd->es[v].cmin = DBL_MAX;
531       cmd->es[v].maximum = -DBL_MAX;
532       cmd->es[v].minimum =  DBL_MAX;
533     }
534   /* Always remove cases listwise. This is correct for */
535   /* the histogram because there is only one variable  */
536   /* and a simple bivariate scatterplot                */
537   /* if ( cmd->missing_pw == false)                    */
538     input = casereader_create_filter_missing (input,
539                                               cmd->dep_vars,
540                                               cmd->n_dep_vars,
541                                               cmd->dep_excl,
542                                               NULL,
543                                               NULL);
544
545   writer = autopaging_writer_create (cmd->gr_proto);
546
547   /* The case data is copied to a new writer        */
548   /* The setup of the case depends on the Charttype */
549   /* For Scatterplot x is assumed in dep_vars[0]    */
550   /*                 y is assumed in dep_vars[1]    */
551   /* For Histogram   x is assumed in dep_vars[0]    */
552   assert(SP_IDX_X == 0 && SP_IDX_Y == 1 && HG_IDX_X == 0);
553
554   for (;(c = casereader_read (input)) != NULL; case_unref (c))
555     {
556       struct ccase *outcase = case_create (cmd->gr_proto);
557       const double weight = dict_get_case_weight (cmd->dict,c,NULL);
558       if (cmd->chart_type == CT_HISTOGRAM)
559         case_data_rw_idx (outcase, HG_IDX_WT)->f = weight;
560       if (cmd->chart_type == CT_SCATTERPLOT && cmd->n_by_vars > 0)
561         value_copy (case_data_rw_idx (outcase, SP_IDX_BY),
562                     case_data (c, cmd->by_var[0]),
563                     var_get_width (cmd->by_var[0]));
564       for(int v=0;v<cmd->n_dep_vars;v++)
565         {
566           const struct variable *var = cmd->dep_vars[v];
567           const double x = case_data (c, var)->f;
568
569           if (var_is_value_missing (var, case_data (c, var), cmd->dep_excl))
570             {
571               cmd->es[v].missing += weight;
572               continue;
573             }
574           /* Magically v value fits to SP_IDX_X, SP_IDX_Y, HG_IDX_X */
575           case_data_rw_idx (outcase, v)->f = x;
576
577           if (x > cmd->es[v].maximum)
578             cmd->es[v].maximum = x;
579
580           if (x < cmd->es[v].minimum)
581             cmd->es[v].minimum =  x;
582
583           cmd->es[v].non_missing += weight;
584
585           moments_pass_one (cmd->es[v].mom, x, weight);
586
587           cmd->es[v].cc += weight;
588
589           if (cmd->es[v].cmin > weight)
590             cmd->es[v].cmin = weight;
591         }
592       casewriter_write (writer,outcase);
593     }
594
595   reader = casewriter_make_reader (writer);
596
597   switch (cmd->chart_type)
598     {
599     case CT_HISTOGRAM:
600       show_histogr (cmd,reader);
601       break;
602     case CT_SCATTERPLOT:
603       show_scatterplot (cmd,reader);
604       break;
605     default:
606       NOT_REACHED ();
607       break;
608     };
609
610   casereader_destroy (input);
611   cleanup_exploratory_stats (cmd);
612 }
613
614
615 int
616 cmd_graph (struct lexer *lexer, struct dataset *ds)
617 {
618   struct graph graph;
619
620   graph.missing_pw = false;
621
622   graph.pool = pool_create ();
623
624   graph.dep_excl = MV_ANY;
625   graph.fctr_excl = MV_ANY;
626
627   graph.dict = dataset_dict (ds);
628
629   graph.dep_vars = NULL;
630   graph.chart_type = CT_NONE;
631   graph.scatter_type = ST_BIVARIATE;
632   graph.n_by_vars = 0;
633   graph.gr_proto = caseproto_create ();
634
635   subcase_init_empty (&graph.ordering);
636
637   while (lex_token (lexer) != T_ENDCMD)
638     {
639       lex_match (lexer, T_SLASH);
640
641       if (lex_match_id (lexer, "HISTOGRAM"))
642         {
643           if (graph.chart_type != CT_NONE)
644             {
645               lex_error (lexer, _("Only one chart type is allowed."));
646               goto error;
647             }
648           graph.normal = false;
649           if (lex_match (lexer, T_LPAREN))
650             {
651               if (!lex_force_match_id (lexer, "NORMAL"))
652                 goto error;
653
654               if (!lex_force_match (lexer, T_RPAREN))
655                 goto error;
656
657               graph.normal = true;
658             }
659           if (!lex_force_match (lexer, T_EQUALS))
660             goto error;
661           graph.chart_type = CT_HISTOGRAM;
662           if (!parse_variables_const (lexer, graph.dict,
663                                       &graph.dep_vars, &graph.n_dep_vars,
664                                       PV_NO_DUPLICATE | PV_NUMERIC))
665             goto error;
666           if (graph.n_dep_vars > 1)
667             {
668               lex_error (lexer, _("Only one variable is allowed."));
669               goto error;
670             }
671         }
672       else if (lex_match_id (lexer, "BAR"))
673         {
674           if (graph.chart_type != CT_NONE)
675             {
676               lex_error (lexer, _("Only one chart type is allowed."));
677               goto error;
678             }
679           graph.chart_type = CT_BAR;
680           graph.bar_type = CBT_SIMPLE;
681
682           if (lex_match (lexer, T_LPAREN))
683             {
684               if (lex_match_id (lexer, "SIMPLE"))
685                 {
686                   /* This is the default anyway */
687                 }
688               else if (lex_match_id (lexer, "GROUPED"))
689                 {
690                   graph.bar_type = CBT_GROUPED;
691                   goto error;
692                 }
693               else if (lex_match_id (lexer, "STACKED"))
694                 {
695                   graph.bar_type = CBT_STACKED;
696                   lex_error (lexer, _("%s is not yet implemented."), "STACKED");
697                   goto error;
698                 }
699               else if (lex_match_id (lexer, "RANGE"))
700                 {
701                   graph.bar_type = CBT_RANGE;
702                   lex_error (lexer, _("%s is not yet implemented."), "RANGE");
703                   goto error;
704                 }
705               else
706                 {
707                   lex_error (lexer, NULL);
708                   goto error;
709                 }
710               if (!lex_force_match (lexer, T_RPAREN))
711                 goto error;
712             }
713
714           if (!lex_force_match (lexer, T_EQUALS))
715             goto error;
716
717           if (! parse_function (lexer, &graph))
718             goto error;
719         }
720       else if (lex_match_id (lexer, "SCATTERPLOT"))
721         {
722           if (graph.chart_type != CT_NONE)
723             {
724               lex_error (lexer, _("Only one chart type is allowed."));
725               goto error;
726             }
727           graph.chart_type = CT_SCATTERPLOT;
728           if (lex_match (lexer, T_LPAREN))
729             {
730               if (lex_match_id (lexer, "BIVARIATE"))
731                 {
732                   /* This is the default anyway */
733                 }
734               else if (lex_match_id (lexer, "OVERLAY"))
735                 {
736                   lex_error (lexer, _("%s is not yet implemented."),"OVERLAY");
737                   goto error;
738                 }
739               else if (lex_match_id (lexer, "MATRIX"))
740                 {
741                   lex_error (lexer, _("%s is not yet implemented."),"MATRIX");
742                   goto error;
743                 }
744               else if (lex_match_id (lexer, "XYZ"))
745                 {
746                   lex_error(lexer, _("%s is not yet implemented."),"XYZ");
747                   goto error;
748                 }
749               else
750                 {
751                   lex_error_expecting (lexer, "BIVARIATE", NULL);
752                   goto error;
753                 }
754               if (!lex_force_match (lexer, T_RPAREN))
755                 goto error;
756             }
757           if (!lex_force_match (lexer, T_EQUALS))
758             goto error;
759
760           if (!parse_variables_const (lexer, graph.dict,
761                                       &graph.dep_vars, &graph.n_dep_vars,
762                                       PV_NO_DUPLICATE | PV_NUMERIC))
763             goto error;
764
765           if (graph.scatter_type == ST_BIVARIATE && graph.n_dep_vars != 1)
766             {
767               lex_error(lexer, _("Only one variable is allowed."));
768               goto error;
769             }
770
771           if (!lex_force_match (lexer, T_WITH))
772             goto error;
773
774           if (!parse_variables_const (lexer, graph.dict,
775                                       &graph.dep_vars, &graph.n_dep_vars,
776                                       PV_NO_DUPLICATE | PV_NUMERIC | PV_APPEND))
777             goto error;
778
779           if (graph.scatter_type == ST_BIVARIATE && graph.n_dep_vars != 2)
780             {
781               lex_error (lexer, _("Only one variable is allowed."));
782               goto error;
783             }
784
785           if (lex_match (lexer, T_BY))
786             {
787               const struct variable *v = NULL;
788               if (!lex_match_variable (lexer,graph.dict,&v))
789                 {
790                   lex_error (lexer, _("Variable expected"));
791                   goto error;
792                 }
793               graph.by_var[0] = v;
794               graph.n_by_vars = 1;
795             }
796         }
797       else if (lex_match_id (lexer, "LINE"))
798         {
799           lex_error (lexer, _("%s is not yet implemented."),"LINE");
800           goto error;
801         }
802       else if (lex_match_id (lexer, "PIE"))
803         {
804           lex_error (lexer, _("%s is not yet implemented."),"PIE");
805           goto error;
806         }
807       else if (lex_match_id (lexer, "ERRORBAR"))
808         {
809           lex_error (lexer, _("%s is not yet implemented."),"ERRORBAR");
810           goto error;
811         }
812       else if (lex_match_id (lexer, "PARETO"))
813         {
814           lex_error (lexer, _("%s is not yet implemented."),"PARETO");
815           goto error;
816         }
817       else if (lex_match_id (lexer, "TITLE"))
818         {
819           lex_error (lexer, _("%s is not yet implemented."),"TITLE");
820           goto error;
821         }
822       else if (lex_match_id (lexer, "SUBTITLE"))
823         {
824           lex_error (lexer, _("%s is not yet implemented."),"SUBTITLE");
825           goto error;
826         }
827       else if (lex_match_id (lexer, "FOOTNOTE"))
828         {
829           lex_error (lexer, _("%s is not yet implemented."),"FOOTNOTE");
830           lex_error (lexer, _("FOOTNOTE is not implemented yet for GRAPH"));
831           goto error;
832         }
833       else if (lex_match_id (lexer, "MISSING"))
834         {
835           lex_match (lexer, T_EQUALS);
836
837           while (lex_token (lexer) != T_ENDCMD
838                  && lex_token (lexer) != T_SLASH)
839             {
840               if (lex_match_id (lexer, "LISTWISE"))
841                 {
842                   graph.missing_pw = false;
843                 }
844               else if (lex_match_id (lexer, "VARIABLE"))
845                 {
846                   graph.missing_pw = true;
847                 }
848               else if (lex_match_id (lexer, "EXCLUDE"))
849                 {
850                   graph.dep_excl = MV_ANY;
851                 }
852               else if (lex_match_id (lexer, "INCLUDE"))
853                 {
854                   graph.dep_excl = MV_SYSTEM;
855                 }
856               else if (lex_match_id (lexer, "REPORT"))
857                 {
858                   graph.fctr_excl = MV_NEVER;
859                 }
860               else if (lex_match_id (lexer, "NOREPORT"))
861                 {
862                   graph.fctr_excl = MV_ANY;
863                 }
864               else
865                 {
866                   lex_error (lexer, NULL);
867                   goto error;
868                 }
869             }
870         }
871       else
872         {
873           lex_error (lexer, NULL);
874           goto error;
875         }
876     }
877
878   switch (graph.chart_type)
879     {
880     case CT_SCATTERPLOT:
881       /* See scatterplot.h for the setup of the case prototype */
882
883       /* x value - SP_IDX_X*/
884       graph.gr_proto = caseproto_add_width (graph.gr_proto, 0);
885
886       /* y value - SP_IDX_Y*/
887       graph.gr_proto = caseproto_add_width (graph.gr_proto, 0);
888       /* The by_var contains the plot categories for the different xy
889          plot colors */
890       if (graph.n_by_vars > 0) /* SP_IDX_BY */
891         graph.gr_proto = caseproto_add_width (graph.gr_proto,
892                                               var_get_width(graph.by_var[0]));
893       break;
894     case CT_HISTOGRAM:
895       /* x value      */
896       graph.gr_proto = caseproto_add_width (graph.gr_proto, 0);
897       /* weight value */
898       graph.gr_proto = caseproto_add_width (graph.gr_proto, 0);
899       break;
900     case CT_BAR:
901       break;
902     case CT_NONE:
903       lex_error_expecting (lexer, "HISTOGRAM", "SCATTERPLOT", "BAR", NULL);
904       goto error;
905     default:
906       NOT_REACHED ();
907       break;
908     };
909
910   {
911     struct casegrouper *grouper;
912     struct casereader *group;
913     bool ok;
914
915     grouper = casegrouper_create_splits (proc_open (ds), graph.dict);
916     while (casegrouper_get_next_group (grouper, &group))
917       {
918         if (graph.chart_type == CT_BAR)
919           run_barchart (&graph, group);
920         else
921           run_graph (&graph, group);
922       }
923     ok = casegrouper_destroy (grouper);
924     ok = proc_commit (ds) && ok;
925   }
926
927   subcase_destroy (&graph.ordering);
928   free (graph.dep_vars);
929   pool_destroy (graph.pool);
930   caseproto_unref (graph.gr_proto);
931
932   return CMD_SUCCESS;
933
934  error:
935   subcase_destroy (&graph.ordering);
936   caseproto_unref (graph.gr_proto);
937   free (graph.dep_vars);
938   pool_destroy (graph.pool);
939
940   return CMD_FAILURE;
941 }