GUI: Find dialog: Compare only to the decimal places of the print format.
authorJohn Darrington <john@darrington.wattle.id.au>
Sun, 14 Jun 2020 15:07:27 +0000 (17:07 +0200)
committerJohn Darrington <john@darrington.wattle.id.au>
Sun, 14 Jun 2020 15:09:15 +0000 (17:09 +0200)
commitaae1a8f067ddd9c091b2ed591f7d496fe98a35e0
treea4f1029ee869a8b2d02c4fbe630e069394d77d23
parentb371bbe93d3701bb3ce03ed78ca97087058c922b
GUI: Find dialog: Compare only to the decimal places of the print format.

When using the find dialog of the data editor, previously a numeric value
was compared exactly on it's underlying representation (a IEEE754 double
precision float).   This is problematic, because most such floats cannot
be precisely represented in a decimal format, and even if they can be, the
precision required might well exceed that displayed in the data editor.

This change rounds both the reference and the comparand to the number of
decimal places indicated by the variable's print format.
NEWS
src/ui/gui/find-dialog.c