openat: Respect rules for use of AC_LIBOBJ.
[pspp] / m4 / openat.m4
1 # serial 33
2 # See if we need to use our replacement for Solaris' openat et al functions.
3
4 dnl Copyright (C) 2004-2011 Free Software Foundation, Inc.
5 dnl This file is free software; the Free Software Foundation
6 dnl gives unlimited permission to copy and/or distribute it,
7 dnl with or without modifications, as long as this notice is preserved.
8
9 # Written by Jim Meyering.
10
11 AC_DEFUN([gl_FUNC_OPENAT],
12 [
13   AC_REQUIRE([gl_FCNTL_H_DEFAULTS])
14   GNULIB_OPENAT=1
15
16   AC_REQUIRE([gl_SYS_STAT_H_DEFAULTS])
17   GNULIB_FCHMODAT=1
18   GNULIB_FSTATAT=1
19   GNULIB_MKDIRAT=1
20
21   AC_REQUIRE([gl_UNISTD_H_DEFAULTS])
22   GNULIB_FCHOWNAT=1
23   GNULIB_UNLINKAT=1
24
25   AC_REQUIRE([gl_USE_SYSTEM_EXTENSIONS])
26   AC_CHECK_FUNCS_ONCE([lchmod])
27   AC_CHECK_FUNCS([fchmodat fstatat mkdirat openat unlinkat])
28   AC_REQUIRE([gl_FUNC_LSTAT_FOLLOWS_SLASHED_SYMLINK])
29   AC_REQUIRE([gl_FUNC_UNLINK])
30   case $ac_cv_func_openat+$gl_cv_func_lstat_dereferences_slashed_symlink in
31   yes+yes)
32     # GNU/Hurd has unlinkat, but it has the same bug as unlink.
33     if test $REPLACE_UNLINK = 1; then
34       REPLACE_UNLINKAT=1
35     fi ;;
36   yes+*)
37     # Solaris 9 has *at functions, but uniformly mishandles trailing
38     # slash in all of them.
39     REPLACE_OPENAT=1
40     REPLACE_FSTATAT=1
41     REPLACE_UNLINKAT=1
42     ;;
43   *)
44     HAVE_OPENAT=0
45     HAVE_UNLINKAT=0 # No known system with unlinkat but not openat
46     HAVE_FSTATAT=0 # No known system with fstatat but not openat
47     gl_PREREQ_OPENAT;;
48   esac
49   if test $ac_cv_func_fchmodat != yes; then
50     HAVE_FCHMODAT=0
51   fi
52   if test $ac_cv_func_mkdirat != yes; then
53     HAVE_MKDIRAT=0
54   fi
55   gl_FUNC_FCHOWNAT
56 ])
57
58 # gl_FUNC_FCHOWNAT_DEREF_BUG([ACTION-IF-BUGGY[, ACTION-IF-NOT_BUGGY]])
59 AC_DEFUN([gl_FUNC_FCHOWNAT_DEREF_BUG],
60 [
61   dnl Persuade glibc's <unistd.h> to declare fchownat().
62   AC_REQUIRE([gl_USE_SYSTEM_EXTENSIONS])
63
64   AC_CACHE_CHECK([whether fchownat works with AT_SYMLINK_NOFOLLOW],
65     gl_cv_func_fchownat_nofollow_works,
66     [
67      gl_dangle=conftest.dangle
68      # Remove any remnants of a previous test.
69      rm -f $gl_dangle
70      # Arrange for deletion of the temporary file this test creates.
71      ac_clean_files="$ac_clean_files $gl_dangle"
72      ln -s conftest.no-such $gl_dangle
73      AC_RUN_IFELSE(
74        [AC_LANG_SOURCE(
75           [[
76 #include <fcntl.h>
77 #include <unistd.h>
78 #include <stdlib.h>
79 #include <errno.h>
80 #include <sys/types.h>
81 int
82 main ()
83 {
84   return (fchownat (AT_FDCWD, "$gl_dangle", -1, getgid (),
85                     AT_SYMLINK_NOFOLLOW) != 0
86           && errno == ENOENT);
87 }
88           ]])],
89     [gl_cv_func_fchownat_nofollow_works=yes],
90     [gl_cv_func_fchownat_nofollow_works=no],
91     [gl_cv_func_fchownat_nofollow_works=no],
92     )
93   ])
94   AS_IF([test $gl_cv_func_fchownat_nofollow_works = no], [$1], [$2])
95 ])
96
97 # gl_FUNC_FCHOWNAT_EMPTY_FILENAME_BUG([ACTION-IF-BUGGY[, ACTION-IF-NOT_BUGGY]])
98 AC_DEFUN([gl_FUNC_FCHOWNAT_EMPTY_FILENAME_BUG],
99 [
100   dnl Persuade glibc's <unistd.h> to declare fchownat().
101   AC_REQUIRE([gl_USE_SYSTEM_EXTENSIONS])
102
103   AC_CACHE_CHECK([whether fchownat works with an empty file name],
104     [gl_cv_func_fchownat_empty_filename_works],
105     [AC_RUN_IFELSE(
106        [AC_LANG_PROGRAM(
107           [[#include <unistd.h>
108             #include <fcntl.h>
109           ]],
110           [[int fd;
111             int ret;
112             if (mkdir ("conftestdir", 0700) < 0)
113               return 2;
114             fd = open ("conftestdir", O_RDONLY);
115             if (fd < 0)
116               return 3;
117             ret = fchownat (fd, "", -1, -1, 0);
118             close (fd);
119             rmdir ("conftestdir");
120             return ret == 0;
121           ]])],
122        [gl_cv_func_fchownat_empty_filename_works=yes],
123        [gl_cv_func_fchownat_empty_filename_works=no],
124        [gl_cv_func_fchownat_empty_filename_works="guessing no"])
125     ])
126   AS_IF([test "$gl_cv_func_fchownat_empty_filename_works" != yes], [$1], [$2])
127 ])
128
129 # If we have the fchownat function, and it has the bug (in glibc-2.4)
130 # that it dereferences symlinks even with AT_SYMLINK_NOFOLLOW, then
131 # use the replacement function.
132 # Also if the fchownat function, like chown, has the trailing slash bug,
133 # use the replacement function.
134 # Also use the replacement function if fchownat is simply not available.
135 AC_DEFUN([gl_FUNC_FCHOWNAT],
136 [
137   AC_REQUIRE([gl_UNISTD_H_DEFAULTS])
138   AC_REQUIRE([gl_FUNC_CHOWN])
139   AC_CHECK_FUNC([fchownat],
140     [gl_FUNC_FCHOWNAT_DEREF_BUG(
141        [REPLACE_FCHOWNAT=1
142         AC_DEFINE([FCHOWNAT_NOFOLLOW_BUG], [1],
143                   [Define to 1 if your platform has fchownat, but it cannot
144                    perform lchown tasks.])
145        ])
146      gl_FUNC_FCHOWNAT_EMPTY_FILENAME_BUG(
147        [REPLACE_FCHOWNAT=1
148         AC_DEFINE([FCHOWNAT_EMPTY_FILENAME_BUG], [1],
149                   [Define to 1 if your platform has fchownat, but it does
150                    not reject an empty file name.])
151        ])
152      if test $REPLACE_CHOWN = 1; then
153        REPLACE_FCHOWNAT=1
154      fi],
155     [HAVE_FCHOWNAT=0])
156 ])
157
158 AC_DEFUN([gl_PREREQ_OPENAT],
159 [
160   AC_REQUIRE([AC_C_INLINE])
161   AC_REQUIRE([gl_PROMOTED_TYPE_MODE_T])
162   :
163 ])