New upstream version 1.8
[debian/gzip] / m4 / dup2.m4
1 #serial 25
2 dnl Copyright (C) 2002, 2005, 2007, 2009-2016 Free Software Foundation, Inc.
3 dnl This file is free software; the Free Software Foundation
4 dnl gives unlimited permission to copy and/or distribute it,
5 dnl with or without modifications, as long as this notice is preserved.
6
7 AC_DEFUN([gl_FUNC_DUP2],
8 [
9   AC_REQUIRE([gl_UNISTD_H_DEFAULTS])
10   AC_REQUIRE([AC_CANONICAL_HOST])
11   m4_ifdef([gl_FUNC_DUP2_OBSOLETE], [
12     AC_CHECK_FUNCS_ONCE([dup2])
13     if test $ac_cv_func_dup2 = no; then
14       HAVE_DUP2=0
15     fi
16   ], [
17     AC_DEFINE([HAVE_DUP2], [1], [Define to 1 if you have the 'dup2' function.])
18   ])
19   if test $HAVE_DUP2 = 1; then
20     AC_CACHE_CHECK([whether dup2 works], [gl_cv_func_dup2_works],
21       [AC_RUN_IFELSE([
22          AC_LANG_PROGRAM(
23            [[#include <errno.h>
24              #include <fcntl.h>
25              #include <limits.h>
26              #include <sys/resource.h>
27              #include <unistd.h>
28              #ifndef RLIM_SAVED_CUR
29              # define RLIM_SAVED_CUR RLIM_INFINITY
30              #endif
31              #ifndef RLIM_SAVED_MAX
32              # define RLIM_SAVED_MAX RLIM_INFINITY
33              #endif
34            ]],
35            [[int result = 0;
36              int bad_fd = INT_MAX;
37              struct rlimit rlim;
38              if (getrlimit (RLIMIT_NOFILE, &rlim) == 0
39                  && 0 <= rlim.rlim_cur && rlim.rlim_cur <= INT_MAX
40                  && rlim.rlim_cur != RLIM_INFINITY
41                  && rlim.rlim_cur != RLIM_SAVED_MAX
42                  && rlim.rlim_cur != RLIM_SAVED_CUR)
43                bad_fd = rlim.rlim_cur;
44              #ifdef FD_CLOEXEC
45                if (fcntl (1, F_SETFD, FD_CLOEXEC) == -1)
46                  result |= 1;
47              #endif
48              if (dup2 (1, 1) != 1)
49                result |= 2;
50              #ifdef FD_CLOEXEC
51                if (fcntl (1, F_GETFD) != FD_CLOEXEC)
52                  result |= 4;
53              #endif
54              close (0);
55              if (dup2 (0, 0) != -1)
56                result |= 8;
57              /* Many gnulib modules require POSIX conformance of EBADF.  */
58              if (dup2 (2, bad_fd) == -1 && errno != EBADF)
59                result |= 16;
60              /* Flush out some cygwin core dumps.  */
61              if (dup2 (2, -1) != -1 || errno != EBADF)
62                result |= 32;
63              dup2 (2, 255);
64              dup2 (2, 256);
65              /* On OS/2 kLIBC, dup2() does not work on a directory fd.  */
66              {
67                int fd = open (".", O_RDONLY);
68                if (fd == -1)
69                  result |= 64;
70                else if (dup2 (fd, fd + 1) == -1)
71                  result |= 128;
72
73                close (fd);
74              }
75              return result;]])
76         ],
77         [gl_cv_func_dup2_works=yes], [gl_cv_func_dup2_works=no],
78         [case "$host_os" in
79            mingw*) # on this platform, dup2 always returns 0 for success
80              gl_cv_func_dup2_works="guessing no" ;;
81            cygwin*) # on cygwin 1.5.x, dup2(1,1) returns 0
82              gl_cv_func_dup2_works="guessing no" ;;
83            aix* | freebsd*)
84                    # on AIX 7.1 and FreeBSD 6.1, dup2 (1,toobig) gives EMFILE,
85                    # not EBADF.
86              gl_cv_func_dup2_works="guessing no" ;;
87            haiku*) # on Haiku alpha 2, dup2(1, 1) resets FD_CLOEXEC.
88              gl_cv_func_dup2_works="guessing no" ;;
89            *-android*) # implemented using dup3(), which fails if oldfd == newfd
90              gl_cv_func_dup2_works="guessing no" ;;
91            os2*) # on OS/2 kLIBC, dup2() does not work on a directory fd.
92              gl_cv_func_dup2_works="guessing no" ;;
93            *) gl_cv_func_dup2_works="guessing yes" ;;
94          esac])
95       ])
96     case "$gl_cv_func_dup2_works" in
97       *yes) ;;
98       *)
99         REPLACE_DUP2=1
100         AC_CHECK_FUNCS([setdtablesize])
101         ;;
102     esac
103   fi
104   dnl Replace dup2() for supporting the gnulib-defined fchdir() function,
105   dnl to keep fchdir's bookkeeping up-to-date.
106   m4_ifdef([gl_FUNC_FCHDIR], [
107     gl_TEST_FCHDIR
108     if test $HAVE_FCHDIR = 0; then
109       if test $HAVE_DUP2 = 1; then
110         REPLACE_DUP2=1
111       fi
112     fi
113   ])
114 ])
115
116 # Prerequisites of lib/dup2.c.
117 AC_DEFUN([gl_PREREQ_DUP2], [])