Bugfix ICS interaction console
[xboard.git] / childio.c
1 /*
2  * childio.c -- set up communication with child processes $Id:
3  * childio.c,v 1.2 1994/11/12 19:31:41 mann Exp mann $
4  *
5  * Copyright 1991 by Digital Equipment Corporation, Maynard, Massachusetts.
6  * Enhancements Copyright 1992-95 Free Software Foundation, Inc.
7  *
8  * The following terms apply to Digital Equipment Corporation's copyright
9  * interest in XBoard:
10  * ------------------------------------------------------------------------
11  * All Rights Reserved
12  *
13  * Permission to use, copy, modify, and distribute this software and its
14  * documentation for any purpose and without fee is hereby granted,
15  * provided that the above copyright notice appear in all copies and that
16  * both that copyright notice and this permission notice appear in
17  * supporting documentation, and that the name of Digital not be
18  * used in advertising or publicity pertaining to distribution of the
19  * software without specific, written prior permission.
20  *
21  * DIGITAL DISCLAIMS ALL WARRANTIES WITH REGARD TO THIS SOFTWARE, INCLUDING
22  * ALL IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS, IN NO EVENT SHALL
23  * DIGITAL BE LIABLE FOR ANY SPECIAL, INDIRECT OR CONSEQUENTIAL DAMAGES OR
24  * ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS,
25  * WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION,
26  * ARISING OUT OF OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS
27  * SOFTWARE.
28  * ------------------------------------------------------------------------
29  *
30  * The following terms apply to the enhanced version of XBoard distributed
31  * by the Free Software Foundation:
32  * ------------------------------------------------------------------------
33  * This program is free software; you can redistribute it and/or modify
34  * it under the terms of the GNU General Public License as published by
35  * the Free Software Foundation; either version 2 of the License, or
36  * (at your option) any later version.
37  *
38  * This program is distributed in the hope that it will be useful,
39  * but WITHOUT ANY WARRANTY; without even the implied warranty of
40  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
41  * GNU General Public License for more details.
42  *
43  * You should have received a copy of the GNU General Public License
44  * along with this program; if not, write to the Free Software
45  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
46  * ------------------------------------------------------------------------
47  *
48  * See the file ChangeLog for a revision history.  */
49
50 /* This file splits into two entirely different pieces of code
51    depending on whether USE_PTYS is 1.  The whole reason for all
52    the pty nonsense is that select() does not work on pipes in System-V
53    derivatives (at least some of them).  This is a problem because
54    XtAppAddInput works by adding its argument to a select that is done
55    deep inside Xlib.
56 */
57
58 #include "config.h"
59
60 #include <signal.h>
61 #if HAVE_UNISTD_H
62 # include <unistd.h>
63 #endif
64
65 #include "common.h"
66 #include "frontend.h"
67
68 #if !USE_PTYS
69 /* This code is for systems where pipes work properly */
70
71 void SetUpChildIO(to_prog, from_prog)
72      int to_prog[2], from_prog[2];
73 {
74     signal(SIGPIPE, SIG_IGN);
75     pipe(to_prog);
76     pipe(from_prog);
77 }
78
79 #else /* USE_PTYS == 1 */
80 /* This code is for all systems where we must use ptys */
81
82 #include <errno.h>
83 #include <sys/stat.h>
84 #include <sys/ioctl.h>
85 #if HAVE_STROPTS_H
86 # include <stropts.h>
87 #endif /* HAVE_STROPTS_H */
88 #if HAVE_SYS_FCNTL_H
89 # include <sys/fcntl.h>
90 #else /* not HAVE_SYS_FCNTL_H */
91 # if HAVE_FCNTL_H
92 #  include <fcntl.h>
93 # endif /* HAVE_FCNTL_H */
94 #endif /* not HAVE_SYS_FCNTL_H */
95
96 int PseudoTTY P((char pty_name[]));
97
98 int SetUpChildIO(to_prog, from_prog)
99      int to_prog[2], from_prog[2];
100 {
101     char pty_name[MSG_SIZ];
102
103     if ((to_prog[1] = PseudoTTY(pty_name)) == -1) {
104         DisplayFatalError("Can't open pseudo-tty", errno, 1);
105         ExitEvent(1);
106     }
107     from_prog[0] = to_prog[1];
108     to_prog[0] = from_prog[1] = open(pty_name, O_RDWR, 0);
109
110 #if HAVE_STROPTS_H /* do we really need this??  pipe-like behavior is fine */
111     if (ioctl (to_prog[0], I_PUSH, "ptem") == -1 ||
112         ioctl (to_prog[0], I_PUSH, "ldterm") == -1 ||
113         ioctl (to_prog[0], I_PUSH, "ttcompat") == -1) {
114 # ifdef NOTDEF /* seems some systems don't have or need ptem and ttcompat */
115         DisplayFatalError("Can't ioctl pseudo-tty", errno, 1);
116         ExitEvent(1);
117 # endif /*NOTDEF*/
118     }
119 #endif /* HAVE_STROPTS_H */
120
121 }
122
123 #if HAVE_GRANTPT
124 /* This code is for SVR4 */
125
126 int PseudoTTY(pty_name)
127      char pty_name[];
128 {
129     extern char *ptsname();
130     char *ptss;
131     int fd;
132     
133     fd = open("/dev/ptmx", O_RDWR);
134     if (fd < 0) return fd;
135     if (grantpt(fd) == -1) return -1;
136     if (unlockpt(fd) == -1) return -1;
137     if (!(ptss = ptsname(fd))) return -1;
138     strcpy(pty_name, ptss);
139     return fd;
140 }
141
142 #else /* not HAVE_GRANTPT */
143 #if HAVE__GETPTY
144 /* This code is for IRIX */
145
146 int PseudoTTY(pty_name)
147      char pty_name[];
148 {
149     int fd;
150     char *ptyn;
151
152     ptyn = _getpty(&fd, O_RDWR, 0600, 0);
153     if (ptyn == NULL) return -1;
154     strcpy(pty_name, ptyn);
155     return fd;
156 }
157
158 #else /* not HAVE__GETPTY */
159 #if HAVE_LIBSEQ
160 /* This code is for Sequent DYNIX/ptx.  Untested. --tpm */
161
162 int PseudoTTY(pty_name)
163      char pty_name[];
164 {
165     int fd;
166     char *slave, *master;
167
168     fd = getpseudotty(&slave, &master);
169     if (fd < 0) return fd;
170     strcpy(pty_name, slave);
171     return fd;
172 }
173
174 #else /* not HAVE_LIBSEQ */
175 /* This code is for all other systems */
176 /* The code is adapted from GNU Emacs 19.24 */
177
178 #ifndef FIRST_PTY_LETTER
179 #define FIRST_PTY_LETTER 'p'
180 #endif
181 #ifndef LAST_PTY_LETTER
182 #define LAST_PTY_LETTER 'z'
183 #endif
184
185 int PseudoTTY(pty_name)
186      char pty_name[];
187 {
188   struct stat stb;
189   register c, i;
190   int fd;
191
192   /* Some systems name their pseudoterminals so that there are gaps in
193      the usual sequence - for example, on HP9000/S700 systems, there
194      are no pseudoterminals with names ending in 'f'.  So we wait for
195      three failures in a row before deciding that we've reached the
196      end of the ptys.  */
197   int failed_count = 0;
198
199 #ifdef PTY_ITERATION
200   PTY_ITERATION
201 #else
202   for (c = FIRST_PTY_LETTER; c <= LAST_PTY_LETTER; c++)
203     for (i = 0; i < 16; i++)
204 #endif
205       {
206 #ifdef PTY_NAME_SPRINTF
207         PTY_NAME_SPRINTF
208 #else
209         sprintf (pty_name, "/dev/pty%c%x", c, i);
210 #endif /* no PTY_NAME_SPRINTF */
211
212 #ifdef PTY_OPEN
213         PTY_OPEN;
214 #else /* no PTY_OPEN */
215         if (stat (pty_name, &stb) < 0)
216           {
217             failed_count++;
218             if (failed_count >= 3)
219               return -1;
220           }
221         else
222           failed_count = 0;
223         fd = open (pty_name, O_RDWR, 0);
224 #endif /* no PTY_OPEN */
225
226         if (fd >= 0)
227           {
228             /* check to make certain that both sides are available
229                this avoids a nasty yet stupid bug in rlogins */
230 #ifdef PTY_TTY_NAME_SPRINTF
231             PTY_TTY_NAME_SPRINTF
232 #else
233             sprintf (pty_name, "/dev/tty%c%x", c, i);
234 #endif /* no PTY_TTY_NAME_SPRINTF */
235 #ifndef UNIPLUS
236             if (access (pty_name, 6) != 0)
237               {
238                 close (fd);
239                 continue;
240               }
241 #endif /* not UNIPLUS */
242 #ifdef IBMRTAIX
243               /* On AIX, the parent gets SIGHUP when a pty attached
244                  child dies.  So, we ignore SIGHUP once we've started
245                  a child on a pty.  Note that this may cause xboard
246                  not to die when it should, i.e., when its own
247                  controlling tty goes away.
248               */
249               signal(SIGHUP, SIG_IGN);
250 #endif /* IBMRTAIX */
251             return fd;
252           }
253       }
254   return -1;
255 }
256
257 #endif /* not HAVE_LIBSEQ */
258 #endif /* not HAVE__GETPTY */
259 #endif /* not HAVE_GRANTPT */
260 #endif /* USE_PTYS */