pty.c

   1 /*
   2  *
   3  * pty.c
   4  *
   5  * Author: Tatu Ylonen <ylo@cs.hut.fi>
   6  *
   7  * Copyright (c) 1995 Tatu Ylonen <ylo@cs.hut.fi>, Espoo, Finland
   8  *                    All rights reserved
   9  *
  10  * Created: Fri Mar 17 04:37:25 1995 ylo
  11  *
  12  * Allocating a pseudo-terminal, and making it the controlling tty.
  13  *
  14  */
  15
  16 #include "includes.h"
  17 RCSID("$OpenBSD: pty.c,v 1.14 2000/06/20 01:39:43 markus Exp $");
  18
  19 #ifdef HAVE_UTIL_H
  20 # include <util.h>
  21 #endif /* HAVE_UTIL_H */
  22
  23 #include "pty.h"
  24 #include "ssh.h"
  25
  26 /* Pty allocated with _getpty gets broken if we do I_PUSH:es to it. */
  27 #if defined(HAVE__GETPTY) || defined(HAVE_OPENPTY)
  28 #undef HAVE_DEV_PTMX
  29 #endif
  30
  31 #ifdef HAVE_PTY_H
  32 # include <pty.h>
  33 #endif
  34 #if defined(HAVE_DEV_PTMX) && defined(HAVE_SYS_STROPTS_H)
  35 # include <sys/stropts.h>
  36 #endif
  37
  38 #ifndef O_NOCTTY
  39 #define O_NOCTTY 0
  40 #endif
  41
  42 /*
  43  * Allocates and opens a pty.  Returns 0 if no pty could be allocated, or
  44  * nonzero if a pty was successfully allocated.  On success, open file
  45  * descriptors for the pty and tty sides and the name of the tty side are
  46  * returned (the buffer must be able to hold at least 64 characters).
  47  */
  48
  49 int
  50 pty_allocate(int *ptyfd, int *ttyfd, char *namebuf, int namebuflen)
  51 {
  52 #if defined(HAVE_OPENPTY) || defined(BSD4_4)
  53         /* openpty(3) exists in OSF/1 and some other os'es */
  54         char buf[64];
  55         int i;
  56
  57         i = openpty(ptyfd, ttyfd, buf, NULL, NULL);
  58         if (i < 0) {
  59                 error("openpty: %.100s", strerror(errno));
  60                 return 0;
  61         }
  62         strlcpy(namebuf, buf, namebuflen);      /* possible truncation */
  63         return 1;
  64 #else /* HAVE_OPENPTY */
  65 #ifdef HAVE__GETPTY
  66         /*
  67          * _getpty(3) exists in SGI Irix 4.x, 5.x & 6.x -- it generates more
  68          * pty's automagically when needed
  69          */
  70         char *slave;
  71
  72         slave = _getpty(ptyfd, O_RDWR, 0622, 0);
  73         if (slave == NULL) {
  74                 error("_getpty: %.100s", strerror(errno));
  75                 return 0;
  76         }
  77         strlcpy(namebuf, slave, namebuflen);
  78         /* Open the slave side. */
  79         *ttyfd = open(namebuf, O_RDWR | O_NOCTTY);
  80         if (*ttyfd < 0) {
  81                 error("%.200s: %.100s", namebuf, strerror(errno));
  82                 close(*ptyfd);
  83                 return 0;
  84         }
  85         return 1;
  86 #else /* HAVE__GETPTY */
  87 #if defined(HAVE_DEV_PTMX)
  88         /*
  89          * This code is used e.g. on Solaris 2.x.  (Note that Solaris 2.3
  90          * also has bsd-style ptys, but they simply do not work.)
  91          */
  92         int ptm;
  93         char *pts;
  94
  95         ptm = open("/dev/ptmx", O_RDWR | O_NOCTTY);
  96         if (ptm < 0) {
  97                 error("/dev/ptmx: %.100s", strerror(errno));
  98                 return 0;
  99         }
 100         if (grantpt(ptm) < 0) {
 101                 error("grantpt: %.100s", strerror(errno));
 102                 return 0;
 103         }
 104         if (unlockpt(ptm) < 0) {
 105                 error("unlockpt: %.100s", strerror(errno));
 106                 return 0;
 107         }
 108         pts = ptsname(ptm);
 109         if (pts == NULL)
 110                 error("Slave pty side name could not be obtained.");
 111         strlcpy(namebuf, pts, namebuflen);
 112         *ptyfd = ptm;
 113
 114         /* Open the slave side. */
 115         *ttyfd = open(namebuf, O_RDWR | O_NOCTTY);
 116         if (*ttyfd < 0) {
 117                 error("%.100s: %.100s", namebuf, strerror(errno));
 118                 close(*ptyfd);
 119                 return 0;
 120         }
 121 #ifndef HAVE_CYGWIN
 122         /* Push the appropriate streams modules, as described in Solaris pts(7). */
 123         if (ioctl(*ttyfd, I_PUSH, "ptem") < 0)
 124                 error("ioctl I_PUSH ptem: %.100s", strerror(errno));
 125         if (ioctl(*ttyfd, I_PUSH, "ldterm") < 0)
 126                 error("ioctl I_PUSH ldterm: %.100s", strerror(errno));
 127 #ifndef _HPUX_SOURCE
 128         if (ioctl(*ttyfd, I_PUSH, "ttcompat") < 0)
 129                 error("ioctl I_PUSH ttcompat: %.100s", strerror(errno));
 130 #endif
 131 #endif
 132         return 1;
 133 #else /* HAVE_DEV_PTMX */
 134 #ifdef HAVE_DEV_PTS_AND_PTC
 135         /* AIX-style pty code. */
 136         const char *name;
 137
 138         *ptyfd = open("/dev/ptc", O_RDWR | O_NOCTTY);
 139         if (*ptyfd < 0) {
 140                 error("Could not open /dev/ptc: %.100s", strerror(errno));
 141                 return 0;
 142         }
 143         name = ttyname(*ptyfd);
 144         if (!name)
 145                 fatal("Open of /dev/ptc returns device for which ttyname fails.");
 146         strlcpy(namebuf, name, namebuflen);
 147         *ttyfd = open(name, O_RDWR | O_NOCTTY);
 148         if (*ttyfd < 0) {
 149                 error("Could not open pty slave side %.100s: %.100s",
 150                       name, strerror(errno));
 151                 close(*ptyfd);
 152                 return 0;
 153         }
 154         return 1;
 155 #else /* HAVE_DEV_PTS_AND_PTC */
 156         /* BSD-style pty code. */
 157         char buf[64];
 158         int i;
 159         const char *ptymajors = "pqrstuvwxyzabcdefghijklmnoABCDEFGHIJKLMNOPQRSTUVWXYZ";
 160         const char *ptyminors = "0123456789abcdef";
 161         int num_minors = strlen(ptyminors);
 162         int num_ptys = strlen(ptymajors) * num_minors;
 163
 164         for (i = 0; i < num_ptys; i++) {
 165                 snprintf(buf, sizeof buf, "/dev/pty%c%c", ptymajors[i / num_minors],
 166                          ptyminors[i % num_minors]);
 167                 snprintf(namebuf, namebuflen, "/dev/tty%c%c",
 168                     ptymajors[i / num_minors], ptyminors[i % num_minors]);
 169
 170                 *ptyfd = open(buf, O_RDWR | O_NOCTTY);
 171                 if (*ptyfd < 0) {
 172                         /* Try SCO style naming */
 173                         snprintf(buf, sizeof buf, "/dev/ptyp%d", i);
 174                         snprintf(namebuf, namebuflen, "/dev/ttyp%d", i);
 175                         *ptyfd = open(buf, O_RDWR | O_NOCTTY);
 176                         if (*ptyfd < 0)
 177                                 continue;
 178                 }
 179
 180                 /* Open the slave side. */
 181                 *ttyfd = open(namebuf, O_RDWR | O_NOCTTY);
 182                 if (*ttyfd < 0) {
 183                         error("%.100s: %.100s", namebuf, strerror(errno));
 184                         close(*ptyfd);
 185                         return 0;
 186                 }
 187                 return 1;
 188         }
 189         return 0;
 190 #endif /* HAVE_DEV_PTS_AND_PTC */
 191 #endif /* HAVE_DEV_PTMX */
 192 #endif /* HAVE__GETPTY */
 193 #endif /* HAVE_OPENPTY */
 194 }
 195
 196 /* Releases the tty.  Its ownership is returned to root, and permissions to 0666. */
 197
 198 void
 199 pty_release(const char *ttyname)
 200 {
 201         if (chown(ttyname, (uid_t) 0, (gid_t) 0) < 0)
 202                 error("chown %.100s 0 0 failed: %.100s", ttyname, strerror(errno));
 203         if (chmod(ttyname, (mode_t) 0666) < 0)
 204                 error("chmod %.100s 0666 failed: %.100s", ttyname, strerror(errno));
 205 }
 206
 207 /* Makes the tty the processes controlling tty and sets it to sane modes. */
 208
 209 void
 210 pty_make_controlling_tty(int *ttyfd, const char *ttyname)
 211 {
 212         int fd;
 213 #ifdef USE_VHANGUP
 214         void *old;
 215 #endif /* USE_VHANGUP */
 216
 217         /* First disconnect from the old controlling tty. */
 218 #ifdef TIOCNOTTY
 219         fd = open("/dev/tty", O_RDWR | O_NOCTTY);
 220         if (fd >= 0) {
 221                 (void) ioctl(fd, TIOCNOTTY, NULL);
 222                 close(fd);
 223         }
 224 #endif /* TIOCNOTTY */
 225         if (setsid() < 0)
 226                 error("setsid: %.100s", strerror(errno));
 227
 228         /*
 229          * Verify that we are successfully disconnected from the controlling
 230          * tty.
 231          */
 232         fd = open("/dev/tty", O_RDWR | O_NOCTTY);
 233         if (fd >= 0) {
 234                 error("Failed to disconnect from controlling tty.");
 235                 close(fd);
 236         }
 237         /* Make it our controlling tty. */
 238 #ifdef TIOCSCTTY
 239         debug("Setting controlling tty using TIOCSCTTY.");
 240         /*
 241          * We ignore errors from this, because HPSUX defines TIOCSCTTY, but
 242          * returns EINVAL with these arguments, and there is absolutely no
 243          * documentation.
 244          */
 245         ioctl(*ttyfd, TIOCSCTTY, NULL);
 246 #endif /* TIOCSCTTY */
 247 #ifdef USE_VHANGUP
 248         old = signal(SIGHUP, SIG_IGN);
 249         vhangup();
 250         signal(SIGHUP, old);
 251 #endif /* USE_VHANGUP */
 252         fd = open(ttyname, O_RDWR);
 253         if (fd < 0) {
 254                 error("%.100s: %.100s", ttyname, strerror(errno));
 255         } else {
 256 #ifdef USE_VHANGUP
 257                 close(*ttyfd);
 258                 *ttyfd = fd;
 259 #else /* USE_VHANGUP */
 260                 close(fd);
 261 #endif /* USE_VHANGUP */
 262         }
 263         /* Verify that we now have a controlling tty. */
 264         fd = open("/dev/tty", O_WRONLY);
 265         if (fd < 0)
 266                 error("open /dev/tty failed - could not set controlling tty: %.100s",
 267                       strerror(errno));
 268         else {
 269                 close(fd);
 270         }
 271 }
 272
 273 /* Changes the window size associated with the pty. */
 274
 275 void
 276 pty_change_window_size(int ptyfd, int row, int col,
 277                        int xpixel, int ypixel)
 278 {
 279         struct winsize w;
 280         w.ws_row = row;
 281         w.ws_col = col;
 282         w.ws_xpixel = xpixel;
 283         w.ws_ypixel = ypixel;
 284         (void) ioctl(ptyfd, TIOCSWINSZ, &w);
 285 }
 286
 287 void
 288 pty_setowner(struct passwd *pw, const char *ttyname)
 289 {
 290         struct group *grp;
 291         gid_t gid;
 292         mode_t mode;
 293
 294         /* Determine the group to make the owner of the tty. */
 295         grp = getgrnam("tty");
 296         if (grp) {
 297                 gid = grp->gr_gid;
 298                 mode = S_IRUSR | S_IWUSR | S_IWGRP;
 299         } else {
 300                 gid = pw->pw_gid;
 301                 mode = S_IRUSR | S_IWUSR | S_IWGRP | S_IWOTH;
 302         }
 303
 304         /* Change ownership of the tty. */
 305         if (chown(ttyname, pw->pw_uid, gid) < 0)
 306                 fatal("chown(%.100s, %d, %d) failed: %.100s",
 307                     ttyname, pw->pw_uid, gid, strerror(errno));
 308         if (chmod(ttyname, mode) < 0)
 309                 fatal("chmod(%.100s, 0%o) failed: %.100s",
 310                     ttyname, mode, strerror(errno));
 311 }