mpaux.c

   1 /*
   2  *
   3  * mpaux.c
   4  *
   5  * Author: Tatu Ylonen <ylo@cs.hut.fi>
   6  *
   7  * Copyright (c) 1995 Tatu Ylonen <ylo@cs.hut.fi>, Espoo, Finland
   8  *                    All rights reserved
   9  *
  10  * Created: Sun Jul 16 04:29:30 1995 ylo
  11  *
  12  * This file contains various auxiliary functions related to multiple
  13  * precision integers.
  14  *
  15 */
  16
  17 #include "includes.h"
  18 RCSID("$Id$");
  19
  20 #include "getput.h"
  21 #include "xmalloc.h"
  22
  23 #ifdef HAVE_OPENSSL
  24 #include <openssl/bn.h>
  25 #include <openssl/md5.h>
  26 #endif
  27 #ifdef HAVE_SSL
  28 #include <ssl/bn.h>
  29 #include <ssl/md5.h>
  30 #endif
  31
  32 void
  33 compute_session_id(unsigned char session_id[16],
  34     unsigned char cookie[8],
  35     BIGNUM* host_key_n,
  36     BIGNUM* session_key_n)
  37 {
  38         unsigned int host_key_bytes = BN_num_bytes(host_key_n);
  39         unsigned int session_key_bytes = BN_num_bytes(session_key_n);
  40         unsigned int bytes = host_key_bytes + session_key_bytes;
  41         unsigned char *buf = xmalloc(bytes);
  42         MD5_CTX md;
  43
  44         BN_bn2bin(host_key_n, buf);
  45         BN_bn2bin(session_key_n, buf + host_key_bytes);
  46         MD5_Init(&md);
  47         MD5_Update(&md, buf, bytes);
  48         MD5_Update(&md, cookie, 8);
  49         MD5_Final(session_id, &md);
  50         memset(buf, 0, bytes);
  51         xfree(buf);
  52 }