* keygen.c (generate_keypair): Create an AUTHKEYTYPE entry for cards.
[gnupg.git] / g10 / seskey.c
index eac15c4..11ebe17 100644 (file)
@@ -1,5 +1,5 @@
 /* seskey.c -  make sesssion keys etc.
- *     Copyright (C) 1998 Free Software Foundation, Inc.
+ * Copyright (C) 1998, 1999, 2000, 2001, 2003 Free Software Foundation, Inc.
  *
  * This file is part of GnuPG.
  *
 #include <string.h>
 #include <assert.h>
 
-#include <gcrypt.h>
+#include "gpg.h"
 #include "util.h"
-#include "dummy-cipher.h"
+#include "cipher.h"
+#include "mpi.h"
 #include "main.h"
 #include "i18n.h"
-#include "memory.h"
-
+#include "options.h"
 
 /****************
  * Make a session key and put it into DEK
 void
 make_session_key( DEK *dek )
 {
-    GCRY_CIPHER_HD chd;
-    int i, rc;
-
-    dek->keylen = gcry_cipher_get_algo_keylen( dek->algo );
-
-    if( !(chd = gcry_cipher_open( dek->algo, GCRY_CIPHER_MODE_CFB,
-                                      GCRY_CIPHER_SECURE
-                                      | (dek->algo >= 100 ?
-                                          0 : GCRY_CIPHER_ENABLE_SYNC) ))
-                         ) {
-       BUG();
+  gcry_cipher_hd_t chd;
+  int i, rc;
+
+  dek->keylen = gcry_cipher_get_algo_keylen (dek->algo);
+
+  if (gcry_cipher_open (&chd, dek->algo, GCRY_CIPHER_MODE_CFB,
+                          (GCRY_CIPHER_SECURE
+                           | (dek->algo >= 100 ?
+                              0 : GCRY_CIPHER_ENABLE_SYNC))) )
+    BUG();
+
+  gcry_randomize (dek->key, dek->keylen, GCRY_STRONG_RANDOM );
+  for (i=0; i < 16; i++ )
+    {
+      rc = gcry_cipher_setkey (chd, dek->key, dek->keylen);
+      if (!rc)
+        {
+          gcry_cipher_close (chd);
+          return;
+        }
+      if (gpg_err_code (rc) != GPG_ERR_WEAK_KEY)
+        BUG();
+      log_info (_("weak key created - retrying\n") );
+      /* Renew the session key until we get a non-weak key. */
+      gcry_randomize (dek->key, dek->keylen, GCRY_STRONG_RANDOM );
     }
-
-    gcry_randomize( dek->key, dek->keylen, GCRY_STRONG_RANDOM );
-    for(i=0; i < 16; i++ ) {
-       rc = gcry_cipher_setkey( chd, dek->key, dek->keylen );
-       if( !rc ) {
-           gcry_cipher_close( chd );
-           return;
-       }
-       if( rc != GCRYERR_WEAK_KEY )
-           BUG();
-       log_info(_("weak key created - retrying\n") );
-       /* Renew the session key until we get a non-weak key. */
-       gcry_randomize( dek->key, dek->keylen, GCRY_STRONG_RANDOM );
-    }
-    log_fatal(_(
-           "cannot avoid weak key for symmetric cipher; tried %d times!\n"),
-                 i);
+  
+  log_fatal (_("cannot avoid weak key for symmetric cipher; "
+               "tried %d times!\n"), i);
 }
 
 
@@ -75,15 +75,15 @@ make_session_key( DEK *dek )
  * for packing the session key.
  * returns: A mpi with the session key (caller must free)
  */
-MPI
-encode_session_key( DEK *dek, unsigned nbits )
+gcry_mpi_t
+encode_session_key (DEK *dek, unsigned int nbits)
 {
     int nframe = (nbits+7) / 8;
     byte *p;
     byte *frame;
     int i,n;
     u16 csum;
-    MPI a;
+    gcry_mpi_t a;
 
     /* the current limitation is that we can only use a session key
      * whose length is a multiple of BITS_PER_MPI_LIMB
@@ -110,13 +110,13 @@ encode_session_key( DEK *dek, unsigned nbits )
     for( p = dek->key, i=0; i < dek->keylen; i++ )
        csum += *p++;
 
-    frame = m_alloc_secure( nframe );
+    frame = gcry_xmalloc_secure ( nframe );
     n = 0;
     frame[n++] = 0;
     frame[n++] = 2;
     i = nframe - 6 - dek->keylen;
     assert( i > 0 );
-    p = gcry_random_bytes_secure( i, GCRY_STRONG_RANDOM );
+    p = gcry_random_bytes_secure (i, GCRY_STRONG_RANDOM);
     /* replace zero bytes by new values */
     for(;;) {
        int j, k;
@@ -133,32 +133,36 @@ encode_session_key( DEK *dek, unsigned nbits )
        for(j=0; j < i && k ; j++ )
            if( !p[j] )
                p[j] = pp[--k];
-       m_free(pp);
+       xfree (pp);
     }
     memcpy( frame+n, p, i );
-    m_free(p);
+    xfree (p);
     n += i;
     frame[n++] = 0;
     frame[n++] = dek->algo;
     memcpy( frame+n, dek->key, dek->keylen ); n += dek->keylen;
     frame[n++] = csum >>8;
     frame[n++] = csum;
-    assert( n == nframe );
-    a = mpi_secure_new( nframe );
-    mpi_set_buffer( a, frame, nframe, 0 );
-    m_free(frame);
+    assert (n == nframe);
+
+    if (DBG_CIPHER)
+      log_printhex ("encoded session key:", frame, nframe );
+
+    if (gcry_mpi_scan( &a, GCRYMPI_FMT_USG, frame, &nframe))
+      BUG();
+    xfree (frame);
     return a;
 }
 
 
-static MPI
-do_encode_md( GCRY_MD_HD md, int algo, size_t len, unsigned nbits,
-                                      const byte *asn, size_t asnlen )
+static gcry_mpi_t
+do_encode_md( gcry_md_hd_t md, int algo, size_t len, unsigned nbits,
+             const byte *asn, size_t asnlen, int v3compathack )
 {
     int nframe = (nbits+7) / 8;
     byte *frame;
     int i,n;
-    MPI a;
+    gcry_mpi_t a;
 
     if( len + asnlen + 4  > nframe )
        log_bug("can't encode a %d bit MD into a %d bits frame\n",
@@ -170,52 +174,71 @@ do_encode_md( GCRY_MD_HD md, int algo, size_t len, unsigned nbits,
      *
      * PAD consists of FF bytes.
      */
-    frame = gcry_md_is_secure(md)? m_alloc_secure( nframe )
-                                : m_alloc( nframe );
+    frame = gcry_md_is_secure (md)? xmalloc_secure (nframe): xmalloc (nframe);
     n = 0;
     frame[n++] = 0;
-    frame[n++] = algo;
+    frame[n++] = v3compathack? algo : 1; /* block type */
     i = nframe - len - asnlen -3 ;
     assert( i > 1 );
     memset( frame+n, 0xff, i ); n += i;
     frame[n++] = 0;
     memcpy( frame+n, asn, asnlen ); n += asnlen;
-    memcpy( frame+n, gcry_md_read(md, algo), len ); n += len;
+    memcpy( frame+n, gcry_md_read (md, algo), len ); n += len;
     assert( n == nframe );
-    a = gcry_md_is_secure(md)? mpi_secure_new( nframe ) : mpi_new( nframe );
-    mpi_set_buffer( a, frame, nframe, 0 );
-    m_free(frame);
+    if (gcry_mpi_scan( &a, GCRYMPI_FMT_USG, frame, &nframe ))
+       BUG();
+    xfree (frame);
     return a;
 }
 
 
-MPI
-encode_md_value( int pubkey_algo, GCRY_MD_HD md, int hash_algo, unsigned nbits )
+/****************
+ * Encode a message digest into an MPI.
+ * v3compathack is used to work around a bug in old GnuPG versions
+ * which did put the algo identifier inseatd of the block type 1 into
+ * the encoded value.  Setting this flag forces the old behaviour.
+ */
+gcry_mpi_t
+encode_md_value (int pubkey_algo, gcry_md_hd_t md, int hash_algo,
+                unsigned int nbits, int v3compathack )
 {
-    int algo = hash_algo? hash_algo : gcry_md_get_algo(md);
-    MPI frame;
-
-    if( pubkey_algo == GCRY_PK_DSA ) {
-       frame = gcry_md_is_secure(md)?
-                       mpi_secure_new( gcry_md_get_algo_dlen(hash_algo) )
-                     : mpi_new(        gcry_md_get_algo_dlen(hash_algo) );
-       mpi_set_buffer( frame, gcry_md_read(md, hash_algo),
-                              gcry_md_get_algo_dlen(hash_algo), 0 );
+  int algo = hash_algo? hash_algo : gcry_md_get_algo (md);
+  gcry_mpi_t frame;
+  
+  if (pubkey_algo == GCRY_PK_DSA) 
+    {
+      size_t n = gcry_md_get_algo_dlen(hash_algo);
+      if (n != 20)
+        {
+          log_error (_("DSA requires the use of a 160 bit hash algorithm\n"));
+          return NULL;
+        }
+      if (gcry_mpi_scan( &frame, GCRYMPI_FMT_USG,
+                         gcry_md_read (md, hash_algo), &n ) )
+        BUG();
     }
-    else {
-       byte *asn;
-       size_t asnlen;
-
-       if( gcry_md_algo_info( algo, GCRYCTL_GET_ASNOID, NULL, &asnlen ) )
-           log_fatal("can't get OID of algo %d: %s\n",
-                                           algo, gcry_strerror(-1));
-       asn = m_alloc( asnlen );
-       if( gcry_md_algo_info( algo, GCRYCTL_GET_ASNOID, asn, &asnlen ) )
-           BUG();
-       frame = do_encode_md( md, algo, gcry_md_get_algo_dlen( algo ),
-                                                    nbits, asn, asnlen );
-       m_free( asn );
+  else
+    {
+      gpg_error_t rc;
+      byte *asn;
+      size_t asnlen;
+      
+      rc = gcry_md_algo_info( algo, GCRYCTL_GET_ASNOID, NULL, &asnlen);
+      if (rc)
+        log_fatal("can't get OID of algo %d: %s\n",
+                  algo, gpg_strerror (rc));
+      asn = xmalloc (asnlen);
+      if( gcry_md_algo_info( algo, GCRYCTL_GET_ASNOID, asn, &asnlen ) )
+        BUG();
+      frame = do_encode_md( md, algo, gcry_md_get_algo_dlen( algo ),
+                            nbits, asn, asnlen, v3compathack );
+      xfree (asn);
     }
-    return frame;
+  return frame;
 }
 
+
+
+
+
+