No more warnings for AMD64 (at least when cross-compiling). Thus tehre is a
[gnupg.git] / g10 / seskey.c
index 881dd2c..6ac83b0 100644 (file)
@@ -1,5 +1,6 @@
 /* seskey.c -  make sesssion keys etc.
- * Copyright (C) 1998, 1999, 2000, 2001 Free Software Foundation, Inc.
+ * Copyright (C) 1998, 1999, 2000, 2001, 2002, 2003, 2004,
+ *               2006 Free Software Foundation, Inc.
  *
  * This file is part of GnuPG.
  *
@@ -15,7 +16,8 @@
  *
  * You should have received a copy of the GNU General Public License
  * along with this program; if not, write to the Free Software
- * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
+ * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
+ * USA.
  */
 
 #include <config.h>
 #include <stdlib.h>
 #include <string.h>
 #include <assert.h>
+
+#include "gpg.h"
 #include "util.h"
 #include "cipher.h"
-#include "mpi.h"
 #include "main.h"
 #include "i18n.h"
 
 void
 make_session_key( DEK *dek )
 {
-    CIPHER_HANDLE chd;
+    gcry_cipher_hd_t chd;
     int i, rc;
 
-    dek->keylen = cipher_get_keylen( dek->algo ) / 8;
+    dek->keylen = gcry_cipher_get_algo_keylen (dek->algo);
 
-    chd = cipher_open( dek->algo, CIPHER_MODE_AUTO_CFB, 1 );
-    randomize_buffer( dek->key, dek->keylen, 1 );
-    for(i=0; i < 16; i++ ) {
-       rc = cipher_setkey( chd, dek->key, dek->keylen );
-       if( !rc ) {
-           cipher_close( chd );
+    if (gcry_cipher_open (&chd, dek->algo, GCRY_CIPHER_MODE_CFB,
+                          (GCRY_CIPHER_SECURE
+                           | (dek->algo >= 100 ?
+                              0 : GCRY_CIPHER_ENABLE_SYNC))) )
+      BUG();
+    gcry_randomize (dek->key, dek->keylen, GCRY_STRONG_RANDOM );
+    for (i=0; i < 16; i++ ) 
+      {
+       rc = gcry_cipher_setkey (chd, dek->key, dek->keylen);
+       if (!rc) 
+          {
+           gcry_cipher_close (chd);
            return;
-       }
+          }
+        if (gpg_err_code (rc) != GPG_ERR_WEAK_KEY)
+          BUG();
        log_info(_("weak key created - retrying\n") );
        /* Renew the session key until we get a non-weak key. */
-       randomize_buffer( dek->key, dek->keylen, 1 );
-    }
-    log_fatal(_(
-           "cannot avoid weak key for symmetric cipher; tried %d times!\n"),
-                 i);
+       gcry_randomize (dek->key, dek->keylen, GCRY_STRONG_RANDOM);
+      }
+    log_fatal (_("cannot avoid weak key for symmetric cipher; "
+                 "tried %d times!\n"), i);
 }
 
 
@@ -64,17 +74,17 @@ make_session_key( DEK *dek )
  * for packing the session key.
  * returns: A mpi with the session key (caller must free)
  */
-MPI
-encode_session_key( DEK *dek, unsigned nbits )
+gcry_mpi_t
+encode_session_key (DEK *dek, unsigned int nbits)
 {
-    int nframe = (nbits+7) / 8;
+    size_t nframe = (nbits+7) / 8;
     byte *p;
     byte *frame;
     int i,n;
     u16 csum;
-    MPI a;
+    gcry_mpi_t a;
 
-    /* the current limitation is that we can only use a session key
+    /* The current limitation is that we can only use a session key
      * whose length is a multiple of BITS_PER_MPI_LIMB
      * I think we can live with that.
      */
@@ -99,14 +109,14 @@ encode_session_key( DEK *dek, unsigned nbits )
     for( p = dek->key, i=0; i < dek->keylen; i++ )
        csum += *p++;
 
-    frame = m_alloc_secure( nframe );
+    frame = xmalloc_secure( nframe );
     n = 0;
     frame[n++] = 0;
     frame[n++] = 2;
     i = nframe - 6 - dek->keylen;
     assert( i > 0 );
-    p = get_random_bits( i*8, 1, 1 );
-    /* replace zero bytes by new values */
+    p = gcry_random_bytes_secure (i, GCRY_STRONG_RANDOM);
+    /* Replace zero bytes by new values. */
     for(;;) {
        int j, k;
        byte *pp;
@@ -117,15 +127,18 @@ encode_session_key( DEK *dek, unsigned nbits )
                k++;
        if( !k )
            break; /* okay: no zero bytes */
-       k += k/128; /* better get some more */
-       pp = get_random_bits( k*8, 1, 1);
-       for(j=0; j < i && k ; j++ )
+       k += k/128 + 3; /* better get some more */
+       pp = gcry_random_bytes_secure (k, GCRY_STRONG_RANDOM);
+       for(j=0; j < i && k ;) {
            if( !p[j] )
                p[j] = pp[--k];
-       m_free(pp);
+            if (p[j])
+              j++;
+        }
+       xfree(pp);
     }
     memcpy( frame+n, p, i );
-    m_free(p);
+    xfree(p);
     n += i;
     frame[n++] = 0;
     frame[n++] = dek->algo;
@@ -133,21 +146,21 @@ encode_session_key( DEK *dek, unsigned nbits )
     frame[n++] = csum >>8;
     frame[n++] = csum;
     assert( n == nframe );
-    a = mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
-    mpi_set_buffer( a, frame, nframe, 0 );
-    m_free(frame);
+    if (gcry_mpi_scan( &a, GCRYMPI_FMT_USG, frame, n, &nframe))
+      BUG();
+    xfree(frame);
     return a;
 }
 
 
-static MPI
-do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
-             const byte *asn, size_t asnlen, int v3compathack )
+static gcry_mpi_t
+do_encode_md( gcry_md_hd_t md, int algo, size_t len, unsigned nbits,
+             const byte *asn, size_t asnlen )
 {
-    int nframe = (nbits+7) / 8;
+    size_t nframe = (nbits+7) / 8;
     byte *frame;
     int i,n;
-    MPI a;
+    gcry_mpi_t a;
 
     if( len + asnlen + 4  > nframe )
        log_bug("can't encode a %d bit MD into a %d bits frame\n",
@@ -155,26 +168,25 @@ do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
 
     /* We encode the MD in this way:
      *
-     *    0  A PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
+     *    0  1 PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
      *
      * PAD consists of FF bytes.
      */
-    frame = md_is_secure(md)? m_alloc_secure( nframe ) : m_alloc( nframe );
+    frame = gcry_md_is_secure (md)? xmalloc_secure (nframe) : xmalloc (nframe);
     n = 0;
     frame[n++] = 0;
-    frame[n++] = v3compathack? algo : 1; /* block type */
+    frame[n++] = 1; /* block type */
     i = nframe - len - asnlen -3 ;
     assert( i > 1 );
     memset( frame+n, 0xff, i ); n += i;
     frame[n++] = 0;
     memcpy( frame+n, asn, asnlen ); n += asnlen;
-    memcpy( frame+n, md_read(md, algo), len ); n += len;
+    memcpy( frame+n, gcry_md_read (md, algo), len ); n += len;
     assert( n == nframe );
-    a = md_is_secure(md)?
-        mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
-        : mpi_alloc( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
-    mpi_set_buffer( a, frame, nframe, 0 );
-    m_free(frame);
+
+    if (gcry_mpi_scan( &a, GCRYMPI_FMT_USG, frame, n, &nframe ))
+       BUG();
+    xfree(frame);
 
     /* Note that PGP before version 2.3 encoded the MD as:
      *
@@ -191,36 +203,84 @@ do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
 
 /****************
  * Encode a message digest into an MPI.
- * v3compathack is used to work around a bug in old GnuPG versions
- * which did put the algo identifier inseatd of the block type 1 into
- * the encoded value.  Setting this flag forces the old behaviour.
+ * If it's for a DSA signature, make sure that the hash is large
+ * enough to fill up q.  If the hash is too big, take the leftmost
+ * bits.
  */
-MPI
-encode_md_value( int pubkey_algo, MD_HANDLE md, int hash_algo,
-                unsigned nbits, int v3compathack )
+gcry_mpi_t
+encode_md_value (PKT_public_key *pk, PKT_secret_key *sk,
+                gcry_md_hd_t md, int hash_algo)
 {
-    int algo = hash_algo? hash_algo : md_get_algo(md);
-    const byte *asn;
-    size_t asnlen, mdlen;
-    MPI frame;
-
-    if( pubkey_algo == PUBKEY_ALGO_DSA ) {
-        mdlen = md_digest_length (hash_algo);
-        if (mdlen != 20) {
-            log_error (_("DSA requires the use of a 160 bit hash algorithm\n"));
-            return NULL;
-        }
+  gcry_mpi_t frame;
+
+  assert(hash_algo);
+  assert(pk || sk);
+
+  if((pk?pk->pubkey_algo:sk->pubkey_algo) == GCRY_PK_DSA)
+    {
+      /* It's a DSA signature, so find out the size of q. */
+
+      size_t qbytes = gcry_mpi_get_nbits (pk?pk->pkey[1]:sk->skey[1]);
+
+      /* Make sure it is a multiple of 8 bits. */
 
-       frame = md_is_secure(md)? mpi_alloc_secure((md_digest_length(hash_algo)
-                                +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
-                               : mpi_alloc((md_digest_length(hash_algo)
-                                +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
-       mpi_set_buffer( frame, md_read(md, hash_algo),
-                              md_digest_length(hash_algo), 0 );
+      if(qbytes%8)
+       {
+         log_error(_("DSA requires the hash length to be a"
+                     " multiple of 8 bits\n"));
+         return NULL;
+       }
+
+      /* Don't allow any q smaller than 160 bits.  This might need a
+        revisit as the DSA2 design firms up, but for now, we don't
+        want someone to issue signatures from a key with a 16-bit q
+        or something like that, which would look correct but allow
+        trivial forgeries.  Yes, I know this rules out using MD5 with
+        DSA. ;) */
+      if (qbytes < 160)
+       {
+         log_error (_("DSA key %s uses an unsafe (%u bit) hash\n"),
+                     pk?keystr_from_pk(pk):keystr_from_sk(sk),
+                     (unsigned int)qbytes);
+         return NULL;
+       }
+
+      qbytes/=8;
+
+      /* Check if we're too short.  Too long is safe as we'll
+        automatically left-truncate. */
+      if (gcry_md_get_algo_dlen (hash_algo) < qbytes)
+       {
+         log_error (_("DSA key %s requires a %u bit or larger hash\n"),
+                     pk?keystr_from_pk(pk):keystr_from_sk(sk),
+                     (unsigned int)(qbytes*8));
+         return NULL;
+       }
+
+      if (gcry_mpi_scan (&frame, GCRYMPI_FMT_USG,
+                         gcry_md_read (md, hash_algo), qbytes, &qbytes))
+        BUG();
     }
-    else {
-       asn = md_asn_oid( algo, &asnlen, &mdlen );
-       frame = do_encode_md( md, algo, mdlen, nbits, asn, asnlen, v3compathack);
+  else
+    {
+      gpg_error_t rc;
+      byte *asn;
+      size_t asnlen;
+
+      rc = gcry_md_test_algo (hash_algo);
+      if (!rc)
+        rc = gcry_md_algo_info (hash_algo, GCRYCTL_GET_ASNOID, NULL, &asnlen);
+      if (rc)
+        log_fatal ("can't get OID of algo %d: %s\n",
+                   hash_algo, gpg_strerror (rc));
+      asn = xmalloc (asnlen);
+      if ( gcry_md_algo_info (hash_algo, GCRYCTL_GET_ASNOID, asn, &asnlen) )
+        BUG();
+      frame = do_encode_md (md, hash_algo, gcry_md_get_algo_dlen (hash_algo),
+                            gcry_mpi_get_nbits (pk?pk->pkey[0]:sk->skey[0]),
+                            asn, asnlen);
+      xfree (asn);
     }
-    return frame;
+
+  return frame;
 }