Some bug fixes of the last release
[gnupg.git] / g10 / pubkey-enc.c
index ba6a6f1..cb021c4 100644 (file)
@@ -1,14 +1,14 @@
 /* pubkey-enc.c -  public key encoded packet handling
- *     Copyright (c) 1997 by Werner Koch (dd9jn)
+ *     Copyright (C) 1998 Free Software Foundation, Inc.
  *
- * This file is part of G10.
+ * This file is part of GNUPG.
  *
- * G10 is free software; you can redistribute it and/or modify
+ * GNUPG is free software; you can redistribute it and/or modify
  * it under the terms of the GNU General Public License as published by
  * the Free Software Foundation; either version 2 of the License, or
  * (at your option) any later version.
  *
- * G10 is distributed in the hope that it will be useful,
+ * GNUPG is distributed in the hope that it will be useful,
  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  * GNU General Public License for more details.
 #include "packet.h"
 #include "mpi.h"
 #include "keydb.h"
+#include "trustdb.h"
 #include "cipher.h"
+#include "status.h"
+#include "i18n.h"
 
+static int get_it( PKT_pubkey_enc *k,
+                  DEK *dek, PKT_secret_key *sk, u32 *keyid );
 
 /****************
  * Get the session key from a pubkey enc paket and return
 int
 get_session_key( PKT_pubkey_enc *k, DEK *dek )
 {
-    int i, j, c, rc = 0;
-    MPI dek_frame = mpi_alloc_secure(40);
-    u16 csum, csum2;
-    PKT_secret_cert *skc = m_alloc_clear( sizeof *skc );
+    PKT_secret_key *sk = NULL;
+    int rc;
+
+    if( is_RSA(k->pubkey_algo) ) /* warn about that */
+       write_status(STATUS_RSA_OR_IDEA);
 
-    skc->pubkey_algo = k->pubkey_algo;  /* we want a pubkey with this algo*/
-    if( (rc = get_seckey( skc, k->keyid )) )
+    rc = check_pubkey_algo( k->pubkey_algo );
+    if( rc )
        goto leave;
 
-    if( k->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
-       ELG_secret_key skey;
+    if( k->keyid[0] || k->keyid[1] ) {
+       sk = m_alloc_clear( sizeof *sk );
+       sk->pubkey_algo = k->pubkey_algo; /* we want a pubkey with this algo*/
+       if( !(rc = get_seckey( sk, k->keyid )) )
+           rc = get_it( k, dek, sk, k->keyid );
+    }
+    else { /* anonymous receiver: Try all available secret keys */
+       void *enum_context = NULL;
+       u32 keyid[2];
 
-       if( DBG_CIPHER ) {
-           log_mpidump("Encr DEK a:", k->d.elg.a );
-           log_mpidump("     DEK b:", k->d.elg.b );
+       for(;;) {
+           if( sk )
+               free_secret_key( sk );
+           sk = m_alloc_clear( sizeof *sk );
+           rc=enum_secret_keys( &enum_context, sk, 1);
+           if( rc ) {
+               rc = G10ERR_NO_SECKEY;
+               break;
+           }
+           if( sk->pubkey_algo != k->pubkey_algo )
+               continue;
+           keyid_from_sk( sk, keyid );
+           log_info(_("anonymous receiver; trying secret key %08lX ...\n"),
+                                    (ulong)keyid[1] );
+           rc = check_secret_key( sk, 1 ); /* ask only once */
+           if( !rc )
+               rc = get_it( k, dek, sk, keyid );
+           if( !rc ) {
+               log_info(_("okay, we are the anonymous receiver.\n") );
+               break;
+           }
        }
-       skey.p = skc->d.elg.p;
-       skey.g = skc->d.elg.g;
-       skey.y = skc->d.elg.y;
-       skey.x = skc->d.elg.x;
-       elg_decrypted( dek_frame, k->d.elg.a, k->d.elg.b, &skey );
-       memset( &skey, 0, sizeof skey );
-    }
-  #ifdef HAVE_RSA_CIPHER
-    else if( k->pubkey_algo == PUBKEY_ALGO_RSA ) {
-       RSA_secret_key skey;
-
-       if( DBG_CIPHER )
-           log_mpidump("Encr DEK frame:", k->d.rsa.rsa_integer );
-
-       skey.e = skc->d.rsa.rsa_e;
-       skey.n = skc->d.rsa.rsa_n;
-       skey.p = skc->d.rsa.rsa_p;
-       skey.q = skc->d.rsa.rsa_q;
-       skey.d = skc->d.rsa.rsa_d;
-       skey.u = skc->d.rsa.rsa_u;
-       rsa_secret( dek_frame, k->d.rsa.rsa_integer, &skey );
-       memset( &skey, 0, sizeof skey );
-    }
-  #endif/*HAVE_RSA_CIPHER*/
-    else {
-       rc = G10ERR_PUBKEY_ALGO; /* unsupported algorithm */
-       goto leave;
+       enum_secret_keys( &enum_context, NULL, 0 ); /* free context */
     }
-    free_secret_cert( skc ); skc = NULL;
 
+  leave:
+    if( sk )
+       free_secret_key( sk );
+    return rc;
+}
+
+
+static int
+get_it( PKT_pubkey_enc *k, DEK *dek, PKT_secret_key *sk, u32 *keyid )
+{
+    int rc;
+    MPI plain_dek  = NULL;
+    byte *frame = NULL;
+    unsigned n, nframe;
+    u16 csum, csum2;
+
+    rc = pubkey_decrypt(sk->pubkey_algo, &plain_dek, k->data, sk->skey );
+    if( rc )
+       goto leave;
+    frame = mpi_get_buffer( plain_dek, &nframe, NULL );
+    mpi_free( plain_dek ); plain_dek = NULL;
 
-    /* Now get the DEK (data encryption key) from the dek_frame
+    /* Now get the DEK (data encryption key) from the frame
      *
      * Old versions encode the DEK in in this format (msb is left):
      *
@@ -95,63 +120,75 @@ get_session_key( PKT_pubkey_enc *k, DEK *dek )
      *
      *    0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
      *
+     * (mpi_get_buffer already removed the leading zero).
+     *
      * RND are non-zero randow bytes.
      * A   is the cipher algorithm
      * DEK is the encryption key (session key) with length k
      * CSUM
      */
     if( DBG_CIPHER )
-       log_mpidump("DEK frame:", dek_frame );
-    for(i=0; mpi_getbyte(dek_frame, i) != -1; i++ )
-       ;
-    for(i--; i >= 0 && !(c=mpi_getbyte(dek_frame, i)); i--)
-       ; /* Skip leading zeroes */
-    if( i < 16 )
+       log_hexdump("DEK frame:", frame, nframe );
+    n=0;
+    if( n + 7 > nframe )
        { rc = G10ERR_WRONG_SECKEY; goto leave; }
-    if( c == 1 && mpi_getbyte(dek_frame,0) == 2 ) {
-       log_error("old encoding of DEK is not supported\n");
+    if( frame[n] == 1 && frame[nframe-1] == 2 ) {
+       log_info(_("old encoding of the DEK is not supported\n"));
        rc = G10ERR_CIPHER_ALGO;
        goto leave;
     }
-    if( c != 2 )  /* somethink is wrong */
+    if( frame[n] != 2 )  /* somethink is wrong */
        { rc = G10ERR_WRONG_SECKEY; goto leave; }
-    /* look for the zero byte */
-    for(i--; i > 4 ; i-- )
-       if( !mpi_getbyte(dek_frame,i) )
-           break;
-    if( i <= 4 ) /* zero byte not found */
+    for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
+       ;
+    n++; /* and the zero byte */
+    if( n + 4 > nframe )
        { rc = G10ERR_WRONG_SECKEY; goto leave; }
-    /* next byte indicates the used cipher */
-    switch( mpi_getbyte(dek_frame, --i ) ) {
-      case CIPHER_ALGO_IDEA:
-       rc = G10ERR_NI_CIPHER;
+
+    dek->keylen = nframe - (n+1) - 2;
+    dek->algo = frame[n++];
+    if( dek->algo ==  CIPHER_ALGO_IDEA )
+       write_status(STATUS_RSA_OR_IDEA);
+    rc = check_cipher_algo( dek->algo );
+    if( rc ) {
+       dek->algo = 0;
        goto leave;
-      case CIPHER_ALGO_BLOWFISH:
-       if( i != 22 ) /* length of blowfish is 20 (+2 bytes checksum) */
-           { rc = G10ERR_WRONG_SECKEY; goto leave; }
-       dek->algo = CIPHER_ALGO_BLOWFISH;
-       break;
-      default:
-       rc = G10ERR_CIPHER_ALGO;
+    }
+    if( (dek->keylen*8) != cipher_get_keylen( dek->algo ) ) {
+       rc = G10ERR_WRONG_SECKEY;
        goto leave;
     }
+
     /* copy the key to DEK and compare the checksum */
-    csum  = mpi_getbyte(dek_frame, 1) << 8;
-    csum |= mpi_getbyte(dek_frame, 0);
-    dek->keylen = i - 2;
-    for( i--, csum2=0, j=0; i > 1; i-- )
-       csum2 += dek->key[j++] = mpi_getbyte(dek_frame, i);
+    csum  = frame[nframe-2] << 8;
+    csum |= frame[nframe-1];
+    memcpy( dek->key, frame+n, dek->keylen );
+    for( csum2=0, n=0; n < dek->keylen; n++ )
+       csum2 += dek->key[n];
     if( csum != csum2 ) {
        rc = G10ERR_WRONG_SECKEY;
        goto leave;
     }
     if( DBG_CIPHER )
        log_hexdump("DEK is:", dek->key, dek->keylen );
+    /* check that the algo is in the preferences */
+    {
+       PKT_public_key *pk = m_alloc_clear( sizeof *pk );
+       if( (rc = get_pubkey( pk, keyid )) )
+           log_error("public key problem: %s\n", g10_errstr(rc) );
+       else if( !pk->local_id && query_trust_record(pk) )
+           log_error("can't check algorithm against preferences\n");
+       else if( dek->algo != CIPHER_ALGO_3DES
+           && !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM, dek->algo ) )
+           log_info(_("NOTE: cipher algorithm %d not found in preferences\n"),
+                                                                dek->algo );
+       free_public_key( pk );
+       rc = 0;
+    }
 
   leave:
-    mpi_free(dek_frame);
-    if( skc )
-       free_secret_cert( skc );
+    mpi_free(plain_dek);
+    m_free(frame);
     return rc;
 }