patchlevel 2
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32
33
34 /****************
35  * Get the session key from a pubkey enc paket and return
36  * it in DEK, which should have been allocated in secure memory.
37  */
38 int
39 get_session_key( PKT_pubkey_enc *k, DEK *dek )
40 {
41     int i, j, c, rc = 0;
42     MPI dek_frame = mpi_alloc_secure(40);
43     u16 csum, csum2;
44     PKT_secret_cert *skc = m_alloc_clear( sizeof *skc );
45
46     skc->pubkey_algo = k->pubkey_algo;   /* we want a pubkey with this algo*/
47     if( (rc = get_seckey( skc, k->keyid )) )
48         goto leave;
49
50     if( k->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
51         ELG_secret_key skey;
52
53         if( DBG_CIPHER ) {
54             log_mpidump("Encr DEK a:", k->d.elg.a );
55             log_mpidump("     DEK b:", k->d.elg.b );
56         }
57         skey.p = skc->d.elg.p;
58         skey.g = skc->d.elg.g;
59         skey.y = skc->d.elg.y;
60         skey.x = skc->d.elg.x;
61         elg_decrypt( dek_frame, k->d.elg.a, k->d.elg.b, &skey );
62         memset( &skey, 0, sizeof skey );
63     }
64   #ifdef HAVE_RSA_CIPHER
65     else if( k->pubkey_algo == PUBKEY_ALGO_RSA ) {
66         RSA_secret_key skey;
67
68         if( DBG_CIPHER )
69             log_mpidump("Encr DEK frame:", k->d.rsa.rsa_integer );
70
71         skey.e = skc->d.rsa.rsa_e;
72         skey.n = skc->d.rsa.rsa_n;
73         skey.p = skc->d.rsa.rsa_p;
74         skey.q = skc->d.rsa.rsa_q;
75         skey.d = skc->d.rsa.rsa_d;
76         skey.u = skc->d.rsa.rsa_u;
77         rsa_secret( dek_frame, k->d.rsa.rsa_integer, &skey );
78         memset( &skey, 0, sizeof skey );
79     }
80   #endif/*HAVE_RSA_CIPHER*/
81     else {
82         rc = G10ERR_PUBKEY_ALGO; /* unsupported algorithm */
83         goto leave;
84     }
85     free_secret_cert( skc ); skc = NULL;
86
87
88     /* Now get the DEK (data encryption key) from the dek_frame
89      *
90      * Old versions encode the DEK in in this format (msb is left):
91      *
92      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
93      *
94      * Later versions encode the DEK like this:
95      *
96      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
97      *
98      * RND are non-zero randow bytes.
99      * A   is the cipher algorithm
100      * DEK is the encryption key (session key) with length k
101      * CSUM
102      */
103     if( DBG_CIPHER )
104         log_mpidump("DEK frame:", dek_frame );
105     for(i=0; mpi_getbyte(dek_frame, i) != -1; i++ )
106         ;
107     for(i--; i >= 0 && !(c=mpi_getbyte(dek_frame, i)); i--)
108         ; /* Skip leading zeroes */
109     if( i < 16 )
110         { rc = G10ERR_WRONG_SECKEY; goto leave; }
111     if( c == 1 && mpi_getbyte(dek_frame,0) == 2 ) {
112         log_error("old encoding of DEK is not supported\n");
113         rc = G10ERR_CIPHER_ALGO;
114         goto leave;
115     }
116     if( c != 2 )  /* somethink is wrong */
117         { rc = G10ERR_WRONG_SECKEY; goto leave; }
118     /* look for the zero byte */
119     for(i--; i > 4 ; i-- )
120         if( !mpi_getbyte(dek_frame,i) )
121             break;
122     if( i <= 4 ) /* zero byte not found */
123         { rc = G10ERR_WRONG_SECKEY; goto leave; }
124     /* next byte indicates the used cipher */
125     switch( mpi_getbyte(dek_frame, --i ) ) {
126       case CIPHER_ALGO_IDEA:
127         rc = G10ERR_NI_CIPHER;
128         goto leave;
129       case CIPHER_ALGO_BLOWFISH:
130         if( i != 22 ) /* length of blowfish is 20 (+2 bytes checksum) */
131             { rc = G10ERR_WRONG_SECKEY; goto leave; }
132         dek->algo = CIPHER_ALGO_BLOWFISH;
133         break;
134       case CIPHER_ALGO_BLOWFISH128:
135         if( i != 18 ) /* length of blowfish-128 is 16 (+2 bytes checksum) */
136             { rc = G10ERR_WRONG_SECKEY; goto leave; }
137         dek->algo = CIPHER_ALGO_BLOWFISH128;
138         break;
139       default:
140         rc = G10ERR_CIPHER_ALGO;
141         goto leave;
142     }
143     /* copy the key to DEK and compare the checksum */
144     csum  = mpi_getbyte(dek_frame, 1) << 8;
145     csum |= mpi_getbyte(dek_frame, 0);
146     dek->keylen = i - 2;
147     for( i--, csum2=0, j=0; i > 1; i-- )
148         csum2 += dek->key[j++] = mpi_getbyte(dek_frame, i);
149     if( csum != csum2 ) {
150         rc = G10ERR_WRONG_SECKEY;
151         goto leave;
152     }
153     if( DBG_CIPHER )
154         log_hexdump("DEK is:", dek->key, dek->keylen );
155
156   leave:
157     mpi_free(dek_frame);
158     if( skc )
159         free_secret_cert( skc );
160     return rc;
161 }
162
163