Renamed to GNUPG
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32
33
34 /****************
35  * Get the session key from a pubkey enc paket and return
36  * it in DEK, which should have been allocated in secure memory.
37  */
38 int
39 get_session_key( PKT_pubkey_enc *k, DEK *dek )
40 {
41     int rc = 0;
42     MPI plain_dek  = NULL;
43     byte *frame = NULL;
44     unsigned n, nframe;
45     u16 csum, csum2;
46     PKT_secret_cert *skc = m_alloc_clear( sizeof *skc );
47
48     skc->pubkey_algo = k->pubkey_algo;   /* we want a pubkey with this algo*/
49     if( (rc = get_seckey( skc, k->keyid )) )
50         goto leave;
51
52     if( k->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
53         ELG_secret_key skey;
54
55         if( DBG_CIPHER ) {
56             log_mpidump("Encr DEK a:", k->d.elg.a );
57             log_mpidump("     DEK b:", k->d.elg.b );
58         }
59         skey.p = skc->d.elg.p;
60         skey.g = skc->d.elg.g;
61         skey.y = skc->d.elg.y;
62         skey.x = skc->d.elg.x;
63         plain_dek = mpi_alloc_secure( mpi_get_nlimbs(skey.p) );
64         elg_decrypt( plain_dek, k->d.elg.a, k->d.elg.b, &skey );
65         memset( &skey, 0, sizeof skey );
66     }
67   #ifdef HAVE_RSA_CIPHER
68     else if( k->pubkey_algo == PUBKEY_ALGO_RSA ) {
69         RSA_secret_key skey;
70
71         if( DBG_CIPHER )
72             log_mpidump("Encr DEK frame:", k->d.rsa.rsa_integer );
73
74         skey.e = skc->d.rsa.rsa_e;
75         skey.n = skc->d.rsa.rsa_n;
76         skey.p = skc->d.rsa.rsa_p;
77         skey.q = skc->d.rsa.rsa_q;
78         skey.d = skc->d.rsa.rsa_d;
79         skey.u = skc->d.rsa.rsa_u;
80         plain_dek = mpi_alloc_secure( mpi_get_nlimbs(skey.n) );
81         rsa_secret( plain_dek, k->d.rsa.rsa_integer, &skey );
82         memset( &skey, 0, sizeof skey );
83     }
84   #endif/*HAVE_RSA_CIPHER*/
85     else {
86         rc = G10ERR_PUBKEY_ALGO; /* unsupported algorithm */
87         goto leave;
88     }
89     free_secret_cert( skc ); skc = NULL;
90     frame = mpi_get_buffer( plain_dek, &nframe, NULL );
91     mpi_free( plain_dek ); plain_dek = NULL;
92
93     /* Now get the DEK (data encryption key) from the frame
94      *
95      * Old versions encode the DEK in in this format (msb is left):
96      *
97      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
98      *
99      * Later versions encode the DEK like this:
100      *
101      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
102      *
103      * RND are non-zero randow bytes.
104      * A   is the cipher algorithm
105      * DEK is the encryption key (session key) with length k
106      * CSUM
107      */
108     if( DBG_CIPHER )
109         log_hexdump("DEK frame:", frame, nframe );
110     for(n=0; n < nframe && !frame[n]; n++ ) /* skip leading zeroes */
111         ;
112     if( n + 7 > nframe )
113         { rc = G10ERR_WRONG_SECKEY; goto leave; }
114     if( frame[n] == 1 && frame[nframe-1] == 2 ) {
115         log_error("old encoding of DEK is not supported\n");
116         rc = G10ERR_CIPHER_ALGO;
117         goto leave;
118     }
119     if( frame[n] != 2 )  /* somethink is wrong */
120         { rc = G10ERR_WRONG_SECKEY; goto leave; }
121     for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
122         ;
123     n++; /* and the zero byte */
124     if( n + 4 > nframe )
125         { rc = G10ERR_WRONG_SECKEY; goto leave; }
126
127     dek->keylen = nframe - (n+1) - 2;
128     dek->algo = frame[n++];
129     switch( dek->algo ) {
130       case CIPHER_ALGO_IDEA:
131         rc = G10ERR_NI_CIPHER;
132         goto leave;
133       case CIPHER_ALGO_BLOWFISH:
134         if( dek->keylen != 20 )
135             { rc = G10ERR_WRONG_SECKEY; goto leave; }
136         break;
137       case CIPHER_ALGO_BLOWFISH128:
138         if( dek->keylen != 16 )
139             { rc = G10ERR_WRONG_SECKEY; goto leave; }
140         break;
141       case CIPHER_ALGO_CAST:
142         if( dek->keylen < 5 || dek->keylen > 16 )
143             { rc = G10ERR_WRONG_SECKEY; goto leave; }
144         break;
145       default:
146         dek->algo = 0;
147         rc = G10ERR_CIPHER_ALGO;
148         goto leave;
149     }
150     /* copy the key to DEK and compare the checksum */
151     csum  = frame[nframe-2] << 8;
152     csum |= frame[nframe-1];
153     memcpy( dek->key, frame+n, dek->keylen );
154     for( csum2=0, n=0; n < dek->keylen; n++ )
155         csum2 += dek->key[n];
156     if( csum != csum2 ) {
157         rc = G10ERR_WRONG_SECKEY;
158         goto leave;
159     }
160     if( DBG_CIPHER )
161         log_hexdump("DEK is:", dek->key, dek->keylen );
162
163   leave:
164     mpi_free(plain_dek);
165     m_free(frame);
166     if( skc )
167         free_secret_cert( skc );
168     return rc;
169 }
170
171