ready for a new release
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "trustdb.h"
32 #include "cipher.h"
33 #include "status.h"
34 #include "i18n.h"
35
36
37 /****************
38  * Get the session key from a pubkey enc paket and return
39  * it in DEK, which should have been allocated in secure memory.
40  */
41 int
42 get_session_key( PKT_pubkey_enc *k, DEK *dek )
43 {
44     int rc = 0;
45     MPI plain_dek  = NULL;
46     byte *frame = NULL;
47     unsigned n, nframe;
48     u16 csum, csum2;
49     PKT_secret_key *sk = m_alloc_clear( sizeof *sk );
50
51     if( is_RSA(k->pubkey_algo) ) /* warn about that */
52         write_status(STATUS_RSA_OR_IDEA);
53     rc=check_pubkey_algo( k->pubkey_algo );
54     if( rc )
55         goto leave;
56
57     sk->pubkey_algo = k->pubkey_algo;   /* we want a pubkey with this algo*/
58     if( (rc = get_seckey( sk, k->keyid )) )
59         goto leave;
60
61     rc = pubkey_decrypt(k->pubkey_algo, &plain_dek, k->data, sk->skey );
62     if( rc )
63         goto leave;
64     free_secret_key( sk ); sk = NULL;
65     frame = mpi_get_buffer( plain_dek, &nframe, NULL );
66     mpi_free( plain_dek ); plain_dek = NULL;
67
68     /* Now get the DEK (data encryption key) from the frame
69      *
70      * Old versions encode the DEK in in this format (msb is left):
71      *
72      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
73      *
74      * Later versions encode the DEK like this:
75      *
76      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
77      *
78      * (mpi_get_buffer already removed the leading zero).
79      *
80      * RND are non-zero randow bytes.
81      * A   is the cipher algorithm
82      * DEK is the encryption key (session key) with length k
83      * CSUM
84      */
85     if( DBG_CIPHER )
86         log_hexdump("DEK frame:", frame, nframe );
87     n=0;
88     if( n + 7 > nframe )
89         { rc = G10ERR_WRONG_SECKEY; goto leave; }
90     if( frame[n] == 1 && frame[nframe-1] == 2 ) {
91         log_error("old encoding of DEK is not supported\n");
92         rc = G10ERR_CIPHER_ALGO;
93         goto leave;
94     }
95     if( frame[n] != 2 )  /* somethink is wrong */
96         { rc = G10ERR_WRONG_SECKEY; goto leave; }
97     for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
98         ;
99     n++; /* and the zero byte */
100     if( n + 4 > nframe )
101         { rc = G10ERR_WRONG_SECKEY; goto leave; }
102
103     dek->keylen = nframe - (n+1) - 2;
104     dek->algo = frame[n++];
105     if( dek->algo ==  CIPHER_ALGO_IDEA )
106         write_status(STATUS_RSA_OR_IDEA);
107     rc = check_cipher_algo( dek->algo );
108     if( rc ) {
109         dek->algo = 0;
110         goto leave;
111     }
112     if( (dek->keylen*8) != cipher_get_keylen( dek->algo ) ) {
113         rc = G10ERR_WRONG_SECKEY;
114         goto leave;
115     }
116
117     /* copy the key to DEK and compare the checksum */
118     csum  = frame[nframe-2] << 8;
119     csum |= frame[nframe-1];
120     memcpy( dek->key, frame+n, dek->keylen );
121     for( csum2=0, n=0; n < dek->keylen; n++ )
122         csum2 += dek->key[n];
123     if( csum != csum2 ) {
124         rc = G10ERR_WRONG_SECKEY;
125         goto leave;
126     }
127     if( DBG_CIPHER )
128         log_hexdump("DEK is:", dek->key, dek->keylen );
129     /* check that the algo is in the preferences */
130     {
131         PKT_public_key *pk = m_alloc_clear( sizeof *pk );
132         if( (rc = get_pubkey( pk, k->keyid )) )
133             log_error("public key problem: %s\n", g10_errstr(rc) );
134         else if( !pk->local_id && query_trust_record(pk) )
135             log_error("can't check algorithm against preferences\n");
136         else if( dek->algo != CIPHER_ALGO_3DES
137             && !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM, dek->algo ) )
138             log_info(_("note: cipher algorithm %d not found in preferences\n"),
139                                                                  dek->algo );
140         free_public_key( pk );
141         rc = 0;
142     }
143
144   leave:
145     mpi_free(plain_dek);
146     m_free(frame);
147     if( sk )
148         free_secret_key( sk );
149     return rc;
150 }
151
152