70e4bc6c12f0dbb38c839b0dfb71d614f8dc5fe5
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include <gcrypt.h>
28 #include "packet.h"
29 #include "main.h"
30 #include "keydb.h"
31 #include "trustdb.h"
32 #include "dummy-cipher.h"
33 #include "status.h"
34 #include "options.h"
35 #include "i18n.h"
36
37 static int get_it( PKT_pubkey_enc *k,
38                    DEK *dek, PKT_secret_key *sk, u32 *keyid );
39
40
41 /****************
42  * Emulate our old PK interface here - sometime in the future we might
43  * change the internal design to directly fit to libgcrypt.
44  */
45 static int
46 pk_decrypt( int algo, MPI *result, MPI *data, MPI *skey )
47 {
48     GCRY_SEXP s_skey, s_data, s_plain;
49     int rc;
50
51     *result = NULL;
52     /* make a sexp from skey */
53     if( algo == GCRY_PK_ELG || algo == GCRY_PK_ELG_E ) {
54         s_skey = SEXP_CONS( SEXP_NEW( "private-key", 0 ),
55                           gcry_sexp_vlist( SEXP_NEW( "elg", 0 ),
56                           gcry_sexp_new_name_mpi( "p", skey[0] ),
57                           gcry_sexp_new_name_mpi( "g", skey[1] ),
58                           gcry_sexp_new_name_mpi( "y", skey[2] ),
59                           gcry_sexp_new_name_mpi( "x", skey[3] ),
60                           NULL ));
61     }
62     else if( algo == GCRY_PK_RSA ) {
63         s_skey = SEXP_CONS( SEXP_NEW( "private-key", 0 ),
64                           gcry_sexp_vlist( SEXP_NEW( "rsa", 0 ),
65                           gcry_sexp_new_name_mpi( "n", skey[0] ),
66                           gcry_sexp_new_name_mpi( "e", skey[1] ),
67                           gcry_sexp_new_name_mpi( "d", skey[2] ),
68                           gcry_sexp_new_name_mpi( "p", skey[3] ),
69                           gcry_sexp_new_name_mpi( "q", skey[4] ),
70                           gcry_sexp_new_name_mpi( "u", skey[5] ),
71                           NULL ));
72     }
73     else
74         return G10ERR_PUBKEY_ALGO;
75
76     /* put data into a S-Exp s_data */
77     if( algo == GCRY_PK_ELG || algo == GCRY_PK_ELG_E ) {
78         s_data = SEXP_CONS( SEXP_NEW( "enc-val", 0 ),
79                           gcry_sexp_vlist( SEXP_NEW( "elg", 0 ),
80                           gcry_sexp_new_name_mpi( "a", data[0] ),
81                           gcry_sexp_new_name_mpi( "b", data[1] ),
82                           NULL ));
83     }
84     else if( algo == GCRY_PK_RSA ) {
85         s_data = SEXP_CONS( SEXP_NEW( "enc-val", 0 ),
86                           gcry_sexp_vlist( SEXP_NEW( "rsa", 0 ),
87                           gcry_sexp_new_name_mpi( "a", data[0] ),
88                           NULL ));
89     }
90     else
91         BUG();
92
93     rc = gcry_pk_decrypt( &s_plain, s_data, s_skey );
94     gcry_sexp_release( s_skey );
95     gcry_sexp_release( s_data);
96     if( rc )
97         return rc;
98
99     *result = gcry_sexp_car_mpi( s_plain, 0 );
100     if( !*result )
101         return -1; /* oops */
102
103     return 0;
104 }
105
106
107
108 /****************
109  * Get the session key from a pubkey enc paket and return
110  * it in DEK, which should have been allocated in secure memory.
111  */
112 int
113 get_session_key( PKT_pubkey_enc *k, DEK *dek )
114 {
115     PKT_secret_key *sk = NULL;
116     int rc;
117
118     if( is_RSA(k->pubkey_algo) ) /* warn about that */
119         write_status(STATUS_RSA_OR_IDEA);
120
121     rc = openpgp_pk_test_algo( k->pubkey_algo, 0 );
122     if( rc )
123         goto leave;
124
125     if( k->keyid[0] || k->keyid[1] ) {
126         sk = gcry_xcalloc( 1, sizeof *sk );
127         sk->pubkey_algo = k->pubkey_algo; /* we want a pubkey with this algo*/
128         if( !(rc = get_seckey( sk, k->keyid )) )
129             rc = get_it( k, dek, sk, k->keyid );
130     }
131     else { /* anonymous receiver: Try all available secret keys */
132         void *enum_context = NULL;
133         u32 keyid[2];
134
135         for(;;) {
136             if( sk )
137                 free_secret_key( sk );
138             sk = gcry_xcalloc( 1, sizeof *sk );
139             rc=enum_secret_keys( &enum_context, sk, 1);
140             if( rc ) {
141                 rc = G10ERR_NO_SECKEY;
142                 break;
143             }
144             if( sk->pubkey_algo != k->pubkey_algo )
145                 continue;
146             keyid_from_sk( sk, keyid );
147             log_info(_("anonymous receiver; trying secret key %08lX ...\n"),
148                                      (ulong)keyid[1] );
149             rc = check_secret_key( sk, 1 ); /* ask only once */
150             if( !rc )
151                 rc = get_it( k, dek, sk, keyid );
152             if( !rc ) {
153                 log_info(_("okay, we are the anonymous recipient.\n") );
154                 break;
155             }
156         }
157         enum_secret_keys( &enum_context, NULL, 0 ); /* free context */
158     }
159
160   leave:
161     if( sk )
162         free_secret_key( sk );
163     return rc;
164 }
165
166
167 static int
168 get_it( PKT_pubkey_enc *k, DEK *dek, PKT_secret_key *sk, u32 *keyid )
169 {
170     int rc;
171     MPI plain_dek  = NULL;
172     byte *frame = NULL;
173     unsigned n;
174     size_t nframe;
175     u16 csum, csum2;
176
177     rc = pk_decrypt(sk->pubkey_algo, &plain_dek, k->data, sk->skey );
178     if( rc )
179         goto leave;
180     if( gcry_mpi_aprint( GCRYMPI_FMT_USG, &frame, &nframe, plain_dek ) )
181         BUG();
182
183     mpi_release( plain_dek ); plain_dek = NULL;
184
185     /* Now get the DEK (data encryption key) from the frame
186      *
187      * Old versions encode the DEK in in this format (msb is left):
188      *
189      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
190      *
191      * Later versions encode the DEK like this:
192      *
193      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
194      *
195      * (mpi_get_buffer already removed the leading zero - still true
196      *  for gcry_mpi_aprint(0 which is used now?)
197      *
198      * RND are non-zero randow bytes.
199      * A   is the cipher algorithm
200      * DEK is the encryption key (session key) with length k
201      * CSUM
202      */
203     if( (opt.debug & DBG_CIPHER_VALUE)  )
204         log_hexdump("DEK frame:", frame, nframe );
205     n=0;
206     if( n + 7 > nframe )
207         { rc = G10ERR_WRONG_SECKEY; goto leave; }
208     if( frame[n] == 1 && frame[nframe-1] == 2 ) {
209         log_info(_("old encoding of the DEK is not supported\n"));
210         rc = G10ERR_CIPHER_ALGO;
211         goto leave;
212     }
213     if( frame[n] != 2 )  /* somethink is wrong */
214         { rc = G10ERR_WRONG_SECKEY; goto leave; }
215     for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
216         ;
217     n++; /* and the zero byte */
218     if( n + 4 > nframe )
219         { rc = G10ERR_WRONG_SECKEY; goto leave; }
220
221     dek->keylen = nframe - (n+1) - 2;
222     dek->algo = frame[n++];
223     if( dek->algo == GCRY_CIPHER_IDEA )
224         write_status(STATUS_RSA_OR_IDEA);
225     rc = openpgp_cipher_test_algo( dek->algo );
226     if( rc ) {
227         dek->algo = 0;
228         goto leave;
229     }
230     if( dek->keylen != gcry_cipher_get_algo_keylen( dek->algo ) ) {
231         rc = G10ERR_WRONG_SECKEY;
232         goto leave;
233     }
234
235     /* copy the key to DEK and compare the checksum */
236     csum  = frame[nframe-2] << 8;
237     csum |= frame[nframe-1];
238     memcpy( dek->key, frame+n, dek->keylen );
239     for( csum2=0, n=0; n < dek->keylen; n++ )
240         csum2 += dek->key[n];
241     if( csum != csum2 ) {
242         rc = G10ERR_WRONG_SECKEY;
243         goto leave;
244     }
245     if( (opt.debug & DBG_CIPHER_VALUE)  )
246         log_hexdump("DEK is:", dek->key, dek->keylen );
247     /* check that the algo is in the preferences */
248     {
249         PKT_public_key *pk = gcry_xcalloc( 1, sizeof *pk );
250         if( (rc = get_pubkey( pk, keyid )) )
251             log_error("public key problem: %s\n", g10_errstr(rc) );
252         else if( !pk->local_id && query_trust_record(pk) )
253             log_error("can't check algorithm against preferences\n");
254         else if( dek->algo != GCRY_CIPHER_3DES
255             && !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM, dek->algo ) ) {
256             /* Don't print a note while we are not on verbose mode,
257              * the cipher is blowfish and the preferences have twofish
258              * listed */
259             if( opt.verbose || dek->algo != GCRY_CIPHER_BLOWFISH
260                 || !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM,
261                                                     GCRY_CIPHER_TWOFISH ) )
262                 log_info(_(
263                     "NOTE: cipher algorithm %d not found in preferences\n"),
264                                                                  dek->algo );
265         }
266         free_public_key( pk );
267         rc = 0;
268     }
269
270   leave:
271     mpi_release(plain_dek);
272     gcry_free(frame);
273     return rc;
274 }
275
276