See ChangeLog: Mon Jul 31 10:04:47 CEST 2000 Werner Koch
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (C) 1998, 1999, 2000 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26
27 #include <gcrypt.h>
28 #include "util.h"
29 #include "packet.h"
30 #include "keydb.h"
31 #include "trustdb.h"
32 #include "status.h"
33 #include "options.h"
34 #include "main.h"
35 #include "i18n.h"
36
37 static int get_it( PKT_pubkey_enc *k,
38                    DEK *dek, PKT_secret_key *sk, u32 *keyid );
39
40
41 /****************
42  * Emulate our old PK interface here - sometime in the future we might
43  * change the internal design to directly fit to libgcrypt.
44  */
45 static int
46 pk_decrypt( int algo, MPI *result, MPI *data, MPI *skey )
47 {
48     GCRY_SEXP s_skey, s_data, s_plain;
49     int rc;
50
51     *result = NULL;
52     /* make a sexp from skey */
53     if( algo == GCRY_PK_ELG || algo == GCRY_PK_ELG_E ) {
54         rc = gcry_sexp_build ( &s_skey, NULL,
55                               "(private-key(elg(p%m)(g%m)(y%m)(x%m)))",
56                                   skey[0], skey[1], skey[2], skey[3] );
57     }
58     else if( algo == GCRY_PK_RSA ) {
59         rc = gcry_sexp_build ( &s_skey, NULL,
60                     "(private-key(rsa(n%m)(e%m)(d%m)(p%m)(q%m)(u%m)))",
61                      skey[0], skey[1], skey[2], skey[3], skey[4], skey[5] );
62     }
63     else
64         return GPGERR_PUBKEY_ALGO;
65
66     if ( rc )
67         BUG ();
68
69     /* put data into a S-Exp s_data */
70     if( algo == GCRY_PK_ELG || algo == GCRY_PK_ELG_E ) {
71         rc = gcry_sexp_build ( &s_data, NULL,
72                                "(enc-val(elg(a%m)(b%m)))", data[0], data[1] );
73     }
74     else if( algo == GCRY_PK_RSA ) {
75         rc = gcry_sexp_build ( &s_data, NULL,
76                                "(enc-val(rsa(a%m)))", data[0] );
77     }
78     else
79         BUG();
80
81     if ( rc )
82         BUG ();
83
84     rc = gcry_pk_decrypt( &s_plain, s_data, s_skey );
85     gcry_sexp_release( s_skey );
86     gcry_sexp_release( s_data);
87     if( rc )
88         return rc;
89
90     *result = gcry_sexp_nth_mpi( s_plain, 0, 0 );
91     gcry_sexp_release( s_plain );
92     if( !*result )
93         return -1; /* oops */
94
95     return 0;
96 }
97
98
99 /****************
100  * Get the session key from a pubkey enc paket and return
101  * it in DEK, which should have been allocated in secure memory.
102  */
103 int
104 get_session_key( PKT_pubkey_enc *k, DEK *dek )
105 {
106     PKT_secret_key *sk = NULL;
107     int rc;
108
109     if( is_RSA(k->pubkey_algo) ) /* warn about that */
110         write_status(STATUS_RSA_OR_IDEA);
111
112     rc = openpgp_pk_test_algo( k->pubkey_algo, 0 );
113     if( rc )
114         goto leave;
115
116     if( k->keyid[0] || k->keyid[1] ) {
117         sk = gcry_xcalloc( 1, sizeof *sk );
118         sk->pubkey_algo = k->pubkey_algo; /* we want a pubkey with this algo*/
119         if( !(rc = get_seckey( sk, k->keyid )) )
120             rc = get_it( k, dek, sk, k->keyid );
121     }
122     else { /* anonymous receiver: Try all available secret keys */
123         void *enum_context = NULL;
124         u32 keyid[2];
125
126         for(;;) {
127             if( sk )
128                 free_secret_key( sk );
129             sk = gcry_xcalloc( 1, sizeof *sk );
130             rc=enum_secret_keys( &enum_context, sk, 1);
131             if( rc ) {
132                 rc = GPGERR_NO_SECKEY;
133                 break;
134             }
135             if( sk->pubkey_algo != k->pubkey_algo )
136                 continue;
137             keyid_from_sk( sk, keyid );
138             log_info(_("anonymous receiver; trying secret key %08lX ...\n"),
139                                      (ulong)keyid[1] );
140             rc = check_secret_key( sk, 1 ); /* ask only once */
141             if( !rc )
142                 rc = get_it( k, dek, sk, keyid );
143             if( !rc ) {
144                 log_info(_("okay, we are the anonymous recipient.\n") );
145                 break;
146             }
147         }
148         enum_secret_keys( &enum_context, NULL, 0 ); /* free context */
149     }
150
151   leave:
152     if( sk )
153         free_secret_key( sk );
154     return rc;
155 }
156
157
158 static int
159 get_it( PKT_pubkey_enc *k, DEK *dek, PKT_secret_key *sk, u32 *keyid )
160 {
161     int rc;
162     MPI plain_dek  = NULL;
163     byte *frame = NULL;
164     unsigned int n;
165     size_t nframe;
166     u16 csum, csum2;
167
168     rc = pk_decrypt(sk->pubkey_algo, &plain_dek, k->data, sk->skey );
169     if( rc )
170         goto leave;
171     if( gcry_mpi_aprint( GCRYMPI_FMT_USG, &frame, &nframe, plain_dek ) )
172         BUG();
173
174     mpi_release( plain_dek ); plain_dek = NULL;
175
176     /* Now get the DEK (data encryption key) from the frame
177      *
178      * Old versions encode the DEK in in this format (msb is left):
179      *
180      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
181      *
182      * Later versions encode the DEK like this:
183      *
184      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
185      *
186      * (mpi_get_buffer already removed the leading zero - still true
187      *  for gcry_mpi_aprint(0 which is used now?)
188      *
189      * RND are non-zero randow bytes.
190      * A   is the cipher algorithm
191      * DEK is the encryption key (session key) with length k
192      * CSUM
193      */
194     if( DBG_CIPHER )
195         log_hexdump("DEK frame:", frame, nframe );
196     n=0;
197     if( n + 7 > nframe )
198         { rc = GPGERR_WRONG_SECKEY; goto leave; }
199     if( frame[n] == 1 && frame[nframe-1] == 2 ) {
200         log_info(_("old encoding of the DEK is not supported\n"));
201         rc = GPGERR_CIPHER_ALGO;
202         goto leave;
203     }
204     if( frame[n] != 2 )  /* somethink is wrong */
205         { rc = GPGERR_WRONG_SECKEY; goto leave; }
206     for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
207         ;
208     n++; /* and the zero byte */
209     if( n + 4 > nframe )
210         { rc = GPGERR_WRONG_SECKEY; goto leave; }
211
212     dek->keylen = nframe - (n+1) - 2;
213     dek->algo = frame[n++];
214     if( dek->algo ==  GCRY_CIPHER_IDEA )
215         write_status(STATUS_RSA_OR_IDEA);
216     rc = openpgp_cipher_test_algo( dek->algo );
217     if( rc ) {
218         if( !opt.quiet && rc == GPGERR_CIPHER_ALGO ) {
219             log_info(_("cipher algorithm %d is unknown or disabled\n"),
220                                                             dek->algo);
221         }
222         dek->algo = 0;
223         goto leave;
224     }
225     if( dek->keylen != gcry_cipher_get_algo_keylen( dek->algo ) ) {
226         rc = GPGERR_WRONG_SECKEY;
227         goto leave;
228     }
229
230     /* copy the key to DEK and compare the checksum */
231     csum  = frame[nframe-2] << 8;
232     csum |= frame[nframe-1];
233     memcpy( dek->key, frame+n, dek->keylen );
234     for( csum2=0, n=0; n < dek->keylen; n++ )
235         csum2 += dek->key[n];
236     if( csum != csum2 ) {
237         rc = GPGERR_WRONG_SECKEY;
238         goto leave;
239     }
240     if( DBG_CIPHER )
241         log_hexdump("DEK is:", dek->key, dek->keylen );
242     /* check that the algo is in the preferences and whether it has expired */
243     {
244         PKT_public_key *pk = gcry_xcalloc( 1, sizeof *pk );
245         if( (rc = get_pubkey( pk, keyid )) )
246             log_error("public key problem: %s\n", gpg_errstr(rc) );
247         else if( !pk->local_id && query_trust_record(pk) )
248             log_error("can't check algorithm against preferences\n");
249         else if( dek->algo != GCRY_CIPHER_3DES
250             && !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM, dek->algo ) ) {
251             /* Don't print a note while we are not on verbose mode,
252              * the cipher is blowfish and the preferences have twofish
253              * listed */
254             if( opt.verbose || dek->algo != GCRY_CIPHER_BLOWFISH
255                 || !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM,
256                                                     GCRY_CIPHER_TWOFISH ) )
257                 log_info(_(
258                     "NOTE: cipher algorithm %d not found in preferences\n"),
259                                                                  dek->algo );
260         }
261
262
263         if( !rc && pk->expiredate && pk->expiredate <= make_timestamp() ) {
264             log_info(_("NOTE: secret key %08lX expired at %s\n"),
265                            (ulong)keyid[1], asctimestamp( pk->expiredate) );
266         }
267
268         /* FIXME: check wheter the key has been revoked and display
269          * the revocation reason.  Actually the user should know this himself,
270          * but the sender might not know already and therefor the user
271          * should get a notice that an revoked key has been used to decode
272          * the message.  The user can than watch out for snakes send by
273          * one of those Eves outside his paradise :-)
274          */
275         free_public_key( pk );
276         rc = 0;
277     }
278
279
280   leave:
281     mpi_release(plain_dek);
282     gcry_free(frame);
283     return rc;
284 }
285
286