See ChangeLog: Mon Jan 24 13:04:28 CET 2000 Werner Koch
[gnupg.git] / g10 / pubkey-enc.c
1 /* pubkey-enc.c -  public key encoded packet handling
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include <gcrypt.h>
28 #include "packet.h"
29 #include "main.h"
30 #include "keydb.h"
31 #include "trustdb.h"
32 #include "dummy-cipher.h"
33 #include "status.h"
34 #include "options.h"
35 #include "i18n.h"
36
37 static int get_it( PKT_pubkey_enc *k,
38                    DEK *dek, PKT_secret_key *sk, u32 *keyid );
39
40 /****************
41  * Get the session key from a pubkey enc paket and return
42  * it in DEK, which should have been allocated in secure memory.
43  */
44 int
45 get_session_key( PKT_pubkey_enc *k, DEK *dek )
46 {
47     PKT_secret_key *sk = NULL;
48     int rc;
49
50     if( is_RSA(k->pubkey_algo) ) /* warn about that */
51         write_status(STATUS_RSA_OR_IDEA);
52
53     rc = openpgp_pk_test_algo( k->pubkey_algo, 0 );
54     if( rc )
55         goto leave;
56
57     if( k->keyid[0] || k->keyid[1] ) {
58         sk = gcry_xcalloc( 1, sizeof *sk );
59         sk->pubkey_algo = k->pubkey_algo; /* we want a pubkey with this algo*/
60         if( !(rc = get_seckey( sk, k->keyid )) )
61             rc = get_it( k, dek, sk, k->keyid );
62     }
63     else { /* anonymous receiver: Try all available secret keys */
64         void *enum_context = NULL;
65         u32 keyid[2];
66
67         for(;;) {
68             if( sk )
69                 free_secret_key( sk );
70             sk = gcry_xcalloc( 1, sizeof *sk );
71             rc=enum_secret_keys( &enum_context, sk, 1);
72             if( rc ) {
73                 rc = G10ERR_NO_SECKEY;
74                 break;
75             }
76             if( sk->pubkey_algo != k->pubkey_algo )
77                 continue;
78             keyid_from_sk( sk, keyid );
79             log_info(_("anonymous receiver; trying secret key %08lX ...\n"),
80                                      (ulong)keyid[1] );
81             rc = check_secret_key( sk, 1 ); /* ask only once */
82             if( !rc )
83                 rc = get_it( k, dek, sk, keyid );
84             if( !rc ) {
85                 log_info(_("okay, we are the anonymous recipient.\n") );
86                 break;
87             }
88         }
89         enum_secret_keys( &enum_context, NULL, 0 ); /* free context */
90     }
91
92   leave:
93     if( sk )
94         free_secret_key( sk );
95     return rc;
96 }
97
98
99 static int
100 get_it( PKT_pubkey_enc *k, DEK *dek, PKT_secret_key *sk, u32 *keyid )
101 {
102     int rc;
103     MPI plain_dek  = NULL;
104     byte *frame = NULL;
105     unsigned n;
106     size_t nframe;
107     u16 csum, csum2;
108
109     rc = pubkey_decrypt(sk->pubkey_algo, &plain_dek, k->data, sk->skey );
110     if( rc )
111         goto leave;
112     if( gcry_mpi_aprint( GCRYMPI_FMT_USG, &frame, &nframe, plain_dek ) )
113         BUG();
114
115     mpi_release( plain_dek ); plain_dek = NULL;
116
117     /* Now get the DEK (data encryption key) from the frame
118      *
119      * Old versions encode the DEK in in this format (msb is left):
120      *
121      *     0  1  DEK(16 bytes)  CSUM(2 bytes)  0  RND(n bytes) 2
122      *
123      * Later versions encode the DEK like this:
124      *
125      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
126      *
127      * (mpi_get_buffer already removed the leading zero - still true
128      *  for gcry_mpi_aprint(0 which is used now?)
129      *
130      * RND are non-zero randow bytes.
131      * A   is the cipher algorithm
132      * DEK is the encryption key (session key) with length k
133      * CSUM
134      */
135     if( (opt.debug & DBG_CIPHER_VALUE)  )
136         log_hexdump("DEK frame:", frame, nframe );
137     n=0;
138     if( n + 7 > nframe )
139         { rc = G10ERR_WRONG_SECKEY; goto leave; }
140     if( frame[n] == 1 && frame[nframe-1] == 2 ) {
141         log_info(_("old encoding of the DEK is not supported\n"));
142         rc = G10ERR_CIPHER_ALGO;
143         goto leave;
144     }
145     if( frame[n] != 2 )  /* somethink is wrong */
146         { rc = G10ERR_WRONG_SECKEY; goto leave; }
147     for(n++; n < nframe && frame[n]; n++ ) /* skip the random bytes */
148         ;
149     n++; /* and the zero byte */
150     if( n + 4 > nframe )
151         { rc = G10ERR_WRONG_SECKEY; goto leave; }
152
153     dek->keylen = nframe - (n+1) - 2;
154     dek->algo = frame[n++];
155     if( dek->algo == GCRY_CIPHER_IDEA )
156         write_status(STATUS_RSA_OR_IDEA);
157     rc = openpgp_cipher_test_algo( dek->algo );
158     if( rc ) {
159         dek->algo = 0;
160         goto leave;
161     }
162     if( dek->keylen != gcry_cipher_get_algo_keylen( dek->algo ) ) {
163         rc = G10ERR_WRONG_SECKEY;
164         goto leave;
165     }
166
167     /* copy the key to DEK and compare the checksum */
168     csum  = frame[nframe-2] << 8;
169     csum |= frame[nframe-1];
170     memcpy( dek->key, frame+n, dek->keylen );
171     for( csum2=0, n=0; n < dek->keylen; n++ )
172         csum2 += dek->key[n];
173     if( csum != csum2 ) {
174         rc = G10ERR_WRONG_SECKEY;
175         goto leave;
176     }
177     if( (opt.debug & DBG_CIPHER_VALUE)  )
178         log_hexdump("DEK is:", dek->key, dek->keylen );
179     /* check that the algo is in the preferences */
180     {
181         PKT_public_key *pk = gcry_xcalloc( 1, sizeof *pk );
182         if( (rc = get_pubkey( pk, keyid )) )
183             log_error("public key problem: %s\n", g10_errstr(rc) );
184         else if( !pk->local_id && query_trust_record(pk) )
185             log_error("can't check algorithm against preferences\n");
186         else if( dek->algo != GCRY_CIPHER_3DES
187             && !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM, dek->algo ) ) {
188             /* Don't print a note while we are not on verbose mode,
189              * the cipher is blowfish and the preferences have twofish
190              * listed */
191             if( opt.verbose || dek->algo != GCRY_CIPHER_BLOWFISH
192                 || !is_algo_in_prefs( pk->local_id, PREFTYPE_SYM,
193                                                     GCRY_CIPHER_TWOFISH ) )
194                 log_info(_(
195                     "NOTE: cipher algorithm %d not found in preferences\n"),
196                                                                  dek->algo );
197         }
198         free_public_key( pk );
199         rc = 0;
200     }
201
202   leave:
203     mpi_release(plain_dek);
204     gcry_free(frame);
205     return rc;
206 }
207
208