* trustdb.h, keyedit.c (keyedit_menu, menu_select_uid_namehash): Allow
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  * Copyright (C) 1998, 1999, 2000, 2001, 2005 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "cipher.h"
31 #include "options.h"
32 #include "i18n.h"
33
34
35 static int mdc_decode_filter( void *opaque, int control, IOBUF a,
36                                               byte *buf, size_t *ret_len);
37 static int decode_filter( void *opaque, int control, IOBUF a,
38                                         byte *buf, size_t *ret_len);
39
40 typedef struct {
41     CIPHER_HANDLE cipher_hd;
42     MD_HANDLE mdc_hash;
43     char defer[20];
44     int  defer_filled;
45     int  eof_seen;
46 } decode_filter_ctx_t;
47
48
49 /****************
50  * Decrypt the data, specified by ED with the key DEK.
51  */
52 int
53 decrypt_data( void *procctx, PKT_encrypted *ed, DEK *dek )
54 {
55     decode_filter_ctx_t dfx;
56     byte *p;
57     int rc=0, c, i;
58     byte temp[32];
59     unsigned blocksize;
60     unsigned nprefix;
61
62     memset( &dfx, 0, sizeof dfx );
63     if( opt.verbose && !dek->algo_info_printed ) {
64         const char *s = cipher_algo_to_string( dek->algo );
65         if( s )
66             log_info(_("%s encrypted data\n"), s );
67         else
68             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
69         dek->algo_info_printed = 1;
70     }
71     if( (rc=check_cipher_algo(dek->algo)) )
72         goto leave;
73     blocksize = cipher_get_blocksize(dek->algo);
74     if( !blocksize || blocksize > 16 )
75         log_fatal("unsupported blocksize %u\n", blocksize );
76     nprefix = blocksize;
77     if( ed->len && ed->len < (nprefix+2) )
78         BUG();
79
80     if( ed->mdc_method ) {
81         dfx.mdc_hash = md_open( ed->mdc_method, 0 );
82         if ( DBG_HASHING )
83             md_start_debug(dfx.mdc_hash, "checkmdc");
84     }
85     dfx.cipher_hd = cipher_open( dek->algo,
86                                  ed->mdc_method? CIPHER_MODE_CFB
87                                                : CIPHER_MODE_AUTO_CFB, 1 );
88     /* log_hexdump( "thekey", dek->key, dek->keylen );*/
89     rc = cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
90     if( rc == G10ERR_WEAK_KEY )
91       {
92         log_info(_("WARNING: message was encrypted with"
93                    " a weak key in the symmetric cipher.\n"));
94         rc=0;
95       }
96     else if( rc )
97       {
98         log_error("key setup failed: %s\n", g10_errstr(rc) );
99         goto leave;
100       
101 }
102     if (!ed->buf) {
103         log_error(_("problem handling encrypted packet\n"));
104         goto leave;
105     }
106
107     cipher_setiv( dfx.cipher_hd, NULL, 0 );
108
109     if( ed->len ) {
110         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
111             if( (c=iobuf_get(ed->buf)) == -1 )
112                 break;
113             else
114                 temp[i] = c;
115         }
116     }
117     else {
118         for(i=0; i < (nprefix+2); i++ )
119             if( (c=iobuf_get(ed->buf)) == -1 )
120                 break;
121             else
122                 temp[i] = c;
123     }
124     cipher_decrypt( dfx.cipher_hd, temp, temp, nprefix+2);
125     cipher_sync( dfx.cipher_hd );
126     p = temp;
127 /* log_hexdump( "prefix", temp, nprefix+2 ); */
128     if(dek->symmetric
129        && (p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1]) )
130       {
131         rc = G10ERR_BAD_KEY;
132         goto leave;
133       }
134
135     if( dfx.mdc_hash )
136         md_write( dfx.mdc_hash, temp, nprefix+2 );
137
138     if( ed->mdc_method )
139         iobuf_push_filter( ed->buf, mdc_decode_filter, &dfx );
140     else
141         iobuf_push_filter( ed->buf, decode_filter, &dfx );
142
143     proc_packets( procctx, ed->buf );
144     ed->buf = NULL;
145     if( ed->mdc_method && dfx.eof_seen == 2 )
146         rc = G10ERR_INVALID_PACKET;
147     else if( ed->mdc_method ) { /* check the mdc */
148         int datalen = md_digest_length( ed->mdc_method );
149
150         cipher_decrypt( dfx.cipher_hd, dfx.defer, dfx.defer, 20);
151         md_final( dfx.mdc_hash );
152         if( datalen != 20
153             || memcmp(md_read( dfx.mdc_hash, 0 ), dfx.defer, datalen) )
154             rc = G10ERR_BAD_SIGN;
155         /*log_hexdump("MDC calculated:", md_read( dfx.mdc_hash, 0), datalen);*/
156         /*log_hexdump("MDC message   :", dfx.defer, 20);*/
157     }
158     
159
160   leave:
161     cipher_close(dfx.cipher_hd);
162     md_close( dfx.mdc_hash );
163     return rc;
164 }
165
166
167
168 /* I think we should merge this with cipher_filter */
169 static int
170 mdc_decode_filter( void *opaque, int control, IOBUF a,
171                                               byte *buf, size_t *ret_len)
172 {
173     decode_filter_ctx_t *dfx = opaque;
174     size_t n, size = *ret_len;
175     int rc = 0;
176     int c;
177
178     if( control == IOBUFCTRL_UNDERFLOW && dfx->eof_seen ) {
179         *ret_len = 0;
180         rc = -1;
181     }
182     else if( control == IOBUFCTRL_UNDERFLOW ) {
183         assert(a);
184         assert( size > 40 );
185
186         /* get at least 20 bytes and put it somewhere ahead in the buffer */
187         for(n=20; n < 40 ; n++ ) {
188             if( (c = iobuf_get(a)) == -1 )
189                 break;
190             buf[n] = c;
191         }
192         if( n == 40 ) {
193             /* we have enough stuff - flush the deferred stuff */
194             /* (we have asserted that the buffer is large enough) */
195             if( !dfx->defer_filled ) { /* the first time */
196                 memcpy(buf, buf+20, 20 );
197                 n = 20;
198             }
199             else {
200                 memcpy(buf, dfx->defer, 20 );
201             }
202             /* now fill up */
203             for(; n < size; n++ ) {
204                 if( (c = iobuf_get(a)) == -1 )
205                     break;
206                 buf[n] = c;
207             }
208             /* move the last 20 bytes back to the defer buffer */
209             /* (okay, we are wasting 20 bytes of supplied buffer) */
210             n -= 20;
211             memcpy( dfx->defer, buf+n, 20 );
212             dfx->defer_filled = 1;
213         }
214         else if( !dfx->defer_filled ) { /* eof seen buf empty defer */
215             /* this is bad because there is an incomplete hash */
216             n -= 20;
217             memcpy(buf, buf+20, n );
218             dfx->eof_seen = 2; /* eof with incomplete hash */
219         }
220         else { /* eof seen */
221             memcpy(buf, dfx->defer, 20 );
222             n -= 20;
223             memcpy( dfx->defer, buf+n, 20 );
224             dfx->eof_seen = 1; /* normal eof */
225         }
226
227         if( n ) {
228             cipher_decrypt( dfx->cipher_hd, buf, buf, n);
229             md_write( dfx->mdc_hash, buf, n );
230         }
231         else {
232             assert( dfx->eof_seen );
233             rc = -1; /* eof */
234         }
235         *ret_len = n;
236     }
237     else if( control == IOBUFCTRL_DESC ) {
238         *(char**)buf = "mdc_decode_filter";
239     }
240     return rc;
241 }
242
243 static int
244 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
245 {
246     decode_filter_ctx_t *fc = opaque;
247     size_t n, size = *ret_len;
248     int rc = 0;
249
250     if( control == IOBUFCTRL_UNDERFLOW ) {
251         assert(a);
252         n = iobuf_read( a, buf, size );
253         if( n == -1 ) n = 0;
254         if( n )
255             cipher_decrypt( fc->cipher_hd, buf, buf, n);
256         else
257             rc = -1; /* eof */
258         *ret_len = n;
259     }
260     else if( control == IOBUFCTRL_DESC ) {
261         *(char**)buf = "decode_filter";
262     }
263     return rc;
264 }
265