Fixed a couple of problems
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  * Copyright (C) 1998, 1999, 2000, 2001, 2005 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
19  * USA.
20  */
21
22 #include <config.h>
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <string.h>
26 #include <assert.h>
27 #include "util.h"
28 #include "memory.h"
29 #include "packet.h"
30 #include "mpi.h"
31 #include "cipher.h"
32 #include "options.h"
33 #include "i18n.h"
34
35
36 static int mdc_decode_filter( void *opaque, int control, IOBUF a,
37                                               byte *buf, size_t *ret_len);
38 static int decode_filter( void *opaque, int control, IOBUF a,
39                                         byte *buf, size_t *ret_len);
40
41 typedef struct {
42     CIPHER_HANDLE cipher_hd;
43     MD_HANDLE mdc_hash;
44     char defer[20];
45     int  defer_filled;
46     int  eof_seen;
47 } decode_filter_ctx_t;
48
49
50 /****************
51  * Decrypt the data, specified by ED with the key DEK.
52  */
53 int
54 decrypt_data( void *procctx, PKT_encrypted *ed, DEK *dek )
55 {
56     decode_filter_ctx_t dfx;
57     byte *p;
58     int rc=0, c, i;
59     byte temp[32];
60     unsigned blocksize;
61     unsigned nprefix;
62
63     memset( &dfx, 0, sizeof dfx );
64     if( opt.verbose && !dek->algo_info_printed ) {
65         const char *s = cipher_algo_to_string( dek->algo );
66         if( s )
67             log_info(_("%s encrypted data\n"), s );
68         else
69             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
70         dek->algo_info_printed = 1;
71     }
72     if( (rc=check_cipher_algo(dek->algo)) )
73         goto leave;
74     blocksize = cipher_get_blocksize(dek->algo);
75     if( !blocksize || blocksize > 16 )
76         log_fatal("unsupported blocksize %u\n", blocksize );
77     nprefix = blocksize;
78     if( ed->len && ed->len < (nprefix+2) )
79         BUG();
80
81     if( ed->mdc_method ) {
82         dfx.mdc_hash = md_open( ed->mdc_method, 0 );
83         if ( DBG_HASHING )
84             md_start_debug(dfx.mdc_hash, "checkmdc");
85     }
86     dfx.cipher_hd = cipher_open( dek->algo,
87                                  ed->mdc_method? CIPHER_MODE_CFB
88                                                : CIPHER_MODE_AUTO_CFB, 1 );
89     /* log_hexdump( "thekey", dek->key, dek->keylen );*/
90     rc = cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
91     if( rc == G10ERR_WEAK_KEY )
92       {
93         log_info(_("WARNING: message was encrypted with"
94                    " a weak key in the symmetric cipher.\n"));
95         rc=0;
96       }
97     else if( rc )
98       {
99         log_error("key setup failed: %s\n", g10_errstr(rc) );
100         goto leave;
101       
102 }
103     if (!ed->buf) {
104         log_error(_("problem handling encrypted packet\n"));
105         goto leave;
106     }
107
108     cipher_setiv( dfx.cipher_hd, NULL, 0 );
109
110     if( ed->len ) {
111         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
112             if( (c=iobuf_get(ed->buf)) == -1 )
113                 break;
114             else
115                 temp[i] = c;
116         }
117     }
118     else {
119         for(i=0; i < (nprefix+2); i++ )
120             if( (c=iobuf_get(ed->buf)) == -1 )
121                 break;
122             else
123                 temp[i] = c;
124     }
125     cipher_decrypt( dfx.cipher_hd, temp, temp, nprefix+2);
126     cipher_sync( dfx.cipher_hd );
127     p = temp;
128 /* log_hexdump( "prefix", temp, nprefix+2 ); */
129     if(dek->symmetric
130        && (p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1]) )
131       {
132         rc = G10ERR_BAD_KEY;
133         goto leave;
134       }
135
136     if( dfx.mdc_hash )
137         md_write( dfx.mdc_hash, temp, nprefix+2 );
138
139     if( ed->mdc_method )
140         iobuf_push_filter( ed->buf, mdc_decode_filter, &dfx );
141     else
142         iobuf_push_filter( ed->buf, decode_filter, &dfx );
143
144     proc_packets( procctx, ed->buf );
145     ed->buf = NULL;
146     if( ed->mdc_method && dfx.eof_seen == 2 )
147         rc = G10ERR_INVALID_PACKET;
148     else if( ed->mdc_method ) { /* check the mdc */
149         int datalen = md_digest_length( ed->mdc_method );
150
151         cipher_decrypt( dfx.cipher_hd, dfx.defer, dfx.defer, 20);
152         md_final( dfx.mdc_hash );
153         if( datalen != 20
154             || memcmp(md_read( dfx.mdc_hash, 0 ), dfx.defer, datalen) )
155             rc = G10ERR_BAD_SIGN;
156         /*log_hexdump("MDC calculated:", md_read( dfx.mdc_hash, 0), datalen);*/
157         /*log_hexdump("MDC message   :", dfx.defer, 20);*/
158     }
159     
160
161   leave:
162     cipher_close(dfx.cipher_hd);
163     md_close( dfx.mdc_hash );
164     return rc;
165 }
166
167
168
169 /* I think we should merge this with cipher_filter */
170 static int
171 mdc_decode_filter( void *opaque, int control, IOBUF a,
172                                               byte *buf, size_t *ret_len)
173 {
174     decode_filter_ctx_t *dfx = opaque;
175     size_t n, size = *ret_len;
176     int rc = 0;
177     int c;
178
179     if( control == IOBUFCTRL_UNDERFLOW && dfx->eof_seen ) {
180         *ret_len = 0;
181         rc = -1;
182     }
183     else if( control == IOBUFCTRL_UNDERFLOW ) {
184         assert(a);
185         assert( size > 40 );
186
187         /* get at least 20 bytes and put it somewhere ahead in the buffer */
188         for(n=20; n < 40 ; n++ ) {
189             if( (c = iobuf_get(a)) == -1 )
190                 break;
191             buf[n] = c;
192         }
193         if( n == 40 ) {
194             /* we have enough stuff - flush the deferred stuff */
195             /* (we have asserted that the buffer is large enough) */
196             if( !dfx->defer_filled ) { /* the first time */
197                 memcpy(buf, buf+20, 20 );
198                 n = 20;
199             }
200             else {
201                 memcpy(buf, dfx->defer, 20 );
202             }
203             /* now fill up */
204             for(; n < size; n++ ) {
205                 if( (c = iobuf_get(a)) == -1 )
206                     break;
207                 buf[n] = c;
208             }
209             /* move the last 20 bytes back to the defer buffer */
210             /* (okay, we are wasting 20 bytes of supplied buffer) */
211             n -= 20;
212             memcpy( dfx->defer, buf+n, 20 );
213             dfx->defer_filled = 1;
214         }
215         else if( !dfx->defer_filled ) { /* eof seen buf empty defer */
216             /* this is bad because there is an incomplete hash */
217             n -= 20;
218             memcpy(buf, buf+20, n );
219             dfx->eof_seen = 2; /* eof with incomplete hash */
220         }
221         else { /* eof seen */
222             memcpy(buf, dfx->defer, 20 );
223             n -= 20;
224             memcpy( dfx->defer, buf+n, 20 );
225             dfx->eof_seen = 1; /* normal eof */
226         }
227
228         if( n ) {
229             cipher_decrypt( dfx->cipher_hd, buf, buf, n);
230             md_write( dfx->mdc_hash, buf, n );
231         }
232         else {
233             assert( dfx->eof_seen );
234             rc = -1; /* eof */
235         }
236         *ret_len = n;
237     }
238     else if( control == IOBUFCTRL_DESC ) {
239         *(char**)buf = "mdc_decode_filter";
240     }
241     return rc;
242 }
243
244 static int
245 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
246 {
247     decode_filter_ctx_t *fc = opaque;
248     size_t n, size = *ret_len;
249     int rc = 0;
250
251     if( control == IOBUFCTRL_UNDERFLOW ) {
252         assert(a);
253         n = iobuf_read( a, buf, size );
254         if( n == -1 ) n = 0;
255         if( n )
256             cipher_decrypt( fc->cipher_hd, buf, buf, n);
257         else
258             rc = -1; /* eof */
259         *ret_len = n;
260     }
261     else if( control == IOBUFCTRL_DESC ) {
262         *(char**)buf = "decode_filter";
263     }
264     return rc;
265 }
266