17d43e9d66b9ba85680c9c57382e57e38726e57d
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (C) 1998, 1999, 2000 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26
27 #include <gcrypt.h>
28 #include "util.h"
29 #include "packet.h"
30 #include "options.h"
31 #include "i18n.h"
32
33
34 static int mdc_decode_filter( void *opaque, int control, IOBUF a,
35                                               byte *buf, size_t *ret_len);
36 static int decode_filter( void *opaque, int control, IOBUF a,
37                                         byte *buf, size_t *ret_len);
38
39 typedef struct {
40     GCRY_CIPHER_HD cipher_hd;
41     GCRY_MD_HD mdc_hash;
42     char defer[20];
43     int  defer_filled;
44     int  eof_seen;
45 } decode_filter_ctx_t;
46
47
48 /****************
49  * Decrypt the data, specified by ED with the key DEK.
50  */
51 int
52 decrypt_data( void *procctx, PKT_encrypted *ed, DEK *dek )
53 {
54     decode_filter_ctx_t dfx;
55     byte *p;
56     int rc=0, c, i;
57     byte temp[32];
58     unsigned int blocksize;
59     unsigned int nprefix;
60
61     memset( &dfx, 0, sizeof dfx );
62     if( gcry_cipher_test_algo( dek->algo ) ) {
63         if( opt.verbose )
64             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
65         rc = GPGERR_CIPHER_ALGO;
66         goto leave;
67     }
68     if( opt.verbose )
69         log_info(_("%s encrypted data\n"), gcry_cipher_algo_name( dek->algo ) );
70
71     blocksize = gcry_cipher_get_algo_blklen( dek->algo );
72     if( !blocksize || blocksize > 16 )
73         log_fatal("unsupported blocksize %u\n", blocksize );
74     nprefix = blocksize;
75     if( ed->len && ed->len < (nprefix+2) )
76         BUG();
77
78     if( ed->mdc_method ) {
79         dfx.mdc_hash = gcry_md_open( ed->mdc_method, 0 );
80         if ( DBG_HASHING )
81             gcry_md_start_debug(dfx.mdc_hash, "checkmdc");
82     }
83     if( !(dfx.cipher_hd = gcry_cipher_open( dek->algo,
84                                       GCRY_CIPHER_MODE_CFB,
85                                       GCRY_CIPHER_SECURE
86                                       | ((ed->mdc_method || dek->algo >= 100)?
87                                            0 : GCRY_CIPHER_ENABLE_SYNC) ))
88                                     ) {
89         /* we should never get an error here cause we already checked, that
90          * the algorithm is available. What about a flag to let the function
91          * die in this case? */
92         BUG();
93     }
94
95
96 /* log_hexdump( "thekey", dek->key, dek->keylen );*/
97     rc = gcry_cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
98     if( rc == GCRYERR_WEAK_KEY ) {
99         log_info(_("WARNING: message was encrypted with "
100                     "a weak key in the symmetric cipher.\n"));
101         rc = 0;
102     }
103     else if( rc ) {
104         log_error("key setup failed: %s\n", gcry_strerror(rc) );
105         goto leave;
106     }
107
108     gcry_cipher_setiv( dfx.cipher_hd, NULL, 0 );
109
110     if( ed->len ) {
111         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
112             if( (c=iobuf_get(ed->buf)) == -1 )
113                 break;
114             else
115                 temp[i] = c;
116         }
117     }
118     else {
119         for(i=0; i < (nprefix+2); i++ )
120             if( (c=iobuf_get(ed->buf)) == -1 )
121                 break;
122             else
123                 temp[i] = c;
124     }
125     gcry_cipher_decrypt( dfx.cipher_hd, temp, nprefix+2, NULL, 0 );
126     gcry_cipher_sync( dfx.cipher_hd );
127     p = temp;
128 /* log_hexdump( "prefix", temp, nprefix+2 ); */
129     if( p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1] ) {
130         rc = GPGERR_BAD_KEY;
131         goto leave;
132     }
133
134     if( dfx.mdc_hash )
135         gcry_md_write( dfx.mdc_hash, temp, nprefix+2 );
136
137     if( ed->mdc_method )
138         iobuf_push_filter( ed->buf, mdc_decode_filter, &dfx );
139     else
140         iobuf_push_filter( ed->buf, decode_filter, &dfx );
141
142     proc_packets( procctx, ed->buf );
143     ed->buf = NULL;
144     if( ed->mdc_method && dfx.eof_seen == 2 )
145         rc = GPGERR_INVALID_PACKET;
146     else if( ed->mdc_method ) { /* check the mdc */
147         int datalen = gcry_md_get_algo_dlen( ed->mdc_method );
148
149         gcry_cipher_decrypt( dfx.cipher_hd, dfx.defer, 20, NULL, 0);
150         if( datalen != 20
151             || memcmp(gcry_md_read( dfx.mdc_hash, 0 ), dfx.defer, datalen) )
152             rc = GPGERR_BAD_SIGN;
153         /*log_hexdump("MDC calculated:", md_read( dfx.mdc_hash, 0), datalen);*/
154         /*log_hexdump("MDC message   :", dfx.defer, 20);*/
155     }
156
157   leave:
158     gcry_cipher_close(dfx.cipher_hd);
159     gcry_md_close( dfx.mdc_hash );
160     return rc;
161 }
162
163
164
165 /* I think we should merge this with cipher_filter */
166 static int
167 mdc_decode_filter( void *opaque, int control, IOBUF a,
168                                               byte *buf, size_t *ret_len)
169 {
170     decode_filter_ctx_t *dfx = opaque;
171     size_t n, size = *ret_len;
172     int rc = 0;
173     int c;
174
175     if( control == IOBUFCTRL_UNDERFLOW && dfx->eof_seen ) {
176         *ret_len = 0;
177         rc = -1;
178     }
179     else if( control == IOBUFCTRL_UNDERFLOW ) {
180         assert(a);
181         assert( size > 40 );
182
183         /* get at least 20 bytes and put it somewhere ahead in the buffer */
184         for(n=20; n < 40 ; n++ ) {
185             if( (c = iobuf_get(a)) == -1 )
186                 break;
187             buf[n] = c;
188         }
189         if( n == 40 ) {
190             /* we have enough stuff - flush the deferred stuff */
191             /* (we have asserted that the buffer is large enough) */
192             if( !dfx->defer_filled ) { /* the first time */
193                 memcpy(buf, buf+20, 20 );
194                 n = 20;
195             }
196             else {
197                 memcpy(buf, dfx->defer, 20 );
198             }
199             /* now fill up */
200             for(; n < size; n++ ) {
201                 if( (c = iobuf_get(a)) == -1 )
202                     break;
203                 buf[n] = c;
204             }
205             /* move the last 20 bytes back to the defer buffer */
206             /* (okay, we are wasting 20 bytes of supplied buffer) */
207             n -= 20;
208             memcpy( dfx->defer, buf+n, 20 );
209             dfx->defer_filled = 1;
210         }
211         else if( !dfx->defer_filled ) { /* eof seen buf empty defer */
212             /* this is bad because there is an incomplete hash */
213             n -= 20;
214             memcpy(buf, buf+20, n );
215             dfx->eof_seen = 2; /* eof with incomplete hash */
216         }
217         else { /* eof seen */
218             memcpy(buf, dfx->defer, 20 );
219             n -= 20;
220             memcpy( dfx->defer, buf+n, 20 );
221             dfx->eof_seen = 1; /* normal eof */
222         }
223
224         if( n ) {
225             gcry_cipher_decrypt( dfx->cipher_hd, buf, n, NULL, 0);
226             gcry_md_write( dfx->mdc_hash, buf, n );
227         }
228         else {
229             assert( dfx->eof_seen );
230             rc = -1; /* eof */
231         }
232         *ret_len = n;
233     }
234     else if( control == IOBUFCTRL_DESC ) {
235         *(char**)buf = "mdc_decode_filter";
236     }
237     return rc;
238 }
239
240 static int
241 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
242 {
243     decode_filter_ctx_t *fc = opaque;
244     size_t n, size = *ret_len;
245     int rc = 0;
246
247     if( control == IOBUFCTRL_UNDERFLOW ) {
248         assert(a);
249         n = iobuf_read( a, buf, size );
250         if( n == -1 ) n = 0;
251         if( n )
252             gcry_cipher_decrypt( fc->cipher_hd, buf, n, NULL, 0 );
253         else
254             rc = -1; /* eof */
255         *ret_len = n;
256     }
257     else if( control == IOBUFCTRL_DESC ) {
258         *(char**)buf = "decode_filter";
259     }
260     return rc;
261 }
262