See ChangeLog: Mon Jan 31 16:37:34 CET 2000 Werner Koch
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (C) 1998, 1999 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include <gcrypt.h>
27 #include "util.h"
28 #include "packet.h"
29 #include "options.h"
30 #include "i18n.h"
31
32
33 static int decode_filter( void *opaque, int control, IOBUF a,
34                                         byte *buf, size_t *ret_len);
35 static int mdc_decode_filter( void *opaque, int control, IOBUF a,
36                                         byte *buf, size_t *ret_len);
37
38 typedef struct {
39     GCRY_CIPHER_HD cipher_hd;
40     GCRY_MD_HD mdc_hash;
41     char defer[20];
42     int  defer_filled;
43     int  eof_seen;
44 } decode_filter_ctx_t;
45
46
47 /****************
48  * Decrypt the data, specified by ED with the key DEK.
49  */
50 int
51 decrypt_data( void *procctx, PKT_encrypted *ed, DEK *dek )
52 {
53     decode_filter_ctx_t dfx;
54     byte *p;
55     int rc=0, c, i;
56     byte temp[32];
57     int blocksize;
58     unsigned nprefix;
59
60     memset( &dfx, 0, sizeof dfx );
61     if( gcry_cipher_test_algo( dek->algo ) ) {
62         if( opt.verbose )
63             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
64         rc = GPGERR_CIPHER_ALGO;
65         goto leave;
66     }
67     if( opt.verbose )
68         log_info(_("%s encrypted data\n"), gcry_cipher_algo_name( dek->algo ) );
69
70     blocksize = gcry_cipher_get_algo_blklen( dek->algo );
71     if( blocksize < 1 || blocksize > 16 )
72         log_fatal("unsupported blocksize %u\n", blocksize );
73     nprefix = blocksize;
74     if( ed->len && ed->len < (nprefix+2) )
75         BUG();
76
77     if( ed->mdc_method ) {
78         dfx.mdc_hash = gcry_md_open( ed->mdc_method, 0 );
79         if( !dfx.mdc_hash )
80             BUG();
81     }
82     if( !(dfx.cipher_hd = gcry_cipher_open( dek->algo,
83                                       GCRY_CIPHER_MODE_CFB,
84                                       GCRY_CIPHER_SECURE
85                                       | (dek->algo >= 100 ?
86                                            0 : GCRY_CIPHER_ENABLE_SYNC) ))
87                                     ) {
88         /* we should never get an error here cause we already checked, that
89          * the algorithm is available. What about a flag to let the function
90          * die in this case? */
91         BUG();
92     }
93
94
95 /* log_hexdump( "thekey", dek->key, dek->keylen );*/
96     rc = gcry_cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
97     if( rc == GCRYERR_WEAK_KEY ) {
98         log_info(_("WARNING: message was encrypted with "
99                     "a weak key in the symmetric cipher.\n"));
100         rc = 0;
101     }
102     else if( rc ) {
103         log_error("key setup failed: %s\n", gcry_strerror(rc) );
104         goto leave;
105     }
106
107     gcry_cipher_setiv( dfx.cipher_hd, NULL, 0 );
108
109     if( ed->len ) {
110         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
111             if( (c=iobuf_get(ed->buf)) == -1 )
112                 break;
113             else
114                 temp[i] = c;
115         }
116     }
117     else {
118         for(i=0; i < (nprefix+2); i++ )
119             if( (c=iobuf_get(ed->buf)) == -1 )
120                 break;
121             else
122                 temp[i] = c;
123     }
124     gcry_cipher_decrypt( dfx.cipher_hd, temp, nprefix+2, NULL, 0 );
125     if( dfx.mdc_hash )
126         gcry_md_write( dfx.mdc_hash, temp, nprefix+2 );
127     gcry_cipher_sync( dfx.cipher_hd );
128     p = temp;
129 /* log_hexdump( "prefix", temp, nprefix+2 ); */
130     if( p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1] ) {
131         rc = GPGERR_BAD_KEY;
132         goto leave;
133     }
134     if( ed->mdc_method )
135         iobuf_push_filter( ed->buf, mdc_decode_filter, &dfx );
136     else
137         iobuf_push_filter( ed->buf, decode_filter, &dfx );
138     proc_packets( procctx, ed->buf);
139     ed->buf = NULL;
140     if( ed->mdc_method && dfx.eof_seen == 2 )
141         rc = GPGERR_INVALID_PACKET;
142     else if( ed->mdc_method ) { /* check the mdc */
143         int datalen = gcry_md_get_algo_dlen( ed->mdc_method );
144         if( datalen != 20
145             || memcmp(gcry_md_read( dfx.mdc_hash, 0 ), dfx.defer, datalen) )
146             rc = GPGERR_BAD_SIGN;
147         log_hexdump("MDC calculated:", gcry_md_read( dfx.mdc_hash, 0), datalen);
148         log_hexdump("MDC message   :", dfx.defer, 20);
149     }
150   leave:
151     gcry_cipher_close(dfx.cipher_hd);
152     gcry_md_close( dfx.mdc_hash );
153     return rc;
154 }
155
156
157 /* I think we should merge this with cipher_filter */
158 static int
159 mdc_decode_filter( void *opaque, int control, IOBUF a,
160                                               byte *buf, size_t *ret_len)
161 {
162     decode_filter_ctx_t *dfx = opaque;
163     size_t n, size = *ret_len;
164     int rc = 0;
165     int c;
166
167     if( control == IOBUFCTRL_UNDERFLOW && dfx->eof_seen ) {
168         *ret_len = 0;
169         rc = -1;
170     }
171     else if( control == IOBUFCTRL_UNDERFLOW ) {
172         assert(a);
173         assert( size > 40 );
174
175         /* get at least 20 bytes and put it somewhere ahead in the buffer */
176         for(n=20; n < 40 ; n++ ) {
177             if( (c = iobuf_get(a)) == -1 )
178                 break;
179             buf[n] = c;
180         }
181         if( n == 40 ) {
182             /* we have enough stuff - flush the deferred stuff */
183             /* (we have asserted that the buffer is large enough */
184             if( !dfx->defer_filled ) /* the first time */
185                 memcpy(buf, buf+20, 20 );
186             else
187                 memcpy(buf, dfx->defer, 20 );
188             /* now fill up */
189             for(; n < size; n++ ) {
190                 if( (c = iobuf_get(a)) == -1 )
191                     break;
192                 buf[n] = c;
193             }
194             /* move the last 20 bytes back to the defer buffer */
195             /* (okay, we are wasting 20 bytes of supplied buffer) */
196             n -= 20;
197             memcpy( dfx->defer, buf+n, 20 );
198             dfx->defer_filled = 1;
199         }
200         else if( !dfx->defer_filled ) { /* eof seen buf empty defer */
201             /* this is very bad because there is an incomplete hash */
202             n -= 20;
203             memcpy(buf, buf+20, n );
204             dfx->eof_seen = 2; /* eof with incomplete hash */
205         }
206         else { /* eof seen */
207             memcpy(buf, dfx->defer, 20 );
208             n -= 20;
209             memcpy( dfx->defer, buf+n, 20 );
210             dfx->eof_seen = 1; /* normal eof */
211         }
212
213         if( n ) {
214             gcry_cipher_decrypt( dfx->cipher_hd, buf, n, NULL, 0);
215             gcry_md_write( dfx->mdc_hash, buf, n );
216         }
217         else {
218             assert( dfx->eof_seen );
219             rc = -1; /* eof */
220         }
221         *ret_len = n;
222     }
223     else if( control == IOBUFCTRL_DESC ) {
224         *(char**)buf = "mdc_decode_filter";
225     }
226     return rc;
227 }
228
229 static int
230 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
231 {
232     decode_filter_ctx_t *fc = opaque;
233     size_t n, size = *ret_len;
234     int rc = 0;
235
236     if( control == IOBUFCTRL_UNDERFLOW ) {
237         assert(a);
238         n = iobuf_read( a, buf, size );
239         if( n == -1 ) n = 0;
240         if( n )
241             gcry_cipher_decrypt( fc->cipher_hd, buf, n, NULL, 0);
242         else
243             rc = -1; /* eof */
244         *ret_len = n;
245     }
246     else if( control == IOBUFCTRL_DESC ) {
247         *(char**)buf = "decode_filter";
248     }
249     return rc;
250 }
251