See ChangeLog: Sat Sep 18 12:16:08 CEST 1999 Werner Koch
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (C) 1998, 1999 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include <gcrypt.h>
27 #include "util.h"
28 #include "memory.h"
29 #include "packet.h"
30 #include "mpi.h"
31 #include "cipher.h"
32 #include "options.h"
33 #include "i18n.h"
34
35
36 static int decode_filter( void *opaque, int control, IOBUF a,
37                                         byte *buf, size_t *ret_len);
38 static int mdc_decode_filter( void *opaque, int control, IOBUF a,
39                                         byte *buf, size_t *ret_len);
40
41 typedef struct {
42     GCRY_CIPHER_HD cipher_hd;
43     GCRY_MD_HD mdc_hash;
44     char defer[20];
45     int  defer_filled;
46     int  eof_seen;
47 } decode_filter_ctx_t;
48
49
50 /****************
51  * Decrypt the data, specified by ED with the key DEK.
52  */
53 int
54 decrypt_data( void *procctx, PKT_encrypted *ed, DEK *dek )
55 {
56     decode_filter_ctx_t dfx;
57     byte *p;
58     int rc=0, c, i;
59     int algo_okay;
60     byte temp[32];
61     int blocksize;
62     unsigned nprefix;
63
64     memset( &dfx, 0, sizeof dfx );
65     if( gcry_cipher_test_algo( dek->algo ) ) {
66         if( opt.verbose )
67             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
68         rc = G10ERR_CIPHER_ALGO;
69         goto leave;
70     }
71     if( opt.verbose )
72         log_info(_("%s encrypted data\n"), gcry_cipher_algo_name( dek->algo ) );
73
74     blocksize = gcry_cipher_get_blklen( dek->algo );
75     if( blocksize < 1 || blocksize > 16 )
76         log_fatal("unsupported blocksize %u\n", blocksize );
77     nprefix = blocksize;
78     if( ed->len && ed->len < (nprefix+2) )
79         BUG();
80 -->   We are currently working HERE!!!!
81     if( ed->mdc_method )
82         dfx.mdc_hash = md_open( ed->mdc_method, 0 );
83     dfx.cipher_hd = cipher_open( dek->algo, CIPHER_MODE_AUTO_CFB, 1 );
84 /* log_hexdump( "thekey", dek->key, dek->keylen );*/
85     rc = cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
86     if( rc == G10ERR_WEAK_KEY )
87         log_info(_("WARNING: message was encrypted with "
88                     "a weak key in the symmetric cipher.\n"));
89     else if( rc ) {
90         log_error("key setup failed: %s\n", g10_errstr(rc) );
91         goto leave;
92     }
93
94     cipher_setiv( dfx.cipher_hd, NULL, 0 );
95
96     if( ed->len ) {
97         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
98             if( (c=iobuf_get(ed->buf)) == -1 )
99                 break;
100             else
101                 temp[i] = c;
102         }
103     }
104     else {
105         for(i=0; i < (nprefix+2); i++ )
106             if( (c=iobuf_get(ed->buf)) == -1 )
107                 break;
108             else
109                 temp[i] = c;
110     }
111     cipher_decrypt( dfx.cipher_hd, temp, temp, nprefix+2);
112     if( dfx.mdc_hash )
113         md_write( dfx.mdc_hash, temp, nprefix+2 );
114     cipher_sync( dfx.cipher_hd );
115     p = temp;
116 /* log_hexdump( "prefix", temp, nprefix+2 ); */
117     if( p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1] ) {
118         rc = G10ERR_BAD_KEY;
119         goto leave;
120     }
121     if( ed->mdc_method )
122         iobuf_push_filter( ed->buf, mdc_decode_filter, &dfx );
123     else
124         iobuf_push_filter( ed->buf, decode_filter, &dfx );
125     proc_packets( procctx, ed->buf);
126     ed->buf = NULL;
127     if( ed->mdc_method && dfx.eof_seen == 2 )
128         rc = G10ERR_INVALID_PACKET;
129     else if( ed->mdc_method ) { /* check the mdc */
130         int datalen = md_digest_length( ed->mdc_method );
131         md_final( dfx.mdc_hash );
132         if( datalen != 20
133             || memcmp(md_read( dfx.mdc_hash, 0 ), dfx.defer, datalen) )
134             rc = G10ERR_BAD_SIGN;
135         log_hexdump("MDC calculated:", md_read( dfx.mdc_hash, 0), datalen);
136         log_hexdump("MDC message   :", dfx.defer, 20);
137     }
138   leave:
139     cipher_close(dfx.cipher_hd);
140     md_close( dfx.mdc_hash );
141     return rc;
142 }
143
144 /* I think we should merge this with cipher_filter */
145 static int
146 mdc_decode_filter( void *opaque, int control, IOBUF a,
147                                               byte *buf, size_t *ret_len)
148 {
149     decode_filter_ctx_t *dfx = opaque;
150     size_t n, size = *ret_len;
151     int rc = 0;
152     int c;
153
154     if( control == IOBUFCTRL_UNDERFLOW && dfx->eof_seen ) {
155         *ret_len = 0;
156         rc = -1;
157     }
158     else if( control == IOBUFCTRL_UNDERFLOW ) {
159         assert(a);
160         assert( size > 40 );
161
162         /* get at least 20 bytes and put it somewhere ahead in the buffer */
163         for(n=20; n < 40 ; n++ ) {
164             if( (c = iobuf_get(a)) == -1 )
165                 break;
166             buf[n] = c;
167         }
168         if( n == 40 ) {
169             /* we have enough stuff - flush the deferred stuff */
170             /* (we have asserted that the buffer is large enough */
171             if( !dfx->defer_filled ) /* the first time */
172                 memcpy(buf, buf+20, 20 );
173             else
174                 memcpy(buf, dfx->defer, 20 );
175             /* now fill up */
176             for(; n < size; n++ ) {
177                 if( (c = iobuf_get(a)) == -1 )
178                     break;
179                 buf[n] = c;
180             }
181             /* move the last 20 bytes back to the defer buffer */
182             /* (okay, we are wasting 20 bytes of supplied buffer) */
183             n -= 20;
184             memcpy( dfx->defer, buf+n, 20 );
185             dfx->defer_filled = 1;
186         }
187         else if( !dfx->defer_filled ) { /* eof seen buf empty defer */
188             /* this is very bad because there is an incomplete hash */
189             n -= 20;
190             memcpy(buf, buf+20, n );
191             dfx->eof_seen = 2; /* eof with incomplete hash */
192         }
193         else { /* eof seen */
194             memcpy(buf, dfx->defer, 20 );
195             n -= 20;
196             memcpy( dfx->defer, buf+n, 20 );
197             dfx->eof_seen = 1; /* normal eof */
198         }
199
200         if( n ) {
201             cipher_decrypt( dfx->cipher_hd, buf, buf, n);
202             md_write( dfx->mdc_hash, buf, n );
203         }
204         else {
205             assert( dfx->eof_seen );
206             rc = -1; /* eof */
207         }
208         *ret_len = n;
209     }
210     else if( control == IOBUFCTRL_DESC ) {
211         *(char**)buf = "mdc_decode_filter";
212     }
213     return rc;
214 }
215
216 static int
217 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
218 {
219     decode_filter_ctx_t *fc = opaque;
220     size_t n, size = *ret_len;
221     int rc = 0;
222
223     if( control == IOBUFCTRL_UNDERFLOW ) {
224         assert(a);
225         n = iobuf_read( a, buf, size );
226         if( n == -1 ) n = 0;
227         if( n )
228             cipher_decrypt( fc->cipher_hd, buf, buf, n);
229         else
230             rc = -1; /* eof */
231         *ret_len = n;
232     }
233     else if( control == IOBUFCTRL_DESC ) {
234         *(char**)buf = "decode_filter";
235     }
236     return rc;
237 }
238