8ae6949d8106f02c95695b9551e97c76dbf42172
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (C) 1998, 1999 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "cipher.h"
31 #include "options.h"
32 #include "i18n.h"
33
34
35 static int decode_filter( void *opaque, int control, IOBUF a,
36                                         byte *buf, size_t *ret_len);
37
38 typedef struct {
39     CIPHER_HANDLE cipher_hd;
40 } decode_filter_ctx_t;
41
42
43
44 /****************
45  * Decrypt the data, specified by ED with the key DEK.
46  */
47 int
48 decrypt_data( PKT_encrypted *ed, DEK *dek )
49 {
50     decode_filter_ctx_t dfx;
51     byte *p;
52     int rc, c, i;
53     byte temp[32];
54     unsigned blocksize;
55     unsigned nprefix;
56
57     if( opt.verbose ) {
58         const char *s = cipher_algo_to_string( dek->algo );
59         if( s )
60             log_info(_("%s encrypted data\n"), s );
61         else
62             log_info(_("encrypted with unknown algorithm %d\n"), dek->algo );
63     }
64     if( (rc=check_cipher_algo(dek->algo)) )
65         return rc;
66     blocksize = cipher_get_blocksize(dek->algo);
67     if( !blocksize || blocksize > 16 )
68         log_fatal("unsupported blocksize %u\n", blocksize );
69     /* FIXME: remove the kludge for the experimental twofish128 mode:
70      * we always use the 10 byte prefix and not one depending on the blocksize
71      */
72     nprefix = dek->algo == CIPHER_ALGO_TWOFISH_OLD? blocksize : 8;
73     if( ed->len && ed->len < (nprefix+2) )
74         BUG();
75
76     dfx.cipher_hd = cipher_open( dek->algo, CIPHER_MODE_AUTO_CFB, 1 );
77  /*log_hexdump( "thekey", dek->key, dek->keylen );*/
78     rc = cipher_setkey( dfx.cipher_hd, dek->key, dek->keylen );
79     if( rc == G10ERR_WEAK_KEY )
80         log_info(_("WARNING: message was encrypted with "
81                     "a weak key in the symmetric cipher.\n"));
82     else if( rc )
83         log_error("key setup failed: %s\n", g10_errstr(rc) );
84
85     cipher_setiv( dfx.cipher_hd, NULL );
86
87     if( ed->len ) {
88         for(i=0; i < (nprefix+2) && ed->len; i++, ed->len-- ) {
89             if( (c=iobuf_get(ed->buf)) == -1 )
90                 break;
91             else
92                 temp[i] = c;
93         }
94     }
95     else {
96         for(i=0; i < (nprefix+2); i++ )
97             if( (c=iobuf_get(ed->buf)) == -1 )
98                 break;
99             else
100                 temp[i] = c;
101     }
102     cipher_decrypt( dfx.cipher_hd, temp, temp, nprefix+2);
103     cipher_sync( dfx.cipher_hd );
104     p = temp;
105  /*log_hexdump( "prefix", temp, nprefix+2 );*/
106     if( p[nprefix-2] != p[nprefix] || p[nprefix-1] != p[nprefix+1] ) {
107         cipher_close(dfx.cipher_hd);
108         return G10ERR_BAD_KEY;
109     }
110     iobuf_push_filter( ed->buf, decode_filter, &dfx );
111     proc_packets(ed->buf);
112     ed->buf = NULL;
113     cipher_close(dfx.cipher_hd);
114     return 0;
115 }
116
117 static int
118 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
119 {
120     decode_filter_ctx_t *fc = opaque;
121     size_t n, size = *ret_len;
122     int rc = 0;
123     int c;
124
125     if( control == IOBUFCTRL_UNDERFLOW ) {
126         assert(a);
127         for(n=0; n < size; n++ ) {
128             if( (c = iobuf_get(a)) == -1 )
129                 break;
130             buf[n] = c;
131         }
132
133         if( n )
134             cipher_decrypt( fc->cipher_hd, buf, buf, n);
135         else
136             rc = -1; /* eof */
137         *ret_len = n;
138     }
139     else if( control == IOBUFCTRL_DESC ) {
140         *(char**)buf = "decode_filter";
141     }
142     return rc;
143 }
144
145