4f8aa897d6d69358d9d002888c6bfa69e4268edb
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "cipher.h"
31 #include "options.h"
32
33
34 static int decode_filter( void *opaque, int control, IOBUF a,
35                                         byte *buf, size_t *ret_len);
36
37 typedef struct {
38     int is_cast5;
39     BLOWFISH_context *bf_ctx;
40     CAST5_context *cast5_ctx;
41 } decode_filter_ctx_t;
42
43
44
45 /****************
46  * Decrypt the data, specified by ED with the key DEK.
47  */
48 int
49 decrypt_data( PKT_encrypted *ed, DEK *dek )
50 {
51     decode_filter_ctx_t dfx;
52     byte *p;
53     int c, i;
54     byte temp[16];
55
56     if( opt.verbose ) {
57         const char *s = cipher_algo_to_string( dek->algo );
58         if( s )
59             log_info("%s encrypted data\n", s );
60         else
61             log_info("encrypted with unknown algorithm %d\n", dek->algo );
62     }
63     if( dek->algo != CIPHER_ALGO_BLOWFISH
64         && dek->algo != CIPHER_ALGO_BLOWFISH128
65         && dek->algo != CIPHER_ALGO_CAST       )
66         return G10ERR_CIPHER_ALGO;
67     if( ed->len && ed->len < 10 )
68         log_bug("Nanu\n");   /* oops: found a bug */
69
70     if( dek->algo == CIPHER_ALGO_CAST ) {
71         dfx.is_cast5 = 1;
72         dfx.cast5_ctx = m_alloc_secure( sizeof *dfx.cast5_ctx );
73         cast5_setkey( dfx.cast5_ctx, dek->key, dek->keylen  );
74         cast5_setiv( dfx.cast5_ctx, NULL );
75     }
76     else {
77         dfx.is_cast5 = 0;
78         dfx.bf_ctx = m_alloc_secure( sizeof *dfx.bf_ctx );
79         blowfish_setkey( dfx.bf_ctx, dek->key, dek->keylen  );
80         blowfish_setiv( dfx.bf_ctx, NULL );
81     }
82
83     if( ed->len ) {
84         iobuf_set_limit( ed->buf, ed->len );
85
86         for(i=0; i < 10 && ed->len; i++, ed->len-- )
87             temp[i] = iobuf_get(ed->buf);
88     }
89     else {
90         for(i=0; i < 10; i++ )
91             if( (c=iobuf_get(ed->buf)) == -1 )
92                 break;
93             else
94                 temp[i] = c;
95     }
96     if( dfx.is_cast5 ) {
97         cast5_decode_cfb( dfx.cast5_ctx, temp, temp, 10);
98         cast5_sync_cfb( dfx.cast5_ctx );
99     }
100     else
101         blowfish_decode_cfb( dfx.bf_ctx, temp, temp, 10);
102     p = temp;
103     if( p[6] != p[8] || p[7] != p[9] ) {
104         m_free(dfx.bf_ctx);
105         return G10ERR_BAD_KEY;
106     }
107     iobuf_push_filter( ed->buf, decode_filter, &dfx );
108     proc_packets(ed->buf);
109     iobuf_pop_filter( ed->buf, decode_filter, &dfx );
110     if( ed->len )
111         iobuf_set_limit( ed->buf, 0 ); /* disable the readlimit */
112     else
113         iobuf_clear_eof( ed->buf );
114     ed->buf = NULL;
115     m_free(dfx.bf_ctx);
116     return 0;
117 }
118
119 static int
120 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
121 {
122     decode_filter_ctx_t *fc = opaque;
123     size_t n, size = *ret_len;
124     int rc = 0;
125     int c;
126
127     if( control == IOBUFCTRL_UNDERFLOW ) {
128         assert(a);
129         for(n=0; n < size; n++ ) {
130             if( (c = iobuf_get(a)) == -1 )
131                 break;
132             buf[n] = c;
133         }
134
135         if( n ) {
136             if( fc->is_cast5 )
137                 cast5_decode_cfb( fc->cast5_ctx, buf, buf, n);
138             else
139                 blowfish_decode_cfb( fc->bf_ctx, buf, buf, n);
140         }
141         else
142             rc = -1; /* eof */
143         *ret_len = n;
144     }
145     else if( control == IOBUFCTRL_DESC ) {
146         *(char**)buf = "decode_filter";
147     }
148     return rc;
149 }
150
151