initially checkin
[gnupg.git] / g10 / encr-data.c
1 /* encr-data.c -  process an encrypted data packet
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "packet.h"
29 #include "mpi.h"
30 #include "cipher.h"
31
32
33 static int decode_filter( void *opaque, int control, IOBUF a,
34                                         byte *buf, size_t *ret_len);
35
36 typedef struct {
37     BLOWFISH_context *bf_ctx;
38 } decode_filter_ctx_t;
39
40
41
42 /****************
43  * Decrypt the data, specified by ED with the key DEK.
44  */
45 int
46 decrypt_data( PKT_encr_data *ed, DEK *dek )
47 {
48     decode_filter_ctx_t dfx;
49     byte *p;
50     int c, i;
51     byte temp[16];
52
53
54     if( dek->algo != CIPHER_ALGO_BLOWFISH )
55         return G10ERR_CIPHER_ALGO;
56     if( ed->len && ed->len < 10 )
57         log_bug("Nanu\n");   /* oops: found a bug */
58
59     dfx.bf_ctx = m_alloc_secure( sizeof *dfx.bf_ctx );
60     blowfish_setkey( dfx.bf_ctx, dek->key, dek->keylen  );
61     blowfish_setiv( dfx.bf_ctx, NULL );
62
63     if( ed->len ) {
64         iobuf_set_limit( ed->buf, ed->len );
65
66         for(i=0; i < 10 && ed->len; i++, ed->len-- )
67             temp[i] = iobuf_get(ed->buf);
68     }
69     else {
70         for(i=0; i < 10; i++ )
71             if( (c=iobuf_get(ed->buf)) == -1 )
72                 break;
73             else
74                 temp[i] = c;
75     }
76     blowfish_decode_cfb( dfx.bf_ctx, temp, temp, 10);
77     p = temp;
78     if( p[6] != p[8] || p[7] != p[9] ) {
79         m_free(dfx.bf_ctx);
80         return G10ERR_BAD_KEY;
81     }
82     iobuf_push_filter( ed->buf, decode_filter, &dfx );
83     proc_packets(ed->buf);
84     iobuf_pop_filter( ed->buf, decode_filter, &dfx );
85     if( ed->len )
86         iobuf_set_limit( ed->buf, 0 ); /* disable the readlimit */
87     else
88         iobuf_clear_eof( ed->buf );
89     ed->buf = NULL;
90     m_free(dfx.bf_ctx);
91     return 0;
92 }
93
94 static int
95 decode_filter( void *opaque, int control, IOBUF a, byte *buf, size_t *ret_len)
96 {
97     decode_filter_ctx_t *fc = opaque;
98     size_t n, size = *ret_len;
99     int rc = 0;
100     int c;
101
102     if( control == IOBUFCTRL_UNDERFLOW ) {
103         assert(a);
104         for(n=0; n < size; n++ ) {
105             if( (c = iobuf_get(a)) == -1 )
106                 break;
107             buf[n] = c;
108         }
109
110         if( n )
111             blowfish_decode_cfb( fc->bf_ctx, buf, buf, n);
112         else
113             rc = -1; /* eof */
114         *ret_len = n;
115     }
116     else if( control == IOBUFCTRL_DESC ) {
117         *(char**)buf = "decode_filter";
118     }
119     return rc;
120 }
121
122