See ChangeLog: Fri Jul 14 19:38:23 CEST 2000 Werner Koch
[gnupg.git] / g10 / cipher.c
1 /* cipher.c - En-/De-ciphering filter
2  *      Copyright (C) 1998, 1999, 2000 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <errno.h>
26 #include <assert.h>
27
28 #include <gcrypt.h>
29 #include "errors.h"
30 #include "iobuf.h"
31 #include "util.h"
32 #include "filter.h"
33 #include "packet.h"
34 #include "options.h"
35 #include "main.h"
36 #include "status.h"
37
38
39 #define MIN_PARTIAL_SIZE 512
40
41
42 static void
43 write_header( cipher_filter_context_t *cfx, IOBUF a )
44 {
45     PACKET pkt;
46     PKT_encrypted ed;
47     byte temp[18];
48     unsigned int blocksize;
49     unsigned int nprefix;
50     int rc;
51     int use_mdc = opt.force_mdc;
52
53     blocksize = gcry_cipher_get_algo_blklen( cfx->dek->algo );
54     if( blocksize < 8 || blocksize > 16 )
55         log_fatal("unsupported blocksize %u\n", blocksize );
56     if( blocksize != 8 )
57         use_mdc = 1;  /* enable it for all modern ciphers */
58     if( opt.rfc2440 )
59         use_mdc = 0;  /* override - rfc2440 does not know about MDC */
60
61     memset( &ed, 0, sizeof ed );
62     ed.len = cfx->datalen;
63     ed.new_ctb = !ed.len && !opt.rfc1991;
64     if( use_mdc ) {
65         ed.mdc_method = GCRY_MD_SHA1;
66         cfx->mdc_hash = gcry_md_open( GCRY_MD_SHA1, 0 );
67         if( !cfx->mdc_hash )
68             BUG();
69         if ( DBG_HASHING )
70             gcry_md_start_debug( cfx->mdc_hash, "creatmdc" );
71     }
72     init_packet( &pkt );
73     pkt.pkttype = use_mdc? PKT_ENCRYPTED_MDC : PKT_ENCRYPTED;
74     pkt.pkt.encrypted = &ed;
75     if( build_packet( a, &pkt ))
76         log_bug("build_packet(ENCR_DATA) failed\n");
77     nprefix = blocksize;
78     gcry_randomize( temp, nprefix, GCRY_STRONG_RANDOM );
79     temp[nprefix] = temp[nprefix-2];
80     temp[nprefix+1] = temp[nprefix-1];
81     print_cipher_algo_note( cfx->dek->algo );
82     if( !(cfx->cipher_hd = gcry_cipher_open( cfx->dek->algo,
83                                        GCRY_CIPHER_MODE_CFB,
84                                        GCRY_CIPHER_SECURE
85                                        | ((use_mdc || cfx->dek->algo >= 100) ?
86                                              0 : GCRY_CIPHER_ENABLE_SYNC)))
87                                      ) {
88         /* we should never get an error here cause we already checked, that
89          * the algorithm is available. */
90         BUG();
91     }
92
93
94 /*   log_hexdump( "thekey", cfx->dek->key, cfx->dek->keylen );*/
95     rc = gcry_cipher_setkey( cfx->cipher_hd, cfx->dek->key, cfx->dek->keylen );
96     if( !rc )
97         rc = gcry_cipher_setiv( cfx->cipher_hd, NULL, 0 );
98     if( rc )
99         log_fatal("set key or IV failed: %s\n", gcry_strerror(rc) );
100 /*  log_hexdump( "prefix", temp, nprefix+2 ); */
101     if( cfx->mdc_hash )
102         gcry_md_write( cfx->mdc_hash, temp, nprefix+2 );
103     rc = gcry_cipher_encrypt( cfx->cipher_hd, temp, nprefix+2, NULL, 0 );
104     if( !rc )
105         rc = gcry_cipher_sync( cfx->cipher_hd );
106     if( rc )
107         log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
108     iobuf_write(a, temp, nprefix+2);
109     cfx->header=1;
110
111 }
112
113
114
115 /****************
116  * This filter is used to en/de-cipher data with a conventional algorithm
117  */
118 int
119 cipher_filter( void *opaque, int control,
120                IOBUF a, byte *buf, size_t *ret_len)
121 {
122     size_t size = *ret_len;
123     cipher_filter_context_t *cfx = opaque;
124     int rc=0;
125
126     if( control == IOBUFCTRL_UNDERFLOW ) { /* decrypt */
127         rc = -1; /* not yet used */
128     }
129     else if( control == IOBUFCTRL_FLUSH ) { /* encrypt */
130         assert(a);
131         if( !cfx->header ) {
132             write_status( STATUS_BEGIN_ENCRYPTION );
133             write_header( cfx, a );
134         }
135         if( cfx->mdc_hash )
136             gcry_md_write( cfx->mdc_hash, buf, size );
137         rc = gcry_cipher_encrypt( cfx->cipher_hd, buf, size, NULL, 0);
138         if( rc )
139             log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
140         if( iobuf_write( a, buf, size ) )
141             rc = GPGERR_WRITE_FILE;
142     }
143     else if( control == IOBUFCTRL_FREE ) {
144         if( cfx->mdc_hash ) {
145             byte *hash;
146             int hashlen = gcry_md_get_algo_dlen( gcry_md_get_algo( cfx->mdc_hash ) );
147             byte temp[22];
148
149             assert( hashlen == 20 );
150             /* we must hash the prefix of the MDC packet here */
151             temp[0] = 0xd3;
152             temp[1] = 0x14;
153             gcry_md_putc( cfx->mdc_hash, temp[0] );
154             gcry_md_putc( cfx->mdc_hash, temp[1] );
155
156             hash = gcry_md_read( cfx->mdc_hash, 0 );
157             memcpy(temp+2, hash, 20);
158             rc = gcry_cipher_encrypt( cfx->cipher_hd, temp, 22, NULL, 0 );
159             if( rc )
160                 log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
161             gcry_md_close( cfx->mdc_hash ); cfx->mdc_hash = NULL;
162             if( iobuf_write( a, temp, 22 ) )
163                 log_error("writing MDC packet failed\n" );
164         }
165         gcry_cipher_close(cfx->cipher_hd);
166         write_status( STATUS_END_ENCRYPTION );
167     }
168     else if( control == IOBUFCTRL_DESC ) {
169         *(char**)buf = "cipher_filter";
170     }
171     return rc;
172 }
173
174