See ChangeLog: Sat Sep 18 12:16:08 CEST 1999 Werner Koch
[gnupg.git] / g10 / cipher.c
1 /* cipher.c - En-/De-ciphering filter
2  *      Copyright (C) 1998,1999 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <errno.h>
26 #include <assert.h>
27
28 #include "errors.h"
29 #include "iobuf.h"
30 #include "memory.h"
31 #include "util.h"
32 #include "filter.h"
33 #include "packet.h"
34 #include "options.h"
35 #include "main.h"
36
37
38 #define MIN_PARTIAL_SIZE 512
39
40
41 static void
42 write_header( cipher_filter_context_t *cfx, IOBUF a )
43 {
44     PACKET pkt;
45     PKT_encrypted ed;
46     byte temp[18];
47     int blocksize;
48     unsigned nprefix;
49     int use_mdc = opt.force_mdc;
50     int rc;
51
52     memset( &ed, 0, sizeof ed );
53     ed.len = cfx->datalen;
54     ed.new_ctb = !ed.len && !opt.rfc1991;
55     if( use_mdc ) {
56         ed.mdc_method = DIGEST_ALGO_SHA1;
57         cfx->mdc_hash = gcry_md_open( DIGEST_ALGO_SHA1, 0 );
58         /*md_start_debug( cfx->mdc_hash, "mdccreat" );*/
59     }
60     init_packet( &pkt );
61     pkt.pkttype = use_mdc? PKT_ENCRYPTED_MDC : PKT_ENCRYPTED;
62     pkt.pkt.encrypted = &ed;
63     if( build_packet( a, &pkt ))
64         log_bug("build_packet(ENCR_DATA) failed\n");
65     blocksize = gcry_cipher_get_algo_blklen( cfx->dek->algo );
66     if( blocksize < 8 || blocksize > 16 )
67         log_fatal("unsupported blocksize %d\n", blocksize );
68     nprefix = blocksize;
69     randomize_buffer( temp, nprefix, 1 );
70     temp[nprefix] = temp[nprefix-2];
71     temp[nprefix+1] = temp[nprefix-1];
72     print_cipher_algo_note( cfx->dek->algo );
73     if( gcry_cipher_open( &cfx->cipher_hd,
74                           cfx->dek->algo,
75                           CIPHER_MODE_CFB,
76                           GCRY_CIPHER_SECURE
77                           | (cfy->dek->algo >= 100 ?
78                                 0 : GCRY_CIPHER_ENABLE_SYNC) )
79                         ) {
80         /* we should never get an error here cause we already checked, that
81          * the algorithm is available. */
82         BUG();
83     }
84
85 /*   log_hexdump( "thekey", cfx->dek->key, cfx->dek->keylen );*/
86     rc = gcry_cipher_setkey( cfx->cipher_hd, cfx->dek->key, cfx->dek->keylen );
87     if( !rc )
88         rc = gcry_cipher_setiv( cfx->cipher_hd, NULL, 0 );
89     if( rc )
90         log_fatal("set key or IV failed: %s\n", gcry_strerror(rc) );
91 /*  log_hexdump( "prefix", temp, nprefix+2 ); */
92     if( cfx->mdc_hash )
93         gcry_md_write( cfx->mdc_hash, temp, nprefix+2 );
94     rc = cipher_encrypt( cfx->cipher_hd, temp, nprefix+2, NULL, 0 );
95     if( !rc )
96         rc = gcry_cipher_sync( cfx->cipher_hd );
97     if( rc )
98         log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
99     iobuf_write(a, temp, nprefix+2);
100     cfx->header=1;
101 }
102
103
104
105 /****************
106  * This filter is used to en/de-cipher data with a conventional algorithm
107  */
108 int
109 cipher_filter( void *opaque, int control,
110                IOBUF a, byte *buf, size_t *ret_len)
111 {
112     size_t size = *ret_len;
113     cipher_filter_context_t *cfx = opaque;
114     int rc=0;
115
116     if( control == IOBUFCTRL_UNDERFLOW ) { /* decrypt */
117         rc = -1; /* not yet used */
118     }
119     else if( control == IOBUFCTRL_FLUSH ) { /* encrypt */
120         assert(a);
121         if( !cfx->header ) {
122             write_header( cfx, a );
123         }
124         if( cfx->mdc_hash )
125             gcry_md_write( cfx->mdc_hash, buf, size );
126         rc = gcry_cipher_encrypt( cfx->cipher_hd, buf, size, NULL, 0);
127         if( rc )
128             log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
129         if( iobuf_write( a, buf, size ) )
130             rc = G10ERR_WRITE_FILE;
131     }
132     else if( control == IOBUFCTRL_FREE ) {
133         if( cfx->mdc_hash ) {
134             byte *hash;
135             int hashlen = gcry_md_get_algo_dlen( gcry_md_get_algo( cfx->mdc_hash ) );
136             hash = gcry_md_read( cfx->mdc_hash, 0 );
137             rc = gcry_cipher_encrypt( cfx->cipher_hd, hash, hashlen, NULL, 0 );
138             if( rc )
139                 log_fatal("encrypt failed: %s\n", gcry_strerror(rc) );
140             if( iobuf_write( a, hash, hashlen ) )
141                 rc = G10ERR_WRITE_FILE;
142             gcry_md_close( cfx->mdc_hash ); cfx->mdc_hash = NULL;
143         }
144         gcry_cipher_close(cfx->cipher_hd);
145     }
146     else if( control == IOBUFCTRL_DESC ) {
147         *(char**)buf = "cipher_filter";
148     }
149     return rc;
150 }
151
152