compress stuff implemented
[gnupg.git] / g10 / compress.c
1 /* compress.c - compress filter
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <unistd.h>
26 #include <assert.h>
27 #include <errno.h>
28 #ifdef HAVE_ZLIB_H
29   #include <zlib.h>
30 #else
31   #error You need ZLIB to compile this module
32 #endif
33
34 #include "util.h"
35 #include "memory.h"
36 #include "packet.h"
37 #include "filter.h"
38 #include "options.h"
39
40
41 static void
42 init_compress( compress_filter_context_t *zfx, z_stream *zs )
43 {
44     int rc;
45     byte *inbuf, *outbuf;
46     int level;
47
48
49     if( opt.compress >= 0 && opt.compress <= 9 )
50         level = opt.compress;
51     else if( opt.compress == -1 )
52         level = Z_DEFAULT_COMPRESSION;
53     else if( opt.compress == 10 ) /* remove this ! */
54         level = 0;
55     else {
56         log_error("invalid compression level; using default level\n");
57         level = Z_DEFAULT_COMPRESSION;
58     }
59
60     if( (rc = deflateInit( zs, level )) != Z_OK ) {
61         log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
62                                rc == Z_MEM_ERROR ? "out of core" :
63                                rc == Z_VERSION_ERROR ? "invalid lib version" :
64                                                        "unknown error" );
65     }
66
67     zfx->outbufsize = 4096;
68     zfx->outbuf = m_alloc( zfx->outbufsize );
69 }
70
71 static int
72 do_compress( compress_filter_context_t *zfx, z_stream *zs, int flush, IOBUF a )
73 {
74     int zrc;
75     unsigned n;
76
77     do {
78         zs->next_out = zfx->outbuf;
79         zs->avail_out = zfx->outbufsize;
80         zrc = deflate( zs, flush );
81         if( zrc == Z_STREAM_END && flush == Z_FINISH )
82             ;
83         else if( zrc != Z_OK ) {
84             if( zs->msg )
85                 log_fatal("zlib deflate problem: %s\n", zs->msg );
86             else
87                 log_fatal("zlib deflate problem: rc=%d\n", zrc );
88         }
89         n = zfx->outbufsize - zs->avail_out;
90         if( DBG_FILTER )
91             log_debug("deflate returned: avail_in=%u, avail_out=%u, n=%u\n",
92                 (unsigned)zs->avail_in, (unsigned)zs->avail_out, (unsigned)n );
93
94         if( iobuf_write( a, zfx->outbuf, n ) ) {
95             log_debug("deflate: iobuf_write failed\n");
96             return G10ERR_WRITE_FILE;
97         }
98     } while( zs->avail_in || (flush == Z_FINISH && zrc != Z_STREAM_END) );
99     return 0;
100 }
101
102 static void
103 init_uncompress( compress_filter_context_t *zfx, z_stream *zs )
104 {
105     int rc;
106     byte *inbuf, *outbuf;
107     int level;
108
109
110     if( (rc = inflateInit( zs )) != Z_OK ) {
111         log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
112                                rc == Z_MEM_ERROR ? "out of core" :
113                                rc == Z_VERSION_ERROR ? "invalid lib version" :
114                                                        "unknown error" );
115     }
116
117     zfx->inbufsize = 1024;
118     zfx->inbuf = m_alloc( zfx->inbufsize );
119     zs->avail_in = 0;
120 }
121
122 static int
123 do_uncompress( compress_filter_context_t *zfx, z_stream *zs,
124                IOBUF a, size_t *ret_len )
125 {
126     int zrc;
127     size_t n;
128     byte *p;
129     int c;
130
131     if( DBG_FILTER )
132         log_debug("do_uncompress: avail_in=%u, avail_out=%u\n",
133                 (unsigned)zs->avail_in, (unsigned)zs->avail_out);
134     do {
135         if( zs->avail_in < zfx->inbufsize ) {
136             n = zs->avail_in;
137             if( !n )
138                 zs->next_in = zfx->inbuf;
139             for( p=zfx->inbuf+n; n < zfx->inbufsize; n++, p++ ) {
140                 if( (c=iobuf_get(a)) == -1 )
141                     break;
142                 *p = c & 0xff;
143             }
144             zs->avail_in = n;
145         }
146         zrc = inflate( zs, Z_PARTIAL_FLUSH );
147         if( DBG_FILTER )
148             log_debug("inflate returned: avail_in=%u, avail_out=%u, zrc=%d\n",
149                    (unsigned)zs->avail_in, (unsigned)zs->avail_out, zrc);
150         if( zrc != Z_OK && zrc != Z_STREAM_END ) {
151             if( zs->msg )
152                 log_fatal("zlib inflate problem: %s\n", zs->msg );
153             else
154                 log_fatal("zlib inflate problem: rc=%d\n", zrc );
155         }
156     } while( zs->avail_out && zrc != Z_STREAM_END );
157     *ret_len = zfx->outbufsize - zs->avail_out;
158     if( DBG_FILTER )
159         log_debug("do_uncompress: returning %u bytes\n", (unsigned)*ret_len );
160     return 0;
161 }
162
163
164 int
165 compress_filter( void *opaque, int control,
166                  IOBUF a, byte *buf, size_t *ret_len)
167 {
168     size_t size = *ret_len;
169     compress_filter_context_t *zfx = opaque;
170     z_stream *zs = zfx->opaque;
171     int zrc, rc=0;
172
173     if( control == IOBUFCTRL_UNDERFLOW ) {
174         if( !zfx->status ) {
175             zs = zfx->opaque = m_alloc_clear( sizeof *zs );
176             init_uncompress( zfx, zs );
177             zfx->status = 1;
178         }
179
180         zs->next_out = buf;
181         zs->avail_out = size;
182         zfx->outbufsize = size; /* needed only for calculation */
183         rc = do_uncompress( zfx, zs, a, ret_len );
184     }
185     else if( control == IOBUFCTRL_FLUSH ) {
186         if( !zfx->status ) {
187             PACKET pkt;
188             PKT_compressed cd;
189
190             memset( &cd, 0, sizeof cd );
191             cd.len = 0;
192             cd.algorithm = 2; /* zlib */
193             init_packet( &pkt );
194             pkt.pkttype = PKT_COMPR_DATA;
195             pkt.pkt.compressed = &cd;
196             if( build_packet( a, &pkt ))
197                 log_bug("build_packet(COMPRESSED) failed\n");
198             zs = zfx->opaque = m_alloc_clear( sizeof *zs );
199             init_compress( zfx, zs );
200             zfx->status = 2;
201         }
202
203         zs->next_in = buf;
204         zs->avail_in = size;
205         rc = do_compress( zfx, zs, Z_NO_FLUSH, a );
206     }
207     else if( control == IOBUFCTRL_FREE ) {
208         if( zfx->status == 1 ) {
209             inflateEnd(zs);
210             m_free(zs);
211             zfx->opaque = NULL;
212             m_free(zfx->outbuf); zfx->outbuf = NULL;
213         }
214         else if( zfx->status == 2 ) {
215             zs->next_in = buf;
216             zs->avail_in = 0;
217             do_compress( zfx, zs, Z_FINISH, a );
218             deflateEnd(zs);
219             m_free(zs);
220             zfx->opaque = NULL;
221             m_free(zfx->outbuf); zfx->outbuf = NULL;
222         }
223     }
224     else if( control == IOBUFCTRL_DESC )
225         *(char**)buf = "compress_filter";
226     return rc;
227 }
228
229 /****************
230  * Handle a compressed packet
231  */
232 int
233 handle_compressed( PKT_compressed *cd )
234 {
235     compress_filter_context_t cfx;
236
237     memset( &cfx, 0, sizeof cfx );
238     if( cd->algorithm != 2 )
239         return G10ERR_COMPR_ALGO;
240
241     iobuf_push_filter( cd->buf, compress_filter, &cfx );
242     proc_packets(cd->buf);
243     iobuf_pop_filter( cd->buf, compress_filter, &cfx );
244   #if 0
245     if( cd->len )
246         iobuf_set_limit( cd->buf, 0 ); /* disable the readlimit */
247     else
248         iobuf_clear_eof( cd->buf );
249   #endif
250     cd->buf = NULL;
251     return 0;
252 }
253