changed configuration stuff, replaced some Makefile.am by distfiles.
[gnupg.git] / g10 / compress.c
1 /* compress.c - compress filter
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <unistd.h>
26 #include <assert.h>
27 #include <errno.h>
28 #ifdef HAVE_ZLIB_H
29   #include <zlib.h>
30 #endif
31
32 #include "util.h"
33 #include "memory.h"
34 #include "packet.h"
35 #include "filter.h"
36 #include "options.h"
37
38
39 #ifdef HAVE_ZLIB_H
40 static void
41 init_compress( compress_filter_context_t *zfx, z_stream *zs )
42 {
43     int rc;
44     byte *inbuf, *outbuf;
45     int level;
46
47
48     if( opt.compress >= 0 && opt.compress <= 9 )
49         level = opt.compress;
50     else if( opt.compress == -1 )
51         level = Z_DEFAULT_COMPRESSION;
52     else if( opt.compress == 10 ) /* remove this ! */
53         level = 0;
54     else {
55         log_error("invalid compression level; using default level\n");
56         level = Z_DEFAULT_COMPRESSION;
57     }
58
59     if( (rc = deflateInit( zs, level )) != Z_OK ) {
60         log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
61                                rc == Z_MEM_ERROR ? "out of core" :
62                                rc == Z_VERSION_ERROR ? "invalid lib version" :
63                                                        "unknown error" );
64     }
65
66     zfx->outbufsize = 4096;
67     zfx->outbuf = m_alloc( zfx->outbufsize );
68 }
69
70 static int
71 do_compress( compress_filter_context_t *zfx, z_stream *zs, int flush, IOBUF a )
72 {
73     int zrc;
74     unsigned n;
75
76     do {
77         zs->next_out = zfx->outbuf;
78         zs->avail_out = zfx->outbufsize;
79         zrc = deflate( zs, flush );
80         if( zrc == Z_STREAM_END && flush == Z_FINISH )
81             ;
82         else if( zrc != Z_OK ) {
83             if( zs->msg )
84                 log_fatal("zlib deflate problem: %s\n", zs->msg );
85             else
86                 log_fatal("zlib deflate problem: rc=%d\n", zrc );
87         }
88         n = zfx->outbufsize - zs->avail_out;
89         if( DBG_FILTER )
90             log_debug("deflate returned: avail_in=%u, avail_out=%u, n=%u\n",
91                 (unsigned)zs->avail_in, (unsigned)zs->avail_out, (unsigned)n );
92
93         if( iobuf_write( a, zfx->outbuf, n ) ) {
94             log_debug("deflate: iobuf_write failed\n");
95             return G10ERR_WRITE_FILE;
96         }
97     } while( zs->avail_in || (flush == Z_FINISH && zrc != Z_STREAM_END) );
98     return 0;
99 }
100
101 static void
102 init_uncompress( compress_filter_context_t *zfx, z_stream *zs )
103 {
104     int rc;
105     byte *inbuf, *outbuf;
106     int level;
107
108
109     /****************
110      * PGP uses a windowsize of 13 bits. Using a negative value for
111      * it forces zlib not to expect a zlib header.  This is a
112      * undocumented feature, Peter Gutmann told me about.
113      */
114     if( (rc = zfx->pgpmode? inflateInit2( zs, -13)
115                           : inflateInit( zs )) != Z_OK ) {
116         log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
117                                rc == Z_MEM_ERROR ? "out of core" :
118                                rc == Z_VERSION_ERROR ? "invalid lib version" :
119                                                        "unknown error" );
120     }
121
122     zfx->inbufsize = 1024;
123     zfx->inbuf = m_alloc( zfx->inbufsize );
124     zs->avail_in = 0;
125 }
126
127 static int
128 do_uncompress( compress_filter_context_t *zfx, z_stream *zs,
129                IOBUF a, size_t *ret_len )
130 {
131     int zrc;
132     int rc=0;
133     size_t n;
134     byte *p;
135     int c;
136
137     if( DBG_FILTER )
138         log_debug("do_uncompress: avail_in=%u, avail_out=%u\n",
139                 (unsigned)zs->avail_in, (unsigned)zs->avail_out);
140     do {
141         if( zs->avail_in < zfx->inbufsize ) {
142             n = zs->avail_in;
143             if( !n )
144                 zs->next_in = zfx->inbuf;
145             for( p=zfx->inbuf+n; n < zfx->inbufsize; n++, p++ ) {
146                 if( (c=iobuf_get(a)) == -1 )
147                     break;
148                 *p = c & 0xff;
149             }
150             zs->avail_in = n;
151         }
152         zrc = inflate( zs, Z_PARTIAL_FLUSH );
153         if( DBG_FILTER )
154             log_debug("inflate returned: avail_in=%u, avail_out=%u, zrc=%d\n",
155                    (unsigned)zs->avail_in, (unsigned)zs->avail_out, zrc);
156         if( zrc == Z_STREAM_END )
157             rc = -1; /* eof FIXME: return remaining bytes until EOF */
158         else if( zrc != Z_OK ) {
159             if( zs->msg )
160                 log_fatal("zlib inflate problem: %s\n", zs->msg );
161             else
162                 log_fatal("zlib inflate problem: rc=%d\n", zrc );
163         }
164     } while( zs->avail_out && zrc != Z_STREAM_END );
165     *ret_len = zfx->outbufsize - zs->avail_out;
166     if( DBG_FILTER )
167         log_debug("do_uncompress: returning %u bytes\n", (unsigned)*ret_len );
168     return rc;
169 }
170
171 int
172 compress_filter( void *opaque, int control,
173                  IOBUF a, byte *buf, size_t *ret_len)
174 {
175     size_t size = *ret_len;
176     compress_filter_context_t *zfx = opaque;
177     z_stream *zs = zfx->opaque;
178     int zrc, rc=0;
179
180     if( control == IOBUFCTRL_UNDERFLOW ) {
181         if( !zfx->status ) {
182             zs = zfx->opaque = m_alloc_clear( sizeof *zs );
183             init_uncompress( zfx, zs );
184             zfx->status = 1;
185         }
186
187         zs->next_out = buf;
188         zs->avail_out = size;
189         zfx->outbufsize = size; /* needed only for calculation */
190         rc = do_uncompress( zfx, zs, a, ret_len );
191     }
192     else if( control == IOBUFCTRL_FLUSH ) {
193         if( !zfx->status ) {
194             PACKET pkt;
195             PKT_compressed cd;
196
197             memset( &cd, 0, sizeof cd );
198             cd.len = 0;
199             cd.algorithm = 2; /* zlib */
200             init_packet( &pkt );
201             pkt.pkttype = PKT_COMPRESSED;
202             pkt.pkt.compressed = &cd;
203             if( build_packet( a, &pkt ))
204                 log_bug("build_packet(PKT_COMPRESSED) failed\n");
205             zs = zfx->opaque = m_alloc_clear( sizeof *zs );
206             init_compress( zfx, zs );
207             zfx->status = 2;
208         }
209
210         zs->next_in = buf;
211         zs->avail_in = size;
212         rc = do_compress( zfx, zs, Z_NO_FLUSH, a );
213     }
214     else if( control == IOBUFCTRL_FREE ) {
215         if( zfx->status == 1 ) {
216             inflateEnd(zs);
217             m_free(zs);
218             zfx->opaque = NULL;
219             m_free(zfx->outbuf); zfx->outbuf = NULL;
220         }
221         else if( zfx->status == 2 ) {
222             zs->next_in = buf;
223             zs->avail_in = 0;
224             do_compress( zfx, zs, Z_FINISH, a );
225             deflateEnd(zs);
226             m_free(zs);
227             zfx->opaque = NULL;
228             m_free(zfx->outbuf); zfx->outbuf = NULL;
229         }
230     }
231     else if( control == IOBUFCTRL_DESC )
232         *(char**)buf = "compress_filter";
233     return rc;
234 }
235 #else /* No ZLIB */
236 int
237 compress_filter( void *opaque, int control,
238                  IOBUF a, byte *buf, size_t *ret_len)
239 {
240     size_t size = *ret_len;
241     compress_filter_context_t *zfx = opaque;
242     int c, rc=0;
243     size_t n;
244
245     if( control == IOBUFCTRL_UNDERFLOW ) {
246         for( n=0; n < size; n++ ) {
247             if( (c=iobuf_get(a)) == -1 )
248                 break;
249             buf[n] = c & 0xff;
250         }
251         if( !n )
252             rc = -1;
253         *ret_len = n;
254     }
255     else if( control == IOBUFCTRL_FLUSH ) {
256         if( iobuf_write( a, buf, size ) )
257             rc = G10ERR_WRITE_FILE;
258     }
259     else if( control == IOBUFCTRL_DESC )
260         *(char**)buf = "dummy compress_filter";
261     return rc;
262 }
263 #endif /*no ZLIB*/
264
265 /****************
266  * Handle a compressed packet
267  */
268 int
269 handle_compressed( PKT_compressed *cd )
270 {
271     compress_filter_context_t cfx;
272
273     memset( &cfx, 0, sizeof cfx );
274     if( cd->algorithm == 1 )
275         cfx.pgpmode = 1;
276     else if( cd->algorithm != 2  )
277         return G10ERR_COMPR_ALGO;
278
279     iobuf_push_filter( cd->buf, compress_filter, &cfx );
280     proc_packets(cd->buf);
281     iobuf_pop_filter( cd->buf, compress_filter, &cfx );
282   #if 0
283     if( cd->len )
284         iobuf_set_limit( cd->buf, 0 ); /* disable the readlimit */
285     else
286         iobuf_clear_eof( cd->buf );
287   #endif
288     cd->buf = NULL;
289     return 0;
290 }
291