gpg: Properly account for ring trust packets.
[gnupg.git] / g10 / compress-bz2.c
1 /* compress.c - bzip2 compress filter
2  * Copyright (C) 2003, 2004 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 3 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, see <https://www.gnu.org/licenses/>.
18  */
19
20 #include <config.h>
21 #include <string.h>
22 #include <stdio.h> /* Early versions of bzlib (1.0) require stdio.h */
23
24 #include "gpg.h"
25 #include "../common/util.h"
26 #include <bzlib.h>
27
28 #include "packet.h"
29 #include "filter.h"
30 #include "main.h"
31 #include "options.h"
32
33 /* Note that the code in compress.c is nearly identical to the code
34    here, so if you fix a bug here, look there to see if a matching bug
35    needs to be fixed.  I tried to have one set of functions that could
36    do ZIP, ZLIB, and BZIP2, but it became dangerously unreadable with
37    #ifdefs and if(algo) -dshaw */
38
39 static void
40 init_compress( compress_filter_context_t *zfx, bz_stream *bzs )
41 {
42   int rc;
43   int level;
44
45   if( opt.bz2_compress_level >= 1 && opt.bz2_compress_level <= 9 )
46     level = opt.bz2_compress_level;
47   else if( opt.bz2_compress_level == -1 )
48     level = 6; /* no particular reason, but it seems reasonable */
49   else
50     {
51       log_error("invalid compression level; using default level\n");
52       level = 6;
53     }
54
55   if((rc=BZ2_bzCompressInit(bzs,level,0,0))!=BZ_OK)
56     log_fatal("bz2lib problem: %d\n",rc);
57
58   zfx->outbufsize = 8192;
59   zfx->outbuf = xmalloc( zfx->outbufsize );
60 }
61
62 static int
63 do_compress(compress_filter_context_t *zfx, bz_stream *bzs, int flush, IOBUF a)
64 {
65   int rc;
66   int zrc;
67   unsigned n;
68
69   do
70     {
71       bzs->next_out = zfx->outbuf;
72       bzs->avail_out = zfx->outbufsize;
73       if( DBG_FILTER )
74         log_debug("enter bzCompress: avail_in=%u, avail_out=%u, flush=%d\n",
75                   (unsigned)bzs->avail_in, (unsigned)bzs->avail_out, flush );
76       zrc = BZ2_bzCompress( bzs, flush );
77       if( zrc == BZ_STREAM_END && flush == BZ_FINISH )
78         ;
79       else if( zrc != BZ_RUN_OK && zrc != BZ_FINISH_OK )
80         log_fatal("bz2lib deflate problem: rc=%d\n", zrc );
81
82       n = zfx->outbufsize - bzs->avail_out;
83       if( DBG_FILTER )
84         log_debug("leave bzCompress:"
85                   " avail_in=%u, avail_out=%u, n=%u, zrc=%d\n",
86                   (unsigned)bzs->avail_in, (unsigned)bzs->avail_out,
87                   (unsigned)n, zrc );
88
89       if( (rc=iobuf_write( a, zfx->outbuf, n )) )
90         {
91           log_debug("bzCompress: iobuf_write failed\n");
92           return rc;
93         }
94     }
95   while( bzs->avail_in || (flush == BZ_FINISH && zrc != BZ_STREAM_END) );
96
97   return 0;
98 }
99
100 static void
101 init_uncompress( compress_filter_context_t *zfx, bz_stream *bzs )
102 {
103   int rc;
104
105   if((rc=BZ2_bzDecompressInit(bzs,0,opt.bz2_decompress_lowmem))!=BZ_OK)
106     log_fatal("bz2lib problem: %d\n",rc);
107
108   zfx->inbufsize = 2048;
109   zfx->inbuf = xmalloc( zfx->inbufsize );
110   bzs->avail_in = 0;
111 }
112
113 static int
114 do_uncompress( compress_filter_context_t *zfx, bz_stream *bzs,
115                IOBUF a, size_t *ret_len )
116 {
117   int zrc;
118   int rc=0;
119   size_t n;
120   int nread, count;
121   int refill = !bzs->avail_in;
122   int eofseen = 0;
123
124   if( DBG_FILTER )
125     log_debug("begin bzDecompress: avail_in=%u, avail_out=%u, inbuf=%u\n",
126               (unsigned)bzs->avail_in, (unsigned)bzs->avail_out,
127               (unsigned)zfx->inbufsize );
128   do
129     {
130       if( bzs->avail_in < zfx->inbufsize && refill )
131         {
132           n = bzs->avail_in;
133           if( !n )
134             bzs->next_in = zfx->inbuf;
135           count = zfx->inbufsize - n;
136           nread = iobuf_read( a, zfx->inbuf + n, count );
137           if( nread == -1 )
138             {
139               eofseen = 1;
140               nread = 0;
141             }
142           n += nread;
143           bzs->avail_in = n;
144         }
145       if (!eofseen)
146         refill = 1;
147
148       if( DBG_FILTER )
149         log_debug("enter bzDecompress: avail_in=%u, avail_out=%u\n",
150                   (unsigned)bzs->avail_in, (unsigned)bzs->avail_out);
151
152       zrc=BZ2_bzDecompress(bzs);
153       if( DBG_FILTER )
154         log_debug("leave bzDecompress: avail_in=%u, avail_out=%u, zrc=%d\n",
155                   (unsigned)bzs->avail_in, (unsigned)bzs->avail_out, zrc);
156       if( zrc == BZ_STREAM_END )
157         rc = -1; /* eof */
158       else if( zrc != BZ_OK && zrc != BZ_PARAM_ERROR )
159         log_fatal("bz2lib inflate problem: rc=%d\n", zrc );
160       else if (zrc == BZ_OK && eofseen
161                && !bzs->avail_in && bzs->avail_out > 0)
162         {
163           log_error ("unexpected EOF in bz2lib\n");
164           rc = GPG_ERR_BAD_DATA;
165           break;
166         }
167     }
168   while( bzs->avail_out && zrc != BZ_STREAM_END && zrc != BZ_PARAM_ERROR );
169
170   /* I'm not completely happy with the two uses of BZ_PARAM_ERROR
171      here.  The corresponding zlib function is Z_BUF_ERROR, which
172      covers a narrower scope than BZ_PARAM_ERROR. -dshaw */
173
174   *ret_len = zfx->outbufsize - bzs->avail_out;
175   if( DBG_FILTER )
176     log_debug("do_uncompress: returning %u bytes\n", (unsigned)*ret_len );
177   return rc;
178 }
179
180 int
181 compress_filter_bz2( void *opaque, int control,
182                      IOBUF a, byte *buf, size_t *ret_len)
183 {
184   size_t size = *ret_len;
185   compress_filter_context_t *zfx = opaque;
186   bz_stream *bzs = zfx->opaque;
187   int rc=0;
188
189   if( control == IOBUFCTRL_UNDERFLOW )
190     {
191       if( !zfx->status )
192         {
193           bzs = zfx->opaque = xmalloc_clear( sizeof *bzs );
194           init_uncompress( zfx, bzs );
195           zfx->status = 1;
196         }
197
198       bzs->next_out = buf;
199       bzs->avail_out = size;
200       zfx->outbufsize = size; /* needed only for calculation */
201       rc = do_uncompress( zfx, bzs, a, ret_len );
202     }
203   else if( control == IOBUFCTRL_FLUSH )
204     {
205       if( !zfx->status )
206         {
207           PACKET pkt;
208           PKT_compressed cd;
209
210           if( zfx->algo != COMPRESS_ALGO_BZIP2 )
211             BUG();
212           memset( &cd, 0, sizeof cd );
213           cd.len = 0;
214           cd.algorithm = zfx->algo;
215           init_packet( &pkt );
216           pkt.pkttype = PKT_COMPRESSED;
217           pkt.pkt.compressed = &cd;
218           if( build_packet( a, &pkt ))
219             log_bug("build_packet(PKT_COMPRESSED) failed\n");
220           bzs = zfx->opaque = xmalloc_clear( sizeof *bzs );
221           init_compress( zfx, bzs );
222           zfx->status = 2;
223         }
224
225       bzs->next_in = buf;
226       bzs->avail_in = size;
227       rc = do_compress( zfx, bzs, BZ_RUN, a );
228     }
229   else if( control == IOBUFCTRL_FREE )
230     {
231       if( zfx->status == 1 )
232         {
233           BZ2_bzDecompressEnd(bzs);
234           xfree(bzs);
235           zfx->opaque = NULL;
236           xfree(zfx->outbuf); zfx->outbuf = NULL;
237         }
238       else if( zfx->status == 2 )
239         {
240           bzs->next_in = buf;
241           bzs->avail_in = 0;
242           do_compress( zfx, bzs, BZ_FINISH, a );
243           BZ2_bzCompressEnd(bzs);
244           xfree(bzs);
245           zfx->opaque = NULL;
246           xfree(zfx->outbuf); zfx->outbuf = NULL;
247         }
248       if (zfx->release)
249         zfx->release (zfx);
250     }
251   else if( control == IOBUFCTRL_DESC )
252     mem2str (buf, "compress_filter", *ret_len);
253   return rc;
254 }