See ChangeLog: Mon Jan 24 22:24:38 CET 2000 Werner Koch
[gnupg.git] / g10 / compress.c
index 8f8b5e6..478da56 100644 (file)
@@ -1,14 +1,14 @@
 /* compress.c - compress filter
- *     Copyright (c) 1997 by Werner Koch (dd9jn)
+ *     Copyright (C) 1998 Free Software Foundation, Inc.
  *
- * This file is part of G10.
+ * This file is part of GnuPG.
  *
- * G10 is free software; you can redistribute it and/or modify
+ * GnuPG is free software; you can redistribute it and/or modify
  * it under the terms of the GNU General Public License as published by
  * the Free Software Foundation; either version 2 of the License, or
  * (at your option) any later version.
  *
- * G10 is distributed in the hope that it will be useful,
+ * GnuPG is distributed in the hope that it will be useful,
  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  * GNU General Public License for more details.
 #include <unistd.h>
 #include <assert.h>
 #include <errno.h>
-#ifdef HAVE_ZLIB_H
-  #include <zlib.h>
-#endif
+#include <zlib.h>
 
 #include "util.h"
-#include "memory.h"
+#include <gcrypt.h>
 #include "packet.h"
 #include "filter.h"
 #include "options.h"
 
 
-#ifdef HAVE_ZLIB_H
 static void
 init_compress( compress_filter_context_t *zfx, z_stream *zs )
 {
     int rc;
     int level;
 
-
     if( opt.compress >= 0 && opt.compress <= 9 )
        level = opt.compress;
     else if( opt.compress == -1 )
@@ -55,15 +51,19 @@ init_compress( compress_filter_context_t *zfx, z_stream *zs )
        level = Z_DEFAULT_COMPRESSION;
     }
 
-    if( (rc = deflateInit( zs, level )) != Z_OK ) {
+
+    if( (rc = zfx->algo == 1? deflateInit2( zs, level, Z_DEFLATED,
+                                           -13, 8, Z_DEFAULT_STRATEGY)
+                           : deflateInit( zs, level )
+                           ) != Z_OK ) {
        log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
                               rc == Z_MEM_ERROR ? "out of core" :
                               rc == Z_VERSION_ERROR ? "invalid lib version" :
                                                       "unknown error" );
     }
 
-    zfx->outbufsize = 4096;
-    zfx->outbuf = m_alloc( zfx->outbufsize );
+    zfx->outbufsize = 8192;
+    zfx->outbuf = gcry_xmalloc( zfx->outbufsize );
 }
 
 static int
@@ -75,6 +75,9 @@ do_compress( compress_filter_context_t *zfx, z_stream *zs, int flush, IOBUF a )
     do {
        zs->next_out = zfx->outbuf;
        zs->avail_out = zfx->outbufsize;
+       if( DBG_FILTER )
+           log_debug("enter deflate: avail_in=%u, avail_out=%u, flush=%d\n",
+                   (unsigned)zs->avail_in, (unsigned)zs->avail_out, flush );
        zrc = deflate( zs, flush );
        if( zrc == Z_STREAM_END && flush == Z_FINISH )
            ;
@@ -86,8 +89,10 @@ do_compress( compress_filter_context_t *zfx, z_stream *zs, int flush, IOBUF a )
        }
        n = zfx->outbufsize - zs->avail_out;
        if( DBG_FILTER )
-           log_debug("deflate returned: avail_in=%u, avail_out=%u, n=%u\n",
-               (unsigned)zs->avail_in, (unsigned)zs->avail_out, (unsigned)n );
+           log_debug("leave deflate: "
+                     "avail_in=%u, avail_out=%u, n=%u, zrc=%d\n",
+               (unsigned)zs->avail_in, (unsigned)zs->avail_out,
+                                              (unsigned)n, zrc );
 
        if( iobuf_write( a, zfx->outbuf, n ) ) {
            log_debug("deflate: iobuf_write failed\n");
@@ -105,18 +110,18 @@ init_uncompress( compress_filter_context_t *zfx, z_stream *zs )
     /****************
      * PGP uses a windowsize of 13 bits. Using a negative value for
      * it forces zlib not to expect a zlib header.  This is a
-     * undocumented feature, Peter Gutmann told me about.
+     * undocumented feature Peter Gutmann told me about.
      */
-    if( (rc = zfx->pgpmode? inflateInit2( zs, -13)
-                         : inflateInit( zs )) != Z_OK ) {
+    if( (rc = zfx->algo == 1? inflateInit2( zs, -13)
+                           : inflateInit( zs )) != Z_OK ) {
        log_fatal("zlib problem: %s\n", zs->msg? zs->msg :
                               rc == Z_MEM_ERROR ? "out of core" :
                               rc == Z_VERSION_ERROR ? "invalid lib version" :
                                                       "unknown error" );
     }
 
-    zfx->inbufsize = 1024;
-    zfx->inbuf = m_alloc( zfx->inbufsize );
+    zfx->inbufsize = 2048;
+    zfx->inbuf = gcry_xmalloc( zfx->inbufsize );
     zs->avail_in = 0;
 }
 
@@ -127,37 +132,53 @@ do_uncompress( compress_filter_context_t *zfx, z_stream *zs,
     int zrc;
     int rc=0;
     size_t n;
-    byte *p;
-    int c;
+    int nread, count;
+    int refill = !zs->avail_in;
 
     if( DBG_FILTER )
-       log_debug("do_uncompress: avail_in=%u, avail_out=%u\n",
-               (unsigned)zs->avail_in, (unsigned)zs->avail_out);
+       log_debug("begin inflate: avail_in=%u, avail_out=%u, inbuf=%u\n",
+               (unsigned)zs->avail_in, (unsigned)zs->avail_out,
+               (unsigned)zfx->inbufsize );
     do {
-       if( zs->avail_in < zfx->inbufsize ) {
+       if( zs->avail_in < zfx->inbufsize && refill ) {
            n = zs->avail_in;
            if( !n )
                zs->next_in = zfx->inbuf;
-           for( p=zfx->inbuf+n; n < zfx->inbufsize; n++, p++ ) {
-               if( (c=iobuf_get(a)) == -1 )
-                   break;
-               *p = c & 0xff;
+           count = zfx->inbufsize - n;
+           nread = iobuf_read( a, zfx->inbuf + n, count );
+           if( nread == -1 ) nread = 0;
+           n += nread;
+           /* If we use the undocumented feature to suppress
+            * the zlib header, we have to give inflate an
+            * extra dummy byte to read */
+           if( nread < count && zfx->algo == 1 ) {
+               *(zfx->inbuf + n) = 0xFF; /* is it really needed ? */
+               zfx->algo1hack = 1;
+               n++;
            }
            zs->avail_in = n;
        }
+       refill = 1;
+       if( DBG_FILTER )
+           log_debug("enter inflate: avail_in=%u, avail_out=%u\n",
+                   (unsigned)zs->avail_in, (unsigned)zs->avail_out);
+      #ifdef Z_SYNC_FLUSH
+       zrc = inflate( zs, Z_SYNC_FLUSH );
+      #else
        zrc = inflate( zs, Z_PARTIAL_FLUSH );
+      #endif
        if( DBG_FILTER )
-           log_debug("inflate returned: avail_in=%u, avail_out=%u, zrc=%d\n",
+           log_debug("leave inflate: avail_in=%u, avail_out=%u, zrc=%d\n",
                   (unsigned)zs->avail_in, (unsigned)zs->avail_out, zrc);
        if( zrc == Z_STREAM_END )
-           rc = -1; /* eof FIXME: return remaining bytes until EOF */
-       else if( zrc != Z_OK ) {
+           rc = -1; /* eof */
+       else if( zrc != Z_OK && zrc != Z_BUF_ERROR ) {
            if( zs->msg )
                log_fatal("zlib inflate problem: %s\n", zs->msg );
            else
                log_fatal("zlib inflate problem: rc=%d\n", zrc );
        }
-    } while( zs->avail_out && zrc != Z_STREAM_END );
+    } while( zs->avail_out && zrc != Z_STREAM_END  && zrc != Z_BUF_ERROR );
     *ret_len = zfx->outbufsize - zs->avail_out;
     if( DBG_FILTER )
        log_debug("do_uncompress: returning %u bytes\n", (unsigned)*ret_len );
@@ -175,7 +196,7 @@ compress_filter( void *opaque, int control,
 
     if( control == IOBUFCTRL_UNDERFLOW ) {
        if( !zfx->status ) {
-           zs = zfx->opaque = m_alloc_clear( sizeof *zs );
+           zs = zfx->opaque = gcry_xcalloc( 1, sizeof *zs );
            init_uncompress( zfx, zs );
            zfx->status = 1;
        }
@@ -190,15 +211,17 @@ compress_filter( void *opaque, int control,
            PACKET pkt;
            PKT_compressed cd;
 
+           if( !zfx->algo )
+               zfx->algo = opt.def_compress_algo;
            memset( &cd, 0, sizeof cd );
            cd.len = 0;
-           cd.algorithm = 2; /* zlib */
+           cd.algorithm = zfx->algo;
            init_packet( &pkt );
            pkt.pkttype = PKT_COMPRESSED;
            pkt.pkt.compressed = &cd;
            if( build_packet( a, &pkt ))
                log_bug("build_packet(PKT_COMPRESSED) failed\n");
-           zs = zfx->opaque = m_alloc_clear( sizeof *zs );
+           zs = zfx->opaque = gcry_xcalloc( 1, sizeof *zs );
            init_compress( zfx, zs );
            zfx->status = 2;
        }
@@ -210,78 +233,53 @@ compress_filter( void *opaque, int control,
     else if( control == IOBUFCTRL_FREE ) {
        if( zfx->status == 1 ) {
            inflateEnd(zs);
-           m_free(zs);
+           gcry_free(zs);
            zfx->opaque = NULL;
-           m_free(zfx->outbuf); zfx->outbuf = NULL;
+           gcry_free(zfx->outbuf); zfx->outbuf = NULL;
        }
        else if( zfx->status == 2 ) {
            zs->next_in = buf;
            zs->avail_in = 0;
            do_compress( zfx, zs, Z_FINISH, a );
            deflateEnd(zs);
-           m_free(zs);
+           gcry_free(zs);
            zfx->opaque = NULL;
-           m_free(zfx->outbuf); zfx->outbuf = NULL;
+           gcry_free(zfx->outbuf); zfx->outbuf = NULL;
        }
     }
     else if( control == IOBUFCTRL_DESC )
        *(char**)buf = "compress_filter";
     return rc;
 }
-#else /* No ZLIB */
-int
-compress_filter( void *opaque, int control,
-                IOBUF a, byte *buf, size_t *ret_len)
-{
-    size_t size = *ret_len;
-    compress_filter_context_t *zfx = opaque;
-    int c, rc=0;
-    size_t n;
-
-    if( control == IOBUFCTRL_UNDERFLOW ) {
-       for( n=0; n < size; n++ ) {
-           if( (c=iobuf_get(a)) == -1 )
-               break;
-           buf[n] = c & 0xff;
-       }
-       if( !n )
-           rc = -1;
-       *ret_len = n;
-    }
-    else if( control == IOBUFCTRL_FLUSH ) {
-       if( iobuf_write( a, buf, size ) )
-           rc = G10ERR_WRITE_FILE;
-    }
-    else if( control == IOBUFCTRL_DESC )
-       *(char**)buf = "dummy compress_filter";
-    return rc;
-}
-#endif /*no ZLIB*/
 
 /****************
  * Handle a compressed packet
  */
 int
-handle_compressed( PKT_compressed *cd )
+handle_compressed( void *procctx, PKT_compressed *cd,
+                  int (*callback)(IOBUF, void *), void *passthru )
 {
     compress_filter_context_t cfx;
+    int rc;
 
     memset( &cfx, 0, sizeof cfx );
-    if( cd->algorithm == 1 )
-       cfx.pgpmode = 1;
-    else if( cd->algorithm != 2  )
+    if( cd->algorithm < 1 || cd->algorithm > 2 )
        return G10ERR_COMPR_ALGO;
+    cfx.algo = cd->algorithm;
 
     iobuf_push_filter( cd->buf, compress_filter, &cfx );
-    proc_packets(cd->buf);
-    iobuf_pop_filter( cd->buf, compress_filter, &cfx );
+    if( callback )
+       rc = callback(cd->buf, passthru );
+    else
+       rc = proc_packets(procctx, cd->buf);
   #if 0
+    iobuf_pop_filter( cd->buf, compress_filter, &cfx );
     if( cd->len )
        iobuf_set_limit( cd->buf, 0 ); /* disable the readlimit */
     else
        iobuf_clear_eof( cd->buf );
   #endif
     cd->buf = NULL;
-    return 0;
+    return rc;
 }