Epxerimenta support for GDBM keyings.
[gnupg.git] / util / iobuf.c
1 /* iobuf.c  -  file handling
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <errno.h>
26 #include <assert.h>
27 #include <sys/types.h>
28 #include <sys/stat.h>
29 #include <unistd.h>
30
31 #include "memory.h"
32 #include "util.h"
33 #include "iobuf.h"
34
35 typedef struct {
36     FILE *fp;      /* open file handle */
37     int  print_only_name; /* flags indicating that fname is not a real file*/
38     char fname[1]; /* name of the file */
39 } file_filter_ctx_t ;
40
41 /* The first partial length header block must be of size 512
42  * to make it easier (and efficienter) we use a min. block size of 512
43  * for all chznks (but the last one) */
44 #define OP_MIN_PARTIAL_CHUNK      512
45 #define OP_MIN_PARTIAL_CHUNK_2POW 9
46
47 typedef struct {
48     int usage;
49     size_t size;
50     size_t count;
51     int partial;  /* 1 = partial header, 2 in last partial packet */
52     char *buffer;    /* used for partial header */
53     size_t buflen;   /* used size of buffer */
54     int first_c;     /* of partial header (which is > 0)*/
55     int eof;
56 } block_filter_ctx_t;
57
58
59 static int underflow(IOBUF a);
60 static const char *get_real_fname( IOBUF a );
61
62 /****************
63  * Read data from a file into buf which has an allocated length of *LEN.
64  * return the number of read bytes in *LEN. OPAQUE is the FILE * of
65  * the stream. A is not used.
66  * control may be:
67  * IOBUFCTRL_INIT: called just before the function is linked into the
68  *                 list of function. This can be used to prepare internal
69  *                 data structures of the function.
70  * IOBUFCTRL_FREE: called just before the function is removed from the
71  *                  list of functions and can be used to release internal
72  *                  data structures or close a file etc.
73  * IOBUFCTRL_UNDERFLOW: called by iobuf_underflow to fill the buffer
74  *                  with new stuff. *RET_LEN is the available size of the
75  *                  buffer, and should be set to the number of bytes
76  *                  which were put into the buffer. The function
77  *                  returns 0 to indicate success, -1 on EOF and
78  *                  G10ERR_xxxxx for other errors.
79  *
80  * IOBUFCTRL_FLUSH: called by iobuf_flush() to write out the collected stuff.
81  *                  *RET_LAN is the number of bytes in BUF.
82  *
83  */
84 static int
85 file_filter(void *opaque, int control, IOBUF chain, byte *buf, size_t *ret_len)
86 {
87     file_filter_ctx_t *a = opaque;
88     FILE *fp = a->fp;
89     size_t size = *ret_len;
90     size_t nbytes = 0;
91     int c, rc = 0;
92     char *p;
93
94     if( control == IOBUFCTRL_UNDERFLOW ) {
95         assert( size ); /* need a buffer */
96         for(; size; size-- ) {
97             if( (c=getc(fp)) == EOF ) {
98                 if( ferror(fp) ) {
99                     log_error("%s: read error: %s\n",
100                                         a->fname, strerror(errno));
101                     rc = G10ERR_READ_FILE;
102                 }
103                 else if( !nbytes )
104                     rc = -1; /* okay: we can return EOF now. */
105                 break;
106             }
107             buf[nbytes++] = c & 0xff;
108         }
109         *ret_len = nbytes;
110     }
111     else if( control == IOBUFCTRL_FLUSH ) {
112         for(p=buf; nbytes < size; nbytes++, p++ ) {
113             if( putc(*p, fp) == EOF ) {
114                 log_error("%s: write error: %s\n",
115                                     a->fname, strerror(errno));
116                 rc = G10ERR_WRITE_FILE;
117                 break;
118             }
119         }
120         *ret_len = nbytes;
121     }
122     else if( control == IOBUFCTRL_INIT ) {
123     }
124     else if( control == IOBUFCTRL_DESC ) {
125         *(char**)buf = "file_filter";
126     }
127     else if( control == IOBUFCTRL_FREE ) {
128         if( fp != stdin && fp != stdout )
129             fclose(fp);
130         fp = NULL;
131         m_free(a); /* we can free our context now */
132     }
133
134     return rc;
135 }
136
137
138 /****************
139  * This is used to implement the block write mode.
140  * Block reading is done on a byte by byte basis in readbyte(),
141  * without a filter
142  */
143 static int
144 block_filter(void *opaque, int control, IOBUF chain, byte *buf, size_t *ret_len)
145 {
146     block_filter_ctx_t *a = opaque;
147     size_t size = *ret_len;
148     int c, rc = 0;
149     char *p;
150
151     if( control == IOBUFCTRL_UNDERFLOW ) {
152         size_t n=0;
153
154         p = buf;
155         assert( size ); /* need a buffer */
156         if( a->eof ) /* don't read any further */
157             rc = -1;
158         while( !rc && size ) {
159             if( !a->size ) { /* get the length bytes */
160                 if( a->partial == 2 ) {
161                     a->eof = 1;
162                     if( !n )
163                         rc = -1;
164                     break;
165                 }
166                 else if( a->partial ) {
167                     /* These OpenPGP introduced huffman encoded length
168                      * bytes are really a mess :-( */
169                     if( a->first_c ) {
170                         c = a->first_c;
171                         a->first_c = 0;
172                         assert( c >= 224 && c < 255 );
173                     }
174                     else if( (c = iobuf_get(chain)) == -1 ) {
175                         log_error("block_filter: 1st length byte missing\n");
176                         rc = G10ERR_READ_FILE;
177                         break;
178                     }
179                     if( c < 192 ) {
180                         a->size = c;
181                         a->partial = 2;
182                         if( !a->size ) {
183                             a->eof = 1;
184                             if( !n )
185                                 rc = -1;
186                             break;
187                         }
188                     }
189                     else if( c < 224 ) {
190                         a->size = (c - 192) * 256;
191                         if( (c = iobuf_get(chain)) == -1 ) {
192                             log_error("block_filter: 2nd length byte missing\n");
193                             rc = G10ERR_READ_FILE;
194                             break;
195                         }
196                         a->size += c + 192;
197                         a->partial = 2;
198                         if( !a->size ) {
199                             a->eof = 1;
200                             if( !n )
201                                 rc = -1;
202                             break;
203                         }
204                     }
205                     else if( c == 255 ) {
206                         a->size  = iobuf_get(chain) << 24;
207                         a->size |= iobuf_get(chain) << 16;
208                         a->size |= iobuf_get(chain) << 8;
209                         if( (c = iobuf_get(chain)) == -1 ) {
210                             log_error("block_filter: invalid 4 byte length\n");
211                             rc = G10ERR_READ_FILE;
212                             break;
213                         }
214                         a->size |= c;
215                     }
216                     else { /* next partial body length */
217                         a->size = 1 << (c & 0x1f);
218                     }
219                 }
220                 else { /* the gnupg partial length scheme - much better :-) */
221                     c = iobuf_get(chain);
222                     a->size = c << 8;
223                     c = iobuf_get(chain);
224                     a->size |= c;
225                     if( c == -1 ) {
226                         log_error("block_filter: error reading length info\n");
227                         rc = G10ERR_READ_FILE;
228                     }
229                     if( !a->size ) {
230                         a->eof = 1;
231                         if( !n )
232                             rc = -1;
233                         break;
234                     }
235                 }
236             }
237
238             for(; !rc && size && a->size; size--, a->size-- ) {
239                 if( (c=iobuf_get(chain)) == -1 ) {
240                     log_error("block_filter %p: read error (size=%lu,a->size=%lu)\n",
241                                 a,  (ulong)size, (ulong)a->size);
242                     rc = G10ERR_READ_FILE;
243                 }
244                 else {
245                     *p++ = c;
246                     n++;
247                 }
248             }
249         }
250         *ret_len = n;
251     }
252     else if( control == IOBUFCTRL_FLUSH ) {
253         if( a->partial ) { /* the complicated openpgp scheme */
254             size_t blen, n, nbytes = size + a->buflen;
255
256             assert( a->buflen <= OP_MIN_PARTIAL_CHUNK );
257             if( nbytes < OP_MIN_PARTIAL_CHUNK ) {
258                 /* not enough to write a partial block out , so we store it*/
259                 if( !a->buffer )
260                     a->buffer = m_alloc( OP_MIN_PARTIAL_CHUNK );
261                 memcpy( a->buffer + a->buflen, buf, size );
262                 a->buflen += size;
263             }
264             else { /* okay, we can write out something */
265                 /* do this in a loop to use the most efficient block lengths */
266                 p = buf;
267                 do {
268                     /* find the best matching block length - this is limited
269                      * by the size of the internal buffering */
270                     for( blen=OP_MIN_PARTIAL_CHUNK*2,
271                             c=OP_MIN_PARTIAL_CHUNK_2POW+1; blen < nbytes;
272                                                             blen *=2, c++ )
273                         ;
274                     blen /= 2; c--;
275                     /* write the partial length header */
276                     assert( c <= 0x1f ); /*;-)*/
277                     c |= 0xe0;
278                     iobuf_put( chain, c );
279                     if( (n=a->buflen) ) { /* write stuff from the buffer */
280                         assert( n == OP_MIN_PARTIAL_CHUNK);
281                         if( iobuf_write(chain, a->buffer, n ) )
282                             rc = G10ERR_WRITE_FILE;
283                         a->buflen = 0;
284                         nbytes -= n;
285                     }
286                     if( (n = nbytes) > blen )
287                         n = blen;
288                     if( n && iobuf_write(chain, p, n ) )
289                         rc = G10ERR_WRITE_FILE;
290                     p += n;
291                     nbytes -= n;
292                 } while( !rc && nbytes >= OP_MIN_PARTIAL_CHUNK );
293                 /* store the rest in the buffer */
294                 if( !rc && nbytes ) {
295                     assert( !a->buflen );
296                     assert( nbytes < OP_MIN_PARTIAL_CHUNK );
297                     if( !a->buffer )
298                         a->buffer = m_alloc( OP_MIN_PARTIAL_CHUNK );
299                     memcpy( a->buffer, p, nbytes );
300                     a->buflen = nbytes;
301                 }
302             }
303         }
304         else { /* the gnupg scheme */
305             size_t avail, n;
306
307             for(p=buf; !rc && size; ) {
308                 n = size;
309                 avail = a->size - a->count;
310                 if( !avail ) {
311                     if( n > a->size ) {
312                         iobuf_put( chain, (a->size >> 8) & 0xff );
313                         iobuf_put( chain, a->size & 0xff );
314                         avail = a->size;
315                         a->count = 0;
316                     }
317                     else {
318                         iobuf_put( chain, (n >> 8) & 0xff );
319                         iobuf_put( chain, n & 0xff );
320                         avail = n;
321                         a->count = a->size - n;
322                     }
323                 }
324                 if( n > avail )
325                     n = avail;
326                 if( iobuf_write(chain, p, n ) )
327                     rc = G10ERR_WRITE_FILE;
328                 a->count += n;
329                 p += n;
330                 size -= n;
331             }
332         }
333     }
334     else if( control == IOBUFCTRL_INIT ) {
335         if( DBG_IOBUF )
336             log_debug("init block_filter %p\n", a );
337         if( a->partial )
338             a->count = 0;
339         else if( a->usage == 1 )
340             a->count = a->size = 0;
341         else
342             a->count = a->size; /* force first length bytes */
343         a->eof = 0;
344         a->buffer = NULL;
345         a->buflen = 0;
346     }
347     else if( control == IOBUFCTRL_DESC ) {
348         *(char**)buf = "block_filter";
349     }
350     else if( control == IOBUFCTRL_FREE ) {
351         if( a->usage == 2 ) { /* write the end markers */
352             if( a->partial ) {
353                 u32 len;
354                 /* write out the remaining bytes without a partial header
355                  * the length of this header may be 0 - but if it is
356                  * the first block we are not allowed to use a partial header
357                  * and frankly we can't do so, because this length must be
358                  * a power of 2. This is _really_ complicated because we
359                  * have to check the possible length of a packet prior
360                  * to it's creation: a chein of filters becomes complicated
361                  * and we need a lot of code to handle compressed packets etc.
362                  *   :-(((((((
363                  */
364                 /* construct header */
365                 len = a->buflen;
366                 if( len < 192 )
367                     rc = iobuf_put(chain, len );
368                 else if( len < 8384 ) {
369                     if( !(rc=iobuf_put( chain, ((len-192) / 256) + 192)) )
370                         rc = iobuf_put( chain, ((len-192) % 256));
371                 }
372                 else { /* use a 4 byte header */
373                     if( !(rc=iobuf_put( chain, 0xff )) )
374                         if( !(rc=iobuf_put( chain, (len >> 24)&0xff )) )
375                             if( !(rc=iobuf_put( chain, (len >> 16)&0xff )) )
376                                 if( !(rc=iobuf_put( chain, (len >> 8)&0xff )))
377                                     rc=iobuf_put( chain, len & 0xff );
378                 }
379                 if( !rc && len )
380                     rc = iobuf_write(chain, a->buffer, len );
381                 if( rc ) {
382                     log_error("block_filter: write error: %s\n",strerror(errno));
383                     rc = G10ERR_WRITE_FILE;
384                 }
385                 m_free( a->buffer ); a->buffer = NULL; a->buflen = 0;
386             }
387             else {
388                 iobuf_writebyte(chain, 0);
389                 iobuf_writebyte(chain, 0);
390             }
391         }
392         else if( a->size ) {
393             log_error("block_filter: pending bytes!\n");
394         }
395         if( DBG_IOBUF )
396             log_debug("free block_filter %p\n", a );
397         m_free(a); /* we can free our context now */
398     }
399
400     return rc;
401 }
402
403
404
405 /****************
406  * Allocate a new io buffer, with no function assigned.
407  * Usage is the desired usage: 1 for input, 2 for output, 3 for temp buffer
408  * BUFSIZE is a suggested buffer size.
409  */
410 IOBUF
411 iobuf_alloc(int usage, size_t bufsize)
412 {
413     IOBUF a;
414     static int number=0;
415
416     a = m_alloc_clear(sizeof *a);
417     a->usage = usage;
418     a->d.buf = m_alloc( bufsize );
419     a->d.size = bufsize;
420     a->no = ++number;
421     a->subno = 0;
422     a->opaque = NULL;
423     return a;
424 }
425
426
427 int
428 iobuf_close( IOBUF a )
429 {
430     IOBUF a2;
431     size_t dummy_len;
432     int rc=0;
433
434     if( a && a->directfp ) {
435         fclose( a->directfp );
436         if( DBG_IOBUF )
437             log_debug("iobuf-close -> %p\n", a->directfp );
438         return 0;
439     }
440
441     for( ; a && !rc ; a = a2 ) {
442         a2 = a->chain;
443         if( a->usage == 2 && (rc=iobuf_flush(a)) )
444             log_error("iobuf_flush failed on close: %s\n", g10_errstr(rc));
445
446         if( DBG_IOBUF )
447             log_debug("iobuf-%d.%d: close '%s'\n", a->no, a->subno, a->desc );
448         if( a->filter && (rc = a->filter(a->filter_ov, IOBUFCTRL_FREE,
449                                          a->chain, NULL, &dummy_len)) )
450             log_error("IOBUFCTRL_FREE failed on close: %s\n", g10_errstr(rc) );
451         m_free(a->d.buf);
452         m_free(a);
453     }
454     return rc;
455 }
456
457 int
458 iobuf_cancel( IOBUF a )
459 {
460     const char *s;
461
462     if( a && a->usage == 2 ) {
463         s = get_real_fname(a);
464         if( s && *s )
465             remove(s);  /* remove the file. Fixme: this will fail for MSDOZE*/
466     }                   /* because the file is still open */
467     return iobuf_close(a);
468 }
469
470
471 /****************
472  * create a temporary iobuf, which can be used to collect stuff
473  * in an iobuf and later be written by iobuf_write_temp() to another
474  * iobuf.
475  */
476 IOBUF
477 iobuf_temp()
478 {
479     IOBUF a;
480
481     a = iobuf_alloc(3, 8192 );
482
483     return a;
484 }
485
486 IOBUF
487 iobuf_temp_with_content( const char *buffer, size_t length )
488 {
489     IOBUF a;
490
491     a = iobuf_alloc(3, length );
492     memcpy( a->d.buf, buffer, length );
493     a->d.len = length;
494
495     return a;
496 }
497
498
499 /****************
500  * Create a head iobuf for reading from a file
501  * returns: NULL if an error occures and sets errno
502  */
503 IOBUF
504 iobuf_open( const char *fname )
505 {
506     IOBUF a;
507     FILE *fp;
508     file_filter_ctx_t *fcx;
509     size_t len;
510     int print_only = 0;
511
512     if( !fname || (*fname=='-' && !fname[1])  ) {
513         fp = stdin; /* fixme: set binary mode for msdoze */
514         fname = "[stdin]";
515         print_only = 1;
516     }
517     else if( !(fp = fopen(fname, "rb")) )
518         return NULL;
519     a = iobuf_alloc(1, 8192 );
520     fcx = m_alloc( sizeof *fcx + strlen(fname) );
521     fcx->fp = fp;
522     fcx->print_only_name = print_only;
523     strcpy(fcx->fname, fname );
524     a->filter = file_filter;
525     a->filter_ov = fcx;
526     file_filter( fcx, IOBUFCTRL_DESC, NULL, (byte*)&a->desc, &len );
527     file_filter( fcx, IOBUFCTRL_INIT, NULL, NULL, &len );
528     if( DBG_IOBUF )
529         log_debug("iobuf-%d.%d: open '%s'\n", a->no, a->subno, fname );
530
531     return a;
532 }
533
534 /****************
535  * create an iobuf for writing to a file; the file will be created.
536  */
537 IOBUF
538 iobuf_create( const char *fname )
539 {
540     IOBUF a;
541     FILE *fp;
542     file_filter_ctx_t *fcx;
543     size_t len;
544     int print_only = 0;
545
546     if( !fname || (*fname=='-' && !fname[1]) ) {
547         fp = stdout;
548         fname = "[stdout]";
549         print_only = 1;
550     }
551     else if( !(fp = fopen(fname, "wb")) )
552         return NULL;
553     a = iobuf_alloc(2, 8192 );
554     fcx = m_alloc( sizeof *fcx + strlen(fname) );
555     fcx->fp = fp;
556     fcx->print_only_name = print_only;
557     strcpy(fcx->fname, fname );
558     a->filter = file_filter;
559     a->filter_ov = fcx;
560     file_filter( fcx, IOBUFCTRL_DESC, NULL, (byte*)&a->desc, &len );
561     file_filter( fcx, IOBUFCTRL_INIT, NULL, NULL, &len );
562     if( DBG_IOBUF )
563         log_debug("iobuf-%d.%d: create '%s'\n", a->no, a->subno, a->desc );
564
565     return a;
566 }
567
568 /****************
569  * append to an iobuf; if the file does not exist, create it.
570  * cannot be used for stdout.
571  */
572 IOBUF
573 iobuf_append( const char *fname )
574 {
575     IOBUF a;
576     FILE *fp;
577     file_filter_ctx_t *fcx;
578     size_t len;
579
580     if( !fname )
581         return NULL;
582     else if( !(fp = fopen(fname, "ab")) )
583         return NULL;
584     a = iobuf_alloc(2, 8192 );
585     fcx = m_alloc( sizeof *fcx + strlen(fname) );
586     fcx->fp = fp;
587     strcpy(fcx->fname, fname );
588     a->filter = file_filter;
589     a->filter_ov = fcx;
590     file_filter( fcx, IOBUFCTRL_DESC, NULL, (byte*)&a->desc, &len );
591     file_filter( fcx, IOBUFCTRL_INIT, NULL, NULL, &len );
592     if( DBG_IOBUF )
593         log_debug("iobuf-%d.%d: append '%s'\n", a->no, a->subno, a->desc );
594
595     return a;
596 }
597
598 IOBUF
599 iobuf_openrw( const char *fname )
600 {
601     IOBUF a;
602     FILE *fp;
603     file_filter_ctx_t *fcx;
604     size_t len;
605
606     if( !fname )
607         return NULL;
608     else if( !(fp = fopen(fname, "r+b")) )
609         return NULL;
610     a = iobuf_alloc(2, 8192 );
611     fcx = m_alloc( sizeof *fcx + strlen(fname) );
612     fcx->fp = fp;
613     strcpy(fcx->fname, fname );
614     a->filter = file_filter;
615     a->filter_ov = fcx;
616     file_filter( fcx, IOBUFCTRL_DESC, NULL, (byte*)&a->desc, &len );
617     file_filter( fcx, IOBUFCTRL_INIT, NULL, NULL, &len );
618     if( DBG_IOBUF )
619         log_debug("iobuf-%d.%d: openrw '%s'\n", a->no, a->subno, a->desc );
620
621     return a;
622 }
623
624
625
626 /****************
627  * You can overwrite the normal iobuf behaviour by using this function.
628  * If used, the crwated iobuf is a simple wrapper around stdio.
629  * NULL if an error occures and sets errno
630  */
631 IOBUF
632 iobuf_fopen( const char *fname, const char *mode )
633 {
634     IOBUF a;
635     FILE *fp;
636     int print_only = 0;
637
638     if( !fname || (*fname=='-' && !fname[1])  ) {
639         fp = stdin; /* fixme: set binary mode for msdoze */
640         fname = "[stdin]";
641         print_only = 1;
642     }
643     else if( !(fp = fopen(fname, mode) ) )
644         return NULL;
645     a = iobuf_alloc(1, 8192 );
646     a->directfp = fp;
647
648     if( DBG_IOBUF )
649         log_debug("iobuf_fopen -> %p\n", a->directfp );
650
651     return a;
652 }
653
654
655
656
657 /****************
658  * Register an i/o filter.
659  */
660 int
661 iobuf_push_filter( IOBUF a,
662                    int (*f)(void *opaque, int control,
663                    IOBUF chain, byte *buf, size_t *len), void *ov )
664 {
665     IOBUF b;
666     size_t dummy_len=0;
667     int rc=0;
668
669     if( a->directfp )
670         BUG();
671
672     if( a->usage == 2 && (rc=iobuf_flush(a)) )
673         return rc;
674     /* make a copy of the current stream, so that
675      * A is the new stream and B the original one.
676      * The contents of the buffers are transferred to the
677      * new stream.
678      */
679     b = m_alloc(sizeof *b);
680     memcpy(b, a, sizeof *b );
681     /* remove the filter stuff from the new stream */
682     a->filter = NULL;
683     a->filter_ov = NULL;
684     a->filter_eof = 0;
685     if( a->usage == 2 ) { /* allocate a fresh buffer for the original stream */
686         b->d.buf = m_alloc( a->d.size );
687         b->d.len = 0;
688         b->d.start = 0;
689     }
690     else { /* allocate a fresh buffer for the new stream */
691         a->d.buf = m_alloc( a->d.size );
692         a->d.len = 0;
693         a->d.start = 0;
694     }
695     /* disable nlimit for the new stream */
696     a->ntotal = b->ntotal + b->nbytes;
697     a->nlimit = a->nbytes = 0;
698     a->nofast &= ~1;
699     /* make a link from the new stream to the original stream */
700     a->chain = b;
701     a->opaque = b->opaque;
702
703     /* setup the function on the new stream */
704     a->filter = f;
705     a->filter_ov = ov;
706
707     a->subno = b->subno + 1;
708     f( ov, IOBUFCTRL_DESC, NULL, (byte*)&a->desc, &dummy_len );
709
710     if( DBG_IOBUF ) {
711         log_debug("iobuf-%d.%d: push '%s'\n", a->no, a->subno, a->desc );
712         for(b=a; b; b = b->chain )
713             log_debug("\tchain: %d.%d '%s'\n", b->no, b->subno, b->desc );
714     }
715
716     /* now we can initialize the new function if we have one */
717     if( a->filter && (rc = a->filter(a->filter_ov, IOBUFCTRL_INIT, a->chain,
718                        NULL, &dummy_len)) )
719         log_error("IOBUFCTRL_INIT failed: %s\n", g10_errstr(rc) );
720     return rc;
721 }
722
723 /****************
724  * Remove an i/o filter.
725  */
726 int
727 iobuf_pop_filter( IOBUF a, int (*f)(void *opaque, int control,
728                       IOBUF chain, byte *buf, size_t *len), void *ov )
729 {
730     IOBUF b;
731     size_t dummy_len=0;
732     int rc=0;
733
734     if( a->directfp )
735         BUG();
736
737     if( DBG_IOBUF )
738         log_debug("iobuf-%d.%d: pop '%s'\n", a->no, a->subno, a->desc );
739     if( !a->filter ) { /* this is simple */
740         b = a->chain;
741         assert(b);
742         m_free(a->d.buf);
743         memcpy(a,b, sizeof *a);
744         m_free(b);
745         return 0;
746     }
747     for(b=a ; b; b = b->chain )
748         if( b->filter == f && (!ov || b->filter_ov == ov) )
749             break;
750     if( !b )
751         log_bug("iobuf_pop_filter(): filter function not found\n");
752
753     /* flush this stream if it is an output stream */
754     if( a->usage == 2 && (rc=iobuf_flush(b)) ) {
755         log_error("iobuf_flush failed in pop_filter: %s\n", g10_errstr(rc));
756         return rc;
757     }
758     /* and tell the filter to free it self */
759     if( (rc = b->filter(b->filter_ov, IOBUFCTRL_FREE, b->chain,
760                        NULL, &dummy_len)) ) {
761         log_error("IOBUFCTRL_FREE failed: %s\n", g10_errstr(rc) );
762         return rc;
763     }
764
765     /* and see how to remove it */
766     if( a == b && !b->chain )
767         log_bug("can't remove the last filter from the chain\n");
768     else if( a == b ) { /* remove the first iobuf from the chain */
769         /* everything from b is copied to a. This is save because
770          * a flush has been done on the to be removed entry
771          */
772         b = a->chain;
773         m_free(a->d.buf);
774         memcpy(a,b, sizeof *a);
775         m_free(b);
776         if( DBG_IOBUF )
777            log_debug("iobuf-%d.%d: popped filter\n", a->no, a->subno );
778     }
779     else if( !b->chain ) { /* remove the last iobuf from the chain */
780         log_bug("Ohh jeee, trying to remove a head filter\n");
781     }
782     else {  /* remove an intermediate iobuf from the chain */
783         log_bug("Ohh jeee, trying to remove an intermediate filter\n");
784     }
785
786     return rc;
787 }
788
789
790
791 /****************
792  * read underflow: read more bytes into the buffer and return
793  * the first byte or -1 on EOF.
794  */
795 static int
796 underflow(IOBUF a)
797 {
798     size_t len;
799     int rc;
800
801   /*log_debug("iobuf-%d.%d: underflow: start=%lu len=%lu\n",
802                 a->no, a->subno, (ulong)a->d.start, (ulong)a->d.len );*/
803     assert( a->d.start == a->d.len );
804     if( a->usage == 3 )
805         return -1; /* EOF because a temp buffer can't do an underflow */
806
807     if( a->filter_eof ) {
808         if( DBG_IOBUF )
809             log_debug("iobuf-%d.%d: filter eof\n", a->no, a->subno );
810         return -1;
811     }
812     if( a->error ) {
813         if( DBG_IOBUF )
814             log_debug("iobuf-%d.%d: error\n", a->no, a->subno );
815         return -1;
816     }
817
818     if( a->directfp ) {
819         FILE *fp = a->directfp;
820
821         len = fread( a->d.buf, 1, a->d.size, fp);
822         if( len < a->d.size ) {
823             if( ferror(fp) )
824                 a->error = 1;
825             else if( feof( fp ) )
826                 a->filter_eof = 1;
827         }
828         a->d.len = len;
829         a->d.start = 0;
830         return len? a->d.buf[a->d.start++] : -1;
831     }
832
833
834     if( a->filter ) {
835         len = a->d.size;
836         rc = a->filter( a->filter_ov, IOBUFCTRL_UNDERFLOW, a->chain,
837                         a->d.buf, &len );
838         if( a->usage == 1 && rc == -1 ) { /* EOF: we can remove the filter */
839             size_t dummy_len;
840
841             /* and tell the filter to free it self */
842             if( a->filter != file_filter ) {
843                 if( (rc = a->filter(a->filter_ov, IOBUFCTRL_FREE, a->chain,
844                                    NULL, &dummy_len)) )
845                     log_error("IOBUFCTRL_FREE failed: %s\n", g10_errstr(rc) );
846                 a->filter = NULL;
847                 a->desc = NULL;
848                 a->filter_ov = NULL;
849             }
850             a->filter_eof = 1;
851         }
852         else if( rc )
853             a->error = 1;
854
855         if( !len )
856             return -1;
857         a->d.len = len;
858         a->d.start = 0;
859         return a->d.buf[a->d.start++];
860     }
861     else
862         return -1;  /* no filter; return EOF */
863 }
864
865
866 void
867 iobuf_clear_eof(IOBUF a)
868 {
869     if( a->directfp )
870         return;
871
872     assert(a->usage == 1);
873
874     if( a->filter )
875         log_info("iobuf-%d.%d: clear_eof '%s' with enabled filter\n", a->no, a->subno, a->desc );
876     if( !a->filter_eof )
877         log_info("iobuf-%d.%d: clear_eof '%s' with no EOF pending\n", a->no, a->subno, a->desc );
878     iobuf_pop_filter(a, NULL, NULL);
879 }
880
881
882 int
883 iobuf_flush(IOBUF a)
884 {
885     size_t len;
886     int rc;
887
888     if( a->directfp )
889         return 0;
890
891     /*log_debug("iobuf-%d.%d: flush\n", a->no, a->subno );*/
892     if( a->usage == 3 ) { /* must increase the size of the temp buffer */
893         char *newbuf;
894         size_t newsize = a->d.size + 8192;
895
896         log_debug("increasing temp iobuf from %lu to %lu\n",
897                     (ulong)a->d.size, (ulong)newsize );
898         newbuf = m_alloc( newsize );
899         memcpy( newbuf, a->d.buf, a->d.len );
900         m_free(a->d.buf);
901         a->d.buf = newbuf;
902         a->d.size = newsize;
903         return 0;
904     }
905     else if( a->usage != 2 )
906         log_bug("flush on non-output iobuf\n");
907     else if( !a->filter )
908         log_bug("iobuf_flush: no filter\n");
909     len = a->d.len;
910     rc = a->filter( a->filter_ov, IOBUFCTRL_FLUSH, a->chain, a->d.buf, &len );
911     if( !rc && len != a->d.len ) {
912         log_info("iobuf_flush did not write all!\n");
913         rc = G10ERR_WRITE_FILE;
914     }
915     else if( rc )
916         a->error = 1;
917     a->d.len = 0;
918
919     return rc;
920 }
921
922
923 /****************
924  * Read a byte from the iobuf; returns -1 on EOF
925  */
926 int
927 iobuf_readbyte(IOBUF a)
928 {
929     int c;
930
931     /* nlimit does not work together with unget */
932     /* nbytes is also not valid! */
933     if( a->unget.buf ) {
934         if( a->unget.start < a->unget.len )
935             return a->unget.buf[a->unget.start++];
936         m_free(a->unget.buf);
937         a->unget.buf = NULL;
938         a->nofast &= ~2;
939     }
940
941     if( a->nlimit && a->nbytes >= a->nlimit )
942         return -1; /* forced EOF */
943
944     if( a->d.start < a->d.len ) {
945         c = a->d.buf[a->d.start++];
946     }
947     else if( (c=underflow(a)) == -1 )
948         return -1; /* EOF */
949
950     a->nbytes++;
951     return c;
952 }
953
954
955 int
956 iobuf_read(IOBUF a, byte *buf, unsigned buflen )
957 {
958     int c, n;
959
960     if( a->unget.buf || a->nlimit ) {
961         /* handle special cases */
962         for(n=0 ; n < buflen; n++, buf++ ) {
963             if( (c = iobuf_readbyte(a)) == -1 ) {
964                 if( !n )
965                     return -1; /* eof */
966                 break;
967             }
968             else
969                 *buf = c;
970         }
971         return n;
972     }
973
974     n = 0;
975     do {
976         for( ; n < buflen && a->d.start < a->d.len; n++ )
977             *buf++ = a->d.buf[a->d.start++];
978         if( n < buflen ) {
979             if( (c=underflow(a)) == -1 ) {
980                 a->nbytes += n;
981                 return n? n : -1/*EOF*/;
982             }
983             *buf++ = c; n++;
984         }
985     } while( n < buflen );
986     a->nbytes += n;
987     return n;
988 }
989
990
991 /****************
992  * Have a look at the iobuf.
993  * NOTE: This only works in special cases.
994  */
995 int
996 iobuf_peek(IOBUF a, byte *buf, unsigned buflen )
997 {
998     int n=0;
999
1000     if( a->filter_eof )
1001         return -1;
1002     if( !(a->d.start < a->d.len) ) {
1003         if( underflow(a) == -1 )
1004             return -1;
1005         /* and unget this character */
1006         assert(a->d.start == 1);
1007         a->d.start = 0;
1008     }
1009
1010     for(n=0 ; n < buflen && (a->d.start+n) < a->d.len ; n++, buf++ )
1011         *buf = a->d.buf[n];
1012     return n;
1013 }
1014
1015
1016
1017
1018 int
1019 iobuf_writebyte(IOBUF a, unsigned c)
1020 {
1021
1022     if( a->directfp )
1023         BUG();
1024
1025     if( a->d.len == a->d.size )
1026         if( iobuf_flush(a) )
1027             return -1;
1028
1029     assert( a->d.len < a->d.size );
1030     a->d.buf[a->d.len++] = c;
1031     return 0;
1032 }
1033
1034
1035 int
1036 iobuf_write(IOBUF a, byte *buf, unsigned buflen )
1037 {
1038
1039     if( a->directfp )
1040         BUG();
1041
1042     do {
1043         for( ; buflen && a->d.len < a->d.size; buflen--, buf++ )
1044             a->d.buf[a->d.len++] = *buf;
1045         if( buflen ) {
1046             if( iobuf_flush(a) )
1047                 return -1;
1048         }
1049     } while( buflen );
1050     return 0;
1051 }
1052
1053
1054 int
1055 iobuf_writestr(IOBUF a, const char *buf )
1056 {
1057     for( ; *buf; buf++ )
1058         if( iobuf_writebyte(a, *buf) )
1059             return -1;
1060     return 0;
1061 }
1062
1063
1064
1065 /****************
1066  * copy the contents of TEMP to A.
1067  */
1068 int
1069 iobuf_write_temp( IOBUF a, IOBUF temp )
1070 {
1071     return iobuf_write(a, temp->d.buf, temp->d.len );
1072 }
1073
1074 /****************
1075  * copy the contents of the temp io stream to BUFFER.
1076  */
1077 size_t
1078 iobuf_temp_to_buffer( IOBUF a, byte *buffer, size_t buflen )
1079 {
1080     size_t n = a->d.len;
1081
1082     if( n > buflen )
1083         n = buflen;
1084     memcpy( buffer, a->d.buf, n );
1085     return n;
1086 }
1087
1088 /****************
1089  * unget the contents of the temp io stream to A and close temp
1090  * Could be optimized!!
1091  */
1092 void
1093 iobuf_unget_and_close_temp( IOBUF a, IOBUF temp )
1094 {
1095     if( a->unget.buf ) {
1096         if( a->unget.start < a->unget.len )
1097             log_fatal("cannot do any more ungets on this buffer\n");
1098         /* not yet cleaned up; do it now */
1099         m_free(a->unget.buf);
1100         a->unget.buf = NULL;
1101         a->nofast &= ~2;
1102     }
1103     a->unget.size = temp->d.len;
1104     a->unget.buf = m_alloc( a->unget.size );
1105     a->nofast |= 2;
1106     a->unget.len = temp->d.len;
1107     memcpy( a->unget.buf, temp->d.buf, a->unget.len );
1108     iobuf_close(temp);
1109 }
1110
1111
1112 /****************
1113  * Set a limit on how many bytes may be read from the input stream A.
1114  * Setting the limit to 0 disables this feature.
1115  */
1116 void
1117 iobuf_set_limit( IOBUF a, unsigned long nlimit )
1118 {
1119     if( nlimit )
1120         a->nofast |= 1;
1121     else
1122         a->nofast &= ~1;
1123     a->nlimit = nlimit;
1124     a->ntotal += a->nbytes;
1125     a->nbytes = 0;
1126 }
1127
1128
1129
1130 /****************
1131  * Return the length of an open file
1132  */
1133 u32
1134 iobuf_get_filelength( IOBUF a )
1135 {
1136     struct stat st;
1137
1138     if( a->directfp )  {
1139         FILE *fp = a->directfp;
1140
1141         if( !fstat(fileno(fp), &st) )
1142             return st.st_size;
1143         log_error("fstat() failed: %s\n", strerror(errno) );
1144         return 0;
1145     }
1146
1147     for( ; a; a = a->chain )
1148         if( !a->chain && a->filter == file_filter ) {
1149             file_filter_ctx_t *b = a->filter_ov;
1150             FILE *fp = b->fp;
1151
1152             if( !fstat(fileno(fp), &st) )
1153                 return st.st_size;
1154             log_error("fstat() failed: %s\n", strerror(errno) );
1155             break;
1156         }
1157
1158     return 0;
1159 }
1160
1161 /****************
1162  * Tell the file position, where the next read will take place
1163  */
1164 ulong
1165 iobuf_tell( IOBUF a )
1166 {
1167     return a->ntotal + a->nbytes;
1168 }
1169
1170
1171
1172 /****************
1173  * This is a very limited implementation. It simply discards all internal
1174  * buffering and removes all filters but the first one.
1175  */
1176 int
1177 iobuf_seek( IOBUF a, ulong newpos )
1178 {
1179     file_filter_ctx_t *b = NULL;
1180
1181     if( a->directfp ) {
1182         FILE *fp = a->directfp;
1183         if( fseek( fp, newpos, SEEK_SET ) ) {
1184             log_error("can't seek to %lu: %s\n", newpos, strerror(errno) );
1185             return -1;
1186         }
1187         clearerr(fp);
1188     }
1189     else {
1190         for( ; a; a = a->chain ) {
1191             if( !a->chain && a->filter == file_filter ) {
1192                 b = a->filter_ov;
1193                 break;
1194             }
1195         }
1196         if( !a )
1197             return -1;
1198         if( fseek( b->fp, newpos, SEEK_SET ) ) {
1199             log_error("can't seek to %lu: %s\n", newpos, strerror(errno) );
1200             return -1;
1201         }
1202     }
1203     a->d.len = 0;   /* discard buffer */
1204     a->d.start = 0;
1205     a->nbytes = 0;
1206     a->nlimit = 0;
1207     a->nofast &= ~1;
1208     a->ntotal = newpos;
1209     a->error = 0;
1210     /* remove filters, but the last */
1211     while( a->chain )
1212         iobuf_pop_filter( a, a->filter, NULL );
1213
1214     return 0;
1215 }
1216
1217
1218
1219
1220
1221
1222 /****************
1223  * Retrieve the real filename
1224  */
1225 static const char *
1226 get_real_fname( IOBUF a )
1227 {
1228     for( ; a; a = a->chain )
1229         if( !a->chain && a->filter == file_filter ) {
1230             file_filter_ctx_t *b = a->filter_ov;
1231             return b->print_only_name? NULL : b->fname;
1232         }
1233
1234     return NULL;
1235 }
1236
1237 /****************
1238  * Retrieve the filename
1239  */
1240 const char *
1241 iobuf_get_fname( IOBUF a )
1242 {
1243     for( ; a; a = a->chain )
1244         if( !a->chain && a->filter == file_filter ) {
1245             file_filter_ctx_t *b = a->filter_ov;
1246             return b->fname;
1247         }
1248
1249     return NULL;
1250 }
1251
1252 /****************
1253  * Start the block write mode, see rfc1991.new for details.
1254  * A value of 0 for N stops this mode (flushes and writes
1255  * the end marker)
1256  */
1257 void
1258 iobuf_set_block_mode( IOBUF a, size_t n )
1259 {
1260     block_filter_ctx_t *ctx = m_alloc_clear( sizeof *ctx );
1261
1262     assert( a->usage == 1 || a->usage == 2 );
1263     ctx->usage = a->usage;
1264     if( !n ) {
1265         iobuf_pop_filter(a, block_filter, NULL );
1266     }
1267     else {
1268         ctx->size = n; /* only needed for usage 2 */
1269         iobuf_push_filter(a, block_filter, ctx );
1270     }
1271 }
1272
1273 /****************
1274  * enable partial block mode as described in the OpenPGP draft.
1275  * LEN is the first length byte on read, but ignored on writes.
1276  */
1277 void
1278 iobuf_set_partial_block_mode( IOBUF a, size_t len )
1279 {
1280     block_filter_ctx_t *ctx = m_alloc_clear( sizeof *ctx );
1281
1282     assert( a->usage == 1 || a->usage == 2 );
1283     ctx->usage = a->usage;
1284     if( !len ) {
1285         iobuf_pop_filter(a, block_filter, NULL );
1286     }
1287     else {
1288         ctx->partial = 1;
1289         ctx->size = 0;
1290         ctx->first_c = len;
1291         iobuf_push_filter(a, block_filter, ctx );
1292     }
1293 }
1294
1295
1296 /****************
1297  * Checks whether the stream is in block mode
1298  * Note: This does not work if other filters are pushed on the stream.
1299  */
1300 int
1301 iobuf_in_block_mode( IOBUF a )
1302 {
1303     if( a && a->filter == block_filter )
1304         return 1; /* yes */
1305     return 0; /* no */
1306 }
1307
1308
1309