common: More accurately name function.
[gnupg.git] / common / iobuf.c
1 /* iobuf.c  -  File Handling for OpenPGP.
2  * Copyright (C) 1998, 1999, 2000, 2001, 2003, 2004, 2006, 2007, 2008,
3  *               2009, 2010, 2011  Free Software Foundation, Inc.
4  * Copyright (C) 2015  g10 Code GmbH
5  *
6  * This file is part of GnuPG.
7  *
8  * This file is free software; you can redistribute it and/or modify
9  * it under the terms of either
10  *
11  *   - the GNU Lesser General Public License as published by the Free
12  *     Software Foundation; either version 3 of the License, or (at
13  *     your option) any later version.
14  *
15  * or
16  *
17  *   - the GNU General Public License as published by the Free
18  *     Software Foundation; either version 2 of the License, or (at
19  *     your option) any later version.
20  *
21  * or both in parallel, as here.
22  *
23  * This file is distributed in the hope that it will be useful,
24  * but WITHOUT ANY WARRANTY; without even the implied warranty of
25  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
26  * GNU General Public License for more details.
27  *
28  * You should have received a copy of the GNU General Public License
29  * along with this program; if not, see <http://www.gnu.org/licenses/>.
30  */
31
32 #include <config.h>
33 #include <stdio.h>
34 #include <stdlib.h>
35 #include <string.h>
36 #include <errno.h>
37 #include <ctype.h>
38 #include <assert.h>
39 #include <sys/types.h>
40 #include <sys/stat.h>
41 #include <fcntl.h>
42 #include <unistd.h>
43 #ifdef HAVE_W32_SYSTEM
44 # ifdef HAVE_WINSOCK2_H
45 #  include <winsock2.h>
46 # endif
47 # include <windows.h>
48 #endif
49 #ifdef __riscos__
50 # include <kernel.h>
51 # include <swis.h>
52 #endif /* __riscos__ */
53
54 #include <assuan.h>
55
56 #include "util.h"
57 #include "sysutils.h"
58 #include "iobuf.h"
59
60 /*-- Begin configurable part.  --*/
61
62 /* The size of the internal buffers.
63    NOTE: If you change this value you MUST also adjust the regression
64    test "armored_key_8192" in armor.test! */
65 #define IOBUF_BUFFER_SIZE  8192
66
67 /* To avoid a potential DoS with compression packets we better limit
68    the number of filters in a chain.  */
69 #define MAX_NESTING_FILTER 64
70
71 /*-- End configurable part.  --*/
72
73
74 #ifdef HAVE_W32_SYSTEM
75 # ifdef HAVE_W32CE_SYSTEM
76 #  define FD_FOR_STDIN  (es_fileno (es_stdin))
77 #  define FD_FOR_STDOUT (es_fileno (es_stdout))
78 # else
79 #  define FD_FOR_STDIN  (GetStdHandle (STD_INPUT_HANDLE))
80 #  define FD_FOR_STDOUT (GetStdHandle (STD_OUTPUT_HANDLE))
81 # endif
82 #else /*!HAVE_W32_SYSTEM*/
83 # define FD_FOR_STDIN  (0)
84 # define FD_FOR_STDOUT (1)
85 #endif /*!HAVE_W32_SYSTEM*/
86
87
88 /* The context used by the file filter.  */
89 typedef struct
90 {
91   gnupg_fd_t fp;       /* Open file pointer or handle.  */
92   int keep_open;
93   int no_cache;
94   int eof_seen;
95   int print_only_name; /* Flags indicating that fname is not a real file.  */
96   char fname[1];       /* Name of the file.  */
97 } file_filter_ctx_t;
98
99 /* The context used by the estream filter.  */
100 typedef struct
101 {
102   estream_t fp;        /* Open estream handle.  */
103   int keep_open;
104   int no_cache;
105   int eof_seen;
106   int print_only_name; /* Flags indicating that fname is not a real file.  */
107   char fname[1];       /* Name of the file.  */
108 } file_es_filter_ctx_t;
109
110
111 /* Object to control the "close cache".  */
112 struct close_cache_s
113 {
114   struct close_cache_s *next;
115   gnupg_fd_t fp;
116   char fname[1];
117 };
118 typedef struct close_cache_s *close_cache_t;
119 static close_cache_t close_cache;
120
121
122
123 #ifdef HAVE_W32_SYSTEM
124 typedef struct
125 {
126   int sock;
127   int keep_open;
128   int no_cache;
129   int eof_seen;
130   int print_only_name;  /* Flag indicating that fname is not a real file.  */
131   char fname[1];        /* Name of the file */
132
133 } sock_filter_ctx_t;
134 #endif /*HAVE_W32_SYSTEM*/
135
136 /* The first partial length header block must be of size 512 to make
137  * it easier (and more efficient) we use a min. block size of 512 for
138  * all chunks (but the last one) */
139 #define OP_MIN_PARTIAL_CHUNK      512
140 #define OP_MIN_PARTIAL_CHUNK_2POW 9
141
142 /* The context we use for the block filter (used to handle OpenPGP
143    length information header).  */
144 typedef struct
145 {
146   int use;
147   size_t size;
148   size_t count;
149   int partial;     /* 1 = partial header, 2 in last partial packet.  */
150   char *buffer;    /* Used for partial header.  */
151   size_t buflen;   /* Used size of buffer.  */
152   int first_c;     /* First character of a partial header (which is > 0).  */
153   int eof;
154 }
155 block_filter_ctx_t;
156
157
158 /* Global flag to tell whether special file names are enabled.  See
159    gpg.c for an explanation of these file names.  FIXME: This does not
160    belong in the iobuf subsystem. */
161 static int special_names_enabled;
162
163 /* Local prototypes.  */
164 static int underflow (iobuf_t a, int clear_pending_eof);
165 static int translate_file_handle (int fd, int for_write);
166
167 /* Sends any pending data to the filter's FILTER function.  Note: this
168    works on the filter and not on the whole pipeline.  That is,
169    iobuf_flush doesn't necessarily cause data to be written to any
170    underlying file; it just causes any data buffered at the filter A
171    to be sent to A's filter function.
172
173    If A is a IOBUF_OUTPUT_TEMP filter, then this also enlarges the
174    buffer by IOBUF_BUFFER_SIZE.
175
176    May only be called on an IOBUF_OUTPUT or IOBUF_OUTPUT_TEMP filters.  */
177 static int filter_flush (iobuf_t a);
178
179
180 \f
181 /* This is a replacement for strcmp.  Under W32 it does not
182    distinguish between backslash and slash.  */
183 static int
184 fd_cache_strcmp (const char *a, const char *b)
185 {
186 #ifdef HAVE_DOSISH_SYSTEM
187   for (; *a && *b; a++, b++)
188     {
189       if (*a != *b && !((*a == '/' && *b == '\\')
190                         || (*a == '\\' && *b == '/')) )
191         break;
192     }
193   return *(const unsigned char *)a - *(const unsigned char *)b;
194 #else
195   return strcmp (a, b);
196 #endif
197 }
198
199 /*
200  * Invalidate (i.e. close) a cached iobuf
201  */
202 static int
203 fd_cache_invalidate (const char *fname)
204 {
205   close_cache_t cc;
206   int rc = 0;
207
208   assert (fname);
209   if (DBG_IOBUF)
210     log_debug ("fd_cache_invalidate (%s)\n", fname);
211
212   for (cc = close_cache; cc; cc = cc->next)
213     {
214       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
215         {
216           if (DBG_IOBUF)
217             log_debug ("                did (%s)\n", cc->fname);
218 #ifdef HAVE_W32_SYSTEM
219           if (!CloseHandle (cc->fp))
220             rc = -1;
221 #else
222           rc = close (cc->fp);
223 #endif
224           cc->fp = GNUPG_INVALID_FD;
225         }
226     }
227   return rc;
228 }
229
230
231 /* Try to sync changes to the disk.  This is to avoid data loss during
232    a system crash in write/close/rename cycle on some file
233    systems.  */
234 static int
235 fd_cache_synchronize (const char *fname)
236 {
237   int err = 0;
238
239 #ifdef HAVE_FSYNC
240   close_cache_t cc;
241
242   if (DBG_IOBUF)
243     log_debug ("fd_cache_synchronize (%s)\n", fname);
244
245   for (cc=close_cache; cc; cc = cc->next )
246     {
247       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
248         {
249           if (DBG_IOBUF)
250             log_debug ("                 did (%s)\n", cc->fname);
251
252           err = fsync (cc->fp);
253         }
254     }
255 #else
256   (void)fname;
257 #endif /*HAVE_FSYNC*/
258
259   return err;
260 }
261
262
263 static gnupg_fd_t
264 direct_open (const char *fname, const char *mode, int mode700)
265 {
266 #ifdef HAVE_W32_SYSTEM
267   unsigned long da, cd, sm;
268   HANDLE hfile;
269
270   (void)mode700;
271   /* Note, that we do not handle all mode combinations */
272
273   /* According to the ReactOS source it seems that open() of the
274    * standard MSW32 crt does open the file in shared mode which is
275    * something new for MS applications ;-)
276    */
277   if (strchr (mode, '+'))
278     {
279       if (fd_cache_invalidate (fname))
280         return GNUPG_INVALID_FD;
281       da = GENERIC_READ | GENERIC_WRITE;
282       cd = OPEN_EXISTING;
283       sm = FILE_SHARE_READ | FILE_SHARE_WRITE;
284     }
285   else if (strchr (mode, 'w'))
286     {
287       if (fd_cache_invalidate (fname))
288         return GNUPG_INVALID_FD;
289       da = GENERIC_WRITE;
290       cd = CREATE_ALWAYS;
291       sm = FILE_SHARE_WRITE;
292     }
293   else
294     {
295       da = GENERIC_READ;
296       cd = OPEN_EXISTING;
297       sm = FILE_SHARE_READ;
298     }
299
300 #ifdef HAVE_W32CE_SYSTEM
301   {
302     wchar_t *wfname = utf8_to_wchar (fname);
303     if (wfname)
304       {
305         hfile = CreateFile (wfname, da, sm, NULL, cd,
306                             FILE_ATTRIBUTE_NORMAL, NULL);
307         xfree (wfname);
308       }
309     else
310       hfile = INVALID_HANDLE_VALUE;
311   }
312 #else
313   hfile = CreateFile (fname, da, sm, NULL, cd, FILE_ATTRIBUTE_NORMAL, NULL);
314 #endif
315   return hfile;
316
317 #else /*!HAVE_W32_SYSTEM*/
318
319   int oflag;
320   int cflag = S_IRUSR | S_IWUSR;
321
322   if (!mode700)
323     cflag |= S_IRGRP | S_IWGRP | S_IROTH | S_IWOTH;
324
325   /* Note, that we do not handle all mode combinations */
326   if (strchr (mode, '+'))
327     {
328       if (fd_cache_invalidate (fname))
329         return GNUPG_INVALID_FD;
330       oflag = O_RDWR;
331     }
332   else if (strchr (mode, 'w'))
333     {
334       if (fd_cache_invalidate (fname))
335         return GNUPG_INVALID_FD;
336       oflag = O_WRONLY | O_CREAT | O_TRUNC;
337     }
338   else
339     {
340       oflag = O_RDONLY;
341     }
342 #ifdef O_BINARY
343   if (strchr (mode, 'b'))
344     oflag |= O_BINARY;
345 #endif
346
347 #ifdef __riscos__
348   {
349     struct stat buf;
350
351     /* Don't allow iobufs on directories */
352     if (!stat (fname, &buf) && S_ISDIR (buf.st_mode) && !S_ISREG (buf.st_mode))
353       return __set_errno (EISDIR);
354   }
355 #endif
356   return open (fname, oflag, cflag);
357
358 #endif /*!HAVE_W32_SYSTEM*/
359 }
360
361
362 /*
363  * Instead of closing an FD we keep it open and cache it for later reuse
364  * Note that this caching strategy only works if the process does not chdir.
365  */
366 static void
367 fd_cache_close (const char *fname, gnupg_fd_t fp)
368 {
369   close_cache_t cc;
370
371   assert (fp);
372   if (!fname || !*fname)
373     {
374 #ifdef HAVE_W32_SYSTEM
375       CloseHandle (fp);
376 #else
377       close (fp);
378 #endif
379       if (DBG_IOBUF)
380         log_debug ("fd_cache_close (%d) real\n", (int)fp);
381       return;
382     }
383   /* try to reuse a slot */
384   for (cc = close_cache; cc; cc = cc->next)
385     {
386       if (cc->fp == GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
387         {
388           cc->fp = fp;
389           if (DBG_IOBUF)
390             log_debug ("fd_cache_close (%s) used existing slot\n", fname);
391           return;
392         }
393     }
394   /* add a new one */
395   if (DBG_IOBUF)
396     log_debug ("fd_cache_close (%s) new slot created\n", fname);
397   cc = xcalloc (1, sizeof *cc + strlen (fname));
398   strcpy (cc->fname, fname);
399   cc->fp = fp;
400   cc->next = close_cache;
401   close_cache = cc;
402 }
403
404 /*
405  * Do a direct_open on FNAME but first try to reuse one from the fd_cache
406  */
407 static gnupg_fd_t
408 fd_cache_open (const char *fname, const char *mode)
409 {
410   close_cache_t cc;
411
412   assert (fname);
413   for (cc = close_cache; cc; cc = cc->next)
414     {
415       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
416         {
417           gnupg_fd_t fp = cc->fp;
418           cc->fp = GNUPG_INVALID_FD;
419           if (DBG_IOBUF)
420             log_debug ("fd_cache_open (%s) using cached fp\n", fname);
421 #ifdef HAVE_W32_SYSTEM
422           if (SetFilePointer (fp, 0, NULL, FILE_BEGIN) == 0xffffffff)
423             {
424               log_error ("rewind file failed on handle %p: ec=%d\n",
425                          fp, (int) GetLastError ());
426               fp = GNUPG_INVALID_FD;
427             }
428 #else
429           if (lseek (fp, 0, SEEK_SET) == (off_t) - 1)
430             {
431               log_error ("can't rewind fd %d: %s\n", fp, strerror (errno));
432               fp = GNUPG_INVALID_FD;
433             }
434 #endif
435           return fp;
436         }
437     }
438   if (DBG_IOBUF)
439     log_debug ("fd_cache_open (%s) not cached\n", fname);
440   return direct_open (fname, mode, 0);
441 }
442
443
444 static int
445 file_filter (void *opaque, int control, iobuf_t chain, byte * buf,
446              size_t * ret_len)
447 {
448   file_filter_ctx_t *a = opaque;
449   gnupg_fd_t f = a->fp;
450   size_t size = *ret_len;
451   size_t nbytes = 0;
452   int rc = 0;
453
454   (void)chain; /* Not used.  */
455
456   if (control == IOBUFCTRL_UNDERFLOW)
457     {
458       assert (size); /* We need a buffer.  */
459       if (a->eof_seen)
460         {
461           rc = -1;
462           *ret_len = 0;
463         }
464       else
465         {
466 #ifdef HAVE_W32_SYSTEM
467           unsigned long nread;
468
469           nbytes = 0;
470           if (!ReadFile (f, buf, size, &nread, NULL))
471             {
472               int ec = (int) GetLastError ();
473               if (ec != ERROR_BROKEN_PIPE)
474                 {
475                   rc = gpg_error_from_errno (ec);
476                   log_error ("%s: read error: ec=%d\n", a->fname, ec);
477                 }
478             }
479           else if (!nread)
480             {
481               a->eof_seen = 1;
482               rc = -1;
483             }
484           else
485             {
486               nbytes = nread;
487             }
488
489 #else
490
491           int n;
492
493           nbytes = 0;
494           do
495             {
496               n = read (f, buf, size);
497             }
498           while (n == -1 && errno == EINTR);
499           if (n == -1)
500             {                   /* error */
501               if (errno != EPIPE)
502                 {
503                   rc = gpg_error_from_syserror ();
504                   log_error ("%s: read error: %s\n",
505                              a->fname, strerror (errno));
506                 }
507             }
508           else if (!n)
509             {                   /* eof */
510               a->eof_seen = 1;
511               rc = -1;
512             }
513           else
514             {
515               nbytes = n;
516             }
517 #endif
518           *ret_len = nbytes;
519         }
520     }
521   else if (control == IOBUFCTRL_FLUSH)
522     {
523       if (size)
524         {
525 #ifdef HAVE_W32_SYSTEM
526           byte *p = buf;
527           unsigned long n;
528
529           nbytes = size;
530           do
531             {
532               if (size && !WriteFile (f, p, nbytes, &n, NULL))
533                 {
534                   int ec = (int) GetLastError ();
535                   rc = gpg_error_from_errno (ec);
536                   log_error ("%s: write error: ec=%d\n", a->fname, ec);
537                   break;
538                 }
539               p += n;
540               nbytes -= n;
541             }
542           while (nbytes);
543           nbytes = p - buf;
544 #else
545           byte *p = buf;
546           int n;
547
548           nbytes = size;
549           do
550             {
551               do
552                 {
553                   n = write (f, p, nbytes);
554                 }
555               while (n == -1 && errno == EINTR);
556               if (n > 0)
557                 {
558                   p += n;
559                   nbytes -= n;
560                 }
561             }
562           while (n != -1 && nbytes);
563           if (n == -1)
564             {
565               rc = gpg_error_from_syserror ();
566               log_error ("%s: write error: %s\n", a->fname, strerror (errno));
567             }
568           nbytes = p - buf;
569 #endif
570         }
571       *ret_len = nbytes;
572     }
573   else if (control == IOBUFCTRL_INIT)
574     {
575       a->eof_seen = 0;
576       a->keep_open = 0;
577       a->no_cache = 0;
578     }
579   else if (control == IOBUFCTRL_DESC)
580     {
581       mem2str (buf, "file_filter(fd)", *ret_len);
582     }
583   else if (control == IOBUFCTRL_FREE)
584     {
585       if (f != FD_FOR_STDIN && f != FD_FOR_STDOUT)
586         {
587           if (DBG_IOBUF)
588             log_debug ("%s: close fd/handle %d\n", a->fname, FD2INT (f));
589           if (!a->keep_open)
590             fd_cache_close (a->no_cache ? NULL : a->fname, f);
591         }
592       xfree (a); /* We can free our context now. */
593     }
594
595   return rc;
596 }
597
598
599 /* Similar to file_filter but using the estream system.  */
600 static int
601 file_es_filter (void *opaque, int control, iobuf_t chain, byte * buf,
602                 size_t * ret_len)
603 {
604   file_es_filter_ctx_t *a = opaque;
605   estream_t f = a->fp;
606   size_t size = *ret_len;
607   size_t nbytes = 0;
608   int rc = 0;
609
610   (void)chain; /* Not used.  */
611
612   if (control == IOBUFCTRL_UNDERFLOW)
613     {
614       assert (size); /* We need a buffer.  */
615       if (a->eof_seen)
616         {
617           rc = -1;
618           *ret_len = 0;
619         }
620       else
621         {
622           nbytes = 0;
623           rc = es_read (f, buf, size, &nbytes);
624           if (rc == -1)
625             {                   /* error */
626               rc = gpg_error_from_syserror ();
627               log_error ("%s: read error: %s\n", a->fname, strerror (errno));
628             }
629           else if (!nbytes)
630             {                   /* eof */
631               a->eof_seen = 1;
632               rc = -1;
633             }
634           *ret_len = nbytes;
635         }
636     }
637   else if (control == IOBUFCTRL_FLUSH)
638     {
639       if (size)
640         {
641           byte *p = buf;
642           size_t nwritten;
643
644           nbytes = size;
645           do
646             {
647               nwritten = 0;
648               if (es_write (f, p, nbytes, &nwritten))
649                 {
650                   rc = gpg_error_from_syserror ();
651                   log_error ("%s: write error: %s\n",
652                              a->fname, strerror (errno));
653                   break;
654                 }
655               p += nwritten;
656               nbytes -= nwritten;
657             }
658           while (nbytes);
659           nbytes = p - buf;
660         }
661       *ret_len = nbytes;
662     }
663   else if (control == IOBUFCTRL_INIT)
664     {
665       a->eof_seen = 0;
666       a->no_cache = 0;
667     }
668   else if (control == IOBUFCTRL_DESC)
669     {
670       mem2str (buf, "estream_filter", *ret_len);
671     }
672   else if (control == IOBUFCTRL_FREE)
673     {
674       if (f != es_stdin && f != es_stdout)
675         {
676           if (DBG_IOBUF)
677             log_debug ("%s: es_fclose %p\n", a->fname, f);
678           if (!a->keep_open)
679             es_fclose (f);
680         }
681       f = NULL;
682       xfree (a); /* We can free our context now. */
683     }
684
685   return rc;
686 }
687
688
689 #ifdef HAVE_W32_SYSTEM
690 /* Because network sockets are special objects under Lose32 we have to
691    use a dedicated filter for them. */
692 static int
693 sock_filter (void *opaque, int control, iobuf_t chain, byte * buf,
694              size_t * ret_len)
695 {
696   sock_filter_ctx_t *a = opaque;
697   size_t size = *ret_len;
698   size_t nbytes = 0;
699   int rc = 0;
700
701   (void)chain;
702
703   if (control == IOBUFCTRL_UNDERFLOW)
704     {
705       assert (size);            /* need a buffer */
706       if (a->eof_seen)
707         {
708           rc = -1;
709           *ret_len = 0;
710         }
711       else
712         {
713           int nread;
714
715           nread = recv (a->sock, buf, size, 0);
716           if (nread == SOCKET_ERROR)
717             {
718               int ec = (int) WSAGetLastError ();
719               rc = gpg_error_from_errno (ec);
720               log_error ("socket read error: ec=%d\n", ec);
721             }
722           else if (!nread)
723             {
724               a->eof_seen = 1;
725               rc = -1;
726             }
727           else
728             {
729               nbytes = nread;
730             }
731           *ret_len = nbytes;
732         }
733     }
734   else if (control == IOBUFCTRL_FLUSH)
735     {
736       if (size)
737         {
738           byte *p = buf;
739           int n;
740
741           nbytes = size;
742           do
743             {
744               n = send (a->sock, p, nbytes, 0);
745               if (n == SOCKET_ERROR)
746                 {
747                   int ec = (int) WSAGetLastError ();
748                   rc = gpg_error_from_errno (ec);
749                   log_error ("socket write error: ec=%d\n", ec);
750                   break;
751                 }
752               p += n;
753               nbytes -= n;
754             }
755           while (nbytes);
756           nbytes = p - buf;
757         }
758       *ret_len = nbytes;
759     }
760   else if (control == IOBUFCTRL_INIT)
761     {
762       a->eof_seen = 0;
763       a->keep_open = 0;
764       a->no_cache = 0;
765     }
766   else if (control == IOBUFCTRL_DESC)
767     {
768       mem2str (buf, "sock_filter", *ret_len);
769     }
770   else if (control == IOBUFCTRL_FREE)
771     {
772       if (!a->keep_open)
773         closesocket (a->sock);
774       xfree (a);                /* we can free our context now */
775     }
776   return rc;
777 }
778 #endif /*HAVE_W32_SYSTEM*/
779
780 /****************
781  * This is used to implement the block write mode.
782  * Block reading is done on a byte by byte basis in readbyte(),
783  * without a filter
784  */
785 static int
786 block_filter (void *opaque, int control, iobuf_t chain, byte * buffer,
787               size_t * ret_len)
788 {
789   block_filter_ctx_t *a = opaque;
790   char *buf = (char *)buffer;
791   size_t size = *ret_len;
792   int c, needed, rc = 0;
793   char *p;
794
795   if (control == IOBUFCTRL_UNDERFLOW)
796     {
797       size_t n = 0;
798
799       p = buf;
800       assert (size);            /* need a buffer */
801       if (a->eof)               /* don't read any further */
802         rc = -1;
803       while (!rc && size)
804         {
805           if (!a->size)
806             {                   /* get the length bytes */
807               if (a->partial == 2)
808                 {
809                   a->eof = 1;
810                   if (!n)
811                     rc = -1;
812                   break;
813                 }
814               else if (a->partial)
815                 {
816                   /* These OpenPGP introduced huffman like encoded length
817                    * bytes are really a mess :-( */
818                   if (a->first_c)
819                     {
820                       c = a->first_c;
821                       a->first_c = 0;
822                     }
823                   else if ((c = iobuf_get (chain)) == -1)
824                     {
825                       log_error ("block_filter: 1st length byte missing\n");
826                       rc = GPG_ERR_BAD_DATA;
827                       break;
828                     }
829                   if (c < 192)
830                     {
831                       a->size = c;
832                       a->partial = 2;
833                       if (!a->size)
834                         {
835                           a->eof = 1;
836                           if (!n)
837                             rc = -1;
838                           break;
839                         }
840                     }
841                   else if (c < 224)
842                     {
843                       a->size = (c - 192) * 256;
844                       if ((c = iobuf_get (chain)) == -1)
845                         {
846                           log_error
847                             ("block_filter: 2nd length byte missing\n");
848                           rc = GPG_ERR_BAD_DATA;
849                           break;
850                         }
851                       a->size += c + 192;
852                       a->partial = 2;
853                       if (!a->size)
854                         {
855                           a->eof = 1;
856                           if (!n)
857                             rc = -1;
858                           break;
859                         }
860                     }
861                   else if (c == 255)
862                     {
863                       a->size = (size_t)iobuf_get (chain) << 24;
864                       a->size |= iobuf_get (chain) << 16;
865                       a->size |= iobuf_get (chain) << 8;
866                       if ((c = iobuf_get (chain)) == -1)
867                         {
868                           log_error ("block_filter: invalid 4 byte length\n");
869                           rc = GPG_ERR_BAD_DATA;
870                           break;
871                         }
872                       a->size |= c;
873                       a->partial = 2;
874                       if (!a->size)
875                         {
876                           a->eof = 1;
877                           if (!n)
878                             rc = -1;
879                           break;
880                         }
881                     }
882                   else
883                     { /* Next partial body length. */
884                       a->size = 1 << (c & 0x1f);
885                     }
886                   /*  log_debug("partial: ctx=%p c=%02x size=%u\n", a, c, a->size); */
887                 }
888               else
889                 BUG ();
890             }
891
892           while (!rc && size && a->size)
893             {
894               needed = size < a->size ? size : a->size;
895               c = iobuf_read (chain, p, needed);
896               if (c < needed)
897                 {
898                   if (c == -1)
899                     c = 0;
900                   log_error
901                     ("block_filter %p: read error (size=%lu,a->size=%lu)\n",
902                      a, (ulong) size + c, (ulong) a->size + c);
903                   rc = GPG_ERR_BAD_DATA;
904                 }
905               else
906                 {
907                   size -= c;
908                   a->size -= c;
909                   p += c;
910                   n += c;
911                 }
912             }
913         }
914       *ret_len = n;
915     }
916   else if (control == IOBUFCTRL_FLUSH)
917     {
918       if (a->partial)
919         {                       /* the complicated openpgp scheme */
920           size_t blen, n, nbytes = size + a->buflen;
921
922           assert (a->buflen <= OP_MIN_PARTIAL_CHUNK);
923           if (nbytes < OP_MIN_PARTIAL_CHUNK)
924             {
925               /* not enough to write a partial block out; so we store it */
926               if (!a->buffer)
927                 a->buffer = xmalloc (OP_MIN_PARTIAL_CHUNK);
928               memcpy (a->buffer + a->buflen, buf, size);
929               a->buflen += size;
930             }
931           else
932             {                   /* okay, we can write out something */
933               /* do this in a loop to use the most efficient block lengths */
934               p = buf;
935               do
936                 {
937                   /* find the best matching block length - this is limited
938                    * by the size of the internal buffering */
939                   for (blen = OP_MIN_PARTIAL_CHUNK * 2,
940                        c = OP_MIN_PARTIAL_CHUNK_2POW + 1; blen <= nbytes;
941                        blen *= 2, c++)
942                     ;
943                   blen /= 2;
944                   c--;
945                   /* write the partial length header */
946                   assert (c <= 0x1f);   /*;-) */
947                   c |= 0xe0;
948                   iobuf_put (chain, c);
949                   if ((n = a->buflen))
950                     {           /* write stuff from the buffer */
951                       assert (n == OP_MIN_PARTIAL_CHUNK);
952                       if (iobuf_write (chain, a->buffer, n))
953                         rc = gpg_error_from_syserror ();
954                       a->buflen = 0;
955                       nbytes -= n;
956                     }
957                   if ((n = nbytes) > blen)
958                     n = blen;
959                   if (n && iobuf_write (chain, p, n))
960                     rc = gpg_error_from_syserror ();
961                   p += n;
962                   nbytes -= n;
963                 }
964               while (!rc && nbytes >= OP_MIN_PARTIAL_CHUNK);
965               /* store the rest in the buffer */
966               if (!rc && nbytes)
967                 {
968                   assert (!a->buflen);
969                   assert (nbytes < OP_MIN_PARTIAL_CHUNK);
970                   if (!a->buffer)
971                     a->buffer = xmalloc (OP_MIN_PARTIAL_CHUNK);
972                   memcpy (a->buffer, p, nbytes);
973                   a->buflen = nbytes;
974                 }
975             }
976         }
977       else
978         BUG ();
979     }
980   else if (control == IOBUFCTRL_INIT)
981     {
982       if (DBG_IOBUF)
983         log_debug ("init block_filter %p\n", a);
984       if (a->partial)
985         a->count = 0;
986       else if (a->use == IOBUF_INPUT)
987         a->count = a->size = 0;
988       else
989         a->count = a->size;     /* force first length bytes */
990       a->eof = 0;
991       a->buffer = NULL;
992       a->buflen = 0;
993     }
994   else if (control == IOBUFCTRL_DESC)
995     {
996       mem2str (buf, "block_filter", *ret_len);
997     }
998   else if (control == IOBUFCTRL_FREE)
999     {
1000       if (a->use == IOBUF_OUTPUT)
1001         {                       /* write the end markers */
1002           if (a->partial)
1003             {
1004               u32 len;
1005               /* write out the remaining bytes without a partial header
1006                * the length of this header may be 0 - but if it is
1007                * the first block we are not allowed to use a partial header
1008                * and frankly we can't do so, because this length must be
1009                * a power of 2. This is _really_ complicated because we
1010                * have to check the possible length of a packet prior
1011                * to it's creation: a chain of filters becomes complicated
1012                * and we need a lot of code to handle compressed packets etc.
1013                *   :-(((((((
1014                */
1015               /* construct header */
1016               len = a->buflen;
1017               /*log_debug("partial: remaining length=%u\n", len ); */
1018               if (len < 192)
1019                 rc = iobuf_put (chain, len);
1020               else if (len < 8384)
1021                 {
1022                   if (!(rc = iobuf_put (chain, ((len - 192) / 256) + 192)))
1023                     rc = iobuf_put (chain, ((len - 192) % 256));
1024                 }
1025               else
1026                 {               /* use a 4 byte header */
1027                   if (!(rc = iobuf_put (chain, 0xff)))
1028                     if (!(rc = iobuf_put (chain, (len >> 24) & 0xff)))
1029                       if (!(rc = iobuf_put (chain, (len >> 16) & 0xff)))
1030                         if (!(rc = iobuf_put (chain, (len >> 8) & 0xff)))
1031                           rc = iobuf_put (chain, len & 0xff);
1032                 }
1033               if (!rc && len)
1034                 rc = iobuf_write (chain, a->buffer, len);
1035               if (rc)
1036                 {
1037                   log_error ("block_filter: write error: %s\n",
1038                              strerror (errno));
1039                   rc = gpg_error_from_syserror ();
1040                 }
1041               xfree (a->buffer);
1042               a->buffer = NULL;
1043               a->buflen = 0;
1044             }
1045           else
1046             BUG ();
1047         }
1048       else if (a->size)
1049         {
1050           log_error ("block_filter: pending bytes!\n");
1051         }
1052       if (DBG_IOBUF)
1053         log_debug ("free block_filter %p\n", a);
1054       xfree (a);                /* we can free our context now */
1055     }
1056
1057   return rc;
1058 }
1059
1060 #define MAX_IOBUF_DESC 32
1061 /*
1062  * Fill the buffer by the description of iobuf A.
1063  * The buffer size should be MAX_IOBUF_DESC (or larger).
1064  * Returns BUF as (const char *).
1065  */
1066 static const char *
1067 iobuf_desc (iobuf_t a, byte *buf)
1068 {
1069   size_t len = MAX_IOBUF_DESC;
1070
1071   if (! a || ! a->filter)
1072     memcpy (buf, "?", 2);
1073   else
1074     a->filter (a->filter_ov, IOBUFCTRL_DESC, NULL, buf, &len);
1075
1076   return buf;
1077 }
1078
1079 static void
1080 print_chain (iobuf_t a)
1081 {
1082   if (!DBG_IOBUF)
1083     return;
1084   for (; a; a = a->chain)
1085     {
1086       byte desc[MAX_IOBUF_DESC];
1087
1088       log_debug ("iobuf chain: %d.%d '%s' filter_eof=%d start=%d len=%d\n",
1089                  a->no, a->subno, iobuf_desc (a, desc), a->filter_eof,
1090                  (int) a->d.start, (int) a->d.len);
1091     }
1092 }
1093
1094 int
1095 iobuf_print_chain (iobuf_t a)
1096 {
1097   print_chain (a);
1098   return 0;
1099 }
1100
1101 iobuf_t
1102 iobuf_alloc (int use, size_t bufsize)
1103 {
1104   iobuf_t a;
1105   static int number = 0;
1106
1107   assert (use == IOBUF_INPUT || use == IOBUF_INPUT_TEMP
1108           || use == IOBUF_OUTPUT || use == IOBUF_OUTPUT_TEMP);
1109   if (bufsize == 0)
1110     {
1111       log_bug ("iobuf_alloc() passed a bufsize of 0!\n");
1112       bufsize = IOBUF_BUFFER_SIZE;
1113     }
1114
1115   a = xcalloc (1, sizeof *a);
1116   a->use = use;
1117   a->d.buf = xmalloc (bufsize);
1118   a->d.size = bufsize;
1119   a->no = ++number;
1120   a->subno = 0;
1121   a->real_fname = NULL;
1122   return a;
1123 }
1124
1125 int
1126 iobuf_close (iobuf_t a)
1127 {
1128   iobuf_t a_chain;
1129   size_t dummy_len = 0;
1130   int rc = 0;
1131
1132   for (; a; a = a_chain)
1133     {
1134       byte desc[MAX_IOBUF_DESC];
1135       int rc2 = 0;
1136
1137       a_chain = a->chain;
1138
1139       if (a->use == IOBUF_OUTPUT && (rc = filter_flush (a)))
1140         log_error ("filter_flush failed on close: %s\n", gpg_strerror (rc));
1141
1142       if (DBG_IOBUF)
1143         log_debug ("iobuf-%d.%d: close '%s'\n",
1144                    a->no, a->subno, iobuf_desc (a, desc));
1145
1146       if (a->filter && (rc2 = a->filter (a->filter_ov, IOBUFCTRL_FREE,
1147                                          a->chain, NULL, &dummy_len)))
1148         log_error ("IOBUFCTRL_FREE failed on close: %s\n", gpg_strerror (rc));
1149       if (! rc && rc2)
1150         /* Whoops!  An error occurred.  Save it in RC if we haven't
1151            already recorded an error.  */
1152         rc = rc2;
1153
1154       xfree (a->real_fname);
1155       if (a->d.buf)
1156         {
1157           memset (a->d.buf, 0, a->d.size);      /* erase the buffer */
1158           xfree (a->d.buf);
1159         }
1160       xfree (a);
1161     }
1162   return rc;
1163 }
1164
1165 int
1166 iobuf_cancel (iobuf_t a)
1167 {
1168   const char *s;
1169   iobuf_t a2;
1170   int rc;
1171 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1172   char *remove_name = NULL;
1173 #endif
1174
1175   if (a && a->use == IOBUF_OUTPUT)
1176     {
1177       s = iobuf_get_real_fname (a);
1178       if (s && *s)
1179         {
1180 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1181           remove_name = xstrdup (s);
1182 #else
1183           remove (s);
1184 #endif
1185         }
1186     }
1187
1188   /* send a cancel message to all filters */
1189   for (a2 = a; a2; a2 = a2->chain)
1190     {
1191       size_t dummy;
1192       if (a2->filter)
1193         a2->filter (a2->filter_ov, IOBUFCTRL_CANCEL, a2->chain, NULL, &dummy);
1194     }
1195
1196   rc = iobuf_close (a);
1197 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1198   if (remove_name)
1199     {
1200       /* Argg, MSDOS does not allow to remove open files.  So
1201        * we have to do it here */
1202 #ifdef HAVE_W32CE_SYSTEM
1203       wchar_t *wtmp = utf8_to_wchar (remove_name);
1204       if (wtmp)
1205         DeleteFile (wtmp);
1206       xfree (wtmp);
1207 #else
1208       remove (remove_name);
1209 #endif
1210       xfree (remove_name);
1211     }
1212 #endif
1213   return rc;
1214 }
1215
1216
1217 iobuf_t
1218 iobuf_temp (void)
1219 {
1220   return iobuf_alloc (IOBUF_OUTPUT_TEMP, IOBUF_BUFFER_SIZE);
1221 }
1222
1223 iobuf_t
1224 iobuf_temp_with_content (const char *buffer, size_t length)
1225 {
1226   iobuf_t a;
1227   int i;
1228
1229   a = iobuf_alloc (IOBUF_INPUT_TEMP, length);
1230   assert (length == a->d.size);
1231   /* memcpy (a->d.buf, buffer, length); */
1232   for (i=0; i < length; i++)
1233     a->d.buf[i] = buffer[i];
1234   a->d.len = length;
1235
1236   return a;
1237 }
1238
1239 void
1240 iobuf_enable_special_filenames (int yes)
1241 {
1242   special_names_enabled = yes;
1243 }
1244
1245
1246 /* See whether the filename has the form "-&nnnn", where n is a
1247    non-zero number.  Returns this number or -1 if it is not the
1248    case.  */
1249 static int
1250 check_special_filename (const char *fname)
1251 {
1252   if (special_names_enabled && fname && *fname == '-' && fname[1] == '&')
1253     {
1254       int i;
1255
1256       fname += 2;
1257       for (i = 0; digitp (fname+i); i++)
1258         ;
1259       if (!fname[i])
1260         return atoi (fname);
1261     }
1262   return -1;
1263 }
1264
1265
1266 int
1267 iobuf_is_pipe_filename (const char *fname)
1268 {
1269   if (!fname || (*fname=='-' && !fname[1]) )
1270     return 1;
1271   return check_special_filename (fname) != -1;
1272 }
1273
1274 static iobuf_t
1275 do_open (const char *fname, int special_filenames,
1276          int use, const char *opentype, int mode700)
1277 {
1278   iobuf_t a;
1279   gnupg_fd_t fp;
1280   file_filter_ctx_t *fcx;
1281   size_t len = 0;
1282   int print_only = 0;
1283   int fd;
1284   byte desc[MAX_IOBUF_DESC];
1285
1286   assert (use == IOBUF_INPUT || use == IOBUF_OUTPUT);
1287
1288   if (special_filenames
1289       /* NULL or '-'.  */
1290       && (!fname || (*fname == '-' && !fname[1])))
1291     {
1292       if (use == IOBUF_INPUT)
1293         {
1294           fp = FD_FOR_STDIN;
1295           fname = "[stdin]";
1296         }
1297       else
1298         {
1299           fp = FD_FOR_STDOUT;
1300           fname = "[stdout]";
1301         }
1302       print_only = 1;
1303     }
1304   else if (!fname)
1305     return NULL;
1306   else if (special_filenames && (fd = check_special_filename (fname)) != -1)
1307     return iobuf_fdopen (translate_file_handle (fd, use == IOBUF_INPUT ? 0 : 1),
1308                          opentype);
1309   else
1310     {
1311       if (use == IOBUF_INPUT)
1312         fp = fd_cache_open (fname, opentype);
1313       else
1314         fp = direct_open (fname, opentype, mode700);
1315       if (fp == GNUPG_INVALID_FD)
1316         return NULL;
1317     }
1318
1319   a = iobuf_alloc (use, IOBUF_BUFFER_SIZE);
1320   fcx = xmalloc (sizeof *fcx + strlen (fname));
1321   fcx->fp = fp;
1322   fcx->print_only_name = print_only;
1323   strcpy (fcx->fname, fname);
1324   if (!print_only)
1325     a->real_fname = xstrdup (fname);
1326   a->filter = file_filter;
1327   a->filter_ov = fcx;
1328   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1329   if (DBG_IOBUF)
1330     log_debug ("iobuf-%d.%d: open '%s' desc=%s fd=%d\n",
1331                a->no, a->subno, fname, iobuf_desc (a, desc), FD2INT (fcx->fp));
1332
1333   return a;
1334 }
1335
1336 iobuf_t
1337 iobuf_open (const char *fname)
1338 {
1339   return do_open (fname, 1, IOBUF_INPUT, "rb", 0);
1340 }
1341
1342 iobuf_t
1343 iobuf_create (const char *fname, int mode700)
1344 {
1345   return do_open (fname, 1, IOBUF_OUTPUT, "wb", mode700);
1346 }
1347
1348 iobuf_t
1349 iobuf_openrw (const char *fname)
1350 {
1351   return do_open (fname, 0, IOBUF_OUTPUT, "r+b", 0);
1352 }
1353
1354
1355 static iobuf_t
1356 do_iobuf_fdopen (int fd, const char *mode, int keep_open)
1357 {
1358   iobuf_t a;
1359   gnupg_fd_t fp;
1360   file_filter_ctx_t *fcx;
1361   size_t len;
1362
1363   fp = INT2FD (fd);
1364
1365   a = iobuf_alloc (strchr (mode, 'w') ? IOBUF_OUTPUT : IOBUF_INPUT,
1366                    IOBUF_BUFFER_SIZE);
1367   fcx = xmalloc (sizeof *fcx + 20);
1368   fcx->fp = fp;
1369   fcx->print_only_name = 1;
1370   fcx->keep_open = keep_open;
1371   sprintf (fcx->fname, "[fd %d]", fd);
1372   a->filter = file_filter;
1373   a->filter_ov = fcx;
1374   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1375   if (DBG_IOBUF)
1376     log_debug ("iobuf-%d.%d: fdopen%s '%s'\n",
1377                a->no, a->subno, keep_open? "_nc":"", fcx->fname);
1378   iobuf_ioctl (a, IOBUF_IOCTL_NO_CACHE, 1, NULL);
1379   return a;
1380 }
1381
1382
1383 iobuf_t
1384 iobuf_fdopen (int fd, const char *mode)
1385 {
1386   return do_iobuf_fdopen (fd, mode, 0);
1387 }
1388
1389 iobuf_t
1390 iobuf_fdopen_nc (int fd, const char *mode)
1391 {
1392   return do_iobuf_fdopen (fd, mode, 1);
1393 }
1394
1395
1396 iobuf_t
1397 iobuf_esopen (estream_t estream, const char *mode, int keep_open)
1398 {
1399   iobuf_t a;
1400   file_es_filter_ctx_t *fcx;
1401   size_t len = 0;
1402
1403   a = iobuf_alloc (strchr (mode, 'w') ? IOBUF_OUTPUT : IOBUF_INPUT,
1404                    IOBUF_BUFFER_SIZE);
1405   fcx = xtrymalloc (sizeof *fcx + 30);
1406   fcx->fp = estream;
1407   fcx->print_only_name = 1;
1408   fcx->keep_open = keep_open;
1409   sprintf (fcx->fname, "[fd %p]", estream);
1410   a->filter = file_es_filter;
1411   a->filter_ov = fcx;
1412   file_es_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1413   if (DBG_IOBUF)
1414     log_debug ("iobuf-%d.%d: esopen%s '%s'\n",
1415                a->no, a->subno, keep_open? "_nc":"", fcx->fname);
1416   return a;
1417 }
1418
1419
1420 iobuf_t
1421 iobuf_sockopen (int fd, const char *mode)
1422 {
1423   iobuf_t a;
1424 #ifdef HAVE_W32_SYSTEM
1425   sock_filter_ctx_t *scx;
1426   size_t len;
1427
1428   a = iobuf_alloc (strchr (mode, 'w') ? IOBUF_OUTPUT : IOBUF_INPUT,
1429                    IOBUF_BUFFER_SIZE);
1430   scx = xmalloc (sizeof *scx + 25);
1431   scx->sock = fd;
1432   scx->print_only_name = 1;
1433   sprintf (scx->fname, "[sock %d]", fd);
1434   a->filter = sock_filter;
1435   a->filter_ov = scx;
1436   sock_filter (scx, IOBUFCTRL_INIT, NULL, NULL, &len);
1437   if (DBG_IOBUF)
1438     log_debug ("iobuf-%d.%d: sockopen '%s'\n", a->no, a->subno, scx->fname);
1439   iobuf_ioctl (a, IOBUF_IOCTL_NO_CACHE, 1, NULL);
1440 #else
1441   a = iobuf_fdopen (fd, mode);
1442 #endif
1443   return a;
1444 }
1445
1446 int
1447 iobuf_ioctl (iobuf_t a, iobuf_ioctl_t cmd, int intval, void *ptrval)
1448 {
1449   byte desc[MAX_IOBUF_DESC];
1450
1451   if (cmd == IOBUF_IOCTL_KEEP_OPEN)
1452     {
1453       /* Keep system filepointer/descriptor open.  This was used in
1454          the past by http.c; this ioctl is not directly used
1455          anymore.  */
1456       if (DBG_IOBUF)
1457         log_debug ("iobuf-%d.%d: ioctl '%s' keep_open=%d\n",
1458                    a ? a->no : -1, a ? a->subno : -1, iobuf_desc (a, desc),
1459                    intval);
1460       for (; a; a = a->chain)
1461         if (!a->chain && a->filter == file_filter)
1462           {
1463             file_filter_ctx_t *b = a->filter_ov;
1464             b->keep_open = intval;
1465             return 0;
1466           }
1467 #ifdef HAVE_W32_SYSTEM
1468         else if (!a->chain && a->filter == sock_filter)
1469           {
1470             sock_filter_ctx_t *b = a->filter_ov;
1471             b->keep_open = intval;
1472             return 0;
1473           }
1474 #endif
1475     }
1476   else if (cmd == IOBUF_IOCTL_INVALIDATE_CACHE)
1477     {
1478       if (DBG_IOBUF)
1479         log_debug ("iobuf-*.*: ioctl '%s' invalidate\n",
1480                    ptrval ? (char *) ptrval : "?");
1481       if (!a && !intval && ptrval)
1482         {
1483           if (fd_cache_invalidate (ptrval))
1484             return -1;
1485           return 0;
1486         }
1487     }
1488   else if (cmd == IOBUF_IOCTL_NO_CACHE)
1489     {
1490       if (DBG_IOBUF)
1491         log_debug ("iobuf-%d.%d: ioctl '%s' no_cache=%d\n",
1492                    a ? a->no : -1, a ? a->subno : -1, iobuf_desc (a, desc),
1493                    intval);
1494       for (; a; a = a->chain)
1495         if (!a->chain && a->filter == file_filter)
1496           {
1497             file_filter_ctx_t *b = a->filter_ov;
1498             b->no_cache = intval;
1499             return 0;
1500           }
1501 #ifdef HAVE_W32_SYSTEM
1502         else if (!a->chain && a->filter == sock_filter)
1503           {
1504             sock_filter_ctx_t *b = a->filter_ov;
1505             b->no_cache = intval;
1506             return 0;
1507           }
1508 #endif
1509     }
1510   else if (cmd == IOBUF_IOCTL_FSYNC)
1511     {
1512       /* Do a fsync on the open fd and return any errors to the caller
1513          of iobuf_ioctl.  Note that we work on a file name here. */
1514       if (DBG_IOBUF)
1515         log_debug ("iobuf-*.*: ioctl '%s' fsync\n",
1516                    ptrval? (const char*)ptrval:"<null>");
1517
1518       if (!a && !intval && ptrval)
1519         {
1520           return fd_cache_synchronize (ptrval);
1521         }
1522     }
1523
1524
1525   return -1;
1526 }
1527
1528
1529 /****************
1530  * Register an i/o filter.
1531  */
1532 int
1533 iobuf_push_filter (iobuf_t a,
1534                    int (*f) (void *opaque, int control,
1535                              iobuf_t chain, byte * buf, size_t * len),
1536                    void *ov)
1537 {
1538   return iobuf_push_filter2 (a, f, ov, 0);
1539 }
1540
1541 int
1542 iobuf_push_filter2 (iobuf_t a,
1543                     int (*f) (void *opaque, int control,
1544                               iobuf_t chain, byte * buf, size_t * len),
1545                     void *ov, int rel_ov)
1546 {
1547   iobuf_t b;
1548   size_t dummy_len = 0;
1549   int rc = 0;
1550
1551   if (a->use == IOBUF_OUTPUT && (rc = filter_flush (a)))
1552     return rc;
1553
1554   if (a->subno >= MAX_NESTING_FILTER)
1555     {
1556       log_error ("i/o filter too deeply nested - corrupted data?\n");
1557       return GPG_ERR_BAD_DATA;
1558     }
1559
1560   /* We want to create a new filter and put it in front of A.  A
1561      simple implementation would do:
1562
1563        b = iobuf_alloc (...);
1564        b->chain = a;
1565        return a;
1566
1567      This is a bit problematic: A is the head of the pipeline and
1568      there are potentially many pointers to it.  Requiring the caller
1569      to update all of these pointers is a burden.
1570
1571      An alternative implementation would add a level of indirection.
1572      For instance, we could use a pipeline object, which contains a
1573      pointer to the first filter in the pipeline.  This is not what we
1574      do either.
1575
1576      Instead, we allocate a new buffer (B) and copy the first filter's
1577      state into that and use the initial buffer (A) for the new
1578      filter.  One limitation of this approach is that it is not
1579      practical to maintain a pointer to a specific filter's state.
1580
1581      Before:
1582
1583            A
1584            |
1585            v 0x100               0x200
1586            +----------+          +----------+
1587            | filter x |--------->| filter y |---->....
1588            +----------+          +----------+
1589
1590      After:           B
1591                       |
1592                       v 0x300
1593                       +----------+
1594            A          | filter x |
1595            |          +----------+
1596            v 0x100    ^          v 0x200
1597            +----------+          +----------+
1598            | filter w |          | filter y |---->....
1599            +----------+          +----------+
1600
1601      Note: filter x's address changed from 0x100 to 0x300, but A still
1602      points to the head of the pipeline.
1603   */
1604
1605   b = xmalloc (sizeof *b);
1606   memcpy (b, a, sizeof *b);
1607   /* fixme: it is stupid to keep a copy of the name at every level
1608    * but we need the name somewhere because the name known by file_filter
1609    * may have been released when we need the name of the file */
1610   b->real_fname = a->real_fname ? xstrdup (a->real_fname) : NULL;
1611   /* remove the filter stuff from the new stream */
1612   a->filter = NULL;
1613   a->filter_ov = NULL;
1614   a->filter_ov_owner = 0;
1615   a->filter_eof = 0;
1616   if (a->use == IOBUF_OUTPUT_TEMP)
1617     /* A TEMP filter buffers any data sent to it; it does not forward
1618        any data down the pipeline.  If we add a new filter to the
1619        pipeline, it shouldn't also buffer data.  It should send it
1620        downstream to be buffered.  Thus, the correct type for a filter
1621        added in front of an IOBUF_OUTPUT_TEMP filter is IOBUF_OUPUT, not
1622        IOBUF_OUTPUT_TEMP.  */
1623     {
1624       a->use = IOBUF_OUTPUT;
1625
1626       /* When pipeline is written to, the temp buffer's size is
1627          increased accordingly.  We don't need to allocate a 10 MB
1628          buffer for a non-terminal filter.  Just use the default
1629          size.  */
1630       a->d.size = IOBUF_BUFFER_SIZE;
1631     }
1632   else if (a->use == IOBUF_INPUT_TEMP)
1633     /* Same idea as above.  */
1634     {
1635       a->use = IOBUF_INPUT;
1636       a->d.size = IOBUF_BUFFER_SIZE;
1637     }
1638
1639   /* The new filter (A) gets a new buffer.
1640
1641      If the pipeline is an output or temp pipeline, then giving the
1642      buffer to the new filter means that data that was written before
1643      the filter was pushed gets sent to the filter.  That's clearly
1644      wrong.
1645
1646      If the pipeline is an input pipeline, then giving the buffer to
1647      the new filter (A) means that data that has read from (B), but
1648      not yet read from the pipeline won't be processed by the new
1649      filter (A)!  That's certainly not what we want.  */
1650   a->d.buf = xmalloc (a->d.size);
1651   a->d.len = 0;
1652   a->d.start = 0;
1653
1654   /* disable nlimit for the new stream */
1655   a->ntotal = b->ntotal + b->nbytes;
1656   a->nlimit = a->nbytes = 0;
1657   a->nofast = 0;
1658   /* make a link from the new stream to the original stream */
1659   a->chain = b;
1660
1661   /* setup the function on the new stream */
1662   a->filter = f;
1663   a->filter_ov = ov;
1664   a->filter_ov_owner = rel_ov;
1665
1666   a->subno = b->subno + 1;
1667
1668   if (DBG_IOBUF)
1669     {
1670       byte desc[MAX_IOBUF_DESC];
1671       log_debug ("iobuf-%d.%d: push '%s'\n",
1672                  a->no, a->subno, iobuf_desc (a, desc));
1673       print_chain (a);
1674     }
1675
1676   /* now we can initialize the new function if we have one */
1677   if (a->filter && (rc = a->filter (a->filter_ov, IOBUFCTRL_INIT, a->chain,
1678                                     NULL, &dummy_len)))
1679     log_error ("IOBUFCTRL_INIT failed: %s\n", gpg_strerror (rc));
1680   return rc;
1681 }
1682
1683 /****************
1684  * Remove an i/o filter.
1685  */
1686 static int
1687 pop_filter (iobuf_t a, int (*f) (void *opaque, int control,
1688                                iobuf_t chain, byte * buf, size_t * len),
1689             void *ov)
1690 {
1691   iobuf_t b;
1692   size_t dummy_len = 0;
1693   int rc = 0;
1694   byte desc[MAX_IOBUF_DESC];
1695
1696   if (DBG_IOBUF)
1697     log_debug ("iobuf-%d.%d: pop '%s'\n",
1698                a->no, a->subno, iobuf_desc (a, desc));
1699   if (a->use == IOBUF_INPUT_TEMP || a->use == IOBUF_OUTPUT_TEMP)
1700     {
1701       /* This should be the last filter in the pipeline.  */
1702       assert (! a->chain);
1703       return 0;
1704     }
1705   if (!a->filter)
1706     {                           /* this is simple */
1707       b = a->chain;
1708       assert (b);
1709       xfree (a->d.buf);
1710       xfree (a->real_fname);
1711       memcpy (a, b, sizeof *a);
1712       xfree (b);
1713       return 0;
1714     }
1715   for (b = a; b; b = b->chain)
1716     if (b->filter == f && (!ov || b->filter_ov == ov))
1717       break;
1718   if (!b)
1719     log_bug ("pop_filter(): filter function not found\n");
1720
1721   /* flush this stream if it is an output stream */
1722   if (a->use == IOBUF_OUTPUT && (rc = filter_flush (b)))
1723     {
1724       log_error ("filter_flush failed in pop_filter: %s\n", gpg_strerror (rc));
1725       return rc;
1726     }
1727   /* and tell the filter to free it self */
1728   if (b->filter && (rc = b->filter (b->filter_ov, IOBUFCTRL_FREE, b->chain,
1729                                     NULL, &dummy_len)))
1730     {
1731       log_error ("IOBUFCTRL_FREE failed: %s\n", gpg_strerror (rc));
1732       return rc;
1733     }
1734   if (b->filter_ov && b->filter_ov_owner)
1735     {
1736       xfree (b->filter_ov);
1737       b->filter_ov = NULL;
1738     }
1739
1740
1741   /* and see how to remove it */
1742   if (a == b && !b->chain)
1743     log_bug ("can't remove the last filter from the chain\n");
1744   else if (a == b)
1745     {                           /* remove the first iobuf from the chain */
1746       /* everything from b is copied to a. This is save because
1747        * a flush has been done on the to be removed entry
1748        */
1749       b = a->chain;
1750       xfree (a->d.buf);
1751       xfree (a->real_fname);
1752       memcpy (a, b, sizeof *a);
1753       xfree (b);
1754       if (DBG_IOBUF)
1755         log_debug ("iobuf-%d.%d: popped filter\n", a->no, a->subno);
1756     }
1757   else if (!b->chain)
1758     {                           /* remove the last iobuf from the chain */
1759       log_bug ("Ohh jeee, trying to remove a head filter\n");
1760     }
1761   else
1762     {                           /* remove an intermediate iobuf from the chain */
1763       log_bug ("Ohh jeee, trying to remove an intermediate filter\n");
1764     }
1765
1766   return rc;
1767 }
1768
1769
1770 /****************
1771  * read underflow: read more bytes into the buffer and return
1772  * the first byte or -1 on EOF.
1773  */
1774 static int
1775 underflow (iobuf_t a, int clear_pending_eof)
1776 {
1777   size_t len;
1778   int rc;
1779
1780   if (DBG_IOBUF)
1781     log_debug ("iobuf-%d.%d: underflow: buffer size: %d; still buffered: %d => space for %d bytes\n",
1782                a->no, a->subno,
1783                (int) a->d.size, (int) (a->d.len - a->d.start),
1784                (int) (a->d.size - (a->d.len - a->d.start)));
1785
1786   if (a->use == IOBUF_INPUT_TEMP)
1787     /* By definition, there isn't more data to read into the
1788        buffer.  */
1789     return -1;
1790
1791   assert (a->use == IOBUF_INPUT);
1792
1793   /* If there is still some buffered data, then move it to the start
1794      of the buffer and try to fill the end of the buffer.  (This is
1795      useful if we are called from iobuf_peek().)  */
1796   assert (a->d.start <= a->d.len);
1797   a->d.len -= a->d.start;
1798   memmove (a->d.buf, &a->d.buf[a->d.start], a->d.len);
1799   a->d.start = 0;
1800
1801   if (a->d.len == 0 && a->filter_eof)
1802     /* The last time we tried to read from this filter, we got an EOF.
1803        We couldn't return the EOF, because there was buffered data.
1804        Since there is no longer any buffered data, return the
1805        error.  */
1806     {
1807       if (DBG_IOBUF)
1808         log_debug ("iobuf-%d.%d: underflow: eof (pending eof)\n",
1809                    a->no, a->subno);
1810       if (! clear_pending_eof)
1811         return -1;
1812
1813       if (a->chain)
1814         /* A filter follows this one.  Free this filter.  */
1815         {
1816           iobuf_t b = a->chain;
1817           if (DBG_IOBUF)
1818             log_debug ("iobuf-%d.%d: filter popped (pending EOF returned)\n",
1819                        a->no, a->subno);
1820           xfree (a->d.buf);
1821           xfree (a->real_fname);
1822           memcpy (a, b, sizeof *a);
1823           xfree (b);
1824           print_chain (a);
1825         }
1826       else
1827         a->filter_eof = 0;      /* for the top level filter */
1828       return -1;                /* return one(!) EOF */
1829     }
1830
1831   if (a->d.len == 0 && a->error)
1832     /* The last time we tried to read from this filter, we got an
1833        error.  We couldn't return the error, because there was
1834        buffered data.  Since there is no longer any buffered data,
1835        return the error.  */
1836     {
1837       if (DBG_IOBUF)
1838         log_debug ("iobuf-%d.%d: pending error (%s) returned\n",
1839                    a->no, a->subno, gpg_strerror (a->error));
1840       return -1;
1841     }
1842
1843   if (a->filter && ! a->filter_eof && ! a->error)
1844     /* We have a filter function and the last time we tried to read we
1845        didn't get an EOF or an error.  Try to fill the buffer.  */
1846     {
1847       /* Be careful to account for any buffered data.  */
1848       len = a->d.size - a->d.len;
1849       if (DBG_IOBUF)
1850         log_debug ("iobuf-%d.%d: underflow: A->FILTER (%lu bytes)\n",
1851                    a->no, a->subno, (ulong) len);
1852       if (len == 0)
1853         /* There is no space for more data.  Don't bother calling
1854            A->FILTER.  */
1855         rc = 0;
1856       else
1857         rc = a->filter (a->filter_ov, IOBUFCTRL_UNDERFLOW, a->chain,
1858                         &a->d.buf[a->d.len], &len);
1859       a->d.len += len;
1860
1861       if (DBG_IOBUF)
1862         log_debug ("iobuf-%d.%d: A->FILTER() returned rc=%d (%s), read %lu bytes\n",
1863                    a->no, a->subno,
1864                    rc, rc == 0 ? "ok" : rc == -1 ? "EOF" : gpg_strerror (rc),
1865                    (ulong) len);
1866 /*          if( a->no == 1 ) */
1867 /*                   log_hexdump ("     data:", a->d.buf, len); */
1868
1869       if (rc == -1)
1870         /* EOF.  */
1871         {
1872           size_t dummy_len = 0;
1873
1874           /* Tell the filter to free itself */
1875           if ((rc = a->filter (a->filter_ov, IOBUFCTRL_FREE, a->chain,
1876                                NULL, &dummy_len)))
1877             log_error ("IOBUFCTRL_FREE failed: %s\n", gpg_strerror (rc));
1878
1879           /* Free everything except for the internal buffer.  */
1880           if (a->filter_ov && a->filter_ov_owner)
1881             xfree (a->filter_ov);
1882           a->filter_ov = NULL;
1883           a->filter = NULL;
1884           a->filter_eof = 1;
1885
1886           if (clear_pending_eof && a->d.len == 0 && a->chain)
1887             /* We don't need to keep this filter around at all:
1888
1889                  - we got an EOF
1890                  - we have no buffered data
1891                  - a filter follows this one.
1892
1893               Unlink this filter.  */
1894             {
1895               iobuf_t b = a->chain;
1896               if (DBG_IOBUF)
1897                 log_debug ("iobuf-%d.%d: pop in underflow (nothing buffered, got EOF)\n",
1898                            a->no, a->subno);
1899               xfree (a->d.buf);
1900               xfree (a->real_fname);
1901               memcpy (a, b, sizeof *a);
1902               xfree (b);
1903
1904               print_chain (a);
1905
1906               return -1;
1907             }
1908           else if (a->d.len == 0)
1909             /* We can't unlink this filter (it is the only one in the
1910                pipeline), but we can immediately return EOF.  */
1911             return -1;
1912         }
1913       else if (rc)
1914         /* Record the error.  */
1915         {
1916           a->error = rc;
1917
1918           if (a->d.len == 0)
1919             /* There is no buffered data.  Immediately return EOF.  */
1920             return -1;
1921         }
1922     }
1923
1924   assert (a->d.start <= a->d.len);
1925   if (a->d.start < a->d.len)
1926     return a->d.buf[a->d.start++];
1927
1928   /* EOF.  */
1929   return -1;
1930 }
1931
1932
1933 static int
1934 filter_flush (iobuf_t a)
1935 {
1936   size_t len;
1937   int rc;
1938
1939   if (a->use == IOBUF_OUTPUT_TEMP)
1940     {                           /* increase the temp buffer */
1941       size_t newsize = a->d.size + IOBUF_BUFFER_SIZE;
1942
1943       if (DBG_IOBUF)
1944         log_debug ("increasing temp iobuf from %lu to %lu\n",
1945                    (ulong) a->d.size, (ulong) newsize);
1946
1947       a->d.buf = xrealloc (a->d.buf, newsize);
1948       a->d.size = newsize;
1949       return 0;
1950     }
1951   else if (a->use != IOBUF_OUTPUT)
1952     log_bug ("flush on non-output iobuf\n");
1953   else if (!a->filter)
1954     log_bug ("filter_flush: no filter\n");
1955   len = a->d.len;
1956   rc = a->filter (a->filter_ov, IOBUFCTRL_FLUSH, a->chain, a->d.buf, &len);
1957   if (!rc && len != a->d.len)
1958     {
1959       log_info ("filter_flush did not write all!\n");
1960       rc = GPG_ERR_INTERNAL;
1961     }
1962   else if (rc)
1963     a->error = rc;
1964   a->d.len = 0;
1965
1966   return rc;
1967 }
1968
1969
1970 int
1971 iobuf_readbyte (iobuf_t a)
1972 {
1973   int c;
1974
1975   if (a->use == IOBUF_OUTPUT || a->use == IOBUF_OUTPUT_TEMP)
1976     {
1977       log_bug ("iobuf_readbyte called on a non-INPUT pipeline!\n");
1978       return -1;
1979     }
1980
1981   assert (a->d.start <= a->d.len);
1982
1983   if (a->nlimit && a->nbytes >= a->nlimit)
1984     return -1;                  /* forced EOF */
1985
1986   if (a->d.start < a->d.len)
1987     {
1988       c = a->d.buf[a->d.start++];
1989     }
1990   else if ((c = underflow (a, 1)) == -1)
1991     return -1;                  /* EOF */
1992
1993   assert (a->d.start <= a->d.len);
1994
1995   /* Note: if underflow doesn't return EOF, then it returns the first
1996      byte that was read and advances a->d.start appropriately.  */
1997
1998   a->nbytes++;
1999   return c;
2000 }
2001
2002
2003 int
2004 iobuf_read (iobuf_t a, void *buffer, unsigned int buflen)
2005 {
2006   unsigned char *buf = (unsigned char *)buffer;
2007   int c, n;
2008
2009   if (a->use == IOBUF_OUTPUT || a->use == IOBUF_OUTPUT_TEMP)
2010     {
2011       log_bug ("iobuf_read called on a non-INPUT pipeline!\n");
2012       return -1;
2013     }
2014
2015   if (a->nlimit)
2016     {
2017       /* Handle special cases. */
2018       for (n = 0; n < buflen; n++)
2019         {
2020           if ((c = iobuf_readbyte (a)) == -1)
2021             {
2022               if (!n)
2023                 return -1;      /* eof */
2024               break;
2025             }
2026
2027           if (buf)
2028             {
2029               *buf = c;
2030               buf++;
2031             }
2032         }
2033       return n;
2034     }
2035
2036   n = 0;
2037   do
2038     {
2039       if (n < buflen && a->d.start < a->d.len)
2040         /* Drain the buffer.  */
2041         {
2042           unsigned size = a->d.len - a->d.start;
2043           if (size > buflen - n)
2044             size = buflen - n;
2045           if (buf)
2046             memcpy (buf, a->d.buf + a->d.start, size);
2047           n += size;
2048           a->d.start += size;
2049           if (buf)
2050             buf += size;
2051         }
2052       if (n < buflen)
2053         /* Draining the internal buffer didn't fill BUFFER.  Call
2054            underflow to read more data into the filter's internal
2055            buffer.  */
2056         {
2057           if ((c = underflow (a, 1)) == -1)
2058             /* EOF.  If we managed to read something, don't return EOF
2059                now.  */
2060             {
2061               a->nbytes += n;
2062               return n ? n : -1 /*EOF*/;
2063             }
2064           if (buf)
2065             *buf++ = c;
2066           n++;
2067         }
2068     }
2069   while (n < buflen);
2070   a->nbytes += n;
2071   return n;
2072 }
2073
2074
2075
2076 int
2077 iobuf_peek (iobuf_t a, byte * buf, unsigned buflen)
2078 {
2079   int n = 0;
2080
2081   assert (buflen > 0);
2082   assert (a->use == IOBUF_INPUT || a->use == IOBUF_INPUT_TEMP);
2083
2084   if (buflen > a->d.size)
2085     /* We can't peek more than we can buffer.  */
2086     buflen = a->d.size;
2087
2088   /* Try to fill the internal buffer with enough data to satisfy the
2089      request.  */
2090   while (buflen > a->d.len - a->d.start)
2091     {
2092       if (underflow (a, 0) == -1)
2093         /* EOF.  We can't read any more.  */
2094         break;
2095
2096       /* Underflow consumes the first character (it's the return
2097          value).  unget() it by resetting the "file position".  */
2098       assert (a->d.start == 1);
2099       a->d.start = 0;
2100     }
2101
2102   n = a->d.len - a->d.start;
2103   if (n > buflen)
2104     n = buflen;
2105
2106   if (n == 0)
2107     /* EOF.  */
2108     return -1;
2109
2110   memcpy (buf, &a->d.buf[a->d.start], n);
2111
2112   return n;
2113 }
2114
2115
2116
2117
2118 int
2119 iobuf_writebyte (iobuf_t a, unsigned int c)
2120 {
2121   int rc;
2122
2123   if (a->use == IOBUF_INPUT || a->use == IOBUF_INPUT_TEMP)
2124     {
2125       log_bug ("iobuf_writebyte called on an input pipeline!\n");
2126       return -1;
2127     }
2128
2129   if (a->d.len == a->d.size)
2130     if ((rc=filter_flush (a)))
2131       return rc;
2132
2133   assert (a->d.len < a->d.size);
2134   a->d.buf[a->d.len++] = c;
2135   return 0;
2136 }
2137
2138
2139 int
2140 iobuf_write (iobuf_t a, const void *buffer, unsigned int buflen)
2141 {
2142   const unsigned char *buf = (const unsigned char *)buffer;
2143   int rc;
2144
2145   if (a->use == IOBUF_INPUT || a->use == IOBUF_INPUT_TEMP)
2146     {
2147       log_bug ("iobuf_write called on an input pipeline!\n");
2148       return -1;
2149     }
2150
2151   do
2152     {
2153       if (buflen && a->d.len < a->d.size)
2154         {
2155           unsigned size = a->d.size - a->d.len;
2156           if (size > buflen)
2157             size = buflen;
2158           memcpy (a->d.buf + a->d.len, buf, size);
2159           buflen -= size;
2160           buf += size;
2161           a->d.len += size;
2162         }
2163       if (buflen)
2164         {
2165           rc = filter_flush (a);
2166           if (rc)
2167             return rc;
2168         }
2169     }
2170   while (buflen);
2171   return 0;
2172 }
2173
2174
2175 int
2176 iobuf_writestr (iobuf_t a, const char *buf)
2177 {
2178   if (a->use == IOBUF_INPUT || a->use == IOBUF_INPUT_TEMP)
2179     {
2180       log_bug ("iobuf_writestr called on an input pipeline!\n");
2181       return -1;
2182     }
2183
2184   return iobuf_write (a, buf, strlen (buf));
2185 }
2186
2187
2188
2189 int
2190 iobuf_write_temp (iobuf_t dest, iobuf_t source)
2191 {
2192   assert (source->use == IOBUF_OUTPUT || source->use == IOBUF_OUTPUT_TEMP);
2193   assert (dest->use == IOBUF_OUTPUT || dest->use == IOBUF_OUTPUT_TEMP);
2194
2195   iobuf_flush_temp (source);
2196   return iobuf_write (dest, source->d.buf, source->d.len);
2197 }
2198
2199 size_t
2200 iobuf_temp_to_buffer (iobuf_t a, byte * buffer, size_t buflen)
2201 {
2202   byte desc[MAX_IOBUF_DESC];
2203   size_t n;
2204
2205   while (1)
2206     {
2207       int rc = filter_flush (a);
2208       if (rc)
2209         log_bug ("Flushing iobuf %d.%d (%s) from iobuf_temp_to_buffer failed.  Ignoring.\n",
2210                  a->no, a->subno, iobuf_desc (a, desc));
2211       if (! a->chain)
2212         break;
2213       a = a->chain;
2214     }
2215
2216   n = a->d.len;
2217   if (n > buflen)
2218     n = buflen;
2219   memcpy (buffer, a->d.buf, n);
2220   return n;
2221 }
2222
2223 /* Copies the data from the input iobuf SOURCE to the output iobuf
2224    DEST until either an error is encountered or EOF is reached.
2225    Returns the number of bytes copies.  */
2226 size_t
2227 iobuf_copy (iobuf_t dest, iobuf_t source)
2228 {
2229   char *temp;
2230   /* Use a 1 MB buffer.  */
2231   const size_t temp_size = 1024 * 1024;
2232
2233   size_t nread;
2234   size_t nwrote = 0;
2235   int err;
2236
2237   assert (source->use == IOBUF_INPUT || source->use == IOBUF_INPUT_TEMP);
2238   assert (dest->use == IOBUF_OUTPUT || source->use == IOBUF_OUTPUT_TEMP);
2239
2240   temp = xmalloc (temp_size);
2241   while (1)
2242     {
2243       nread = iobuf_read (source, temp, temp_size);
2244       if (nread == -1)
2245         /* EOF.  */
2246         break;
2247
2248       err = iobuf_write (dest, temp, nread);
2249       if (err)
2250         break;
2251       nwrote += nread;
2252     }
2253   xfree (temp);
2254
2255   return nwrote;
2256 }
2257
2258
2259 void
2260 iobuf_flush_temp (iobuf_t temp)
2261 {
2262   if (temp->use == IOBUF_INPUT || temp->use == IOBUF_INPUT_TEMP)
2263     log_bug ("iobuf_flush_temp called on an input pipeline!\n");
2264   while (temp->chain)
2265     pop_filter (temp, temp->filter, NULL);
2266 }
2267
2268
2269 void
2270 iobuf_set_limit (iobuf_t a, off_t nlimit)
2271 {
2272   if (nlimit)
2273     a->nofast = 1;
2274   else
2275     a->nofast = 0;
2276   a->nlimit = nlimit;
2277   a->ntotal += a->nbytes;
2278   a->nbytes = 0;
2279 }
2280
2281
2282
2283 off_t
2284 iobuf_get_filelength (iobuf_t a, int *overflow)
2285 {
2286   if (overflow)
2287     *overflow = 0;
2288
2289   /* Hmmm: file_filter may have already been removed */
2290   for ( ; a->chain; a = a->chain )
2291     ;
2292
2293   if (a->filter != file_filter)
2294     return 0;
2295
2296   {
2297     file_filter_ctx_t *b = a->filter_ov;
2298     gnupg_fd_t fp = b->fp;
2299
2300 #if defined(HAVE_W32_SYSTEM)
2301     ulong size;
2302     static int (* __stdcall get_file_size_ex) (void *handle,
2303                                                LARGE_INTEGER *r_size);
2304     static int get_file_size_ex_initialized;
2305
2306     if (!get_file_size_ex_initialized)
2307       {
2308         void *handle;
2309
2310         handle = dlopen ("kernel32.dll", RTLD_LAZY);
2311         if (handle)
2312           {
2313             get_file_size_ex = dlsym (handle, "GetFileSizeEx");
2314             if (!get_file_size_ex)
2315               dlclose (handle);
2316           }
2317         get_file_size_ex_initialized = 1;
2318       }
2319
2320     if (get_file_size_ex)
2321       {
2322         /* This is a newer system with GetFileSizeEx; we use this
2323            then because it seem that GetFileSize won't return a
2324            proper error in case a file is larger than 4GB. */
2325         LARGE_INTEGER exsize;
2326
2327         if (get_file_size_ex (fp, &exsize))
2328           {
2329             if (!exsize.u.HighPart)
2330               return exsize.u.LowPart;
2331             if (overflow)
2332               *overflow = 1;
2333             return 0;
2334           }
2335       }
2336     else
2337       {
2338         if ((size=GetFileSize (fp, NULL)) != 0xffffffff)
2339           return size;
2340       }
2341     log_error ("GetFileSize for handle %p failed: %s\n",
2342                fp, w32_strerror (0));
2343 #else /*!HAVE_W32_SYSTEM*/
2344     {
2345       struct stat st;
2346
2347       if ( !fstat (FD2INT (fp), &st) )
2348         return st.st_size;
2349       log_error("fstat() failed: %s\n", strerror(errno) );
2350     }
2351 #endif /*!HAVE_W32_SYSTEM*/
2352   }
2353
2354   return 0;
2355 }
2356
2357
2358 int
2359 iobuf_get_fd (iobuf_t a)
2360 {
2361   for (; a->chain; a = a->chain)
2362     ;
2363
2364   if (a->filter != file_filter)
2365     return -1;
2366
2367   {
2368     file_filter_ctx_t *b = a->filter_ov;
2369     gnupg_fd_t fp = b->fp;
2370
2371     return FD2INT (fp);
2372   }
2373 }
2374
2375
2376 off_t
2377 iobuf_tell (iobuf_t a)
2378 {
2379   return a->ntotal + a->nbytes;
2380 }
2381
2382
2383 #if !defined(HAVE_FSEEKO) && !defined(fseeko)
2384
2385 #ifdef HAVE_LIMITS_H
2386 # include <limits.h>
2387 #endif
2388 #ifndef LONG_MAX
2389 # define LONG_MAX ((long) ((unsigned long) -1 >> 1))
2390 #endif
2391 #ifndef LONG_MIN
2392 # define LONG_MIN (-1 - LONG_MAX)
2393 #endif
2394
2395 /****************
2396  * A substitute for fseeko, for hosts that don't have it.
2397  */
2398 static int
2399 fseeko (FILE * stream, off_t newpos, int whence)
2400 {
2401   while (newpos != (long) newpos)
2402     {
2403       long pos = newpos < 0 ? LONG_MIN : LONG_MAX;
2404       if (fseek (stream, pos, whence) != 0)
2405         return -1;
2406       newpos -= pos;
2407       whence = SEEK_CUR;
2408     }
2409   return fseek (stream, (long) newpos, whence);
2410 }
2411 #endif
2412
2413 int
2414 iobuf_seek (iobuf_t a, off_t newpos)
2415 {
2416   file_filter_ctx_t *b = NULL;
2417
2418   if (a->use == IOBUF_OUTPUT || a->use == IOBUF_INPUT)
2419     {
2420       /* Find the last filter in the pipeline.  */
2421       for (; a->chain; a = a->chain)
2422         ;
2423
2424       if (a->filter != file_filter)
2425         return -1;
2426
2427       b = a->filter_ov;
2428
2429 #ifdef HAVE_W32_SYSTEM
2430       if (SetFilePointer (b->fp, newpos, NULL, FILE_BEGIN) == 0xffffffff)
2431         {
2432           log_error ("SetFilePointer failed on handle %p: ec=%d\n",
2433                      b->fp, (int) GetLastError ());
2434           return -1;
2435         }
2436 #else
2437       if (lseek (b->fp, newpos, SEEK_SET) == (off_t) - 1)
2438         {
2439           log_error ("can't lseek: %s\n", strerror (errno));
2440           return -1;
2441         }
2442 #endif
2443       /* Discard the buffer it is not a temp stream.  */
2444       a->d.len = 0;
2445     }
2446   a->d.start = 0;
2447   a->nbytes = 0;
2448   a->nlimit = 0;
2449   a->nofast = 0;
2450   a->ntotal = newpos;
2451   a->error = 0;
2452
2453   /* It is impossible for A->CHAIN to be non-NULL.  If A is an INPUT
2454      or OUTPUT buffer, then we find the last filter, which is defined
2455      as A->CHAIN being NULL.  If A is a TEMP filter, then A must be
2456      the only filter in the pipe: when iobuf_push_filter adds a filter
2457      to the front of a pipeline, it sets the new filter to be an
2458      OUTPUT filter if the pipeline is an OUTPUT or TEMP pipeline and
2459      to be an INPUT filter if the pipeline is an INPUT pipeline.
2460      Thus, only the last filter in a TEMP pipeline can be a */
2461
2462   /* remove filters, but the last */
2463   if (a->chain)
2464     log_debug ("pop_filter called in iobuf_seek - please report\n");
2465   while (a->chain)
2466     pop_filter (a, a->filter, NULL);
2467
2468   return 0;
2469 }
2470
2471
2472 const char *
2473 iobuf_get_real_fname (iobuf_t a)
2474 {
2475   if (a->real_fname)
2476     return a->real_fname;
2477
2478   /* the old solution */
2479   for (; a; a = a->chain)
2480     if (!a->chain && a->filter == file_filter)
2481       {
2482         file_filter_ctx_t *b = a->filter_ov;
2483         return b->print_only_name ? NULL : b->fname;
2484       }
2485
2486   return NULL;
2487 }
2488
2489 const char *
2490 iobuf_get_fname (iobuf_t a)
2491 {
2492   for (; a; a = a->chain)
2493     if (!a->chain && a->filter == file_filter)
2494       {
2495         file_filter_ctx_t *b = a->filter_ov;
2496         return b->fname;
2497       }
2498   return NULL;
2499 }
2500
2501 const char *
2502 iobuf_get_fname_nonnull (iobuf_t a)
2503 {
2504   const char *fname;
2505
2506   fname = iobuf_get_fname (a);
2507   return fname? fname : "[?]";
2508 }
2509
2510
2511 /****************
2512  * enable partial block mode as described in the OpenPGP draft.
2513  * LEN is the first length byte on read, but ignored on writes.
2514  */
2515 void
2516 iobuf_set_partial_body_length_mode (iobuf_t a, size_t len)
2517 {
2518   block_filter_ctx_t *ctx = xcalloc (1, sizeof *ctx);
2519
2520   ctx->use = a->use;
2521   if (!len)
2522     {
2523       if (a->use == IOBUF_INPUT)
2524         log_debug ("pop_filter called in set_partial_block_mode"
2525                    " - please report\n");
2526       /* XXX: This pop_filter doesn't make sense.  Since we haven't
2527          actually added the filter to the pipeline yet, why are we
2528          popping anything?  Moreover, since we don't report an error,
2529          the caller won't directly see an error.  I think that it
2530          would be better to push the filter and set a->error to
2531          GPG_ERR_BAD_DATA, but Werner thinks it's impossible for len
2532          to be 0 (but he doesn't want to remove the check just in
2533          case).  */
2534       pop_filter (a, block_filter, NULL);
2535     }
2536   else
2537     {
2538       ctx->partial = 1;
2539       ctx->size = 0;
2540       ctx->first_c = len;
2541       iobuf_push_filter (a, block_filter, ctx);
2542     }
2543 }
2544
2545
2546
2547 unsigned int
2548 iobuf_read_line (iobuf_t a, byte ** addr_of_buffer,
2549                  unsigned *length_of_buffer, unsigned *max_length)
2550 {
2551   int c;
2552   char *buffer = (char *)*addr_of_buffer;
2553   unsigned length = *length_of_buffer;
2554   unsigned nbytes = 0;
2555   unsigned maxlen = *max_length;
2556   char *p;
2557
2558   /* The code assumes that we have space for at least a newline and a
2559      NUL character in the buffer.  This requires at least 2 bytes.  We
2560      don't complicate the code by handling the stupid corner case, but
2561      simply assert that it can't happen.  */
2562   assert (length >= 2 || maxlen >= 2);
2563
2564   if (!buffer || length <= 1)
2565     /* must allocate a new buffer */
2566     {
2567       length = 256 <= maxlen ? 256 : maxlen;
2568       buffer = xrealloc (buffer, length);
2569       *addr_of_buffer = (unsigned char *)buffer;
2570       *length_of_buffer = length;
2571     }
2572
2573   p = buffer;
2574   while ((c = iobuf_get (a)) != -1)
2575     {
2576       *p++ = c;
2577       nbytes++;
2578       if (c == '\n')
2579         break;
2580
2581       if (nbytes == length - 1)
2582         /* We don't have enough space to add a \n and a \0.  Increase
2583            the buffer size.  */
2584         {
2585           if (length == maxlen)
2586             /* We reached the buffer's size limit!  */
2587             {
2588               /* Skip the rest of the line.  */
2589               while (c != '\n' && (c = iobuf_get (a)) != -1)
2590                 ;
2591
2592               /* p is pointing at the last byte in the buffer.  We
2593                  always terminate the line with "\n\0" so overwrite
2594                  the previous byte with a \n.  */
2595               assert (p > buffer);
2596               p[-1] = '\n';
2597
2598               /* Indicate truncation.  */
2599               *max_length = 0;
2600               break;
2601             }
2602
2603           length += length < 1024 ? 256 : 1024;
2604           if (length > maxlen)
2605             length = maxlen;
2606
2607           buffer = xrealloc (buffer, length);
2608           *addr_of_buffer = (unsigned char *)buffer;
2609           *length_of_buffer = length;
2610           p = buffer + nbytes;
2611         }
2612     }
2613   /* Add the terminating NUL.  */
2614   *p = 0;
2615
2616   /* Return the number of characters written to the buffer including
2617      the newline, but not including the terminating NUL.  */
2618   return nbytes;
2619 }
2620
2621 static int
2622 translate_file_handle (int fd, int for_write)
2623 {
2624 #if defined(HAVE_W32CE_SYSTEM)
2625   /* This is called only with one of the special filenames.  Under
2626      W32CE the FD here is not a file descriptor but a rendezvous id,
2627      thus we need to finish the pipe first.  */
2628   fd = _assuan_w32ce_finish_pipe (fd, for_write);
2629 #elif defined(HAVE_W32_SYSTEM)
2630   {
2631     int x;
2632
2633     (void)for_write;
2634
2635     if (fd == 0)
2636       x = (int) GetStdHandle (STD_INPUT_HANDLE);
2637     else if (fd == 1)
2638       x = (int) GetStdHandle (STD_OUTPUT_HANDLE);
2639     else if (fd == 2)
2640       x = (int) GetStdHandle (STD_ERROR_HANDLE);
2641     else
2642       x = fd;
2643
2644     if (x == -1)
2645       log_debug ("GetStdHandle(%d) failed: ec=%d\n",
2646                  fd, (int) GetLastError ());
2647
2648     fd = x;
2649   }
2650 #else
2651   (void)for_write;
2652 #endif
2653   return fd;
2654 }
2655
2656
2657 void
2658 iobuf_skip_rest (iobuf_t a, unsigned long n, int partial)
2659 {
2660   if ( partial )
2661     {
2662       for (;;)
2663         {
2664           if (a->nofast || a->d.start >= a->d.len)
2665             {
2666               if (iobuf_readbyte (a) == -1)
2667                 {
2668                   break;
2669                 }
2670             }
2671           else
2672             {
2673               unsigned long count = a->d.len - a->d.start;
2674               a->nbytes += count;
2675               a->d.start = a->d.len;
2676             }
2677         }
2678     }
2679   else
2680     {
2681       unsigned long remaining = n;
2682       while (remaining > 0)
2683         {
2684           if (a->nofast || a->d.start >= a->d.len)
2685             {
2686               if (iobuf_readbyte (a) == -1)
2687                 {
2688                   break;
2689                 }
2690               --remaining;
2691             }
2692           else
2693             {
2694               unsigned long count = a->d.len - a->d.start;
2695               if (count > remaining)
2696                 {
2697                   count = remaining;
2698                 }
2699               a->nbytes += count;
2700               a->d.start += count;
2701               remaining -= count;
2702             }
2703         }
2704     }
2705 }