Merged jnlib into common.
[gnupg.git] / common / iobuf.c
1 /* iobuf.c  -  File Handling for OpenPGP.
2  * Copyright (C) 1998, 1999, 2000, 2001, 2003, 2004, 2006, 2007, 2008,
3  *               2009, 2010  Free Software Foundation, Inc.
4  *
5  * This file is part of GnuPG.
6  *
7  * GnuPG is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License as published by
9  * the Free Software Foundation; either version 3 of the License, or
10  * (at your option) any later version.
11  *
12  * GnuPG is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU General Public License for more details.
16  *
17  * You should have received a copy of the GNU General Public License
18  * along with this program; if not, see <http://www.gnu.org/licenses/>.
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <errno.h>
26 #include <ctype.h>
27 #include <assert.h>
28 #include <sys/types.h>
29 #include <sys/stat.h>
30 #include <fcntl.h>
31 #include <unistd.h>
32 #ifdef HAVE_W32_SYSTEM
33 # include <windows.h>
34 #endif
35 #ifdef __riscos__
36 # include <kernel.h>
37 # include <swis.h>
38 #endif /* __riscos__ */
39
40 #include "util.h"
41 #include "sysutils.h"
42 #include "iobuf.h"
43
44 /*-- Begin configurable part.  --*/
45
46 /* The size of the internal buffers. 
47    NOTE: If you change this value you MUST also adjust the regression
48    test "armored_key_8192" in armor.test! */
49 #define IOBUF_BUFFER_SIZE  8192
50
51 /*-- End configurable part.  --*/
52
53
54 #ifdef HAVE_W32_SYSTEM
55 # define FD_FOR_STDIN  (GetStdHandle (STD_INPUT_HANDLE))
56 # define FD_FOR_STDOUT (GetStdHandle (STD_OUTPUT_HANDLE))
57 #else /*!HAVE_W32_SYSTEM*/
58 # define FD_FOR_STDIN  (0)
59 # define FD_FOR_STDOUT (1)
60 #endif /*!HAVE_W32_SYSTEM*/
61
62
63 /* The context used by the file filter.  */
64 typedef struct
65 {
66   gnupg_fd_t fp;       /* Open file pointer or handle.  */
67   int keep_open; 
68   int no_cache;
69   int eof_seen;
70   int print_only_name; /* Flags indicating that fname is not a real file.  */
71   char fname[1];       /* Name of the file.  */
72 } file_filter_ctx_t;
73
74
75 /* Object to control the "close cache".  */
76 struct close_cache_s
77 {
78   struct close_cache_s *next;
79   gnupg_fd_t fp;
80   char fname[1];
81 };
82 typedef struct close_cache_s *close_cache_t;
83 static close_cache_t close_cache;
84
85
86
87 #ifdef HAVE_W32_SYSTEM
88 typedef struct
89 {
90   int sock;
91   int keep_open;
92   int no_cache;
93   int eof_seen;
94   int print_only_name;  /* Flag indicating that fname is not a real file.  */
95   char fname[1];        /* Name of the file */
96
97 } sock_filter_ctx_t;
98 #endif /*HAVE_W32_SYSTEM*/
99
100 /* The first partial length header block must be of size 512
101  * to make it easier (and efficienter) we use a min. block size of 512
102  * for all chunks (but the last one) */
103 #define OP_MIN_PARTIAL_CHUNK      512
104 #define OP_MIN_PARTIAL_CHUNK_2POW 9
105
106 /* The context we use for the block filter (used to handle OpenPGP
107    length information header).  */
108 typedef struct
109 {
110   int use;
111   size_t size;
112   size_t count;
113   int partial;     /* 1 = partial header, 2 in last partial packet.  */
114   char *buffer;    /* Used for partial header.  */
115   size_t buflen;   /* Used size of buffer.  */
116   int first_c;     /* First character of a partial header (which is > 0).  */
117   int eof;
118 }
119 block_filter_ctx_t;
120
121
122 /* Global flag to tell whether special file names are enabled.  See
123    gpg.c for an explanation of these file names.  FIXME: it does not
124    belong into the iobuf subsystem. */
125 static int special_names_enabled;
126
127 /* Local prototypes.  */
128 static int underflow (iobuf_t a);
129 static int translate_file_handle (int fd, int for_write);
130
131
132 \f
133 /* This is a replacement for strcmp.  Under W32 it does not
134    distinguish between backslash and slash.  */
135 static int
136 fd_cache_strcmp (const char *a, const char *b)
137 {
138 #ifdef HAVE_DOSISH_SYSTEM
139   for (; *a && *b; a++, b++)
140     {
141       if (*a != *b && !((*a == '/' && *b == '\\') 
142                         || (*a == '\\' && *b == '/')) )
143         break;
144     }
145   return *(const unsigned char *)a - *(const unsigned char *)b;
146 #else
147   return strcmp (a, b);
148 #endif
149 }
150
151 /*
152  * Invalidate (i.e. close) a cached iobuf
153  */
154 static int
155 fd_cache_invalidate (const char *fname)
156 {
157   close_cache_t cc;
158   int rc = 0;
159
160   assert (fname);
161   if (DBG_IOBUF)
162     log_debug ("fd_cache_invalidate (%s)\n", fname);
163
164   for (cc = close_cache; cc; cc = cc->next)
165     {
166       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
167         {
168           if (DBG_IOBUF)
169             log_debug ("                did (%s)\n", cc->fname);
170 #ifdef HAVE_W32_SYSTEM
171           if (!CloseHandle (cc->fp))
172             rc = -1;
173 #else
174           rc = close (cc->fp);
175 #endif
176           cc->fp = GNUPG_INVALID_FD;
177         }
178     }
179   return rc;
180 }
181
182
183 /* Try to sync changes to the disk.  This is to avoid data loss during
184    a system crash in write/close/rename cycle on some file
185    systems.  */
186 static int
187 fd_cache_synchronize (const char *fname)
188 {
189   int err = 0;
190
191 #ifdef HAVE_FSYNC
192   close_cache_t cc;
193
194   if (DBG_IOBUF)
195     log_debug ("fd_cache_synchronize (%s)\n", fname);
196
197   for (cc=close_cache; cc; cc = cc->next )
198     {
199       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
200         {
201           if (DBG_IOBUF)
202             log_debug ("                 did (%s)\n", cc->fname);
203
204           err = fsync (cc->fp);
205         }
206     }
207 #else
208   (void)fname;
209 #endif /*HAVE_FSYNC*/
210
211   return err;
212 }
213
214
215 static gnupg_fd_t
216 direct_open (const char *fname, const char *mode)
217 {
218 #ifdef HAVE_W32_SYSTEM
219   unsigned long da, cd, sm;
220   HANDLE hfile;
221
222   /* Note, that we do not handle all mode combinations */
223
224   /* According to the ReactOS source it seems that open() of the
225    * standard MSW32 crt does open the file in shared mode which is
226    * something new for MS applications ;-)
227    */
228   if (strchr (mode, '+'))
229     {
230       if (fd_cache_invalidate (fname))
231         return GNUPG_INVALID_FD;
232       da = GENERIC_READ | GENERIC_WRITE;
233       cd = OPEN_EXISTING;
234       sm = FILE_SHARE_READ | FILE_SHARE_WRITE;
235     }
236   else if (strchr (mode, 'w'))
237     {
238       if (fd_cache_invalidate (fname))
239         return GNUPG_INVALID_FD;
240       da = GENERIC_WRITE;
241       cd = CREATE_ALWAYS;
242       sm = FILE_SHARE_WRITE;
243     }
244   else
245     {
246       da = GENERIC_READ;
247       cd = OPEN_EXISTING;
248       sm = FILE_SHARE_READ;
249     }
250
251 #ifdef HAVE_W32CE_SYSTEM
252   {
253     wchar_t *wfname = utf8_to_wchar (fname);
254     if (wfname)
255       {
256         hfile = CreateFile (wfname, da, sm, NULL, cd,
257                             FILE_ATTRIBUTE_NORMAL, NULL);
258         xfree (wfname);
259       }
260     else
261       hfile = INVALID_HANDLE_VALUE;
262   }
263 #else
264   hfile = CreateFile (fname, da, sm, NULL, cd, FILE_ATTRIBUTE_NORMAL, NULL);
265 #endif
266   return hfile;
267 #else /*!HAVE_W32_SYSTEM*/
268   int oflag;
269   int cflag = S_IRUSR | S_IWUSR | S_IRGRP | S_IWGRP | S_IROTH | S_IWOTH;
270
271   /* Note, that we do not handle all mode combinations */
272   if (strchr (mode, '+'))
273     {
274       if (fd_cache_invalidate (fname))
275         return GNUPG_INVALID_FD;
276       oflag = O_RDWR;
277     }
278   else if (strchr (mode, 'w'))
279     {
280       if (fd_cache_invalidate (fname))
281         return GNUPG_INVALID_FD;
282       oflag = O_WRONLY | O_CREAT | O_TRUNC;
283     }
284   else
285     {
286       oflag = O_RDONLY;
287     }
288 #ifdef O_BINARY
289   if (strchr (mode, 'b'))
290     oflag |= O_BINARY;
291 #endif
292   /* No we need to distinguish between POSIX and RISC OS.  */
293 #ifndef __riscos__
294   return open (fname, oflag, cflag);
295 #else
296   {
297     struct stat buf;
298     int rc = stat (fname, &buf);
299
300     /* Don't allow iobufs on directories */
301     if (!rc && S_ISDIR (buf.st_mode) && !S_ISREG (buf.st_mode))
302       return __set_errno (EISDIR);
303     else
304       return open (fname, oflag, cflag);
305   }
306 #endif
307 #endif /*!HAVE_W32_SYSTEM*/
308 }
309
310
311 /*
312  * Instead of closing an FD we keep it open and cache it for later reuse 
313  * Note that this caching strategy only works if the process does not chdir.
314  */
315 static void
316 fd_cache_close (const char *fname, gnupg_fd_t fp)
317 {
318   close_cache_t cc;
319
320   assert (fp);
321   if (!fname || !*fname)
322     {
323 #ifdef HAVE_W32_SYSTEM
324       CloseHandle (fp);
325 #else
326       close (fp);
327 #endif
328       if (DBG_IOBUF)
329         log_debug ("fd_cache_close (%d) real\n", (int)fp);
330       return;
331     }
332   /* try to reuse a slot */
333   for (cc = close_cache; cc; cc = cc->next)
334     {
335       if (cc->fp == GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
336         {
337           cc->fp = fp;
338           if (DBG_IOBUF)
339             log_debug ("fd_cache_close (%s) used existing slot\n", fname);
340           return;
341         }
342     }
343   /* add a new one */
344   if (DBG_IOBUF)
345     log_debug ("fd_cache_close (%s) new slot created\n", fname);
346   cc = xcalloc (1, sizeof *cc + strlen (fname));
347   strcpy (cc->fname, fname);
348   cc->fp = fp;
349   cc->next = close_cache;
350   close_cache = cc;
351 }
352
353 /*
354  * Do an direct_open on FNAME but first try to reuse one from the fd_cache
355  */
356 static gnupg_fd_t
357 fd_cache_open (const char *fname, const char *mode)
358 {
359   close_cache_t cc;
360
361   assert (fname);
362   for (cc = close_cache; cc; cc = cc->next)
363     {
364       if (cc->fp != GNUPG_INVALID_FD && !fd_cache_strcmp (cc->fname, fname))
365         {
366           gnupg_fd_t fp = cc->fp;
367           cc->fp = GNUPG_INVALID_FD;
368           if (DBG_IOBUF)
369             log_debug ("fd_cache_open (%s) using cached fp\n", fname);
370 #ifdef HAVE_W32_SYSTEM
371           if (SetFilePointer (fp, 0, NULL, FILE_BEGIN) == 0xffffffff)
372             {
373               log_error ("rewind file failed on handle %p: ec=%d\n",
374                          fp, (int) GetLastError ());
375               fp = GNUPG_INVALID_FD;
376             }
377 #else
378           if (lseek (fp, 0, SEEK_SET) == (off_t) - 1)
379             {
380               log_error ("can't rewind fd %d: %s\n", fp, strerror (errno));
381               fp = GNUPG_INVALID_FD;
382             }
383 #endif
384           return fp;
385         }
386     }
387   if (DBG_IOBUF)
388     log_debug ("fd_cache_open (%s) not cached\n", fname);
389   return direct_open (fname, mode);
390 }
391
392
393 /****************
394  * Read data from a file into buf which has an allocated length of *LEN.
395  * return the number of read bytes in *LEN. OPAQUE is the FILE * of
396  * the stream. A is not used.
397  * control may be:
398  * IOBUFCTRL_INIT: called just before the function is linked into the
399  *                 list of function. This can be used to prepare internal
400  *                 data structures of the function.
401  * IOBUFCTRL_FREE: called just before the function is removed from the
402  *                  list of functions and can be used to release internal
403  *                  data structures or close a file etc.
404  * IOBUFCTRL_UNDERFLOW: called by iobuf_underflow to fill the buffer
405  *                  with new stuff. *RET_LEN is the available size of the
406  *                  buffer, and should be set to the number of bytes
407  *                  which were put into the buffer. The function
408  *                  returns 0 to indicate success, -1 on EOF and
409  *                  GPG_ERR_xxxxx for other errors.
410  *
411  * IOBUFCTRL_FLUSH: called by iobuf_flush() to write out the collected stuff.
412  *                  *RET_LAN is the number of bytes in BUF.
413  *
414  * IOBUFCTRL_CANCEL: send to all filters on behalf of iobuf_cancel.  The
415  *                  filter may take appropriate action on this message.
416  */
417 static int
418 file_filter (void *opaque, int control, iobuf_t chain, byte * buf,
419              size_t * ret_len)
420 {
421   file_filter_ctx_t *a = opaque;
422   gnupg_fd_t f = a->fp;
423   size_t size = *ret_len;
424   size_t nbytes = 0;
425   int rc = 0;
426
427   (void)chain; /* Not used.  */
428
429   if (control == IOBUFCTRL_UNDERFLOW)
430     {
431       assert (size); /* We need a buffer.  */
432       if (a->eof_seen)
433         {
434           rc = -1;
435           *ret_len = 0;
436         }
437       else
438         {
439 #ifdef HAVE_W32_SYSTEM
440           unsigned long nread;
441
442           nbytes = 0;
443           if (!ReadFile (f, buf, size, &nread, NULL))
444             {
445               int ec = (int) GetLastError ();
446               if (ec != ERROR_BROKEN_PIPE)
447                 {
448                   rc = gpg_error_from_errno (ec);
449                   log_error ("%s: read error: ec=%d\n", a->fname, ec);
450                 }
451             }
452           else if (!nread)
453             {
454               a->eof_seen = 1;
455               rc = -1;
456             }
457           else
458             {
459               nbytes = nread;
460             }
461
462 #else
463
464           int n;
465
466           nbytes = 0;
467           do
468             {
469               n = read (f, buf, size);
470             }
471           while (n == -1 && errno == EINTR);
472           if (n == -1)
473             {                   /* error */
474               if (errno != EPIPE)
475                 {
476                   rc = gpg_error_from_syserror ();
477                   log_error ("%s: read error: %s\n",
478                              a->fname, strerror (errno));
479                 }
480             }
481           else if (!n)
482             {                   /* eof */
483               a->eof_seen = 1;
484               rc = -1;
485             }
486           else
487             {
488               nbytes = n;
489             }
490 #endif
491           *ret_len = nbytes;
492         }
493     }
494   else if (control == IOBUFCTRL_FLUSH)
495     {
496       if (size)
497         {
498 #ifdef HAVE_W32_SYSTEM
499           byte *p = buf;
500           unsigned long n;
501
502           nbytes = size;
503           do
504             {
505               if (size && !WriteFile (f, p, nbytes, &n, NULL))
506                 {
507                   int ec = (int) GetLastError ();
508                   rc = gpg_error_from_errno (ec);
509                   log_error ("%s: write error: ec=%d\n", a->fname, ec);
510                   break;
511                 }
512               p += n;
513               nbytes -= n;
514             }
515           while (nbytes);
516           nbytes = p - buf;
517 #else
518           byte *p = buf;
519           int n;
520
521           nbytes = size;
522           do
523             {
524               do
525                 {
526                   n = write (f, p, nbytes);
527                 }
528               while (n == -1 && errno == EINTR);
529               if (n > 0)
530                 {
531                   p += n;
532                   nbytes -= n;
533                 }
534             }
535           while (n != -1 && nbytes);
536           if (n == -1)
537             {
538               rc = gpg_error_from_syserror ();
539               log_error ("%s: write error: %s\n", a->fname, strerror (errno));
540             }
541           nbytes = p - buf;
542 #endif
543         }
544       *ret_len = nbytes;
545     }
546   else if (control == IOBUFCTRL_INIT)
547     {
548       a->eof_seen = 0;
549       a->keep_open = 0;
550       a->no_cache = 0;
551     }
552   else if (control == IOBUFCTRL_DESC)
553     {
554       *(char **) buf = "file_filter(fd)";
555     }
556   else if (control == IOBUFCTRL_FREE)
557     {
558       if (f != FD_FOR_STDIN && f != FD_FOR_STDOUT)
559         {
560           if (DBG_IOBUF)
561             log_debug ("%s: close fd/handle %d\n", a->fname, FD2INT (f));
562           if (!a->keep_open)
563             fd_cache_close (a->no_cache ? NULL : a->fname, f);
564         }
565       f = GNUPG_INVALID_FD;
566       xfree (a); /* We can free our context now. */
567     }
568
569   return rc;
570 }
571
572
573 #ifdef HAVE_W32_SYSTEM
574 /* Because network sockets are special objects under Lose32 we have to
575    use a dedicated filter for them. */
576 static int
577 sock_filter (void *opaque, int control, iobuf_t chain, byte * buf,
578              size_t * ret_len)
579 {
580   sock_filter_ctx_t *a = opaque;
581   size_t size = *ret_len;
582   size_t nbytes = 0;
583   int rc = 0;
584
585   (void)chain;
586
587   if (control == IOBUFCTRL_UNDERFLOW)
588     {
589       assert (size);            /* need a buffer */
590       if (a->eof_seen)
591         {
592           rc = -1;
593           *ret_len = 0;
594         }
595       else
596         {
597           int nread;
598
599           nread = recv (a->sock, buf, size, 0);
600           if (nread == SOCKET_ERROR)
601             {
602               int ec = (int) WSAGetLastError ();
603               rc = gpg_error_from_errno (ec);
604               log_error ("socket read error: ec=%d\n", ec);
605             }
606           else if (!nread)
607             {
608               a->eof_seen = 1;
609               rc = -1;
610             }
611           else
612             {
613               nbytes = nread;
614             }
615           *ret_len = nbytes;
616         }
617     }
618   else if (control == IOBUFCTRL_FLUSH)
619     {
620       if (size)
621         {
622           byte *p = buf;
623           int n;
624
625           nbytes = size;
626           do
627             {
628               n = send (a->sock, p, nbytes, 0);
629               if (n == SOCKET_ERROR)
630                 {
631                   int ec = (int) WSAGetLastError ();
632                   rc = gpg_error_from_errno (ec);
633                   log_error ("socket write error: ec=%d\n", ec);
634                   break;
635                 }
636               p += n;
637               nbytes -= n;
638             }
639           while (nbytes);
640           nbytes = p - buf;
641         }
642       *ret_len = nbytes;
643     }
644   else if (control == IOBUFCTRL_INIT)
645     {
646       a->eof_seen = 0;
647       a->keep_open = 0;
648       a->no_cache = 0;
649     }
650   else if (control == IOBUFCTRL_DESC)
651     {
652       *(char **) buf = "sock_filter";
653     }
654   else if (control == IOBUFCTRL_FREE)
655     {
656       if (!a->keep_open)
657         closesocket (a->sock);
658       xfree (a);                /* we can free our context now */
659     }
660   return rc;
661 }
662 #endif /*HAVE_W32_SYSTEM*/
663
664 /****************
665  * This is used to implement the block write mode.
666  * Block reading is done on a byte by byte basis in readbyte(),
667  * without a filter
668  */
669 static int
670 block_filter (void *opaque, int control, iobuf_t chain, byte * buffer,
671               size_t * ret_len)
672 {
673   block_filter_ctx_t *a = opaque;
674   char *buf = (char *)buffer;
675   size_t size = *ret_len;
676   int c, needed, rc = 0;
677   char *p;
678
679   if (control == IOBUFCTRL_UNDERFLOW)
680     {
681       size_t n = 0;
682
683       p = buf;
684       assert (size);            /* need a buffer */
685       if (a->eof)               /* don't read any further */
686         rc = -1;
687       while (!rc && size)
688         {
689           if (!a->size)
690             {                   /* get the length bytes */
691               if (a->partial == 2)
692                 {
693                   a->eof = 1;
694                   if (!n)
695                     rc = -1;
696                   break;
697                 }
698               else if (a->partial)
699                 {
700                   /* These OpenPGP introduced huffman like encoded length
701                    * bytes are really a mess :-( */
702                   if (a->first_c)
703                     {
704                       c = a->first_c;
705                       a->first_c = 0;
706                     }
707                   else if ((c = iobuf_get (chain)) == -1)
708                     {
709                       log_error ("block_filter: 1st length byte missing\n");
710                       rc = GPG_ERR_BAD_DATA;
711                       break;
712                     }
713                   if (c < 192)
714                     {
715                       a->size = c;
716                       a->partial = 2;
717                       if (!a->size)
718                         {
719                           a->eof = 1;
720                           if (!n)
721                             rc = -1;
722                           break;
723                         }
724                     }
725                   else if (c < 224)
726                     {
727                       a->size = (c - 192) * 256;
728                       if ((c = iobuf_get (chain)) == -1)
729                         {
730                           log_error
731                             ("block_filter: 2nd length byte missing\n");
732                           rc = GPG_ERR_BAD_DATA;
733                           break;
734                         }
735                       a->size += c + 192;
736                       a->partial = 2;
737                       if (!a->size)
738                         {
739                           a->eof = 1;
740                           if (!n)
741                             rc = -1;
742                           break;
743                         }
744                     }
745                   else if (c == 255)
746                     {
747                       a->size = iobuf_get (chain) << 24;
748                       a->size |= iobuf_get (chain) << 16;
749                       a->size |= iobuf_get (chain) << 8;
750                       if ((c = iobuf_get (chain)) == -1)
751                         {
752                           log_error ("block_filter: invalid 4 byte length\n");
753                           rc = GPG_ERR_BAD_DATA;
754                           break;
755                         }
756                       a->size |= c;
757                       a->partial = 2;
758                       if (!a->size)
759                         {
760                           a->eof = 1;
761                           if (!n)
762                             rc = -1;
763                           break;
764                         }
765                     }
766                   else
767                     { /* Next partial body length. */
768                       a->size = 1 << (c & 0x1f);
769                     }
770                   /*  log_debug("partial: ctx=%p c=%02x size=%u\n", a, c, a->size); */
771                 }
772               else
773                 BUG (); 
774             }
775
776           while (!rc && size && a->size)
777             {
778               needed = size < a->size ? size : a->size;
779               c = iobuf_read (chain, p, needed);
780               if (c < needed)
781                 {
782                   if (c == -1)
783                     c = 0;
784                   log_error
785                     ("block_filter %p: read error (size=%lu,a->size=%lu)\n",
786                      a, (ulong) size + c, (ulong) a->size + c);
787                   rc = GPG_ERR_BAD_DATA;
788                 }
789               else
790                 {
791                   size -= c;
792                   a->size -= c;
793                   p += c;
794                   n += c;
795                 }
796             }
797         }
798       *ret_len = n;
799     }
800   else if (control == IOBUFCTRL_FLUSH)
801     {
802       if (a->partial)
803         {                       /* the complicated openpgp scheme */
804           size_t blen, n, nbytes = size + a->buflen;
805
806           assert (a->buflen <= OP_MIN_PARTIAL_CHUNK);
807           if (nbytes < OP_MIN_PARTIAL_CHUNK)
808             {
809               /* not enough to write a partial block out; so we store it */
810               if (!a->buffer)
811                 a->buffer = xmalloc (OP_MIN_PARTIAL_CHUNK);
812               memcpy (a->buffer + a->buflen, buf, size);
813               a->buflen += size;
814             }
815           else
816             {                   /* okay, we can write out something */
817               /* do this in a loop to use the most efficient block lengths */
818               p = buf;
819               do
820                 {
821                   /* find the best matching block length - this is limited
822                    * by the size of the internal buffering */
823                   for (blen = OP_MIN_PARTIAL_CHUNK * 2,
824                        c = OP_MIN_PARTIAL_CHUNK_2POW + 1; blen <= nbytes;
825                        blen *= 2, c++)
826                     ;
827                   blen /= 2;
828                   c--;
829                   /* write the partial length header */
830                   assert (c <= 0x1f);   /*;-) */
831                   c |= 0xe0;
832                   iobuf_put (chain, c);
833                   if ((n = a->buflen))
834                     {           /* write stuff from the buffer */
835                       assert (n == OP_MIN_PARTIAL_CHUNK);
836                       if (iobuf_write (chain, a->buffer, n))
837                         rc = gpg_error_from_syserror ();
838                       a->buflen = 0;
839                       nbytes -= n;
840                     }
841                   if ((n = nbytes) > blen)
842                     n = blen;
843                   if (n && iobuf_write (chain, p, n))
844                     rc = gpg_error_from_syserror ();
845                   p += n;
846                   nbytes -= n;
847                 }
848               while (!rc && nbytes >= OP_MIN_PARTIAL_CHUNK);
849               /* store the rest in the buffer */
850               if (!rc && nbytes)
851                 {
852                   assert (!a->buflen);
853                   assert (nbytes < OP_MIN_PARTIAL_CHUNK);
854                   if (!a->buffer)
855                     a->buffer = xmalloc (OP_MIN_PARTIAL_CHUNK);
856                   memcpy (a->buffer, p, nbytes);
857                   a->buflen = nbytes;
858                 }
859             }
860         }
861       else
862         BUG ();
863     }
864   else if (control == IOBUFCTRL_INIT)
865     {
866       if (DBG_IOBUF)
867         log_debug ("init block_filter %p\n", a);
868       if (a->partial)
869         a->count = 0;
870       else if (a->use == 1)
871         a->count = a->size = 0;
872       else
873         a->count = a->size;     /* force first length bytes */
874       a->eof = 0;
875       a->buffer = NULL;
876       a->buflen = 0;
877     }
878   else if (control == IOBUFCTRL_DESC)
879     {
880       *(char **) buf = "block_filter";
881     }
882   else if (control == IOBUFCTRL_FREE)
883     {
884       if (a->use == 2)
885         {                       /* write the end markers */
886           if (a->partial)
887             {
888               u32 len;
889               /* write out the remaining bytes without a partial header
890                * the length of this header may be 0 - but if it is
891                * the first block we are not allowed to use a partial header
892                * and frankly we can't do so, because this length must be
893                * a power of 2. This is _really_ complicated because we
894                * have to check the possible length of a packet prior
895                * to it's creation: a chain of filters becomes complicated
896                * and we need a lot of code to handle compressed packets etc.
897                *   :-(((((((
898                */
899               /* construct header */
900               len = a->buflen;
901               /*log_debug("partial: remaining length=%u\n", len ); */
902               if (len < 192)
903                 rc = iobuf_put (chain, len);
904               else if (len < 8384)
905                 {
906                   if (!(rc = iobuf_put (chain, ((len - 192) / 256) + 192)))
907                     rc = iobuf_put (chain, ((len - 192) % 256));
908                 }
909               else
910                 {               /* use a 4 byte header */
911                   if (!(rc = iobuf_put (chain, 0xff)))
912                     if (!(rc = iobuf_put (chain, (len >> 24) & 0xff)))
913                       if (!(rc = iobuf_put (chain, (len >> 16) & 0xff)))
914                         if (!(rc = iobuf_put (chain, (len >> 8) & 0xff)))
915                           rc = iobuf_put (chain, len & 0xff);
916                 }
917               if (!rc && len)
918                 rc = iobuf_write (chain, a->buffer, len);
919               if (rc)
920                 {
921                   log_error ("block_filter: write error: %s\n",
922                              strerror (errno));
923                   rc = gpg_error_from_syserror ();
924                 }
925               xfree (a->buffer);
926               a->buffer = NULL;
927               a->buflen = 0;
928             }
929           else
930             BUG ();
931         }
932       else if (a->size)
933         {
934           log_error ("block_filter: pending bytes!\n");
935         }
936       if (DBG_IOBUF)
937         log_debug ("free block_filter %p\n", a);
938       xfree (a);                /* we can free our context now */
939     }
940
941   return rc;
942 }
943
944
945 static void
946 print_chain (iobuf_t a)
947 {
948   if (!DBG_IOBUF)
949     return;
950   for (; a; a = a->chain)
951     {
952       size_t dummy_len = 0;
953       const char *desc = "[none]";
954
955       if (a->filter)
956         a->filter (a->filter_ov, IOBUFCTRL_DESC, NULL,
957                    (byte *) & desc, &dummy_len);
958
959       log_debug ("iobuf chain: %d.%d `%s' filter_eof=%d start=%d len=%d\n",
960                  a->no, a->subno, desc?desc:"?", a->filter_eof,
961                  (int) a->d.start, (int) a->d.len);
962     }
963 }
964
965 int
966 iobuf_print_chain (iobuf_t a)
967 {
968   print_chain (a);
969   return 0;
970 }
971
972 /****************
973  * Allocate a new io buffer, with no function assigned.
974  * Use is the desired usage: 1 for input, 2 for output, 3 for temp buffer
975  * BUFSIZE is a suggested buffer size.
976  */
977 iobuf_t
978 iobuf_alloc (int use, size_t bufsize)
979 {
980   iobuf_t a;
981   static int number = 0;
982
983   a = xcalloc (1, sizeof *a);
984   a->use = use;
985   a->d.buf = xmalloc (bufsize);
986   a->d.size = bufsize;
987   a->no = ++number;
988   a->subno = 0;
989   a->opaque = NULL;
990   a->real_fname = NULL;
991   return a;
992 }
993
994 int
995 iobuf_close (iobuf_t a)
996 {
997   iobuf_t a2;
998   size_t dummy_len = 0;
999   int rc = 0;
1000
1001   if (a && a->directfp)
1002     {
1003       fclose (a->directfp);
1004       xfree (a->real_fname);
1005       if (DBG_IOBUF)
1006         log_debug ("iobuf_close -> %p\n", a->directfp);
1007       return 0;
1008     }
1009
1010   for (; a && !rc; a = a2)
1011     {
1012       a2 = a->chain;
1013       if (a->use == 2 && (rc = iobuf_flush (a)))
1014         log_error ("iobuf_flush failed on close: %s\n", gpg_strerror (rc));
1015
1016       if (DBG_IOBUF)
1017         log_debug ("iobuf-%d.%d: close `%s'\n", a->no, a->subno,
1018                    a->desc?a->desc:"?");
1019       if (a->filter && (rc = a->filter (a->filter_ov, IOBUFCTRL_FREE,
1020                                         a->chain, NULL, &dummy_len)))
1021         log_error ("IOBUFCTRL_FREE failed on close: %s\n", gpg_strerror (rc));
1022       xfree (a->real_fname);
1023       if (a->d.buf)
1024         {
1025           memset (a->d.buf, 0, a->d.size);      /* erase the buffer */
1026           xfree (a->d.buf);
1027         }
1028       xfree (a);
1029     }
1030   return rc;
1031 }
1032
1033 int
1034 iobuf_cancel (iobuf_t a)
1035 {
1036   const char *s;
1037   iobuf_t a2;
1038   int rc;
1039 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1040   char *remove_name = NULL;
1041 #endif
1042
1043   if (a && a->use == 2)
1044     {
1045       s = iobuf_get_real_fname (a);
1046       if (s && *s)
1047         {
1048 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1049           remove_name = xstrdup (s);
1050 #else
1051           remove (s);
1052 #endif
1053         }
1054     }
1055
1056   /* send a cancel message to all filters */
1057   for (a2 = a; a2; a2 = a2->chain)
1058     {
1059       size_t dummy;
1060       if (a2->filter)
1061         a2->filter (a2->filter_ov, IOBUFCTRL_CANCEL, a2->chain, NULL, &dummy);
1062     }
1063
1064   rc = iobuf_close (a);
1065 #if defined(HAVE_W32_SYSTEM) || defined(__riscos__)
1066   if (remove_name)
1067     {
1068       /* Argg, MSDOS does not allow to remove open files.  So
1069        * we have to do it here */
1070 #ifdef HAVE_W32CE_SYSTEM
1071       wchar_t *wtmp = utf8_to_wchar (remove_name);
1072       if (wtmp)
1073         DeleteFile (wtmp);
1074       xfree (wtmp);
1075 #else
1076       remove (remove_name);
1077 #endif
1078       xfree (remove_name);
1079     }
1080 #endif
1081   return rc;
1082 }
1083
1084
1085 /****************
1086  * create a temporary iobuf, which can be used to collect stuff
1087  * in an iobuf and later be written by iobuf_write_temp() to another
1088  * iobuf.
1089  */
1090 iobuf_t
1091 iobuf_temp ()
1092 {
1093   iobuf_t a;
1094
1095   a = iobuf_alloc (3, IOBUF_BUFFER_SIZE);
1096
1097   return a;
1098 }
1099
1100 iobuf_t
1101 iobuf_temp_with_content (const char *buffer, size_t length)
1102 {
1103   iobuf_t a;
1104
1105   a = iobuf_alloc (3, length);
1106   memcpy (a->d.buf, buffer, length);
1107   a->d.len = length;
1108
1109   return a;
1110 }
1111
1112 void
1113 iobuf_enable_special_filenames (int yes)
1114 {
1115   special_names_enabled = yes;
1116 }
1117
1118
1119 /* See whether the filename has the form "-&nnnn", where n is a
1120    non-zero number.  Returns this number or -1 if it is not the
1121    case.  */
1122 static int
1123 check_special_filename (const char *fname)
1124 {
1125   if (special_names_enabled && fname && *fname == '-' && fname[1] == '&')
1126     {
1127       int i;
1128
1129       fname += 2;
1130       for (i = 0; digitp (fname+i); i++)
1131         ;
1132       if (!fname[i])
1133         return atoi (fname);
1134     }
1135   return -1;
1136 }
1137
1138
1139 /* This fucntion returns true if FNAME indicates a PIPE (stdout or
1140    stderr) or a special file name if those are enabled. */
1141 int
1142 iobuf_is_pipe_filename (const char *fname)
1143 {
1144   if (!fname || (*fname=='-' && !fname[1]) )
1145     return 1;
1146   return check_special_filename (fname) != -1;
1147 }
1148
1149
1150 /* Either open the file specified by the file descriptor FD or - if FD
1151    is -1, the file with name FNAME.  As of now MODE is assumed to be
1152    "rb" if FNAME is used.  In contrast to iobuf_fdopen the file
1153    descriptor FD will not be closed during an iobuf_close.  */
1154 iobuf_t
1155 iobuf_open_fd_or_name (gnupg_fd_t fd, const char *fname, const char *mode)
1156 {
1157   iobuf_t a;
1158
1159   if (fd == GNUPG_INVALID_FD)
1160     a = iobuf_open (fname);
1161   else
1162     a = iobuf_fdopen_nc (FD2INT(fd), mode);
1163   return a;
1164 }
1165
1166
1167 /****************
1168  * Create a head iobuf for reading from a file
1169  * returns: NULL if an error occures and sets errno
1170  */
1171 iobuf_t
1172 iobuf_open (const char *fname)
1173 {
1174   iobuf_t a;
1175   gnupg_fd_t fp;
1176   file_filter_ctx_t *fcx;
1177   size_t len;
1178   int print_only = 0;
1179   int fd;
1180
1181   if (!fname || (*fname == '-' && !fname[1]))
1182     {
1183       fp = FD_FOR_STDIN;
1184       fname = "[stdin]";
1185       print_only = 1;
1186     }
1187   else if ((fd = check_special_filename (fname)) != -1)
1188     return iobuf_fdopen (translate_file_handle (fd, 0), "rb");
1189   else if ((fp = fd_cache_open (fname, "rb")) == GNUPG_INVALID_FD)
1190     return NULL;
1191   a = iobuf_alloc (1, IOBUF_BUFFER_SIZE);
1192   fcx = xmalloc (sizeof *fcx + strlen (fname));
1193   fcx->fp = fp;
1194   fcx->print_only_name = print_only;
1195   strcpy (fcx->fname, fname);
1196   if (!print_only)
1197     a->real_fname = xstrdup (fname);
1198   a->filter = file_filter;
1199   a->filter_ov = fcx;
1200   file_filter (fcx, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &len);
1201   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1202   if (DBG_IOBUF)
1203     log_debug ("iobuf-%d.%d: open `%s' fd=%d\n",
1204                a->no, a->subno, fname, FD2INT (fcx->fp));
1205
1206   return a;
1207 }
1208
1209
1210 static iobuf_t
1211 do_iobuf_fdopen (int fd, const char *mode, int keep_open)
1212 {
1213   iobuf_t a;
1214   gnupg_fd_t fp;
1215   file_filter_ctx_t *fcx;
1216   size_t len;
1217
1218   fp = INT2FD (fd);
1219
1220   a = iobuf_alloc (strchr (mode, 'w') ? 2 : 1, IOBUF_BUFFER_SIZE);
1221   fcx = xmalloc (sizeof *fcx + 20);
1222   fcx->fp = fp;
1223   fcx->print_only_name = 1;
1224   fcx->keep_open = keep_open;
1225   sprintf (fcx->fname, "[fd %d]", fd);
1226   a->filter = file_filter;
1227   a->filter_ov = fcx;
1228   file_filter (fcx, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &len);
1229   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1230   if (DBG_IOBUF)
1231     log_debug ("iobuf-%d.%d: fdopen%s `%s'\n",
1232                a->no, a->subno, keep_open? "_nc":"", fcx->fname);
1233   iobuf_ioctl (a, IOBUF_IOCTL_NO_CACHE, 1, NULL);
1234   return a;
1235 }
1236
1237
1238 /* Create a head iobuf for reading or writing from/to a file Returns:
1239  * NULL and sets ERRNO if an error occured.  */
1240 iobuf_t
1241 iobuf_fdopen (int fd, const char *mode)
1242 {
1243   return do_iobuf_fdopen (fd, mode, 0);
1244 }
1245
1246 iobuf_t
1247 iobuf_fdopen_nc (int fd, const char *mode)
1248 {
1249   return do_iobuf_fdopen (fd, mode, 1);
1250 }
1251
1252
1253 iobuf_t
1254 iobuf_sockopen (int fd, const char *mode)
1255 {
1256   iobuf_t a;
1257 #ifdef HAVE_W32_SYSTEM
1258   sock_filter_ctx_t *scx;
1259   size_t len;
1260
1261   a = iobuf_alloc (strchr (mode, 'w') ? 2 : 1, IOBUF_BUFFER_SIZE);
1262   scx = xmalloc (sizeof *scx + 25);
1263   scx->sock = fd;
1264   scx->print_only_name = 1;
1265   sprintf (scx->fname, "[sock %d]", fd);
1266   a->filter = sock_filter;
1267   a->filter_ov = scx;
1268   sock_filter (scx, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &len);
1269   sock_filter (scx, IOBUFCTRL_INIT, NULL, NULL, &len);
1270   if (DBG_IOBUF)
1271     log_debug ("iobuf-%d.%d: sockopen `%s'\n", a->no, a->subno, scx->fname);
1272   iobuf_ioctl (a, IOBUF_IOCTL_NO_CACHE, 1, NULL);
1273 #else
1274   a = iobuf_fdopen (fd, mode);
1275 #endif
1276   return a;
1277 }
1278
1279 /****************
1280  * create an iobuf for writing to a file; the file will be created.
1281  */
1282 iobuf_t
1283 iobuf_create (const char *fname)
1284 {
1285   iobuf_t a;
1286   gnupg_fd_t fp;
1287   file_filter_ctx_t *fcx;
1288   size_t len;
1289   int print_only = 0;
1290   int fd;
1291
1292   if (!fname || (*fname == '-' && !fname[1]))
1293     {
1294       fp = FD_FOR_STDOUT;
1295       fname = "[stdout]";
1296       print_only = 1;
1297     }
1298   else if ((fd = check_special_filename (fname)) != -1)
1299     return iobuf_fdopen (translate_file_handle (fd, 1), "wb");
1300   else if ((fp = direct_open (fname, "wb")) == GNUPG_INVALID_FD)
1301     return NULL;
1302   a = iobuf_alloc (2, IOBUF_BUFFER_SIZE);
1303   fcx = xmalloc (sizeof *fcx + strlen (fname));
1304   fcx->fp = fp;
1305   fcx->print_only_name = print_only;
1306   strcpy (fcx->fname, fname);
1307   if (!print_only)
1308     a->real_fname = xstrdup (fname);
1309   a->filter = file_filter;
1310   a->filter_ov = fcx;
1311   file_filter (fcx, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &len);
1312   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1313   if (DBG_IOBUF)
1314     log_debug ("iobuf-%d.%d: create `%s'\n", a->no, a->subno,
1315                a->desc?a->desc:"?");
1316
1317   return a;
1318 }
1319
1320
1321 iobuf_t
1322 iobuf_openrw (const char *fname)
1323 {
1324   iobuf_t a;
1325   gnupg_fd_t fp;
1326   file_filter_ctx_t *fcx;
1327   size_t len;
1328
1329   if (!fname)
1330     return NULL;
1331   else if ((fp = direct_open (fname, "r+b")) == GNUPG_INVALID_FD)
1332     return NULL;
1333   a = iobuf_alloc (2, IOBUF_BUFFER_SIZE);
1334   fcx = xmalloc (sizeof *fcx + strlen (fname));
1335   fcx->fp = fp;
1336   strcpy (fcx->fname, fname);
1337   a->real_fname = xstrdup (fname);
1338   a->filter = file_filter;
1339   a->filter_ov = fcx;
1340   file_filter (fcx, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &len);
1341   file_filter (fcx, IOBUFCTRL_INIT, NULL, NULL, &len);
1342   if (DBG_IOBUF)
1343     log_debug ("iobuf-%d.%d: openrw `%s'\n", a->no, a->subno,
1344                a->desc?a->desc:"?");
1345
1346   return a;
1347 }
1348
1349
1350 int
1351 iobuf_ioctl (iobuf_t a, iobuf_ioctl_t cmd, int intval, void *ptrval)
1352 {
1353   if (cmd == IOBUF_IOCTL_KEEP_OPEN)
1354     {                           
1355       /* Keep system filepointer/descriptor open.  This was used in
1356          the past by http.c; this ioctl is not directly used
1357          anymore.  */
1358       if (DBG_IOBUF)
1359         log_debug ("iobuf-%d.%d: ioctl `%s' keep_open=%d\n",
1360                    a ? a->no : -1, a ? a->subno : -1, 
1361                    a && a->desc ? a->desc : "?",
1362                    intval);
1363       for (; a; a = a->chain)
1364         if (!a->chain && a->filter == file_filter)
1365           {
1366             file_filter_ctx_t *b = a->filter_ov;
1367             b->keep_open = intval;
1368             return 0;
1369           }
1370 #ifdef HAVE_W32_SYSTEM
1371         else if (!a->chain && a->filter == sock_filter)
1372           {
1373             sock_filter_ctx_t *b = a->filter_ov;
1374             b->keep_open = intval;
1375             return 0;
1376           }
1377 #endif
1378     }
1379   else if (cmd == IOBUF_IOCTL_INVALIDATE_CACHE)
1380     {
1381       if (DBG_IOBUF)
1382         log_debug ("iobuf-*.*: ioctl `%s' invalidate\n",
1383                    ptrval ? (char *) ptrval : "?");
1384       if (!a && !intval && ptrval)
1385         {
1386           if (fd_cache_invalidate (ptrval))
1387             return -1;
1388           return 0;
1389         }
1390     }
1391   else if (cmd == IOBUF_IOCTL_NO_CACHE)
1392     {
1393       if (DBG_IOBUF)
1394         log_debug ("iobuf-%d.%d: ioctl `%s' no_cache=%d\n",
1395                    a ? a->no : -1, a ? a->subno : -1, 
1396                    a && a->desc? a->desc : "?",
1397                    intval);
1398       for (; a; a = a->chain)
1399         if (!a->chain && a->filter == file_filter)
1400           {
1401             file_filter_ctx_t *b = a->filter_ov;
1402             b->no_cache = intval;
1403             return 0;
1404           }
1405 #ifdef HAVE_W32_SYSTEM
1406         else if (!a->chain && a->filter == sock_filter)
1407           {
1408             sock_filter_ctx_t *b = a->filter_ov;
1409             b->no_cache = intval;
1410             return 0;
1411           }
1412 #endif
1413     }
1414   else if (cmd == IOBUF_IOCTL_FSYNC)
1415     {
1416       /* Do a fsync on the open fd and return any errors to the caller
1417          of iobuf_ioctl.  Note that we work on a file name here. */
1418       if (DBG_IOBUF)
1419         log_debug ("iobuf-*.*: ioctl `%s' fsync\n",
1420                    ptrval? (const char*)ptrval:"<null>");
1421
1422         if (!a && !intval && ptrval)
1423           {
1424             return fd_cache_synchronize (ptrval);
1425           }
1426       }
1427
1428
1429   return -1;
1430 }
1431
1432
1433 /****************
1434  * Register an i/o filter.
1435  */
1436 int
1437 iobuf_push_filter (iobuf_t a,
1438                    int (*f) (void *opaque, int control,
1439                              iobuf_t chain, byte * buf, size_t * len),
1440                    void *ov)
1441 {
1442   return iobuf_push_filter2 (a, f, ov, 0);
1443 }
1444
1445 int
1446 iobuf_push_filter2 (iobuf_t a,
1447                     int (*f) (void *opaque, int control,
1448                               iobuf_t chain, byte * buf, size_t * len),
1449                     void *ov, int rel_ov)
1450 {
1451   iobuf_t b;
1452   size_t dummy_len = 0;
1453   int rc = 0;
1454
1455   if (a->directfp)
1456     BUG ();
1457
1458   if (a->use == 2 && (rc = iobuf_flush (a)))
1459     return rc;
1460   /* make a copy of the current stream, so that
1461    * A is the new stream and B the original one.
1462    * The contents of the buffers are transferred to the
1463    * new stream.
1464    */
1465   b = xmalloc (sizeof *b);
1466   memcpy (b, a, sizeof *b);
1467   /* fixme: it is stupid to keep a copy of the name at every level
1468    * but we need the name somewhere because the name known by file_filter
1469    * may have been released when we need the name of the file */
1470   b->real_fname = a->real_fname ? xstrdup (a->real_fname) : NULL;
1471   /* remove the filter stuff from the new stream */
1472   a->filter = NULL;
1473   a->filter_ov = NULL;
1474   a->filter_ov_owner = 0;
1475   a->filter_eof = 0;
1476   if (a->use == 3)
1477     a->use = 2;                 /* make a write stream from a temp stream */
1478
1479   if (a->use == 2)
1480     {                           /* allocate a fresh buffer for the
1481                                    original stream */
1482       b->d.buf = xmalloc (a->d.size);
1483       b->d.len = 0;
1484       b->d.start = 0;
1485     }
1486   else
1487     {                           /* allocate a fresh buffer for the new
1488                                    stream */
1489       a->d.buf = xmalloc (a->d.size);
1490       a->d.len = 0;
1491       a->d.start = 0;
1492     }
1493   /* disable nlimit for the new stream */
1494   a->ntotal = b->ntotal + b->nbytes;
1495   a->nlimit = a->nbytes = 0;
1496   a->nofast &= ~1;
1497   /* make a link from the new stream to the original stream */
1498   a->chain = b;
1499   a->opaque = b->opaque;
1500
1501   /* setup the function on the new stream */
1502   a->filter = f;
1503   a->filter_ov = ov;
1504   a->filter_ov_owner = rel_ov;
1505
1506   a->subno = b->subno + 1;
1507   f (ov, IOBUFCTRL_DESC, NULL, (byte *) & a->desc, &dummy_len);
1508
1509   if (DBG_IOBUF)
1510     {
1511       log_debug ("iobuf-%d.%d: push `%s'\n", a->no, a->subno, 
1512                  a->desc?a->desc:"?");
1513       print_chain (a);
1514     }
1515
1516   /* now we can initialize the new function if we have one */
1517   if (a->filter && (rc = a->filter (a->filter_ov, IOBUFCTRL_INIT, a->chain,
1518                                     NULL, &dummy_len)))
1519     log_error ("IOBUFCTRL_INIT failed: %s\n", gpg_strerror (rc));
1520   return rc;
1521 }
1522
1523 /****************
1524  * Remove an i/o filter.
1525  */
1526 static int
1527 pop_filter (iobuf_t a, int (*f) (void *opaque, int control,
1528                                iobuf_t chain, byte * buf, size_t * len),
1529             void *ov)
1530 {
1531   iobuf_t b;
1532   size_t dummy_len = 0;
1533   int rc = 0;
1534
1535   if (a->directfp)
1536     BUG ();
1537
1538   if (DBG_IOBUF)
1539     log_debug ("iobuf-%d.%d: pop `%s'\n", a->no, a->subno,
1540                a->desc?a->desc:"?");
1541   if (!a->filter)
1542     {                           /* this is simple */
1543       b = a->chain;
1544       assert (b);
1545       xfree (a->d.buf);
1546       xfree (a->real_fname);
1547       memcpy (a, b, sizeof *a);
1548       xfree (b);
1549       return 0;
1550     }
1551   for (b = a; b; b = b->chain)
1552     if (b->filter == f && (!ov || b->filter_ov == ov))
1553       break;
1554   if (!b)
1555     log_bug ("pop_filter(): filter function not found\n");
1556
1557   /* flush this stream if it is an output stream */
1558   if (a->use == 2 && (rc = iobuf_flush (b)))
1559     {
1560       log_error ("iobuf_flush failed in pop_filter: %s\n", gpg_strerror (rc));
1561       return rc;
1562     }
1563   /* and tell the filter to free it self */
1564   if (b->filter && (rc = b->filter (b->filter_ov, IOBUFCTRL_FREE, b->chain,
1565                                     NULL, &dummy_len)))
1566     {
1567       log_error ("IOBUFCTRL_FREE failed: %s\n", gpg_strerror (rc));
1568       return rc;
1569     }
1570   if (b->filter_ov && b->filter_ov_owner)
1571     {
1572       xfree (b->filter_ov);
1573       b->filter_ov = NULL;
1574     }
1575
1576
1577   /* and see how to remove it */
1578   if (a == b && !b->chain)
1579     log_bug ("can't remove the last filter from the chain\n");
1580   else if (a == b)
1581     {                           /* remove the first iobuf from the chain */
1582       /* everything from b is copied to a. This is save because
1583        * a flush has been done on the to be removed entry
1584        */
1585       b = a->chain;
1586       xfree (a->d.buf);
1587       xfree (a->real_fname);
1588       memcpy (a, b, sizeof *a);
1589       xfree (b);
1590       if (DBG_IOBUF)
1591         log_debug ("iobuf-%d.%d: popped filter\n", a->no, a->subno);
1592     }
1593   else if (!b->chain)
1594     {                           /* remove the last iobuf from the chain */
1595       log_bug ("Ohh jeee, trying to remove a head filter\n");
1596     }
1597   else
1598     {                           /* remove an intermediate iobuf from the chain */
1599       log_bug ("Ohh jeee, trying to remove an intermediate filter\n");
1600     }
1601
1602   return rc;
1603 }
1604
1605
1606 /****************
1607  * read underflow: read more bytes into the buffer and return
1608  * the first byte or -1 on EOF.
1609  */
1610 static int
1611 underflow (iobuf_t a)
1612 {
1613   size_t len;
1614   int rc;
1615
1616   assert (a->d.start == a->d.len);
1617   if (a->use == 3)
1618     return -1;                  /* EOF because a temp buffer can't do an underflow */
1619
1620   if (a->filter_eof)
1621     {
1622       if (a->chain)
1623         {
1624           iobuf_t b = a->chain;
1625           if (DBG_IOBUF)
1626             log_debug ("iobuf-%d.%d: pop `%s' in underflow\n",
1627                        a->no, a->subno, a->desc?a->desc:"?");
1628           xfree (a->d.buf);
1629           xfree (a->real_fname);
1630           memcpy (a, b, sizeof *a);
1631           xfree (b);
1632           print_chain (a);
1633         }
1634       else
1635         a->filter_eof = 0;      /* for the top level filter */
1636       if (DBG_IOBUF)
1637         log_debug ("iobuf-%d.%d: underflow: eof (due to filter eof)\n",
1638                    a->no, a->subno);
1639       return -1;                /* return one(!) EOF */
1640     }
1641   if (a->error)
1642     {
1643       if (DBG_IOBUF)
1644         log_debug ("iobuf-%d.%d: error\n", a->no, a->subno);
1645       return -1;
1646     }
1647
1648   if (a->directfp)
1649     {
1650       FILE *fp = a->directfp;
1651
1652       len = fread (a->d.buf, 1, a->d.size, fp);
1653       if (len < a->d.size)
1654         {
1655           if (ferror (fp))
1656             a->error = gpg_error_from_syserror ();
1657         }
1658       a->d.len = len;
1659       a->d.start = 0;
1660       return len ? a->d.buf[a->d.start++] : -1;
1661     }
1662
1663
1664   if (a->filter)
1665     {
1666       len = a->d.size;
1667       if (DBG_IOBUF)
1668         log_debug ("iobuf-%d.%d: underflow: req=%lu\n",
1669                    a->no, a->subno, (ulong) len);
1670       rc = a->filter (a->filter_ov, IOBUFCTRL_UNDERFLOW, a->chain,
1671                       a->d.buf, &len);
1672       if (DBG_IOBUF)
1673         {
1674           log_debug ("iobuf-%d.%d: underflow: got=%lu rc=%d\n",
1675                      a->no, a->subno, (ulong) len, rc);
1676 /*          if( a->no == 1 ) */
1677 /*                   log_hexdump ("     data:", a->d.buf, len); */
1678         }
1679       if (a->use == 1 && rc == -1)
1680         {                       /* EOF: we can remove the filter */
1681           size_t dummy_len = 0;
1682
1683           /* and tell the filter to free itself */
1684           if ((rc = a->filter (a->filter_ov, IOBUFCTRL_FREE, a->chain,
1685                                NULL, &dummy_len)))
1686             log_error ("IOBUFCTRL_FREE failed: %s\n", gpg_strerror (rc));
1687           if (a->filter_ov && a->filter_ov_owner)
1688             {
1689               xfree (a->filter_ov);
1690               a->filter_ov = NULL;
1691             }
1692           a->filter = NULL;
1693           a->desc = NULL;
1694           a->filter_ov = NULL;
1695           a->filter_eof = 1;
1696           if (!len && a->chain)
1697             {
1698               iobuf_t b = a->chain;
1699               if (DBG_IOBUF)
1700                 log_debug ("iobuf-%d.%d: pop in underflow (!len)\n",
1701                            a->no, a->subno);
1702               xfree (a->d.buf);
1703               xfree (a->real_fname);
1704               memcpy (a, b, sizeof *a);
1705               xfree (b);
1706               print_chain (a);
1707             }
1708         }
1709       else if (rc)
1710         a->error = rc;
1711
1712       if (!len)
1713         {
1714           if (DBG_IOBUF)
1715             log_debug ("iobuf-%d.%d: underflow: eof\n", a->no, a->subno);
1716           return -1;
1717         }
1718       a->d.len = len;
1719       a->d.start = 0;
1720       return a->d.buf[a->d.start++];
1721     }
1722   else
1723     {
1724       if (DBG_IOBUF)
1725         log_debug ("iobuf-%d.%d: underflow: eof (no filter)\n",
1726                    a->no, a->subno);
1727       return -1;                /* no filter; return EOF */
1728     }
1729 }
1730
1731
1732 int
1733 iobuf_flush (iobuf_t a)
1734 {
1735   size_t len;
1736   int rc;
1737
1738   if (a->directfp)
1739     return 0;
1740
1741   if (a->use == 3)
1742     {                           /* increase the temp buffer */
1743       unsigned char *newbuf;
1744       size_t newsize = a->d.size + IOBUF_BUFFER_SIZE;
1745
1746       if (DBG_IOBUF)
1747         log_debug ("increasing temp iobuf from %lu to %lu\n",
1748                    (ulong) a->d.size, (ulong) newsize);
1749       newbuf = xmalloc (newsize);
1750       memcpy (newbuf, a->d.buf, a->d.len);
1751       xfree (a->d.buf);
1752       a->d.buf = newbuf;
1753       a->d.size = newsize;
1754       return 0;
1755     }
1756   else if (a->use != 2)
1757     log_bug ("flush on non-output iobuf\n");
1758   else if (!a->filter)
1759     log_bug ("iobuf_flush: no filter\n");
1760   len = a->d.len;
1761   rc = a->filter (a->filter_ov, IOBUFCTRL_FLUSH, a->chain, a->d.buf, &len);
1762   if (!rc && len != a->d.len)
1763     {
1764       log_info ("iobuf_flush did not write all!\n");
1765       rc = GPG_ERR_INTERNAL;
1766     }
1767   else if (rc)
1768     a->error = rc;
1769   a->d.len = 0;
1770
1771   return rc;
1772 }
1773
1774
1775 /****************
1776  * Read a byte from the iobuf; returns -1 on EOF
1777  */
1778 int
1779 iobuf_readbyte (iobuf_t a)
1780 {
1781   int c;
1782
1783   if (a->nlimit && a->nbytes >= a->nlimit)
1784     return -1;                  /* forced EOF */
1785
1786   if (a->d.start < a->d.len)
1787     {
1788       c = a->d.buf[a->d.start++];
1789     }
1790   else if ((c = underflow (a)) == -1)
1791     return -1;                  /* EOF */
1792
1793   a->nbytes++;
1794   return c;
1795 }
1796
1797
1798 int
1799 iobuf_read (iobuf_t a, void *buffer, unsigned int buflen)
1800 {
1801   unsigned char *buf = (unsigned char *)buffer;
1802   int c, n;
1803
1804   if (a->nlimit)
1805     {
1806       /* Handle special cases. */
1807       for (n = 0; n < buflen; n++)
1808         {
1809           if ((c = iobuf_readbyte (a)) == -1)
1810             {
1811               if (!n)
1812                 return -1;      /* eof */
1813               break;
1814             }
1815           else if (buf)
1816             *buf = c;
1817           if (buf)
1818             buf++;
1819         }
1820       return n;
1821     }
1822
1823   n = 0;
1824   do
1825     {
1826       if (n < buflen && a->d.start < a->d.len)
1827         {
1828           unsigned size = a->d.len - a->d.start;
1829           if (size > buflen - n)
1830             size = buflen - n;
1831           if (buf)
1832             memcpy (buf, a->d.buf + a->d.start, size);
1833           n += size;
1834           a->d.start += size;
1835           if (buf)
1836             buf += size;
1837         }
1838       if (n < buflen)
1839         {
1840           if ((c = underflow (a)) == -1)
1841             {
1842               a->nbytes += n;
1843               return n ? n : -1 /*EOF*/;
1844             }
1845           if (buf)
1846             *buf++ = c;
1847           n++;
1848         }
1849     }
1850   while (n < buflen);
1851   a->nbytes += n;
1852   return n;
1853 }
1854
1855
1856
1857 /****************
1858  * Have a look at the iobuf.
1859  * NOTE: This only works in special cases.
1860  */
1861 int
1862 iobuf_peek (iobuf_t a, byte * buf, unsigned buflen)
1863 {
1864   int n = 0;
1865
1866   if (a->filter_eof)
1867     return -1;
1868
1869   if (!(a->d.start < a->d.len))
1870     {
1871       if (underflow (a) == -1)
1872         return -1;
1873       /* And unget this character. */
1874       assert (a->d.start == 1);
1875       a->d.start = 0;
1876     }
1877
1878   for (n = 0; n < buflen && (a->d.start + n) < a->d.len; n++, buf++)
1879     *buf = a->d.buf[n];
1880   return n;
1881 }
1882
1883
1884
1885
1886 int
1887 iobuf_writebyte (iobuf_t a, unsigned int c)
1888 {
1889   int rc;
1890
1891   if (a->directfp)
1892     BUG ();
1893
1894   if (a->d.len == a->d.size)
1895     if ((rc=iobuf_flush (a)))
1896       return rc;
1897
1898   assert (a->d.len < a->d.size);
1899   a->d.buf[a->d.len++] = c;
1900   return 0;
1901 }
1902
1903
1904 int
1905 iobuf_write (iobuf_t a, const void *buffer, unsigned int buflen)
1906 {
1907   const unsigned char *buf = (const unsigned char *)buffer;
1908   int rc;
1909
1910   if (a->directfp)
1911     BUG ();
1912
1913   do
1914     {
1915       if (buflen && a->d.len < a->d.size)
1916         {
1917           unsigned size = a->d.size - a->d.len;
1918           if (size > buflen)
1919             size = buflen;
1920           memcpy (a->d.buf + a->d.len, buf, size);
1921           buflen -= size;
1922           buf += size;
1923           a->d.len += size;
1924         }
1925       if (buflen)
1926         {
1927           rc = iobuf_flush (a);
1928           if (rc)
1929             return rc;
1930         }
1931     }
1932   while (buflen);
1933   return 0;
1934 }
1935
1936
1937 int
1938 iobuf_writestr (iobuf_t a, const char *buf)
1939 {
1940   int rc;
1941
1942   for (; *buf; buf++)
1943     if ((rc=iobuf_writebyte (a, *buf)))
1944       return rc;
1945   return 0;
1946 }
1947
1948
1949
1950 /****************
1951  * copy the contents of TEMP to A.
1952  */
1953 int
1954 iobuf_write_temp (iobuf_t a, iobuf_t temp)
1955 {
1956   while (temp->chain)
1957     pop_filter (temp, temp->filter, NULL);
1958   return iobuf_write (a, temp->d.buf, temp->d.len);
1959 }
1960
1961 /****************
1962  * copy the contents of the temp io stream to BUFFER.
1963  */
1964 size_t
1965 iobuf_temp_to_buffer (iobuf_t a, byte * buffer, size_t buflen)
1966 {
1967   size_t n = a->d.len;
1968
1969   if (n > buflen)
1970     n = buflen;
1971   memcpy (buffer, a->d.buf, n);
1972   return n;
1973 }
1974
1975
1976 /****************
1977  * Call this function to terminate processing of the temp stream
1978  * without closing it.  This removes all filters from the stream
1979  * makes sure that iobuf_get_temp_{buffer,length}() returns correct
1980  * values.
1981  */
1982 void
1983 iobuf_flush_temp (iobuf_t temp)
1984 {
1985   while (temp->chain)
1986     pop_filter (temp, temp->filter, NULL);
1987 }
1988
1989
1990 /****************
1991  * Set a limit on how many bytes may be read from the input stream A.
1992  * Setting the limit to 0 disables this feature.
1993  */
1994 void
1995 iobuf_set_limit (iobuf_t a, off_t nlimit)
1996 {
1997   if (nlimit)
1998     a->nofast |= 1;
1999   else
2000     a->nofast &= ~1;
2001   a->nlimit = nlimit;
2002   a->ntotal += a->nbytes;
2003   a->nbytes = 0;
2004 }
2005
2006
2007
2008 /* Return the length of an open file A.  IF OVERFLOW is not NULL it
2009    will be set to true if the file is larger than what off_t can cope
2010    with.  The function return 0 on error or on overflow condition.  */
2011 off_t
2012 iobuf_get_filelength (iobuf_t a, int *overflow)
2013 {
2014   struct stat st;
2015
2016   if (overflow)
2017     *overflow = 0;
2018   
2019   if ( a->directfp )  
2020     {
2021       FILE *fp = a->directfp;
2022       
2023       if ( !fstat(fileno(fp), &st) )
2024         return st.st_size;
2025       log_error("fstat() failed: %s\n", strerror(errno) );
2026       return 0;
2027     }
2028   
2029   /* Hmmm: file_filter may have already been removed */
2030   for ( ; a; a = a->chain )
2031     if ( !a->chain && a->filter == file_filter )
2032       {
2033         file_filter_ctx_t *b = a->filter_ov;
2034         gnupg_fd_t fp = b->fp;
2035         
2036 #if defined(HAVE_W32_SYSTEM)
2037         ulong size;
2038         static int (* __stdcall get_file_size_ex) (void *handle,
2039                                                    LARGE_INTEGER *r_size);
2040         static int get_file_size_ex_initialized;
2041
2042         if (!get_file_size_ex_initialized)
2043           {
2044             void *handle;
2045             
2046             handle = dlopen ("kernel32.dll", RTLD_LAZY);
2047             if (handle)
2048               {
2049                 get_file_size_ex = dlsym (handle, "GetFileSizeEx");
2050                 if (!get_file_size_ex)
2051                   dlclose (handle);
2052               }
2053             get_file_size_ex_initialized = 1;
2054           }
2055         
2056         if (get_file_size_ex)
2057           {
2058             /* This is a newer system with GetFileSizeEx; we use this
2059                then because it seem that GetFileSize won't return a
2060                proper error in case a file is larger than 4GB. */
2061             LARGE_INTEGER exsize;
2062             
2063             if (get_file_size_ex (fp, &exsize))
2064               {
2065                 if (!exsize.u.HighPart)
2066                   return exsize.u.LowPart;
2067                 if (overflow)
2068                   *overflow = 1;
2069                 return 0; 
2070               }
2071           }
2072         else
2073           {
2074             if ((size=GetFileSize (fp, NULL)) != 0xffffffff)
2075               return size;
2076           }
2077         log_error ("GetFileSize for handle %p failed: %s\n",
2078                    fp, w32_strerror (0));
2079 #else
2080         if ( !fstat (FD2INT (fp), &st) )
2081           return st.st_size;
2082         log_error("fstat() failed: %s\n", strerror(errno) );
2083 #endif
2084         break/*the for loop*/;
2085       }
2086   
2087     return 0;
2088 }
2089
2090
2091 /* Return the file descriptor of the underlying file or -1 if it is
2092    not available.  */
2093 int 
2094 iobuf_get_fd (iobuf_t a)
2095 {
2096   if (a->directfp)
2097     return fileno ( (FILE*)a->directfp );
2098
2099   for ( ; a; a = a->chain )
2100     if (!a->chain && a->filter == file_filter)
2101       {
2102         file_filter_ctx_t *b = a->filter_ov;
2103         gnupg_fd_t fp = b->fp;
2104
2105         return FD2INT (fp);
2106       }
2107
2108   return -1;
2109 }
2110
2111
2112
2113 /****************
2114  * Tell the file position, where the next read will take place
2115  */
2116 off_t
2117 iobuf_tell (iobuf_t a)
2118 {
2119   return a->ntotal + a->nbytes;
2120 }
2121
2122
2123 #if !defined(HAVE_FSEEKO) && !defined(fseeko)
2124
2125 #ifdef HAVE_LIMITS_H
2126 # include <limits.h>
2127 #endif
2128 #ifndef LONG_MAX
2129 # define LONG_MAX ((long) ((unsigned long) -1 >> 1))
2130 #endif
2131 #ifndef LONG_MIN
2132 # define LONG_MIN (-1 - LONG_MAX)
2133 #endif
2134
2135 /****************
2136  * A substitute for fseeko, for hosts that don't have it.
2137  */
2138 static int
2139 fseeko (FILE * stream, off_t newpos, int whence)
2140 {
2141   while (newpos != (long) newpos)
2142     {
2143       long pos = newpos < 0 ? LONG_MIN : LONG_MAX;
2144       if (fseek (stream, pos, whence) != 0)
2145         return -1;
2146       newpos -= pos;
2147       whence = SEEK_CUR;
2148     }
2149   return fseek (stream, (long) newpos, whence);
2150 }
2151 #endif
2152
2153 /****************
2154  * This is a very limited implementation. It simply discards all internal
2155  * buffering and removes all filters but the first one.
2156  */
2157 int
2158 iobuf_seek (iobuf_t a, off_t newpos)
2159 {
2160   file_filter_ctx_t *b = NULL;
2161
2162   if (a->directfp)
2163     {
2164       FILE *fp = a->directfp;
2165       if (fseeko (fp, newpos, SEEK_SET))
2166         {
2167           log_error ("can't seek: %s\n", strerror (errno));
2168           return -1;
2169         }
2170       clearerr (fp);
2171     }
2172   else
2173     {
2174       for (; a; a = a->chain)
2175         {
2176           if (!a->chain && a->filter == file_filter)
2177             {
2178               b = a->filter_ov;
2179               break;
2180             }
2181         }
2182       if (!a)
2183         return -1;
2184 #ifdef HAVE_W32_SYSTEM
2185       if (SetFilePointer (b->fp, newpos, NULL, FILE_BEGIN) == 0xffffffff)
2186         {
2187           log_error ("SetFilePointer failed on handle %p: ec=%d\n",
2188                      b->fp, (int) GetLastError ());
2189           return -1;
2190         }
2191 #else
2192       if (lseek (b->fp, newpos, SEEK_SET) == (off_t) - 1)
2193         {
2194           log_error ("can't lseek: %s\n", strerror (errno));
2195           return -1;
2196         }
2197 #endif
2198     }
2199   a->d.len = 0;                 /* discard buffer */
2200   a->d.start = 0;
2201   a->nbytes = 0;
2202   a->nlimit = 0;
2203   a->nofast &= ~1;
2204   a->ntotal = newpos;
2205   a->error = 0;
2206   /* remove filters, but the last */
2207   if (a->chain)
2208     log_debug ("pop_filter called in iobuf_seek - please report\n");
2209   while (a->chain)
2210     pop_filter (a, a->filter, NULL);
2211
2212   return 0;
2213 }
2214
2215
2216
2217
2218
2219
2220 /****************
2221  * Retrieve the real filename.  This is the filename actually used on
2222  * disk and not a made up one.  Returns NULL if no real filename is
2223  * available.
2224  */
2225 const char *
2226 iobuf_get_real_fname (iobuf_t a)
2227 {
2228   if (a->real_fname)
2229     return a->real_fname;
2230
2231   /* the old solution */
2232   for (; a; a = a->chain)
2233     if (!a->chain && a->filter == file_filter)
2234       {
2235         file_filter_ctx_t *b = a->filter_ov;
2236         return b->print_only_name ? NULL : b->fname;
2237       }
2238
2239   return NULL;
2240 }
2241
2242
2243 /****************
2244  * Retrieve the filename.  This name should only be used in diagnostics.
2245  */
2246 const char *
2247 iobuf_get_fname (iobuf_t a)
2248 {
2249   for (; a; a = a->chain)
2250     if (!a->chain && a->filter == file_filter)
2251       {
2252         file_filter_ctx_t *b = a->filter_ov;
2253         return b->fname;
2254       }
2255   return NULL;
2256 }
2257
2258 /* Same as iobuf_get_fname but never returns NULL.  */
2259 const char *
2260 iobuf_get_fname_nonnull (iobuf_t a)
2261 {
2262   const char *fname;
2263
2264   fname = iobuf_get_fname (a);
2265   return fname? fname : "[?]";
2266 }
2267
2268
2269 /****************
2270  * enable partial block mode as described in the OpenPGP draft.
2271  * LEN is the first length byte on read, but ignored on writes.
2272  */
2273 void
2274 iobuf_set_partial_block_mode (iobuf_t a, size_t len)
2275 {
2276   block_filter_ctx_t *ctx = xcalloc (1, sizeof *ctx);
2277
2278   assert (a->use == 1 || a->use == 2);
2279   ctx->use = a->use;
2280   if (!len)
2281     {
2282       if (a->use == 1)
2283         log_debug ("pop_filter called in set_partial_block_mode"
2284                    " - please report\n");
2285       pop_filter (a, block_filter, NULL);
2286     }
2287   else
2288     {
2289       ctx->partial = 1;
2290       ctx->size = 0;
2291       ctx->first_c = len;
2292       iobuf_push_filter (a, block_filter, ctx);
2293     }
2294 }
2295
2296
2297
2298 /****************
2299  * Same as fgets() but if the buffer is too short a larger one will
2300  * be allocated up to some limit *max_length.
2301  * A line is considered a byte stream ending in a LF.
2302  * Returns the length of the line. EOF is indicated by a line of
2303  * length zero. The last LF may be missing due to an EOF.
2304  * is max_length is zero on return, the line has been truncated.
2305  *
2306  * Note: The buffer is allocated with enough space to append a CR,LF,EOL
2307  */
2308 unsigned int
2309 iobuf_read_line (iobuf_t a, byte ** addr_of_buffer,
2310                  unsigned *length_of_buffer, unsigned *max_length)
2311 {
2312   int c;
2313   char *buffer = (char *)*addr_of_buffer;
2314   unsigned length = *length_of_buffer;
2315   unsigned nbytes = 0;
2316   unsigned maxlen = *max_length;
2317   char *p;
2318
2319   if (!buffer)
2320     {                           /* must allocate a new buffer */
2321       length = 256;
2322       buffer = xmalloc (length);
2323       *addr_of_buffer = (unsigned char *)buffer;
2324       *length_of_buffer = length;
2325     }
2326
2327   length -= 3;                  /* reserve 3 bytes (cr,lf,eol) */
2328   p = buffer;
2329   while ((c = iobuf_get (a)) != -1)
2330     {
2331       if (nbytes == length)
2332         {                       /* increase the buffer */
2333           if (length > maxlen)
2334             {                   /* this is out limit */
2335               /* skip the rest of the line */
2336               while (c != '\n' && (c = iobuf_get (a)) != -1)
2337                 ;
2338               *p++ = '\n';      /* always append a LF (we have reserved space) */
2339               nbytes++;
2340               *max_length = 0;  /* indicate truncation */
2341               break;
2342             }
2343           length += 3;          /* correct for the reserved byte */
2344           length += length < 1024 ? 256 : 1024;
2345           buffer = xrealloc (buffer, length);
2346           *addr_of_buffer = (unsigned char *)buffer;
2347           *length_of_buffer = length;
2348           length -= 3;          /* and reserve again */
2349           p = buffer + nbytes;
2350         }
2351       *p++ = c;
2352       nbytes++;
2353       if (c == '\n')
2354         break;
2355     }
2356   *p = 0;                       /* make sure the line is a string */
2357
2358   return nbytes;
2359 }
2360
2361 static int
2362 translate_file_handle (int fd, int for_write)
2363 {
2364 #ifdef HAVE_W32_SYSTEM
2365   {
2366     int x;
2367     
2368     (void)for_write;
2369
2370     if (fd == 0)
2371       x = (int) GetStdHandle (STD_INPUT_HANDLE);
2372     else if (fd == 1)
2373       x = (int) GetStdHandle (STD_OUTPUT_HANDLE);
2374     else if (fd == 2)
2375       x = (int) GetStdHandle (STD_ERROR_HANDLE);
2376     else
2377       x = fd;
2378
2379     if (x == -1)
2380       log_debug ("GetStdHandle(%d) failed: ec=%d\n",
2381                  fd, (int) GetLastError ());
2382
2383     fd = x;
2384   }
2385 #else
2386   (void)for_write;
2387 #endif
2388   return fd;
2389 }
2390
2391
2392 void
2393 iobuf_skip_rest (iobuf_t a, unsigned long n, int partial)
2394 {
2395   if ( partial )
2396     {
2397       for (;;)
2398         {
2399           if (a->nofast || a->d.start >= a->d.len) 
2400             {
2401               if (iobuf_readbyte (a) == -1)
2402                 {
2403                   break;
2404                 }
2405             } 
2406           else
2407             {
2408               unsigned long count = a->d.len - a->d.start;
2409               a->nbytes += count;
2410               a->d.start = a->d.len;
2411             }
2412         }
2413     } 
2414   else
2415     {
2416       unsigned long remaining = n;
2417       while (remaining > 0) 
2418         {
2419           if (a->nofast || a->d.start >= a->d.len)
2420             {
2421               if (iobuf_readbyte (a) == -1)
2422                 {
2423                   break;
2424                 }
2425               --remaining;
2426             } 
2427           else 
2428             {
2429               unsigned long count = a->d.len - a->d.start;
2430               if (count > remaining) 
2431                 {
2432                   count = remaining;
2433                 }
2434               a->nbytes += count;
2435               a->d.start += count;
2436               remaining -= count;
2437             }
2438         }
2439     }
2440 }