g10: Fix another race condition for trustdb access.
[gnupg.git] / g10 / trustdb.c
1 /* trustdb.c
2  * Copyright (C) 1998, 1999, 2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007,
3  *               2008, 2012 Free Software Foundation, Inc.
4  *
5  * This file is part of GnuPG.
6  *
7  * GnuPG is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License as published by
9  * the Free Software Foundation; either version 3 of the License, or
10  * (at your option) any later version.
11  *
12  * GnuPG is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU General Public License for more details.
16  *
17  * You should have received a copy of the GNU General Public License
18  * along with this program; if not, see <http://www.gnu.org/licenses/>.
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25
26 #ifndef DISABLE_REGEX
27 #include <sys/types.h>
28 #include <regex.h>
29 #endif /* !DISABLE_REGEX */
30
31 #include "gpg.h"
32 #include "status.h"
33 #include "iobuf.h"
34 #include "keydb.h"
35 #include "util.h"
36 #include "options.h"
37 #include "packet.h"
38 #include "main.h"
39 #include "i18n.h"
40 #include "tdbio.h"
41 #include "trustdb.h"
42 #include "tofu.h"
43
44
45 typedef struct key_item **KeyHashTable; /* see new_key_hash_table() */
46
47 /*
48  * Structure to keep track of keys, this is used as an array wherre
49  * the item right after the last one has a keyblock set to NULL.
50  * Maybe we can drop this thing and replace it by key_item
51  */
52 struct key_array
53 {
54   KBNODE keyblock;
55 };
56
57
58 /* Control information for the trust DB.  */
59 static struct
60 {
61   int init;
62   int level;
63   char *dbname;
64   int no_trustdb;
65 } trustdb_args;
66
67 /* Some globals.  */
68 static struct key_item *user_utk_list; /* temp. used to store --trusted-keys */
69 static struct key_item *utk_list;      /* all ultimately trusted keys */
70
71 static int pending_check_trustdb;
72
73 static int validate_keys (ctrl_t ctrl, int interactive);
74
75 \f
76 /**********************************************
77  ************* some helpers *******************
78  **********************************************/
79
80 static struct key_item *
81 new_key_item (void)
82 {
83   struct key_item *k;
84
85   k = xmalloc_clear (sizeof *k);
86   return k;
87 }
88
89 static void
90 release_key_items (struct key_item *k)
91 {
92   struct key_item *k2;
93
94   for (; k; k = k2)
95     {
96       k2 = k->next;
97       xfree (k->trust_regexp);
98       xfree (k);
99     }
100 }
101
102 #define KEY_HASH_TABLE_SIZE 1024
103
104 /*
105  * For fast keylook up we need a hash table.  Each byte of a KeyID
106  * should be distributed equally over the 256 possible values (except
107  * for v3 keyIDs but we consider them as not important here). So we
108  * can just use 10 bits to index a table of KEY_HASH_TABLE_SIZE key items.
109  * Possible optimization: Do not use key_items but other hash_table when the
110  * duplicates lists get too large.
111  */
112 static KeyHashTable
113 new_key_hash_table (void)
114 {
115   struct key_item **tbl;
116
117   tbl = xmalloc_clear (KEY_HASH_TABLE_SIZE * sizeof *tbl);
118   return tbl;
119 }
120
121 static void
122 release_key_hash_table (KeyHashTable tbl)
123 {
124   int i;
125
126   if (!tbl)
127     return;
128   for (i=0; i < KEY_HASH_TABLE_SIZE; i++)
129     release_key_items (tbl[i]);
130   xfree (tbl);
131 }
132
133 /*
134  * Returns: True if the keyID is in the given hash table
135  */
136 static int
137 test_key_hash_table (KeyHashTable tbl, u32 *kid)
138 {
139   struct key_item *k;
140
141   for (k = tbl[(kid[1] % KEY_HASH_TABLE_SIZE)]; k; k = k->next)
142     if (k->kid[0] == kid[0] && k->kid[1] == kid[1])
143       return 1;
144   return 0;
145 }
146
147 /*
148  * Add a new key to the hash table.  The key is identified by its key ID.
149  */
150 static void
151 add_key_hash_table (KeyHashTable tbl, u32 *kid)
152 {
153   int i = kid[1] % KEY_HASH_TABLE_SIZE;
154   struct key_item *k, *kk;
155
156   for (k = tbl[i]; k; k = k->next)
157     if (k->kid[0] == kid[0] && k->kid[1] == kid[1])
158       return; /* already in table */
159
160   kk = new_key_item ();
161   kk->kid[0] = kid[0];
162   kk->kid[1] = kid[1];
163   kk->next = tbl[i];
164   tbl[i] = kk;
165 }
166
167 /*
168  * Release a key_array
169  */
170 static void
171 release_key_array ( struct key_array *keys )
172 {
173     struct key_array *k;
174
175     if (keys) {
176         for (k=keys; k->keyblock; k++)
177             release_kbnode (k->keyblock);
178         xfree (keys);
179     }
180 }
181
182 \f
183 /*********************************************
184  **********  Initialization  *****************
185  *********************************************/
186
187
188
189 /*
190  * Used to register extra ultimately trusted keys - this has to be done
191  * before initializing the validation module.
192  * FIXME: Should be replaced by a function to add those keys to the trustdb.
193  */
194 void
195 tdb_register_trusted_keyid (u32 *keyid)
196 {
197   struct key_item *k;
198
199   k = new_key_item ();
200   k->kid[0] = keyid[0];
201   k->kid[1] = keyid[1];
202   k->next = user_utk_list;
203   user_utk_list = k;
204 }
205
206 void
207 tdb_register_trusted_key( const char *string )
208 {
209   gpg_error_t err;
210   KEYDB_SEARCH_DESC desc;
211
212   err = classify_user_id (string, &desc, 1);
213   if (err || desc.mode != KEYDB_SEARCH_MODE_LONG_KID )
214     {
215       log_error(_("'%s' is not a valid long keyID\n"), string );
216       return;
217     }
218
219   register_trusted_keyid(desc.u.kid);
220 }
221
222 /*
223  * Helper to add a key to the global list of ultimately trusted keys.
224  * Retruns: true = inserted, false = already in in list.
225  */
226 static int
227 add_utk (u32 *kid)
228 {
229   struct key_item *k;
230
231   if (tdb_keyid_is_utk (kid))
232     return 0;
233
234   k = new_key_item ();
235   k->kid[0] = kid[0];
236   k->kid[1] = kid[1];
237   k->ownertrust = TRUST_ULTIMATE;
238   k->next = utk_list;
239   utk_list = k;
240   if( opt.verbose > 1 )
241     log_info(_("key %s: accepted as trusted key\n"), keystr(kid));
242   return 1;
243 }
244
245
246 /****************
247  * Verify that all our secret keys are usable and put them into the utk_list.
248  */
249 static void
250 verify_own_keys(void)
251 {
252   TRUSTREC rec;
253   ulong recnum;
254   int rc;
255   struct key_item *k;
256
257   if (utk_list)
258     return;
259
260   /* scan the trustdb to find all ultimately trusted keys */
261   for (recnum=1; !tdbio_read_record (recnum, &rec, 0); recnum++ )
262     {
263       if ( rec.rectype == RECTYPE_TRUST
264            && (rec.r.trust.ownertrust & TRUST_MASK) == TRUST_ULTIMATE)
265         {
266             byte *fpr = rec.r.trust.fingerprint;
267             int fprlen;
268             u32 kid[2];
269
270             /* Problem: We do only use fingerprints in the trustdb but
271              * we need the keyID here to indetify the key; we can only
272              * use that ugly hack to distinguish between 16 and 20
273              * butes fpr - it does not work always so we better change
274              * the whole validation code to only work with
275              * fingerprints */
276             fprlen = (!fpr[16] && !fpr[17] && !fpr[18] && !fpr[19])? 16:20;
277             keyid_from_fingerprint (fpr, fprlen, kid);
278             if (!add_utk (kid))
279               log_info(_("key %s occurs more than once in the trustdb\n"),
280                        keystr(kid));
281         }
282     }
283
284   /* Put any --trusted-key keys into the trustdb */
285   for (k = user_utk_list; k; k = k->next)
286     {
287       if ( add_utk (k->kid) )
288         { /* not yet in trustDB as ultimately trusted */
289           PKT_public_key pk;
290
291           memset (&pk, 0, sizeof pk);
292           rc = get_pubkey (&pk, k->kid);
293           if (rc)
294             log_info(_("key %s: no public key for trusted key - skipped\n"),
295                      keystr(k->kid));
296           else
297             {
298               tdb_update_ownertrust (&pk,
299                                      ((tdb_get_ownertrust (&pk) & ~TRUST_MASK)
300                                       | TRUST_ULTIMATE ));
301               release_public_key_parts (&pk);
302             }
303
304           log_info (_("key %s marked as ultimately trusted\n"),keystr(k->kid));
305         }
306     }
307
308   /* release the helper table table */
309   release_key_items (user_utk_list);
310   user_utk_list = NULL;
311   return;
312 }
313
314 /* Returns whether KID is on the list of ultimately trusted keys.  */
315 int
316 tdb_keyid_is_utk (u32 *kid)
317 {
318   struct key_item *k;
319
320   for (k = utk_list; k; k = k->next)
321     if (k->kid[0] == kid[0] && k->kid[1] == kid[1])
322       return 1;
323
324   return 0;
325 }
326 \f
327 /*********************************************
328  *********** TrustDB stuff *******************
329  *********************************************/
330
331 /*
332  * Read a record but die if it does not exist
333  */
334 static void
335 read_record (ulong recno, TRUSTREC *rec, int rectype )
336 {
337   int rc = tdbio_read_record (recno, rec, rectype);
338   if (rc)
339     {
340       log_error(_("trust record %lu, req type %d: read failed: %s\n"),
341                 recno, rec->rectype, gpg_strerror (rc) );
342       tdbio_invalid();
343     }
344   if (rectype != rec->rectype)
345     {
346       log_error(_("trust record %lu is not of requested type %d\n"),
347                 rec->recnum, rectype);
348       tdbio_invalid();
349     }
350 }
351
352 /*
353  * Write a record and die on error
354  */
355 static void
356 write_record (TRUSTREC *rec)
357 {
358   int rc = tdbio_write_record (rec);
359   if (rc)
360     {
361       log_error(_("trust record %lu, type %d: write failed: %s\n"),
362                             rec->recnum, rec->rectype, gpg_strerror (rc) );
363       tdbio_invalid();
364     }
365 }
366
367 /*
368  * sync the TrustDb and die on error
369  */
370 static void
371 do_sync(void)
372 {
373     int rc = tdbio_sync ();
374     if(rc)
375       {
376         log_error (_("trustdb: sync failed: %s\n"), gpg_strerror (rc) );
377         g10_exit(2);
378       }
379 }
380
381 const char *
382 trust_model_string (int model)
383 {
384   switch (model)
385     {
386     case TM_CLASSIC:  return "classic";
387     case TM_PGP:      return "pgp";
388     case TM_EXTERNAL: return "external";
389     case TM_TOFU:     return "tofu";
390     case TM_TOFU_PGP: return "tofu+pgp";
391     case TM_ALWAYS:   return "always";
392     case TM_DIRECT:   return "direct";
393     default:          return "unknown";
394     }
395 }
396
397 /****************
398  * Perform some checks over the trustdb
399  *  level 0: only open the db
400  *        1: used for initial program startup
401  */
402 int
403 setup_trustdb( int level, const char *dbname )
404 {
405     /* just store the args */
406     if( trustdb_args.init )
407         return 0;
408     trustdb_args.level = level;
409     trustdb_args.dbname = dbname? xstrdup(dbname): NULL;
410     return 0;
411 }
412
413 void
414 how_to_fix_the_trustdb ()
415 {
416   const char *name = trustdb_args.dbname;
417
418   if (!name)
419     name = "trustdb.gpg";
420
421   log_info (_("You may try to re-create the trustdb using the commands:\n"));
422   log_info ("  cd %s\n", default_homedir ());
423   log_info ("  %s --export-ownertrust > otrust.tmp\n", GPG_NAME);
424 #ifdef HAVE_W32_SYSTEM
425   log_info ("  del %s\n", name);
426 #else
427   log_info ("  rm %s\n", name);
428 #endif
429   log_info ("  %s --import-ownertrust < otrust.tmp\n", GPG_NAME);
430   log_info (_("If that does not work, please consult the manual\n"));
431 }
432
433
434 void
435 init_trustdb ()
436 {
437   int level = trustdb_args.level;
438   const char* dbname = trustdb_args.dbname;
439
440   if( trustdb_args.init )
441     return;
442
443   trustdb_args.init = 1;
444
445   if(level==0 || level==1)
446     {
447       int rc = tdbio_set_dbname( dbname, !!level, &trustdb_args.no_trustdb);
448       if( rc )
449         log_fatal("can't init trustdb: %s\n", gpg_strerror (rc) );
450     }
451   else
452     BUG();
453
454   if(opt.trust_model==TM_AUTO)
455     {
456       /* Try and set the trust model off of whatever the trustdb says
457          it is. */
458       opt.trust_model=tdbio_read_model();
459
460       /* Sanity check this ;) */
461       if(opt.trust_model != TM_CLASSIC
462          && opt.trust_model != TM_PGP
463          && opt.trust_model != TM_TOFU_PGP
464          && opt.trust_model != TM_TOFU
465          && opt.trust_model != TM_EXTERNAL)
466         {
467           log_info(_("unable to use unknown trust model (%d) - "
468                      "assuming %s trust model\n"),opt.trust_model,"pgp");
469           opt.trust_model = TM_PGP;
470         }
471
472       if(opt.verbose)
473         log_info(_("using %s trust model\n"),
474                  trust_model_string (opt.trust_model));
475     }
476
477   if (opt.trust_model==TM_PGP || opt.trust_model==TM_CLASSIC
478       || opt.trust_model == TM_TOFU || opt.trust_model == TM_TOFU_PGP)
479     {
480       /* Verify the list of ultimately trusted keys and move the
481          --trusted-keys list there as well. */
482       if(level==1)
483         verify_own_keys();
484
485       if(!tdbio_db_matches_options())
486         pending_check_trustdb=1;
487     }
488 }
489
490
491 /****************
492  * Recreate the WoT but do not ask for new ownertrusts.  Special
493  * feature: In batch mode and without a forced yes, this is only done
494  * when a check is due.  This can be used to run the check from a crontab
495  */
496 void
497 check_trustdb (ctrl_t ctrl)
498 {
499   init_trustdb();
500   if (opt.trust_model == TM_PGP || opt.trust_model == TM_CLASSIC
501       || opt.trust_model == TM_TOFU_PGP || opt.trust_model == TM_TOFU)
502     {
503       if (opt.batch && !opt.answer_yes)
504         {
505           ulong scheduled;
506
507           scheduled = tdbio_read_nextcheck ();
508           if (!scheduled)
509             {
510               log_info (_("no need for a trustdb check\n"));
511               return;
512             }
513
514           if (scheduled > make_timestamp ())
515             {
516               log_info (_("next trustdb check due at %s\n"),
517                         strtimestamp (scheduled));
518               return;
519             }
520         }
521
522       validate_keys (ctrl, 0);
523     }
524   else
525     log_info (_("no need for a trustdb check with '%s' trust model\n"),
526               trust_model_string(opt.trust_model));
527 }
528
529
530 /*
531  * Recreate the WoT.
532  */
533 void
534 update_trustdb (ctrl_t ctrl)
535 {
536   init_trustdb ();
537   if (opt.trust_model == TM_PGP || opt.trust_model == TM_CLASSIC
538       || opt.trust_model == TM_TOFU_PGP || opt.trust_model == TM_TOFU)
539     validate_keys (ctrl, 1);
540   else
541     log_info (_("no need for a trustdb update with '%s' trust model\n"),
542               trust_model_string(opt.trust_model));
543 }
544
545 void
546 tdb_revalidation_mark (void)
547 {
548   init_trustdb();
549   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
550     return;
551
552   /* We simply set the time for the next check to 1 (far back in 1970)
553      so that a --update-trustdb will be scheduled.  */
554   if (tdbio_write_nextcheck (1))
555     do_sync ();
556   pending_check_trustdb = 1;
557 }
558
559 int
560 trustdb_pending_check(void)
561 {
562   return pending_check_trustdb;
563 }
564
565 /* If the trustdb is dirty, and we're interactive, update it.
566    Otherwise, check it unless no-auto-check-trustdb is set. */
567 void
568 tdb_check_or_update (ctrl_t ctrl)
569 {
570   if (trustdb_pending_check ())
571     {
572       if (opt.interactive)
573         update_trustdb (ctrl);
574       else if (!opt.no_auto_check_trustdb)
575         check_trustdb (ctrl);
576     }
577 }
578
579 void
580 read_trust_options(byte *trust_model,ulong *created,ulong *nextcheck,
581                    byte *marginals,byte *completes,byte *cert_depth,
582                    byte *min_cert_level)
583 {
584   TRUSTREC opts;
585
586   init_trustdb();
587   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
588     memset (&opts, 0, sizeof opts);
589   else
590     read_record (0, &opts, RECTYPE_VER);
591
592   if(trust_model)
593     *trust_model=opts.r.ver.trust_model;
594   if(created)
595     *created=opts.r.ver.created;
596   if(nextcheck)
597     *nextcheck=opts.r.ver.nextcheck;
598   if(marginals)
599     *marginals=opts.r.ver.marginals;
600   if(completes)
601     *completes=opts.r.ver.completes;
602   if(cert_depth)
603     *cert_depth=opts.r.ver.cert_depth;
604   if(min_cert_level)
605     *min_cert_level=opts.r.ver.min_cert_level;
606 }
607
608 /***********************************************
609  ***********  Ownertrust et al. ****************
610  ***********************************************/
611
612 static int
613 read_trust_record (PKT_public_key *pk, TRUSTREC *rec)
614 {
615   int rc;
616
617   init_trustdb();
618   rc = tdbio_search_trust_bypk (pk, rec);
619   if (rc)
620     {
621       if (gpg_err_code (rc) != GPG_ERR_NOT_FOUND)
622         log_error ("trustdb: searching trust record failed: %s\n",
623                    gpg_strerror (rc));
624       return rc;
625     }
626
627   if (rec->rectype != RECTYPE_TRUST)
628     {
629       log_error ("trustdb: record %lu is not a trust record\n",
630                  rec->recnum);
631       return GPG_ERR_TRUSTDB;
632     }
633
634   return 0;
635 }
636
637 /****************
638  * Return the assigned ownertrust value for the given public key.
639  * The key should be the primary key.
640  */
641 unsigned int
642 tdb_get_ownertrust ( PKT_public_key *pk)
643 {
644   TRUSTREC rec;
645   gpg_error_t err;
646
647   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
648     return TRUST_UNKNOWN;
649
650   err = read_trust_record (pk, &rec);
651   if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
652     return TRUST_UNKNOWN; /* no record yet */
653   if (err)
654     {
655       tdbio_invalid ();
656       return TRUST_UNKNOWN; /* actually never reached */
657     }
658
659   return rec.r.trust.ownertrust;
660 }
661
662
663 unsigned int
664 tdb_get_min_ownertrust (PKT_public_key *pk)
665 {
666   TRUSTREC rec;
667   gpg_error_t err;
668
669   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
670     return TRUST_UNKNOWN;
671
672   err = read_trust_record (pk, &rec);
673   if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
674     return TRUST_UNKNOWN; /* no record yet */
675   if (err)
676     {
677       tdbio_invalid ();
678       return TRUST_UNKNOWN; /* actually never reached */
679     }
680
681   return rec.r.trust.min_ownertrust;
682 }
683
684
685 /*
686  * Set the trust value of the given public key to the new value.
687  * The key should be a primary one.
688  */
689 void
690 tdb_update_ownertrust (PKT_public_key *pk, unsigned int new_trust )
691 {
692   TRUSTREC rec;
693   gpg_error_t err;
694
695   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
696     return;
697
698   err = read_trust_record (pk, &rec);
699   if (!err)
700     {
701       if (DBG_TRUST)
702         log_debug ("update ownertrust from %u to %u\n",
703                    (unsigned int)rec.r.trust.ownertrust, new_trust );
704       if (rec.r.trust.ownertrust != new_trust)
705         {
706           rec.r.trust.ownertrust = new_trust;
707           write_record( &rec );
708           tdb_revalidation_mark ();
709           do_sync ();
710         }
711     }
712   else if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
713     { /* no record yet - create a new one */
714       size_t dummy;
715
716       if (DBG_TRUST)
717         log_debug ("insert ownertrust %u\n", new_trust );
718
719       memset (&rec, 0, sizeof rec);
720       rec.recnum = tdbio_new_recnum ();
721       rec.rectype = RECTYPE_TRUST;
722       fingerprint_from_pk (pk, rec.r.trust.fingerprint, &dummy);
723       rec.r.trust.ownertrust = new_trust;
724       write_record (&rec);
725       tdb_revalidation_mark ();
726       do_sync ();
727     }
728   else
729     {
730       tdbio_invalid ();
731     }
732 }
733
734 static void
735 update_min_ownertrust (u32 *kid, unsigned int new_trust )
736 {
737   PKT_public_key *pk;
738   TRUSTREC rec;
739   gpg_error_t err;
740
741   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
742     return;
743
744   pk = xmalloc_clear (sizeof *pk);
745   err = get_pubkey (pk, kid);
746   if (err)
747     {
748       log_error (_("public key %s not found: %s\n"),
749                  keystr (kid), gpg_strerror (err));
750       return;
751     }
752
753   err = read_trust_record (pk, &rec);
754   if (!err)
755     {
756       if (DBG_TRUST)
757         log_debug ("key %08lX%08lX: update min_ownertrust from %u to %u\n",
758                    (ulong)kid[0],(ulong)kid[1],
759                    (unsigned int)rec.r.trust.min_ownertrust,
760                    new_trust );
761       if (rec.r.trust.min_ownertrust != new_trust)
762         {
763           rec.r.trust.min_ownertrust = new_trust;
764           write_record( &rec );
765           tdb_revalidation_mark ();
766           do_sync ();
767         }
768     }
769   else if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
770     { /* no record yet - create a new one */
771       size_t dummy;
772
773       if (DBG_TRUST)
774         log_debug ("insert min_ownertrust %u\n", new_trust );
775
776       memset (&rec, 0, sizeof rec);
777       rec.recnum = tdbio_new_recnum ();
778       rec.rectype = RECTYPE_TRUST;
779       fingerprint_from_pk (pk, rec.r.trust.fingerprint, &dummy);
780       rec.r.trust.min_ownertrust = new_trust;
781       write_record (&rec);
782       tdb_revalidation_mark ();
783       do_sync ();
784     }
785   else
786     {
787       tdbio_invalid ();
788     }
789 }
790
791
792 /*
793  * Clear the ownertrust and min_ownertrust values.
794  *
795  * Return: True if a change actually happened.
796  */
797 int
798 tdb_clear_ownertrusts (PKT_public_key *pk)
799 {
800   TRUSTREC rec;
801   gpg_error_t err;
802
803   init_trustdb ();
804
805   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
806     return 0;
807
808   err = read_trust_record (pk, &rec);
809   if (!err)
810     {
811       if (DBG_TRUST)
812         {
813           log_debug ("clearing ownertrust (old value %u)\n",
814                      (unsigned int)rec.r.trust.ownertrust);
815           log_debug ("clearing min_ownertrust (old value %u)\n",
816                      (unsigned int)rec.r.trust.min_ownertrust);
817         }
818       if (rec.r.trust.ownertrust || rec.r.trust.min_ownertrust)
819         {
820           rec.r.trust.ownertrust = 0;
821           rec.r.trust.min_ownertrust = 0;
822           write_record( &rec );
823           tdb_revalidation_mark ();
824           do_sync ();
825           return 1;
826         }
827     }
828   else if (gpg_err_code (err) != GPG_ERR_NOT_FOUND)
829     {
830       tdbio_invalid ();
831     }
832   return 0;
833 }
834
835 /*
836  * Note: Caller has to do a sync
837  */
838 static void
839 update_validity (PKT_public_key *pk, PKT_user_id *uid,
840                  int depth, int validity)
841 {
842   TRUSTREC trec, vrec;
843   gpg_error_t err;
844   ulong recno;
845
846   namehash_from_uid(uid);
847
848   err = read_trust_record (pk, &trec);
849   if (err && gpg_err_code (err) != GPG_ERR_NOT_FOUND)
850     {
851       tdbio_invalid ();
852       return;
853     }
854   if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
855     {
856       /* No record yet - create a new one. */
857       size_t dummy;
858
859       memset (&trec, 0, sizeof trec);
860       trec.recnum = tdbio_new_recnum ();
861       trec.rectype = RECTYPE_TRUST;
862       fingerprint_from_pk (pk, trec.r.trust.fingerprint, &dummy);
863       trec.r.trust.ownertrust = 0;
864       }
865
866   /* locate an existing one */
867   recno = trec.r.trust.validlist;
868   while (recno)
869     {
870       read_record (recno, &vrec, RECTYPE_VALID);
871       if ( !memcmp (vrec.r.valid.namehash, uid->namehash, 20) )
872         break;
873       recno = vrec.r.valid.next;
874     }
875
876   if (!recno) /* insert a new validity record */
877     {
878       memset (&vrec, 0, sizeof vrec);
879       vrec.recnum = tdbio_new_recnum ();
880       vrec.rectype = RECTYPE_VALID;
881       memcpy (vrec.r.valid.namehash, uid->namehash, 20);
882       vrec.r.valid.next = trec.r.trust.validlist;
883       trec.r.trust.validlist = vrec.recnum;
884     }
885   vrec.r.valid.validity = validity;
886   vrec.r.valid.full_count = uid->help_full_count;
887   vrec.r.valid.marginal_count = uid->help_marginal_count;
888   write_record (&vrec);
889   trec.r.trust.depth = depth;
890   write_record (&trec);
891 }
892
893
894 /***********************************************
895  *********  Query trustdb values  **************
896  ***********************************************/
897
898 /* Return true if key is disabled.  Note that this is usually used via
899    the pk_is_disabled macro.  */
900 int
901 tdb_cache_disabled_value (PKT_public_key *pk)
902 {
903   gpg_error_t err;
904   TRUSTREC trec;
905   int disabled = 0;
906
907   if (pk->flags.disabled_valid)
908     return pk->flags.disabled;
909
910   init_trustdb();
911
912   if (trustdb_args.no_trustdb)
913     return 0;  /* No trustdb => not disabled.  */
914
915   err = read_trust_record (pk, &trec);
916   if (err && gpg_err_code (err) != GPG_ERR_NOT_FOUND)
917     {
918       tdbio_invalid ();
919       goto leave;
920     }
921   if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
922     {
923       /* No record found, so assume not disabled.  */
924       goto leave;
925     }
926
927   if ((trec.r.trust.ownertrust & TRUST_FLAG_DISABLED))
928     disabled = 1;
929
930   /* Cache it for later so we don't need to look at the trustdb every
931      time */
932   pk->flags.disabled = disabled;
933   pk->flags.disabled_valid = 1;
934
935  leave:
936   return disabled;
937 }
938
939
940 void
941 tdb_check_trustdb_stale (ctrl_t ctrl)
942 {
943   static int did_nextcheck=0;
944
945   init_trustdb ();
946
947   if (trustdb_args.no_trustdb)
948     return;  /* No trustdb => can't be stale.  */
949
950   if (!did_nextcheck
951       && (opt.trust_model == TM_PGP || opt.trust_model == TM_CLASSIC
952           || opt.trust_model == TM_TOFU_PGP || opt.trust_model == TM_TOFU))
953     {
954       ulong scheduled;
955
956       did_nextcheck = 1;
957       scheduled = tdbio_read_nextcheck ();
958       if ((scheduled && scheduled <= make_timestamp ())
959           || pending_check_trustdb)
960         {
961           if (opt.no_auto_check_trustdb)
962             {
963               pending_check_trustdb = 1;
964               if (!opt.quiet)
965                 log_info (_("please do a --check-trustdb\n"));
966             }
967           else
968             {
969               if (!opt.quiet)
970                 log_info (_("checking the trustdb\n"));
971               validate_keys (ctrl, 0);
972             }
973         }
974     }
975 }
976
977 /*
978  * Return the validity information for PK.  This is the core of
979  * get_validity.  If SIG is not NULL, then the trust is being
980  * evaluated in the context of the provided signature.  This is used
981  * by the TOFU code to record statistics.
982  */
983 unsigned int
984 tdb_get_validity_core (ctrl_t ctrl,
985                        PKT_public_key *pk, PKT_user_id *uid,
986                        PKT_public_key *main_pk,
987                        PKT_signature *sig,
988                        int may_ask)
989 {
990   TRUSTREC trec, vrec;
991   gpg_error_t err;
992   ulong recno;
993 #ifdef USE_TOFU
994   unsigned int tofu_validity = TRUST_UNKNOWN;
995 #endif
996   unsigned int validity = TRUST_UNKNOWN;
997
998 #ifndef USE_TOFU
999   (void)sig;
1000   (void)may_ask;
1001 #endif
1002
1003   init_trustdb ();
1004
1005   /* If we have no trustdb (which also means it has not been created)
1006      and the trust-model is always, we don't know the validity -
1007      return immediately.  If we won't do that the tdbio code would try
1008      to open the trustdb and run into a fatal error.  */
1009   if (trustdb_args.no_trustdb && opt.trust_model == TM_ALWAYS)
1010     return TRUST_UNKNOWN;
1011
1012   check_trustdb_stale (ctrl);
1013
1014   if(opt.trust_model==TM_DIRECT)
1015     {
1016       /* Note that this happens BEFORE any user ID stuff is checked.
1017          The direct trust model applies to keys as a whole. */
1018       validity = tdb_get_ownertrust (main_pk);
1019       goto leave;
1020     }
1021
1022 #ifdef USE_TOFU
1023   if (opt.trust_model == TM_TOFU || opt.trust_model == TM_TOFU_PGP)
1024     {
1025       kbnode_t user_id_node = NULL; /* Silence -Wmaybe-uninitialized.  */
1026       int user_ids = 0;
1027       int user_ids_expired = 0;
1028
1029       /* If the caller didn't supply a user id then iterate over all
1030          uids.  */
1031       if (! uid)
1032         user_id_node = get_pubkeyblock (main_pk->keyid);
1033
1034       while (uid
1035              || (user_id_node = find_next_kbnode (user_id_node, PKT_USER_ID)))
1036         {
1037           unsigned int tl;
1038           PKT_user_id *user_id;
1039
1040           if (uid)
1041             user_id = uid;
1042           else
1043             user_id = user_id_node->pkt->pkt.user_id;
1044
1045           /* If the user id is revoked or expired, then skip it.  */
1046           if (user_id->is_revoked || user_id->is_expired)
1047             {
1048               if (DBG_TRUST)
1049                 {
1050                   char *s;
1051                   if (user_id->is_revoked && user_id->is_expired)
1052                     s = "revoked and expired";
1053                   else if (user_id->is_revoked)
1054                     s = "revoked";
1055                   else
1056                     s = "expire";
1057
1058                   log_debug ("TOFU: Ignoring %s user id (%s)\n",
1059                              s, user_id->name);
1060                 }
1061
1062               continue;
1063             }
1064
1065           user_ids ++;
1066
1067           if (sig)
1068             tl = tofu_register (ctrl, main_pk, user_id->name,
1069                                 sig->digest, sig->digest_len,
1070                                 sig->timestamp, "unknown",
1071                                 may_ask);
1072           else
1073             tl = tofu_get_validity (ctrl, main_pk, user_id->name, may_ask);
1074
1075           if (tl == TRUST_EXPIRED)
1076             user_ids_expired ++;
1077           else if (tl == TRUST_UNDEFINED || tl == TRUST_UNKNOWN)
1078             ;
1079           else if (tl == TRUST_NEVER)
1080             tofu_validity = TRUST_NEVER;
1081           else
1082             {
1083               log_assert (tl == TRUST_MARGINAL
1084                           || tl == TRUST_FULLY
1085                           || tl == TRUST_ULTIMATE);
1086
1087               if (tl > tofu_validity)
1088                 /* XXX: We we really want the max?  */
1089                 tofu_validity = tl;
1090             }
1091
1092           if (uid)
1093             /* If the caller specified a user id, then we stop
1094                now.  */
1095             break;
1096         }
1097     }
1098 #endif /*USE_TOFU*/
1099
1100   if (opt.trust_model == TM_TOFU_PGP
1101       || opt.trust_model == TM_CLASSIC
1102       || opt.trust_model == TM_PGP)
1103     {
1104       err = read_trust_record (main_pk, &trec);
1105       if (err && gpg_err_code (err) != GPG_ERR_NOT_FOUND)
1106         {
1107           tdbio_invalid ();
1108           return 0;
1109         }
1110       if (gpg_err_code (err) == GPG_ERR_NOT_FOUND)
1111         {
1112           /* No record found.  */
1113           validity = TRUST_UNKNOWN;
1114           goto leave;
1115         }
1116
1117       /* Loop over all user IDs */
1118       recno = trec.r.trust.validlist;
1119       validity = 0;
1120       while (recno)
1121         {
1122           read_record (recno, &vrec, RECTYPE_VALID);
1123
1124           if(uid)
1125             {
1126               /* If a user ID is given we return the validity for that
1127                  user ID ONLY.  If the namehash is not found, then
1128                  there is no validity at all (i.e. the user ID wasn't
1129                  signed). */
1130               if(memcmp(vrec.r.valid.namehash,uid->namehash,20)==0)
1131                 {
1132                   validity=(vrec.r.valid.validity & TRUST_MASK);
1133                   break;
1134                 }
1135             }
1136           else
1137             {
1138               /* If no user ID is given, we take the maximum validity
1139                  over all user IDs */
1140               if (validity < (vrec.r.valid.validity & TRUST_MASK))
1141                 validity = (vrec.r.valid.validity & TRUST_MASK);
1142             }
1143
1144           recno = vrec.r.valid.next;
1145         }
1146
1147       if ((trec.r.trust.ownertrust & TRUST_FLAG_DISABLED))
1148         {
1149           validity |= TRUST_FLAG_DISABLED;
1150           pk->flags.disabled = 1;
1151         }
1152       else
1153         pk->flags.disabled = 0;
1154       pk->flags.disabled_valid = 1;
1155     }
1156
1157  leave:
1158 #ifdef USE_TOFU
1159   validity = tofu_wot_trust_combine (tofu_validity, validity);
1160 #else /*!USE_TOFU*/
1161   validity &= TRUST_MASK;
1162
1163   if (validity == TRUST_NEVER)
1164     /* TRUST_NEVER trumps everything else.  */
1165     validity |= TRUST_NEVER;
1166   if (validity == TRUST_EXPIRED)
1167     /* TRUST_EXPIRED trumps everything but TRUST_NEVER.  */
1168     validity |= TRUST_EXPIRED;
1169 #endif /*!USE_TOFU*/
1170
1171   if (opt.trust_model != TM_TOFU
1172       && pending_check_trustdb)
1173     validity |= TRUST_FLAG_PENDING_CHECK;
1174
1175   return validity;
1176 }
1177
1178
1179 static void
1180 get_validity_counts (PKT_public_key *pk, PKT_user_id *uid)
1181 {
1182   TRUSTREC trec, vrec;
1183   ulong recno;
1184
1185   if(pk==NULL || uid==NULL)
1186     BUG();
1187
1188   namehash_from_uid(uid);
1189
1190   uid->help_marginal_count=uid->help_full_count=0;
1191
1192   init_trustdb ();
1193
1194   if(read_trust_record (pk, &trec))
1195     return;
1196
1197   /* loop over all user IDs */
1198   recno = trec.r.trust.validlist;
1199   while (recno)
1200     {
1201       read_record (recno, &vrec, RECTYPE_VALID);
1202
1203       if(memcmp(vrec.r.valid.namehash,uid->namehash,20)==0)
1204         {
1205           uid->help_marginal_count=vrec.r.valid.marginal_count;
1206           uid->help_full_count=vrec.r.valid.full_count;
1207           /*  es_printf("Fetched marginal %d, full %d\n",uid->help_marginal_count,uid->help_full_count); */
1208           break;
1209         }
1210
1211       recno = vrec.r.valid.next;
1212     }
1213 }
1214
1215 void
1216 list_trust_path( const char *username )
1217 {
1218   (void)username;
1219 }
1220
1221 /****************
1222  * Enumerate all keys, which are needed to build all trust paths for
1223  * the given key.  This function does not return the key itself or
1224  * the ultimate key (the last point in cerificate chain).  Only
1225  * certificate chains which ends up at an ultimately trusted key
1226  * are listed.  If ownertrust or validity is not NULL, the corresponding
1227  * value for the returned LID is also returned in these variable(s).
1228  *
1229  *  1) create a void pointer and initialize it to NULL
1230  *  2) pass this void pointer by reference to this function.
1231  *     Set lid to the key you want to enumerate and pass it by reference.
1232  *  3) call this function as long as it does not return -1
1233  *     to indicate EOF. LID does contain the next key used to build the web
1234  *  4) Always call this function a last time with LID set to NULL,
1235  *     so that it can free its context.
1236  *
1237  * Returns: -1 on EOF or the level of the returned LID
1238  */
1239 int
1240 enum_cert_paths( void **context, ulong *lid,
1241                  unsigned *ownertrust, unsigned *validity )
1242 {
1243   (void)context;
1244   (void)lid;
1245   (void)ownertrust;
1246   (void)validity;
1247   return -1;
1248 }
1249
1250
1251 /****************
1252  * Print the current path
1253  */
1254 void
1255 enum_cert_paths_print (void **context, FILE *fp,
1256                        int refresh, ulong selected_lid)
1257 {
1258   (void)context;
1259   (void)fp;
1260   (void)refresh;
1261   (void)selected_lid;
1262 }
1263
1264
1265 \f
1266 /****************************************
1267  *********** NEW NEW NEW ****************
1268  ****************************************/
1269
1270 static int
1271 ask_ownertrust (ctrl_t ctrl, u32 *kid, int minimum)
1272 {
1273   PKT_public_key *pk;
1274   int rc;
1275   int ot;
1276
1277   pk = xmalloc_clear (sizeof *pk);
1278   rc = get_pubkey (pk, kid);
1279   if (rc)
1280     {
1281       log_error (_("public key %s not found: %s\n"),
1282                  keystr(kid), gpg_strerror (rc) );
1283       return TRUST_UNKNOWN;
1284     }
1285
1286   if(opt.force_ownertrust)
1287     {
1288       log_info("force trust for key %s to %s\n",
1289                keystr(kid),trust_value_to_string(opt.force_ownertrust));
1290       tdb_update_ownertrust (pk, opt.force_ownertrust);
1291       ot=opt.force_ownertrust;
1292     }
1293   else
1294     {
1295       ot=edit_ownertrust (ctrl, pk, 0);
1296       if(ot>0)
1297         ot = tdb_get_ownertrust (pk);
1298       else if(ot==0)
1299         ot = minimum?minimum:TRUST_UNDEFINED;
1300       else
1301         ot = -1; /* quit */
1302     }
1303
1304   free_public_key( pk );
1305
1306   return ot;
1307 }
1308
1309
1310 static void
1311 mark_keyblock_seen (KeyHashTable tbl, KBNODE node)
1312 {
1313   for ( ;node; node = node->next )
1314     if (node->pkt->pkttype == PKT_PUBLIC_KEY
1315         || node->pkt->pkttype == PKT_PUBLIC_SUBKEY)
1316       {
1317         u32 aki[2];
1318
1319         keyid_from_pk (node->pkt->pkt.public_key, aki);
1320         add_key_hash_table (tbl, aki);
1321       }
1322 }
1323
1324
1325 static void
1326 dump_key_array (int depth, struct key_array *keys)
1327 {
1328   struct key_array *kar;
1329
1330   for (kar=keys; kar->keyblock; kar++)
1331     {
1332       KBNODE node = kar->keyblock;
1333       u32 kid[2];
1334
1335       keyid_from_pk(node->pkt->pkt.public_key, kid);
1336       es_printf ("%d:%08lX%08lX:K::%c::::\n",
1337                  depth, (ulong)kid[0], (ulong)kid[1], '?');
1338
1339       for (; node; node = node->next)
1340         {
1341           if (node->pkt->pkttype == PKT_USER_ID)
1342             {
1343               int len = node->pkt->pkt.user_id->len;
1344
1345               if (len > 30)
1346                 len = 30;
1347               es_printf ("%d:%08lX%08lX:U:::%c:::",
1348                          depth, (ulong)kid[0], (ulong)kid[1],
1349                          (node->flag & 4)? 'f':
1350                          (node->flag & 2)? 'm':
1351                          (node->flag & 1)? 'q':'-');
1352               es_write_sanitized (es_stdout, node->pkt->pkt.user_id->name,
1353                                   len, ":", NULL);
1354               es_putc (':', es_stdout);
1355               es_putc ('\n', es_stdout);
1356             }
1357         }
1358     }
1359 }
1360
1361
1362 static void
1363 store_validation_status (int depth, KBNODE keyblock, KeyHashTable stored)
1364 {
1365   KBNODE node;
1366   int status;
1367   int any = 0;
1368
1369   for (node=keyblock; node; node = node->next)
1370     {
1371       if (node->pkt->pkttype == PKT_USER_ID)
1372         {
1373           PKT_user_id *uid = node->pkt->pkt.user_id;
1374           if (node->flag & 4)
1375             status = TRUST_FULLY;
1376           else if (node->flag & 2)
1377             status = TRUST_MARGINAL;
1378           else if (node->flag & 1)
1379             status = TRUST_UNDEFINED;
1380           else
1381             status = 0;
1382
1383           if (status)
1384             {
1385               update_validity (keyblock->pkt->pkt.public_key,
1386                                uid, depth, status);
1387
1388               mark_keyblock_seen(stored,keyblock);
1389
1390               any = 1;
1391             }
1392         }
1393     }
1394
1395   if (any)
1396     do_sync ();
1397 }
1398
1399
1400 /* Returns a sanitized copy of the regexp (which might be "", but not
1401    NULL). */
1402 #ifndef DISABLE_REGEX
1403 static char *
1404 sanitize_regexp(const char *old)
1405 {
1406   size_t start=0,len=strlen(old),idx=0;
1407   int escaped=0,standard_bracket=0;
1408   char *new=xmalloc((len*2)+1); /* enough to \-escape everything if we
1409                                    have to */
1410
1411   /* There are basically two commonly-used regexps here.  GPG and most
1412      versions of PGP use "<[^>]+[@.]example\.com>$" and PGP (9)
1413      command line uses "example.com" (i.e. whatever the user specfies,
1414      and we can't expect users know to use "\." instead of ".").  So
1415      here are the rules: we're allowed to start with "<[^>]+[@.]" and
1416      end with ">$" or start and end with nothing.  In between, the
1417      only legal regex character is ".", and everything else gets
1418      escaped.  Part of the gotcha here is that some regex packages
1419      allow more than RFC-4880 requires.  For example, 4880 has no "{}"
1420      operator, but GNU regex does.  Commenting removes these operators
1421      from consideration.  A possible future enhancement is to use
1422      commenting to effectively back off a given regex to the Henry
1423      Spencer syntax in 4880. -dshaw */
1424
1425   /* Are we bracketed between "<[^>]+[@.]" and ">$" ? */
1426   if(len>=12 && strncmp(old,"<[^>]+[@.]",10)==0
1427      && old[len-2]=='>' && old[len-1]=='$')
1428     {
1429       strcpy(new,"<[^>]+[@.]");
1430       idx=strlen(new);
1431       standard_bracket=1;
1432       start+=10;
1433       len-=2;
1434     }
1435
1436   /* Walk the remaining characters and ensure that everything that is
1437      left is not an operational regex character. */
1438   for(;start<len;start++)
1439     {
1440       if(!escaped && old[start]=='\\')
1441         escaped=1;
1442       else if(!escaped && old[start]!='.')
1443         new[idx++]='\\';
1444       else
1445         escaped=0;
1446
1447       new[idx++]=old[start];
1448     }
1449
1450   new[idx]='\0';
1451
1452   /* Note that the (sub)string we look at might end with a bare "\".
1453      If it does, leave it that way.  If the regexp actually ended with
1454      ">$", then it was escaping the ">" and is fine.  If the regexp
1455      actually ended with the bare "\", then it's an illegal regexp and
1456      regcomp should kick it out. */
1457
1458   if(standard_bracket)
1459     strcat(new,">$");
1460
1461   return new;
1462 }
1463 #endif /*!DISABLE_REGEX*/
1464
1465 /* Used by validate_one_keyblock to confirm a regexp within a trust
1466    signature.  Returns 1 for match, and 0 for no match or regex
1467    error. */
1468 static int
1469 check_regexp(const char *expr,const char *string)
1470 {
1471 #ifdef DISABLE_REGEX
1472   (void)expr;
1473   (void)string;
1474   /* When DISABLE_REGEX is defined, assume all regexps do not
1475      match. */
1476   return 0;
1477 #else
1478   int ret;
1479   char *regexp;
1480
1481   regexp=sanitize_regexp(expr);
1482
1483 #ifdef __riscos__
1484   ret=riscos_check_regexp(expr, string, DBG_TRUST);
1485 #else
1486   {
1487     regex_t pat;
1488
1489     ret=regcomp(&pat,regexp,REG_ICASE|REG_NOSUB|REG_EXTENDED);
1490     if(ret==0)
1491       {
1492         ret=regexec(&pat,string,0,NULL,0);
1493         regfree(&pat);
1494         ret=(ret==0);
1495       }
1496   }
1497 #endif
1498
1499   if(DBG_TRUST)
1500     log_debug("regexp '%s' ('%s') on '%s': %s\n",
1501               regexp,expr,string,ret==0?"YES":"NO");
1502
1503   xfree(regexp);
1504
1505   return ret;
1506 #endif
1507 }
1508
1509 /*
1510  * Return true if the key is signed by one of the keys in the given
1511  * key ID list.  User IDs with a valid signature are marked by node
1512  * flags as follows:
1513  *  flag bit 0: There is at least one signature
1514  *           1: There is marginal confidence that this is a legitimate uid
1515  *           2: There is full confidence that this is a legitimate uid.
1516  *           8: Used for internal purposes.
1517  *           9: Ditto (in mark_usable_uid_certs())
1518  *          10: Ditto (ditto)
1519  * This function assumes that all kbnode flags are cleared on entry.
1520  */
1521 static int
1522 validate_one_keyblock (KBNODE kb, struct key_item *klist,
1523                        u32 curtime, u32 *next_expire)
1524 {
1525   struct key_item *kr;
1526   KBNODE node, uidnode=NULL;
1527   PKT_user_id *uid=NULL;
1528   PKT_public_key *pk = kb->pkt->pkt.public_key;
1529   u32 main_kid[2];
1530   int issigned=0, any_signed = 0;
1531
1532   keyid_from_pk(pk, main_kid);
1533   for (node=kb; node; node = node->next)
1534     {
1535       /* A bit of discussion here: is it better for the web of trust
1536          to be built among only self-signed uids?  On the one hand, a
1537          self-signed uid is a statement that the key owner definitely
1538          intended that uid to be there, but on the other hand, a
1539          signed (but not self-signed) uid does carry trust, of a sort,
1540          even if it is a statement being made by people other than the
1541          key owner "through" the uids on the key owner's key.  I'm
1542          going with the latter.  However, if the user ID was
1543          explicitly revoked, or passively allowed to expire, that
1544          should stop validity through the user ID until it is
1545          resigned.  -dshaw */
1546
1547       if (node->pkt->pkttype == PKT_USER_ID
1548           && !node->pkt->pkt.user_id->is_revoked
1549           && !node->pkt->pkt.user_id->is_expired)
1550         {
1551           if (uidnode && issigned)
1552             {
1553               if (uid->help_full_count >= opt.completes_needed
1554                   || uid->help_marginal_count >= opt.marginals_needed )
1555                 uidnode->flag |= 4;
1556               else if (uid->help_full_count || uid->help_marginal_count)
1557                 uidnode->flag |= 2;
1558               uidnode->flag |= 1;
1559               any_signed = 1;
1560             }
1561           uidnode = node;
1562           uid=uidnode->pkt->pkt.user_id;
1563
1564           /* If the selfsig is going to expire... */
1565           if(uid->expiredate && uid->expiredate<*next_expire)
1566             *next_expire = uid->expiredate;
1567
1568           issigned = 0;
1569           get_validity_counts(pk,uid);
1570           mark_usable_uid_certs (kb, uidnode, main_kid, klist,
1571                                  curtime, next_expire);
1572         }
1573       else if (node->pkt->pkttype == PKT_SIGNATURE
1574                && (node->flag & (1<<8)) && uid)
1575         {
1576           /* Note that we are only seeing unrevoked sigs here */
1577           PKT_signature *sig = node->pkt->pkt.signature;
1578
1579           kr = is_in_klist (klist, sig);
1580           /* If the trust_regexp does not match, it's as if the sig
1581              did not exist.  This is safe for non-trust sigs as well
1582              since we don't accept a regexp on the sig unless it's a
1583              trust sig. */
1584           if (kr && (!kr->trust_regexp
1585                      || !(opt.trust_model == TM_PGP
1586                           || opt.trust_model == TM_TOFU_PGP)
1587                      || (uidnode
1588                          && check_regexp(kr->trust_regexp,
1589                                          uidnode->pkt->pkt.user_id->name))))
1590             {
1591               /* Are we part of a trust sig chain?  We always favor
1592                  the latest trust sig, rather than the greater or
1593                  lesser trust sig or value.  I could make a decent
1594                  argument for any of these cases, but this seems to be
1595                  what PGP does, and I'd like to be compatible. -dms */
1596               if ((opt.trust_model == TM_PGP
1597                    || opt.trust_model == TM_TOFU_PGP)
1598                   && sig->trust_depth
1599                   && pk->trust_timestamp <= sig->timestamp)
1600                 {
1601                   unsigned char depth;
1602
1603                   /* If the depth on the signature is less than the
1604                      chain currently has, then use the signature depth
1605                      so we don't increase the depth beyond what the
1606                      signer wanted.  If the depth on the signature is
1607                      more than the chain currently has, then use the
1608                      chain depth so we use as much of the signature
1609                      depth as the chain will permit.  An ultimately
1610                      trusted signature can restart the depth to
1611                      whatever level it likes. */
1612
1613                   if (sig->trust_depth < kr->trust_depth
1614                       || kr->ownertrust == TRUST_ULTIMATE)
1615                     depth = sig->trust_depth;
1616                   else
1617                     depth = kr->trust_depth;
1618
1619                   if (depth)
1620                     {
1621                       if(DBG_TRUST)
1622                         log_debug ("trust sig on %s, sig depth is %d,"
1623                                    " kr depth is %d\n",
1624                                    uidnode->pkt->pkt.user_id->name,
1625                                    sig->trust_depth,
1626                                    kr->trust_depth);
1627
1628                       /* If we got here, we know that:
1629
1630                          this is a trust sig.
1631
1632                          it's a newer trust sig than any previous trust
1633                          sig on this key (not uid).
1634
1635                          it is legal in that it was either generated by an
1636                          ultimate key, or a key that was part of a trust
1637                          chain, and the depth does not violate the
1638                          original trust sig.
1639
1640                          if there is a regexp attached, it matched
1641                          successfully.
1642                       */
1643
1644                       if (DBG_TRUST)
1645                         log_debug ("replacing trust value %d with %d and "
1646                                    "depth %d with %d\n",
1647                                    pk->trust_value,sig->trust_value,
1648                                    pk->trust_depth,depth);
1649
1650                       pk->trust_value = sig->trust_value;
1651                       pk->trust_depth = depth-1;
1652
1653                       /* If the trust sig contains a regexp, record it
1654                          on the pk for the next round. */
1655                       if (sig->trust_regexp)
1656                         pk->trust_regexp = sig->trust_regexp;
1657                     }
1658                 }
1659
1660               if (kr->ownertrust == TRUST_ULTIMATE)
1661                 uid->help_full_count = opt.completes_needed;
1662               else if (kr->ownertrust == TRUST_FULLY)
1663                 uid->help_full_count++;
1664               else if (kr->ownertrust == TRUST_MARGINAL)
1665                 uid->help_marginal_count++;
1666               issigned = 1;
1667             }
1668         }
1669     }
1670
1671   if (uidnode && issigned)
1672     {
1673       if (uid->help_full_count >= opt.completes_needed
1674           || uid->help_marginal_count >= opt.marginals_needed )
1675         uidnode->flag |= 4;
1676       else if (uid->help_full_count || uid->help_marginal_count)
1677         uidnode->flag |= 2;
1678       uidnode->flag |= 1;
1679       any_signed = 1;
1680     }
1681
1682   return any_signed;
1683 }
1684
1685
1686 static int
1687 search_skipfnc (void *opaque, u32 *kid, int dummy_uid_no)
1688 {
1689   (void)dummy_uid_no;
1690   return test_key_hash_table ((KeyHashTable)opaque, kid);
1691 }
1692
1693
1694 /*
1695  * Scan all keys and return a key_array of all suitable keys from
1696  * kllist.  The caller has to pass keydb handle so that we don't use
1697  * to create our own.  Returns either a key_array or NULL in case of
1698  * an error.  No results found are indicated by an empty array.
1699  * Caller hast to release the returned array.
1700  */
1701 static struct key_array *
1702 validate_key_list (KEYDB_HANDLE hd, KeyHashTable full_trust,
1703                    struct key_item *klist, u32 curtime, u32 *next_expire)
1704 {
1705   KBNODE keyblock = NULL;
1706   struct key_array *keys = NULL;
1707   size_t nkeys, maxkeys;
1708   int rc;
1709   KEYDB_SEARCH_DESC desc;
1710
1711   maxkeys = 1000;
1712   keys = xmalloc ((maxkeys+1) * sizeof *keys);
1713   nkeys = 0;
1714
1715   rc = keydb_search_reset (hd);
1716   if (rc)
1717     {
1718       log_error ("keydb_search_reset failed: %s\n", gpg_strerror (rc));
1719       xfree (keys);
1720       return NULL;
1721     }
1722
1723   memset (&desc, 0, sizeof desc);
1724   desc.mode = KEYDB_SEARCH_MODE_FIRST;
1725   desc.skipfnc = search_skipfnc;
1726   desc.skipfncvalue = full_trust;
1727   rc = keydb_search (hd, &desc, 1, NULL);
1728   if (gpg_err_code (rc) == GPG_ERR_NOT_FOUND)
1729     {
1730       keys[nkeys].keyblock = NULL;
1731       return keys;
1732     }
1733   if (rc)
1734     {
1735       log_error ("keydb_search(first) failed: %s\n", gpg_strerror (rc));
1736       goto die;
1737     }
1738
1739   desc.mode = KEYDB_SEARCH_MODE_NEXT; /* change mode */
1740   do
1741     {
1742       PKT_public_key *pk;
1743
1744       rc = keydb_get_keyblock (hd, &keyblock);
1745       if (rc)
1746         {
1747           log_error ("keydb_get_keyblock failed: %s\n", gpg_strerror (rc));
1748           goto die;
1749         }
1750
1751       if ( keyblock->pkt->pkttype != PKT_PUBLIC_KEY)
1752         {
1753           log_debug ("ooops: invalid pkttype %d encountered\n",
1754                      keyblock->pkt->pkttype);
1755           dump_kbnode (keyblock);
1756           release_kbnode(keyblock);
1757           continue;
1758         }
1759
1760       /* prepare the keyblock for further processing */
1761       merge_keys_and_selfsig (keyblock);
1762       clear_kbnode_flags (keyblock);
1763       pk = keyblock->pkt->pkt.public_key;
1764       if (pk->has_expired || pk->flags.revoked)
1765         {
1766           /* it does not make sense to look further at those keys */
1767           mark_keyblock_seen (full_trust, keyblock);
1768         }
1769       else if (validate_one_keyblock (keyblock, klist, curtime, next_expire))
1770         {
1771           KBNODE node;
1772
1773           if (pk->expiredate && pk->expiredate >= curtime
1774               && pk->expiredate < *next_expire)
1775             *next_expire = pk->expiredate;
1776
1777           if (nkeys == maxkeys) {
1778             maxkeys += 1000;
1779             keys = xrealloc (keys, (maxkeys+1) * sizeof *keys);
1780           }
1781           keys[nkeys++].keyblock = keyblock;
1782
1783           /* Optimization - if all uids are fully trusted, then we
1784              never need to consider this key as a candidate again. */
1785
1786           for (node=keyblock; node; node = node->next)
1787             if (node->pkt->pkttype == PKT_USER_ID && !(node->flag & 4))
1788               break;
1789
1790           if(node==NULL)
1791             mark_keyblock_seen (full_trust, keyblock);
1792
1793           keyblock = NULL;
1794         }
1795
1796       release_kbnode (keyblock);
1797       keyblock = NULL;
1798     }
1799   while (!(rc = keydb_search (hd, &desc, 1, NULL)));
1800
1801   if (rc && gpg_err_code (rc) != GPG_ERR_NOT_FOUND)
1802     {
1803       log_error ("keydb_search_next failed: %s\n", gpg_strerror (rc));
1804       goto die;
1805     }
1806
1807   keys[nkeys].keyblock = NULL;
1808   return keys;
1809
1810  die:
1811   keys[nkeys].keyblock = NULL;
1812   release_key_array (keys);
1813   return NULL;
1814 }
1815
1816 /* Caller must sync */
1817 static void
1818 reset_trust_records(void)
1819 {
1820   TRUSTREC rec;
1821   ulong recnum;
1822   int count = 0, nreset = 0;
1823
1824   for (recnum=1; !tdbio_read_record (recnum, &rec, 0); recnum++ )
1825     {
1826       if(rec.rectype==RECTYPE_TRUST)
1827         {
1828           count++;
1829           if(rec.r.trust.min_ownertrust)
1830             {
1831               rec.r.trust.min_ownertrust=0;
1832               write_record(&rec);
1833             }
1834
1835         }
1836       else if(rec.rectype==RECTYPE_VALID
1837               && ((rec.r.valid.validity&TRUST_MASK)
1838                   || rec.r.valid.marginal_count
1839                   || rec.r.valid.full_count))
1840         {
1841           rec.r.valid.validity &= ~TRUST_MASK;
1842           rec.r.valid.marginal_count=rec.r.valid.full_count=0;
1843           nreset++;
1844           write_record(&rec);
1845         }
1846
1847     }
1848
1849   if (opt.verbose)
1850     {
1851       log_info (ngettext("%d key processed",
1852                          "%d keys processed",
1853                          count), count);
1854       log_printf (ngettext(" (%d validity count cleared)\n",
1855                            " (%d validity counts cleared)\n",
1856                            nreset), nreset);
1857     }
1858 }
1859
1860 /*
1861  * Run the key validation procedure.
1862  *
1863  * This works this way:
1864  * Step 1: Find all ultimately trusted keys (UTK).
1865  *         mark them all as seen and put them into klist.
1866  * Step 2: loop max_cert_times
1867  * Step 3:   if OWNERTRUST of any key in klist is undefined
1868  *             ask user to assign ownertrust
1869  * Step 4:   Loop over all keys in the keyDB which are not marked seen
1870  * Step 5:     if key is revoked or expired
1871  *                mark key as seen
1872  *                continue loop at Step 4
1873  * Step 6:     For each user ID of that key signed by a key in klist
1874  *                Calculate validity by counting trusted signatures.
1875  *                Set validity of user ID
1876  * Step 7:     If any signed user ID was found
1877  *                mark key as seen
1878  *             End Loop
1879  * Step 8:   Build a new klist from all fully trusted keys from step 6
1880  *           End Loop
1881  *         Ready
1882  *
1883  */
1884 static int
1885 validate_keys (ctrl_t ctrl, int interactive)
1886 {
1887   int rc = 0;
1888   int quit=0;
1889   struct key_item *klist = NULL;
1890   struct key_item *k;
1891   struct key_array *keys = NULL;
1892   struct key_array *kar;
1893   KEYDB_HANDLE kdb = NULL;
1894   KBNODE node;
1895   int depth;
1896   int ot_unknown, ot_undefined, ot_never, ot_marginal, ot_full, ot_ultimate;
1897   KeyHashTable stored,used,full_trust;
1898   u32 start_time, next_expire;
1899
1900   /* Make sure we have all sigs cached.  TODO: This is going to
1901      require some architectural re-thinking, as it is agonizingly slow.
1902      Perhaps combine this with reset_trust_records(), or only check
1903      the caches on keys that are actually involved in the web of
1904      trust. */
1905   keydb_rebuild_caches(0);
1906
1907   kdb = keydb_new ();
1908   if (!kdb)
1909     return gpg_error_from_syserror ();
1910
1911   start_time = make_timestamp ();
1912   next_expire = 0xffffffff; /* set next expire to the year 2106 */
1913   stored = new_key_hash_table ();
1914   used = new_key_hash_table ();
1915   full_trust = new_key_hash_table ();
1916
1917   reset_trust_records();
1918
1919   /* Fixme: Instead of always building a UTK list, we could just build it
1920    * here when needed */
1921   if (!utk_list)
1922     {
1923       if (!opt.quiet)
1924         log_info (_("no ultimately trusted keys found\n"));
1925       goto leave;
1926     }
1927
1928   /* mark all UTKs as used and fully_trusted and set validity to
1929      ultimate */
1930   for (k=utk_list; k; k = k->next)
1931     {
1932       KBNODE keyblock;
1933       PKT_public_key *pk;
1934
1935       keyblock = get_pubkeyblock (k->kid);
1936       if (!keyblock)
1937         {
1938           log_error (_("public key of ultimately"
1939                        " trusted key %s not found\n"), keystr(k->kid));
1940           continue;
1941         }
1942       mark_keyblock_seen (used, keyblock);
1943       mark_keyblock_seen (stored, keyblock);
1944       mark_keyblock_seen (full_trust, keyblock);
1945       pk = keyblock->pkt->pkt.public_key;
1946       for (node=keyblock; node; node = node->next)
1947         {
1948           if (node->pkt->pkttype == PKT_USER_ID)
1949             update_validity (pk, node->pkt->pkt.user_id, 0, TRUST_ULTIMATE);
1950         }
1951       if ( pk->expiredate && pk->expiredate >= start_time
1952            && pk->expiredate < next_expire)
1953         next_expire = pk->expiredate;
1954
1955       release_kbnode (keyblock);
1956       do_sync ();
1957     }
1958
1959   if (opt.trust_model == TM_TOFU)
1960     /* In the TOFU trust model, we only need to save the ultimately
1961        trusted keys.  */
1962     goto leave;
1963
1964   klist = utk_list;
1965
1966   if (!opt.quiet)
1967     log_info ("marginals needed: %d  completes needed: %d  trust model: %s\n",
1968               opt.marginals_needed, opt.completes_needed,
1969               trust_model_string (opt.trust_model));
1970
1971   for (depth=0; depth < opt.max_cert_depth; depth++)
1972     {
1973       int valids=0,key_count;
1974       /* See whether we should assign ownertrust values to the keys in
1975          klist.  */
1976       ot_unknown = ot_undefined = ot_never = 0;
1977       ot_marginal = ot_full = ot_ultimate = 0;
1978       for (k=klist; k; k = k->next)
1979         {
1980           int min=0;
1981
1982           /* 120 and 60 are as per RFC2440 */
1983           if(k->trust_value>=120)
1984             min=TRUST_FULLY;
1985           else if(k->trust_value>=60)
1986             min=TRUST_MARGINAL;
1987
1988           if(min!=k->min_ownertrust)
1989             update_min_ownertrust(k->kid,min);
1990
1991           if (interactive && k->ownertrust == TRUST_UNKNOWN)
1992             {
1993               k->ownertrust = ask_ownertrust (ctrl, k->kid,min);
1994
1995               if (k->ownertrust == (unsigned int)(-1))
1996                 {
1997                   quit=1;
1998                   goto leave;
1999                 }
2000             }
2001
2002           /* This can happen during transition from an old trustdb
2003              before trust sigs.  It can also happen if a user uses two
2004              different versions of GnuPG or changes the --trust-model
2005              setting. */
2006           if(k->ownertrust<min)
2007             {
2008               if(DBG_TRUST)
2009                 log_debug("key %08lX%08lX:"
2010                           " overriding ownertrust '%s' with '%s'\n",
2011                           (ulong)k->kid[0],(ulong)k->kid[1],
2012                           trust_value_to_string(k->ownertrust),
2013                           trust_value_to_string(min));
2014
2015               k->ownertrust=min;
2016             }
2017
2018           if (k->ownertrust == TRUST_UNKNOWN)
2019             ot_unknown++;
2020           else if (k->ownertrust == TRUST_UNDEFINED)
2021             ot_undefined++;
2022           else if (k->ownertrust == TRUST_NEVER)
2023             ot_never++;
2024           else if (k->ownertrust == TRUST_MARGINAL)
2025             ot_marginal++;
2026           else if (k->ownertrust == TRUST_FULLY)
2027             ot_full++;
2028           else if (k->ownertrust == TRUST_ULTIMATE)
2029             ot_ultimate++;
2030
2031           valids++;
2032         }
2033
2034       /* Find all keys which are signed by a key in kdlist */
2035       keys = validate_key_list (kdb, full_trust, klist,
2036                                 start_time, &next_expire);
2037       if (!keys)
2038         {
2039           log_error ("validate_key_list failed\n");
2040           rc = GPG_ERR_GENERAL;
2041           goto leave;
2042         }
2043
2044       for (key_count=0, kar=keys; kar->keyblock; kar++, key_count++)
2045         ;
2046
2047       /* Store the calculated valididation status somewhere */
2048       if (opt.verbose > 1 && DBG_TRUST)
2049         dump_key_array (depth, keys);
2050
2051       for (kar=keys; kar->keyblock; kar++)
2052           store_validation_status (depth, kar->keyblock, stored);
2053
2054       if (!opt.quiet)
2055         log_info (_("depth: %d  valid: %3d  signed: %3d"
2056                     "  trust: %d-, %dq, %dn, %dm, %df, %du\n"),
2057                   depth, valids, key_count, ot_unknown, ot_undefined,
2058                   ot_never, ot_marginal, ot_full, ot_ultimate );
2059
2060       /* Build a new kdlist from all fully valid keys in KEYS */
2061       if (klist != utk_list)
2062         release_key_items (klist);
2063       klist = NULL;
2064       for (kar=keys; kar->keyblock; kar++)
2065         {
2066           for (node=kar->keyblock; node; node = node->next)
2067             {
2068               if (node->pkt->pkttype == PKT_USER_ID && (node->flag & 4))
2069                 {
2070                   u32 kid[2];
2071
2072                   /* have we used this key already? */
2073                   keyid_from_pk (kar->keyblock->pkt->pkt.public_key, kid);
2074                   if(test_key_hash_table(used,kid)==0)
2075                     {
2076                       /* Normally we add both the primary and subkey
2077                          ids to the hash via mark_keyblock_seen, but
2078                          since we aren't using this hash as a skipfnc,
2079                          that doesn't matter here. */
2080                       add_key_hash_table (used,kid);
2081                       k = new_key_item ();
2082                       k->kid[0]=kid[0];
2083                       k->kid[1]=kid[1];
2084                       k->ownertrust =
2085                         (tdb_get_ownertrust
2086                          (kar->keyblock->pkt->pkt.public_key) & TRUST_MASK);
2087                       k->min_ownertrust = tdb_get_min_ownertrust
2088                         (kar->keyblock->pkt->pkt.public_key);
2089                       k->trust_depth=
2090                         kar->keyblock->pkt->pkt.public_key->trust_depth;
2091                       k->trust_value=
2092                         kar->keyblock->pkt->pkt.public_key->trust_value;
2093                       if(kar->keyblock->pkt->pkt.public_key->trust_regexp)
2094                         k->trust_regexp=
2095                           xstrdup(kar->keyblock->pkt->
2096                                    pkt.public_key->trust_regexp);
2097                       k->next = klist;
2098                       klist = k;
2099                       break;
2100                     }
2101                 }
2102             }
2103         }
2104       release_key_array (keys);
2105       keys = NULL;
2106       if (!klist)
2107         break; /* no need to dive in deeper */
2108     }
2109
2110  leave:
2111   keydb_release (kdb);
2112   release_key_array (keys);
2113   if (klist != utk_list)
2114     release_key_items (klist);
2115   release_key_hash_table (full_trust);
2116   release_key_hash_table (used);
2117   release_key_hash_table (stored);
2118   if (!rc && !quit) /* mark trustDB as checked */
2119     {
2120       int rc2;
2121
2122       if (next_expire == 0xffffffff || next_expire < start_time )
2123         tdbio_write_nextcheck (0);
2124       else
2125         {
2126           tdbio_write_nextcheck (next_expire);
2127           if (!opt.quiet)
2128             log_info (_("next trustdb check due at %s\n"),
2129                       strtimestamp (next_expire));
2130         }
2131
2132       rc2 = tdbio_update_version_record ();
2133       if (rc2)
2134         {
2135           log_error (_("unable to update trustdb version record: "
2136                        "write failed: %s\n"), gpg_strerror (rc2));
2137           tdbio_invalid ();
2138         }
2139
2140       do_sync ();
2141       pending_check_trustdb = 0;
2142     }
2143
2144   return rc;
2145 }