added some trust model stuff
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 /****************
36  * Check the signature which is contained in the rsa_integer.
37  * The md5handle should be currently open, so that this function
38  * is able to append some data, before getting the digest.
39  */
40 int
41 signature_check( PKT_signature *sig, MD_HANDLE digest )
42 {
43     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
44     MPI result = NULL;
45     int rc=0, i, j, c, old_enc;
46     byte *dp;
47
48
49     if( get_pubkey( pkc, sig->keyid ) ) {
50         rc = G10ERR_NO_PUBKEY;
51         goto leave;
52     }
53
54     if( pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
55         ELG_public_key pkey;
56
57         if( (rc=check_digest_algo(sig->d.elg.digest_algo)) )
58             goto leave;
59         /* complete the digest */
60         md_putc( digest, sig->sig_class );
61         {   u32 a = sig->timestamp;
62             md_putc( digest, (a >> 24) & 0xff );
63             md_putc( digest, (a >> 16) & 0xff );
64             md_putc( digest, (a >>  8) & 0xff );
65             md_putc( digest,  a        & 0xff );
66         }
67         md_final( digest );
68         result = encode_md_value( digest, mpi_get_nbits(pkc->d.elg.p));
69         pkey.p = pkc->d.elg.p;
70         pkey.g = pkc->d.elg.g;
71         pkey.y = pkc->d.elg.y;
72         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkey ) )
73             rc = G10ERR_BAD_SIGN;
74     }
75  #ifdef HAVE_RSA_CIPHER
76     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA ) {
77         RSA_public_key pkey;
78
79         result = mpi_alloc(40);
80         pkey.n = pkc->d.rsa.rsa_n;
81         pkey.e = pkc->d.rsa.rsa_e;
82         rsa_public( result, sig->d.rsa.rsa_integer, &pkey );
83
84         old_enc = 0;
85         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
86             if( !j ) {
87                 if( !i && c != 1 )
88                     break;
89                 else if( i && c == 0xff )
90                     ; /* skip the padding */
91                 else if( i && !c )
92                     j++;
93                 else
94                     break;
95             }
96             else if( ++j == 18 && c != 1 )
97                 break;
98             else if( j == 19 && c == 0 ) {
99                 old_enc++;
100                 break;
101             }
102         }
103         if( old_enc ) {
104             log_error("old encoding scheme is not supported\n");
105             rc = G10ERR_GENERAL;
106             goto leave;
107         }
108
109         if( sig->d.rsa.digest_algo == DIGEST_ALGO_RMD160 ) {
110             static byte asn[15] = /* stored reverse */
111                   { 0x14, 0x04, 0x00, 0x05, 0x01, 0x02, 0x03, 0x24, 0x2b,
112                     0x05, 0x06, 0x09, 0x30, 0x21, 0x30 };
113
114             for(i=20,j=0; (c=mpi_getbyte(result, i)) != -1 && j < 15; i++, j++ )
115                 if( asn[j] != c )
116                     break;
117             if( j != 15 || mpi_getbyte(result, i) ) { /* ASN is wrong */
118                 rc = G10ERR_BAD_PUBKEY;
119                 goto leave;
120             }
121             for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
122                 if( c != 0xff  )
123                     break;
124             i++;
125             if( c != DIGEST_ALGO_RMD160 || mpi_getbyte(result, i) ) {
126                 /* Padding or leading bytes in signature is wrong */
127                 rc = G10ERR_BAD_PUBKEY;
128                 goto leave;
129             }
130             if( mpi_getbyte(result, 19) != sig->d.rsa.digest_start[0]
131                 || mpi_getbyte(result, 18) != sig->d.rsa.digest_start[1] ) {
132                 /* Wrong key used to check the signature */
133                 rc = G10ERR_BAD_PUBKEY;
134                 goto leave;
135             }
136
137             /* complete the digest */
138             md_putc( digest, sig->sig_class );
139             {   u32 a = sig->timestamp;
140                 md_putc( digest, (a >> 24) & 0xff );
141                 md_putc( digest, (a >> 16) & 0xff );
142                 md_putc( digest, (a >>  8) & 0xff );
143                 md_putc( digest,  a        & 0xff );
144             }
145             md_final( digest );
146             dp = md_read( digest, DIGEST_ALGO_RMD160 );
147             for(i=19; i >= 0; i--, dp++ )
148                 if( mpi_getbyte( result, i ) != *dp ) {
149                     rc = G10ERR_BAD_SIGN;
150                     goto leave;
151                 }
152         }
153         else if( sig->d.rsa.digest_algo == DIGEST_ALGO_MD5 ) {
154             static byte asn[18] = /* stored reverse */
155                   { 0x10, 0x04, 0x00, 0x05, 0x05, 0x02, 0x0d, 0xf7, 0x86,
156                     0x48, 0x86, 0x2a, 0x08, 0x06, 0x0c, 0x30, 0x20, 0x30 };
157
158             for(i=16,j=0; j < 18 && (c=mpi_getbyte(result, i)) != -1; i++, j++ )
159                 if( asn[j] != c )
160                     break;
161             if( j != 18 || mpi_getbyte(result, i) ) { /* ASN is wrong */
162                 rc = G10ERR_BAD_PUBKEY;
163                 goto leave;
164             }
165             for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
166                 if( c != 0xff  )
167                     break;
168             i++;
169             if( c != DIGEST_ALGO_MD5 || mpi_getbyte(result, i) ) {
170                 /* Padding or leading bytes in signature is wrong */
171                 rc = G10ERR_BAD_PUBKEY;
172                 goto leave;
173             }
174             if( mpi_getbyte(result, 15) != sig->d.rsa.digest_start[0]
175                 || mpi_getbyte(result, 14) != sig->d.rsa.digest_start[1] ) {
176                 /* Wrong key used to check the signature */
177                 rc = G10ERR_BAD_PUBKEY;
178                 goto leave;
179             }
180
181             /* complete the digest */
182             md_putc( digest, sig->sig_class );
183             {   u32 a = sig->timestamp;
184                 md_putc( digest, (a >> 24) & 0xff );
185                 md_putc( digest, (a >> 16) & 0xff );
186                 md_putc( digest, (a >>  8) & 0xff );
187                 md_putc( digest,  a        & 0xff );
188             }
189             md_final( digest );
190             dp = md_read( digest, DIGEST_ALGO_MD5 );
191             for(i=15; i >= 0; i--, dp++ )
192                 if( mpi_getbyte( result, i ) != *dp ) {
193                     rc = G10ERR_BAD_SIGN;
194                     goto leave;
195                 }
196         }
197         else {
198             rc = G10ERR_DIGEST_ALGO;
199             goto leave;
200         }
201     }
202   #endif/*HAVE_RSA_CIPHER*/
203     else {
204         /*log_debug("signature_check: unsupported pubkey algo %d\n",
205                         pkc->pubkey_algo );*/
206         rc = G10ERR_PUBKEY_ALGO;
207         goto leave;
208     }
209
210
211   leave:
212     if( pkc )
213         free_public_cert( pkc );
214     mpi_free( result );
215     return rc;
216 }
217
218
219 /****************
220  * check the signature pointed to by NODE. This is a key signatures
221  */
222 int
223 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
224 {
225     KBNODE unode;
226     MD_HANDLE md;
227     PKT_public_cert *pkc;
228     PKT_signature *sig;
229     int algo;
230     int rc;
231
232     if( is_selfsig )
233         *is_selfsig = 0;
234     assert( node->pkt->pkttype == PKT_SIGNATURE );
235     assert( (node->pkt->pkt.signature->sig_class&~3) == 0x10 );
236     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
237
238     pkc = root->pkt->pkt.public_cert;
239     sig = node->pkt->pkt.signature;
240
241     if( sig->pubkey_algo == PUBKEY_ALGO_ELGAMAL )
242         algo = sig->d.elg.digest_algo;
243     else if(sig->pubkey_algo == PUBKEY_ALGO_RSA )
244         algo = sig->d.rsa.digest_algo;
245     else
246         return G10ERR_PUBKEY_ALGO;
247     if( (rc=check_digest_algo(algo)) )
248         return rc;
249
250     unode = find_kbparent( root, node );
251
252     if( unode && unode->pkt->pkttype == PKT_USER_ID ) {
253         PKT_user_id *uid = unode->pkt->pkt.user_id;
254
255         if( is_selfsig ) {
256             u32 keyid[2];
257
258             keyid_from_pkc( pkc, keyid );
259             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] )
260                 *is_selfsig = 1;
261         }
262         md = md_open( algo, 0 );
263         hash_public_cert( md, pkc );
264         md_write( md, uid->name, uid->len );
265         rc = signature_check( sig, md );
266         md_close(md);
267     }
268     else {
269         log_error("no user id for key signature packet\n");
270         rc = G10ERR_SIG_CLASS;
271     }
272
273     return rc;
274 }
275
276