release 0.2.14
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 static int do_check( PKT_public_cert *pkc, PKT_signature *sig,
36                                                 MD_HANDLE digest );
37
38
39 /****************
40  * Check the signature which is contained in the rsa_integer.
41  * The md5handle should be currently open, so that this function
42  * is able to append some data, before getting the digest.
43  */
44 int
45 signature_check( PKT_signature *sig, MD_HANDLE digest )
46 {
47     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
48     int rc=0;
49
50     if( get_pubkey( pkc, sig->keyid ) )
51         rc = G10ERR_NO_PUBKEY;
52     else
53         rc = do_check( pkc, sig, digest );
54
55     free_public_cert( pkc );
56     return rc;
57 }
58
59
60 static int
61 do_check( PKT_public_cert *pkc, PKT_signature *sig, MD_HANDLE digest )
62 {
63     MPI result = NULL;
64     int rc=0;
65
66
67     if( pkc->timestamp > sig->timestamp )
68         return G10ERR_TIME_CONFLICT; /* pubkey newer that signature */
69
70     if( pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
71         ELG_public_key pkey;
72
73         if( (rc=check_digest_algo(sig->digest_algo)) )
74             goto leave;
75         /* make sure the digest algo is enabled (in case of a detached
76          * signature */
77         md_enable( digest, sig->digest_algo );
78         /* complete the digest */
79         md_putc( digest, sig->sig_class );
80         {   u32 a = sig->timestamp;
81             md_putc( digest, (a >> 24) & 0xff );
82             md_putc( digest, (a >> 16) & 0xff );
83             md_putc( digest, (a >>  8) & 0xff );
84             md_putc( digest,  a        & 0xff );
85         }
86         md_final( digest );
87         result = encode_md_value( digest, mpi_get_nbits(pkc->d.elg.p));
88         pkey.p = pkc->d.elg.p;
89         pkey.g = pkc->d.elg.g;
90         pkey.y = pkc->d.elg.y;
91         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkey ) )
92             rc = G10ERR_BAD_SIGN;
93     }
94     else if( pkc->pubkey_algo == PUBKEY_ALGO_DSA ) {
95         DSA_public_key pkey;
96
97         if( (rc=check_digest_algo(sig->digest_algo)) )
98             goto leave;
99         /* make sure the digest algo is enabled (in case of a detached
100          * signature */
101         md_enable( digest, sig->digest_algo );
102
103         /* complete the digest */
104         if( sig->version >= 4 )
105             md_putc( digest, sig->version );
106         md_putc( digest, sig->sig_class );
107         if( sig->version < 4 ) {
108             u32 a = sig->timestamp;
109             md_putc( digest, (a >> 24) & 0xff );
110             md_putc( digest, (a >> 16) & 0xff );
111             md_putc( digest, (a >>  8) & 0xff );
112             md_putc( digest,  a        & 0xff );
113         }
114         else {
115             byte buf[6];
116             size_t n;
117             md_putc( digest, sig->pubkey_algo );
118             md_putc( digest, sig->digest_algo );
119             if( sig->hashed_data ) {
120                 n = (sig->hashed_data[0] << 8) | sig->hashed_data[1];
121                 md_write( digest, sig->hashed_data, n+2 );
122                 n += 6;
123             }
124             else
125                 n = 6;
126             /* add some magic */
127             buf[0] = sig->version;
128             buf[1] = 0xff;
129             buf[2] = n >> 24;
130             buf[3] = n >> 16;
131             buf[4] = n >>  8;
132             buf[5] = n;
133             md_write( digest, buf, 6 );
134         }
135         md_final( digest );
136         result = mpi_alloc( (md_digest_length(sig->digest_algo)
137                              +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
138         mpi_set_buffer( result, md_read(digest, DIGEST_ALGO_SHA1),
139                                 md_digest_length(sig->digest_algo), 0 );
140         pkey.p = pkc->d.dsa.p;
141         pkey.q = pkc->d.dsa.q;
142         pkey.g = pkc->d.dsa.g;
143         pkey.y = pkc->d.dsa.y;
144         if( !dsa_verify( sig->d.dsa.r, sig->d.dsa.s, result, &pkey ) )
145             rc = G10ERR_BAD_SIGN;
146     }
147  #ifdef HAVE_RSA_CIPHER
148     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA ) {
149         int i, j, c, old_enc;
150         byte *dp;
151         RSA_public_key pkey;
152         const byte *asn;
153         size_t mdlen, asnlen;
154
155         result = mpi_alloc(40);
156         pkey.n = pkc->d.rsa.rsa_n;
157         pkey.e = pkc->d.rsa.rsa_e;
158         rsa_public( result, sig->d.rsa.rsa_integer, &pkey );
159
160         old_enc = 0;
161         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
162             if( !j ) {
163                 if( !i && c != 1 )
164                     break;
165                 else if( i && c == 0xff )
166                     ; /* skip the padding */
167                 else if( i && !c )
168                     j++;
169                 else
170                     break;
171             }
172             else if( ++j == 18 && c != 1 )
173                 break;
174             else if( j == 19 && c == 0 ) {
175                 old_enc++;
176                 break;
177             }
178         }
179         if( old_enc ) {
180             log_error("old encoding scheme is not supported\n");
181             rc = G10ERR_GENERAL;
182             goto leave;
183         }
184
185         if( (rc=check_digest_algo(sig->digest_algo)) )
186             goto leave; /* unsupported algo */
187         md_enable( digest, sig->digest_algo );
188         asn = md_asn_oid( sig->digest_algo, &asnlen, &mdlen );
189
190         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
191                                                                i++, j-- )
192             if( asn[j] != c )
193                 break;
194         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
195             rc = G10ERR_BAD_PUBKEY;
196             goto leave;
197         }
198         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
199             if( c != 0xff  )
200                 break;
201         i++;
202         if( c != sig->digest_algo || mpi_getbyte(result, i) ) {
203             /* Padding or leading bytes in signature is wrong */
204             rc = G10ERR_BAD_PUBKEY;
205             goto leave;
206         }
207         if( mpi_getbyte(result, mdlen-1) != sig->d.rsa.digest_start[0]
208             || mpi_getbyte(result, mdlen-2) != sig->d.rsa.digest_start[1] ) {
209             /* Wrong key used to check the signature */
210             rc = G10ERR_BAD_PUBKEY;
211             goto leave;
212         }
213
214         /* complete the digest */
215         md_putc( digest, sig->sig_class );
216         {   u32 a = sig->timestamp;
217             md_putc( digest, (a >> 24) & 0xff );
218             md_putc( digest, (a >> 16) & 0xff );
219             md_putc( digest, (a >>  8) & 0xff );
220             md_putc( digest,  a        & 0xff );
221         }
222         md_final( digest );
223         dp = md_read( digest, sig->digest_algo );
224         for(i=mdlen-1; i >= 0; i--, dp++ ) {
225             if( mpi_getbyte( result, i ) != *dp ) {
226                 rc = G10ERR_BAD_SIGN;
227                 goto leave;
228             }
229         }
230     }
231   #endif/*HAVE_RSA_CIPHER*/
232     else {
233         /*log_debug("signature_check: unsupported pubkey algo %d\n",
234                         pkc->pubkey_algo );*/
235         rc = G10ERR_PUBKEY_ALGO;
236         goto leave;
237     }
238
239
240   leave:
241     mpi_free( result );
242     return rc;
243 }
244
245
246 /****************
247  * check the signature pointed to by NODE. This is a key signatures.
248  * If the function detects a self-signature, it uses the PKC from
249  * NODE and does not read the any public key.
250  */
251 int
252 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
253 {
254     MD_HANDLE md;
255     PKT_public_cert *pkc;
256     PKT_signature *sig;
257     int algo;
258     int rc;
259
260     if( is_selfsig )
261         *is_selfsig = 0;
262     assert( node->pkt->pkttype == PKT_SIGNATURE );
263     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
264
265     pkc = root->pkt->pkt.public_cert;
266     sig = node->pkt->pkt.signature;
267
268     if( sig->pubkey_algo == PUBKEY_ALGO_ELGAMAL )
269         algo = sig->digest_algo;
270     else if( sig->pubkey_algo == PUBKEY_ALGO_DSA )
271         algo = sig->digest_algo;
272     else if(sig->pubkey_algo == PUBKEY_ALGO_RSA )
273         algo = sig->digest_algo;
274     else
275         return G10ERR_PUBKEY_ALGO;
276     if( (rc=check_digest_algo(algo)) )
277         return rc;
278
279     if( sig->sig_class == 0x20 ) {
280         md = md_open( algo, 0 );
281         hash_public_cert( md, pkc );
282         rc = do_check( pkc, sig, md );
283         md_close(md);
284     }
285     else if( sig->sig_class == 0x18 ) {
286         KBNODE snode = find_prev_kbnode( root, node, PKT_PUBKEY_SUBCERT );
287
288         if( snode ) {
289             md = md_open( algo, 0 );
290             hash_public_cert( md, pkc );
291             hash_public_cert( md, snode->pkt->pkt.public_cert );
292             rc = do_check( pkc, sig, md );
293             md_close(md);
294         }
295         else {
296             log_error("no subkey for key signature packet\n");
297             rc = G10ERR_SIG_CLASS;
298         }
299     }
300     else {
301         KBNODE unode = find_prev_kbnode( root, node, PKT_USER_ID );
302
303         if( unode ) {
304             PKT_user_id *uid = unode->pkt->pkt.user_id;
305             u32 keyid[2];
306
307             keyid_from_pkc( pkc, keyid );
308             md = md_open( algo, 0 );
309             hash_public_cert( md, pkc );
310             if( sig->version >=4 ) {
311                 byte buf[5];
312                 buf[0] = 0xb4; /* indicates a userid packet */
313                 buf[1] = uid->len >> 24;  /* always use 4 length bytes */
314                 buf[2] = uid->len >> 16;
315                 buf[3] = uid->len >>  8;
316                 buf[4] = uid->len;
317                 md_write( md, buf, 5 );
318             }
319             md_write( md, uid->name, uid->len );
320             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
321                 if( is_selfsig )
322                     *is_selfsig = 1;
323                 rc = do_check( pkc, sig, md );
324             }
325             else
326                 rc = signature_check( sig, md );
327             md_close(md);
328         }
329         else {
330             log_error("no user id for key signature packet\n");
331             rc = G10ERR_SIG_CLASS;
332         }
333     }
334
335     return rc;
336 }
337
338