bug fixes
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 static int do_check( PKT_public_cert *pkc, PKT_signature *sig,
36                                                 MD_HANDLE digest );
37
38
39 /****************
40  * Check the signature which is contained in the rsa_integer.
41  * The md5handle should be currently open, so that this function
42  * is able to append some data, before getting the digest.
43  */
44 int
45 signature_check( PKT_signature *sig, MD_HANDLE digest )
46 {
47     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
48     int rc=0;
49
50     if( get_pubkey( pkc, sig->keyid ) )
51         rc = G10ERR_NO_PUBKEY;
52     else
53         rc = do_check( pkc, sig, digest );
54
55     free_public_cert( pkc );
56     return rc;
57 }
58
59
60 static int
61 do_check( PKT_public_cert *pkc, PKT_signature *sig, MD_HANDLE digest )
62 {
63     MPI result = NULL;
64     int rc=0;
65
66     if( pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
67         ELG_public_key pkey;
68
69         if( (rc=check_digest_algo(sig->d.elg.digest_algo)) )
70             goto leave;
71         /* make sure the digest algo is enabled (in case of a detached
72          * signature */
73         md_enable( digest, sig->d.elg.digest_algo );
74         /* complete the digest */
75         md_putc( digest, sig->sig_class );
76         {   u32 a = sig->timestamp;
77             md_putc( digest, (a >> 24) & 0xff );
78             md_putc( digest, (a >> 16) & 0xff );
79             md_putc( digest, (a >>  8) & 0xff );
80             md_putc( digest,  a        & 0xff );
81         }
82         md_final( digest );
83         result = encode_md_value( digest, mpi_get_nbits(pkc->d.elg.p));
84         pkey.p = pkc->d.elg.p;
85         pkey.g = pkc->d.elg.g;
86         pkey.y = pkc->d.elg.y;
87         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkey ) )
88             rc = G10ERR_BAD_SIGN;
89     }
90  #ifdef HAVE_RSA_CIPHER
91     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA ) {
92         int i, j, c, old_enc;
93         byte *dp;
94         RSA_public_key pkey;
95         const byte *asn;
96         size_t mdlen, asnlen;
97
98         result = mpi_alloc(40);
99         pkey.n = pkc->d.rsa.rsa_n;
100         pkey.e = pkc->d.rsa.rsa_e;
101         rsa_public( result, sig->d.rsa.rsa_integer, &pkey );
102
103         old_enc = 0;
104         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
105             if( !j ) {
106                 if( !i && c != 1 )
107                     break;
108                 else if( i && c == 0xff )
109                     ; /* skip the padding */
110                 else if( i && !c )
111                     j++;
112                 else
113                     break;
114             }
115             else if( ++j == 18 && c != 1 )
116                 break;
117             else if( j == 19 && c == 0 ) {
118                 old_enc++;
119                 break;
120             }
121         }
122         if( old_enc ) {
123             log_error("old encoding scheme is not supported\n");
124             rc = G10ERR_GENERAL;
125             goto leave;
126         }
127
128         if( (rc=check_digest_algo(sig->d.rsa.digest_algo)) )
129             goto leave; /* unsupported algo */
130         md_enable( digest, sig->d.rsa.digest_algo );
131         asn = md_asn_oid( sig->d.rsa.digest_algo, &asnlen, &mdlen );
132
133         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
134                                                                i++, j-- )
135             if( asn[j] != c )
136                 break;
137         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
138             rc = G10ERR_BAD_PUBKEY;
139             goto leave;
140         }
141         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
142             if( c != 0xff  )
143                 break;
144         i++;
145         if( c != sig->d.rsa.digest_algo || mpi_getbyte(result, i) ) {
146             /* Padding or leading bytes in signature is wrong */
147             rc = G10ERR_BAD_PUBKEY;
148             goto leave;
149         }
150         if( mpi_getbyte(result, mdlen-1) != sig->d.rsa.digest_start[0]
151             || mpi_getbyte(result, mdlen-2) != sig->d.rsa.digest_start[1] ) {
152             /* Wrong key used to check the signature */
153             rc = G10ERR_BAD_PUBKEY;
154             goto leave;
155         }
156
157         /* complete the digest */
158         md_putc( digest, sig->sig_class );
159         {   u32 a = sig->timestamp;
160             md_putc( digest, (a >> 24) & 0xff );
161             md_putc( digest, (a >> 16) & 0xff );
162             md_putc( digest, (a >>  8) & 0xff );
163             md_putc( digest,  a        & 0xff );
164         }
165         md_final( digest );
166         dp = md_read( digest, sig->d.rsa.digest_algo );
167         for(i=mdlen-1; i >= 0; i--, dp++ ) {
168             if( mpi_getbyte( result, i ) != *dp ) {
169                 rc = G10ERR_BAD_SIGN;
170                 goto leave;
171             }
172         }
173     }
174   #endif/*HAVE_RSA_CIPHER*/
175     else {
176         /*log_debug("signature_check: unsupported pubkey algo %d\n",
177                         pkc->pubkey_algo );*/
178         rc = G10ERR_PUBKEY_ALGO;
179         goto leave;
180     }
181
182
183   leave:
184     mpi_free( result );
185     return rc;
186 }
187
188
189 /****************
190  * check the signature pointed to by NODE. This is a key signatures.
191  * If the function detects a elf signature, it uses the PKC from
192  * NODE and does not read the any public key.
193  */
194 int
195 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
196 {
197     KBNODE unode;
198     MD_HANDLE md;
199     PKT_public_cert *pkc;
200     PKT_signature *sig;
201     int algo;
202     int rc;
203
204     if( is_selfsig )
205         *is_selfsig = 0;
206     assert( node->pkt->pkttype == PKT_SIGNATURE );
207     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
208
209     pkc = root->pkt->pkt.public_cert;
210     sig = node->pkt->pkt.signature;
211
212     if( sig->pubkey_algo == PUBKEY_ALGO_ELGAMAL )
213         algo = sig->d.elg.digest_algo;
214     else if(sig->pubkey_algo == PUBKEY_ALGO_RSA )
215         algo = sig->d.rsa.digest_algo;
216     else
217         return G10ERR_PUBKEY_ALGO;
218     if( (rc=check_digest_algo(algo)) )
219         return rc;
220
221     if( sig->sig_class == 0x20 ) {
222         md = md_open( algo, 0 );
223         hash_public_cert( md, pkc );
224         rc = do_check( pkc, sig, md );
225         md_close(md);
226     }
227     else {
228         unode = find_prev_kbnode( root, node, PKT_USER_ID );
229
230         if( unode ) {
231             PKT_user_id *uid = unode->pkt->pkt.user_id;
232             u32 keyid[2];
233
234             keyid_from_pkc( pkc, keyid );
235             md = md_open( algo, 0 );
236             hash_public_cert( md, pkc );
237             md_write( md, uid->name, uid->len );
238             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
239                 if( is_selfsig )
240                     *is_selfsig = 1;
241                 rc = do_check( pkc, sig, md );
242             }
243             else
244                 rc = signature_check( sig, md );
245             md_close(md);
246         }
247         else {
248             log_error("no user id for key signature packet\n");
249             rc = G10ERR_SIG_CLASS;
250         }
251     }
252
253     return rc;
254 }
255
256