added zlib and reorgnaized some stuff
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 /****************
36  * Check the signature which is contained in the rsa_integer.
37  * The md5handle should be currently open, so that this function
38  * is able to append some data, before getting the digest.
39  */
40 int
41 signature_check( PKT_signature *sig, MD_HANDLE digest )
42 {
43     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
44     MPI result = NULL;
45     int rc=0;
46
47
48     if( get_pubkey( pkc, sig->keyid ) ) {
49         rc = G10ERR_NO_PUBKEY;
50         goto leave;
51     }
52
53     if( pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
54         ELG_public_key pkey;
55
56         if( (rc=check_digest_algo(sig->d.elg.digest_algo)) )
57             goto leave;
58         /* complete the digest */
59         md_putc( digest, sig->sig_class );
60         {   u32 a = sig->timestamp;
61             md_putc( digest, (a >> 24) & 0xff );
62             md_putc( digest, (a >> 16) & 0xff );
63             md_putc( digest, (a >>  8) & 0xff );
64             md_putc( digest,  a        & 0xff );
65         }
66         md_final( digest );
67         result = encode_md_value( digest, mpi_get_nbits(pkc->d.elg.p));
68         pkey.p = pkc->d.elg.p;
69         pkey.g = pkc->d.elg.g;
70         pkey.y = pkc->d.elg.y;
71         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkey ) )
72             rc = G10ERR_BAD_SIGN;
73     }
74  #ifdef HAVE_RSA_CIPHER
75     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA ) {
76         int i, j, c, old_enc;
77         byte *dp;
78         RSA_public_key pkey;
79         const byte *asn;
80         size_t mdlen, asnlen;
81
82         result = mpi_alloc(40);
83         pkey.n = pkc->d.rsa.rsa_n;
84         pkey.e = pkc->d.rsa.rsa_e;
85         rsa_public( result, sig->d.rsa.rsa_integer, &pkey );
86
87         old_enc = 0;
88         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
89             if( !j ) {
90                 if( !i && c != 1 )
91                     break;
92                 else if( i && c == 0xff )
93                     ; /* skip the padding */
94                 else if( i && !c )
95                     j++;
96                 else
97                     break;
98             }
99             else if( ++j == 18 && c != 1 )
100                 break;
101             else if( j == 19 && c == 0 ) {
102                 old_enc++;
103                 break;
104             }
105         }
106         if( old_enc ) {
107             log_error("old encoding scheme is not supported\n");
108             rc = G10ERR_GENERAL;
109             goto leave;
110         }
111
112         if( (rc=check_digest_algo(sig->d.rsa.digest_algo)) )
113             goto leave; /* unsupported algo */
114         asn = md_asn_oid( sig->d.rsa.digest_algo, &asnlen, &mdlen );
115
116         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
117                                                                i++, j-- )
118             if( asn[j] != c )
119                 break;
120         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
121             rc = G10ERR_BAD_PUBKEY;
122             goto leave;
123         }
124         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
125             if( c != 0xff  )
126                 break;
127         i++;
128         if( c != sig->d.rsa.digest_algo || mpi_getbyte(result, i) ) {
129             /* Padding or leading bytes in signature is wrong */
130             rc = G10ERR_BAD_PUBKEY;
131             goto leave;
132         }
133         if( mpi_getbyte(result, mdlen-1) != sig->d.rsa.digest_start[0]
134             || mpi_getbyte(result, mdlen-2) != sig->d.rsa.digest_start[1] ) {
135             /* Wrong key used to check the signature */
136             rc = G10ERR_BAD_PUBKEY;
137             goto leave;
138         }
139
140         /* complete the digest */
141         md_putc( digest, sig->sig_class );
142         {   u32 a = sig->timestamp;
143             md_putc( digest, (a >> 24) & 0xff );
144             md_putc( digest, (a >> 16) & 0xff );
145             md_putc( digest, (a >>  8) & 0xff );
146             md_putc( digest,  a        & 0xff );
147         }
148         md_final( digest );
149         dp = md_read( digest, sig->d.rsa.digest_algo );
150         for(i=mdlen-1; i >= 0; i--, dp++ ) {
151             if( mpi_getbyte( result, i ) != *dp ) {
152                 rc = G10ERR_BAD_SIGN;
153                 goto leave;
154             }
155         }
156     }
157   #endif/*HAVE_RSA_CIPHER*/
158     else {
159         /*log_debug("signature_check: unsupported pubkey algo %d\n",
160                         pkc->pubkey_algo );*/
161         rc = G10ERR_PUBKEY_ALGO;
162         goto leave;
163     }
164
165
166   leave:
167     if( pkc )
168         free_public_cert( pkc );
169     mpi_free( result );
170     return rc;
171 }
172
173
174 /****************
175  * check the signature pointed to by NODE. This is a key signatures
176  */
177 int
178 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
179 {
180     KBNODE unode;
181     MD_HANDLE md;
182     PKT_public_cert *pkc;
183     PKT_signature *sig;
184     int algo;
185     int rc;
186
187     if( is_selfsig )
188         *is_selfsig = 0;
189     assert( node->pkt->pkttype == PKT_SIGNATURE );
190     assert( (node->pkt->pkt.signature->sig_class&~3) == 0x10 );
191     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
192
193     pkc = root->pkt->pkt.public_cert;
194     sig = node->pkt->pkt.signature;
195
196     if( sig->pubkey_algo == PUBKEY_ALGO_ELGAMAL )
197         algo = sig->d.elg.digest_algo;
198     else if(sig->pubkey_algo == PUBKEY_ALGO_RSA )
199         algo = sig->d.rsa.digest_algo;
200     else
201         return G10ERR_PUBKEY_ALGO;
202     if( (rc=check_digest_algo(algo)) )
203         return rc;
204
205     unode = find_prev_kbnode( root, node, PKT_USER_ID );
206
207     if( unode ) {
208         PKT_user_id *uid = unode->pkt->pkt.user_id;
209
210         if( is_selfsig ) {
211             u32 keyid[2];
212
213             keyid_from_pkc( pkc, keyid );
214             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] )
215                 *is_selfsig = 1;
216         }
217         md = md_open( algo, 0 );
218         hash_public_cert( md, pkc );
219         md_write( md, uid->name, uid->len );
220         rc = signature_check( sig, md );
221         md_close(md);
222     }
223     else {
224         log_error("no user id for key signature packet\n");
225         rc = G10ERR_SIG_CLASS;
226     }
227
228     return rc;
229 }
230
231