new release
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 static int do_check( PKT_public_cert *pkc, PKT_signature *sig,
36                                                 MD_HANDLE digest );
37
38
39 /****************
40  * Check the signature which is contained in SIG.
41  * The md5handle should be currently open, so that this function
42  * is able to append some data, before finalizing the digest.
43  */
44 int
45 signature_check( PKT_signature *sig, MD_HANDLE digest )
46 {
47     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
48     int rc=0;
49
50     if( get_pubkey( pkc, sig->keyid ) )
51         rc = G10ERR_NO_PUBKEY;
52     else
53         rc = do_check( pkc, sig, digest );
54
55     free_public_cert( pkc );
56     return rc;
57 }
58
59
60 static int
61 do_check( PKT_public_cert *pkc, PKT_signature *sig, MD_HANDLE digest )
62 {
63     MPI result = NULL;
64     int rc=0;
65
66     if( pkc->version == 4 && pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL_E ) {
67         log_info("this is a PGP generated "
68                  "ElGamal key which is NOT secure for signatures!\n");
69         return G10ERR_PUBKEY_ALGO;
70     }
71
72     if( pkc->timestamp > sig->timestamp )
73         return G10ERR_TIME_CONFLICT; /* pubkey newer that signature */
74
75     if( is_ELGAMAL(pkc->pubkey_algo) ) {
76         if( (rc=check_digest_algo(sig->digest_algo)) )
77             goto leave;
78         /* make sure the digest algo is enabled (in case of a detached
79          * signature */
80         md_enable( digest, sig->digest_algo );
81         /* complete the digest */
82         md_putc( digest, sig->sig_class );
83         {   u32 a = sig->timestamp;
84             md_putc( digest, (a >> 24) & 0xff );
85             md_putc( digest, (a >> 16) & 0xff );
86             md_putc( digest, (a >>  8) & 0xff );
87             md_putc( digest,  a        & 0xff );
88         }
89         md_final( digest );
90         result = encode_md_value( digest, sig->digest_algo,
91                                           mpi_get_nbits(pkc->d.elg.p));
92         if( DBG_CIPHER )
93             log_mpidump("calc sig frame (elg): ", result);
94         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkc->d.elg ) )
95             rc = G10ERR_BAD_SIGN;
96     }
97     else if( pkc->pubkey_algo == PUBKEY_ALGO_DSA ) {
98         if( (rc=check_digest_algo(sig->digest_algo)) )
99             goto leave;
100         /* make sure the digest algo is enabled (in case of a detached
101          * signature */
102         md_enable( digest, sig->digest_algo );
103
104         /* complete the digest */
105         if( sig->version >= 4 )
106             md_putc( digest, sig->version );
107         md_putc( digest, sig->sig_class );
108         if( sig->version < 4 ) {
109             u32 a = sig->timestamp;
110             md_putc( digest, (a >> 24) & 0xff );
111             md_putc( digest, (a >> 16) & 0xff );
112             md_putc( digest, (a >>  8) & 0xff );
113             md_putc( digest,  a        & 0xff );
114         }
115         else {
116             byte buf[6];
117             size_t n;
118             md_putc( digest, sig->pubkey_algo );
119             md_putc( digest, sig->digest_algo );
120             if( sig->hashed_data ) {
121                 n = (sig->hashed_data[0] << 8) | sig->hashed_data[1];
122                 md_write( digest, sig->hashed_data, n+2 );
123                 n += 6;
124             }
125             else
126                 n = 6;
127             /* add some magic */
128             buf[0] = sig->version;
129             buf[1] = 0xff;
130             buf[2] = n >> 24;
131             buf[3] = n >> 16;
132             buf[4] = n >>  8;
133             buf[5] = n;
134             md_write( digest, buf, 6 );
135         }
136         md_final( digest );
137
138         result = mpi_alloc( (md_digest_length(sig->digest_algo)
139                              +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
140         mpi_set_buffer( result, md_read(digest, sig->digest_algo),
141                                 md_digest_length(sig->digest_algo), 0 );
142         if( DBG_CIPHER )
143             log_mpidump("calc sig frame: ", result);
144         if( !dsa_verify( sig->d.dsa.r, sig->d.dsa.s, result, &pkc->d.dsa ) )
145             rc = G10ERR_BAD_SIGN;
146     }
147  #ifdef HAVE_RSA_CIPHER
148     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA
149              || pkc->pubkey_algo == PUBKEY_ALGO_RSA_S ) {
150         int i, j, c, old_enc;
151         byte *dp;
152         const byte *asn;
153         size_t mdlen, asnlen;
154
155         result = mpi_alloc(40);
156         rsa_public( result, sig->d.rsa.rsa_integer, &pkc->d.rsa );
157
158         old_enc = 0;
159         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
160             if( !j ) {
161                 if( !i && c != 1 )
162                     break;
163                 else if( i && c == 0xff )
164                     ; /* skip the padding */
165                 else if( i && !c )
166                     j++;
167                 else
168                     break;
169             }
170             else if( ++j == 18 && c != 1 )
171                 break;
172             else if( j == 19 && c == 0 ) {
173                 old_enc++;
174                 break;
175             }
176         }
177         if( old_enc ) {
178             log_error("old encoding scheme is not supported\n");
179             rc = G10ERR_GENERAL;
180             goto leave;
181         }
182
183         if( (rc=check_digest_algo(sig->digest_algo)) )
184             goto leave; /* unsupported algo */
185         md_enable( digest, sig->digest_algo );
186         asn = md_asn_oid( sig->digest_algo, &asnlen, &mdlen );
187
188         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
189                                                                i++, j-- )
190             if( asn[j] != c )
191                 break;
192         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
193             rc = G10ERR_BAD_PUBKEY;
194             goto leave;
195         }
196         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
197             if( c != 0xff  )
198                 break;
199         i++;
200         if( c != sig->digest_algo || mpi_getbyte(result, i) ) {
201             /* Padding or leading bytes in signature is wrong */
202             rc = G10ERR_BAD_PUBKEY;
203             goto leave;
204         }
205         if( mpi_getbyte(result, mdlen-1) != sig->digest_start[0]
206             || mpi_getbyte(result, mdlen-2) != sig->digest_start[1] ) {
207             /* Wrong key used to check the signature */
208             rc = G10ERR_BAD_PUBKEY;
209             goto leave;
210         }
211
212         /* complete the digest */
213         md_putc( digest, sig->sig_class );
214         {   u32 a = sig->timestamp;
215             md_putc( digest, (a >> 24) & 0xff );
216             md_putc( digest, (a >> 16) & 0xff );
217             md_putc( digest, (a >>  8) & 0xff );
218             md_putc( digest,  a        & 0xff );
219         }
220         md_final( digest );
221         dp = md_read( digest, sig->digest_algo );
222         for(i=mdlen-1; i >= 0; i--, dp++ ) {
223             if( mpi_getbyte( result, i ) != *dp ) {
224                 rc = G10ERR_BAD_SIGN;
225                 goto leave;
226             }
227         }
228     }
229   #endif/*HAVE_RSA_CIPHER*/
230     else {
231         /*log_debug("signature_check: unsupported pubkey algo %d\n",
232                         pkc->pubkey_algo );*/
233         rc = G10ERR_PUBKEY_ALGO;
234         goto leave;
235     }
236
237
238   leave:
239     mpi_free( result );
240     return rc;
241 }
242
243
244 static void
245 hash_uid_node( KBNODE unode, MD_HANDLE md, PKT_signature *sig )
246 {
247     PKT_user_id *uid = unode->pkt->pkt.user_id;
248
249     assert( unode->pkt->pkttype == PKT_USER_ID );
250     if( sig->version >=4 ) {
251         byte buf[5];
252         buf[0] = 0xb4; /* indicates a userid packet */
253         buf[1] = uid->len >> 24;  /* always use 4 length bytes */
254         buf[2] = uid->len >> 16;
255         buf[3] = uid->len >>  8;
256         buf[4] = uid->len;
257         md_write( md, buf, 5 );
258     }
259     md_write( md, uid->name, uid->len );
260 }
261
262 /****************
263  * check the signature pointed to by NODE. This is a key signature.
264  * If the function detects a self-signature, it uses the PKC from
265  * NODE and does not read any public key.
266  */
267 int
268 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
269 {
270     MD_HANDLE md;
271     PKT_public_cert *pkc;
272     PKT_signature *sig;
273     int algo;
274     int rc;
275
276     if( is_selfsig )
277         *is_selfsig = 0;
278     assert( node->pkt->pkttype == PKT_SIGNATURE );
279     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
280
281     pkc = root->pkt->pkt.public_cert;
282     sig = node->pkt->pkt.signature;
283     algo = sig->digest_algo;
284     if( (rc=check_digest_algo(algo)) )
285         return rc;
286
287     if( sig->sig_class == 0x20 ) {
288         md = md_open( algo, 0 );
289         hash_public_cert( md, pkc );
290         rc = do_check( pkc, sig, md );
291         md_close(md);
292     }
293     else if( sig->sig_class == 0x18 ) {
294         KBNODE snode = find_prev_kbnode( root, node, PKT_PUBKEY_SUBCERT );
295
296         if( snode ) {
297             md = md_open( algo, 0 );
298             hash_public_cert( md, pkc );
299             hash_public_cert( md, snode->pkt->pkt.public_cert );
300             rc = do_check( pkc, sig, md );
301             md_close(md);
302         }
303         else {
304             log_error("no subkey for key signature packet\n");
305             rc = G10ERR_SIG_CLASS;
306         }
307     }
308     else if( sig->sig_class >= 0x14 && sig->sig_class <= 0x17 ) {
309         /* a gnupg extension: calculate the signature over all
310          * preceding userids */
311         KBNODE unode = find_prev_kbnode( root, node, PKT_USER_ID );
312         u32 keyid[2];
313         int any = 0;
314
315         keyid_from_pkc( pkc, keyid );
316         md = md_open( algo, 0 );
317         hash_public_cert( md, pkc );
318
319         for( unode=root->next; unode && unode != node; unode = unode->next ) {
320             if( unode->pkt->pkttype == PKT_USER_ID ) {
321                 hash_uid_node( unode, md, sig );
322                 any++;
323             }
324         }
325         if( any ) {
326             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
327                 if( is_selfsig )
328                     *is_selfsig = 1;
329                 rc = do_check( pkc, sig, md );
330             }
331             else
332                 rc = signature_check( sig, md );
333         }
334         else {
335             log_error("no user id for key signature packet\n");
336             rc = G10ERR_SIG_CLASS;
337         }
338         md_close(md);
339     }
340     else {
341         KBNODE unode = find_prev_kbnode( root, node, PKT_USER_ID );
342
343         if( unode ) {
344             u32 keyid[2];
345
346             keyid_from_pkc( pkc, keyid );
347             md = md_open( algo, 0 );
348             /*md_start_debug(md, "check");*/
349             hash_public_cert( md, pkc );
350             hash_uid_node( unode, md, sig );
351             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
352                 if( is_selfsig )
353                     *is_selfsig = 1;
354                 rc = do_check( pkc, sig, md );
355             }
356             else
357                 rc = signature_check( sig, md );
358             md_close(md);
359         }
360         else {
361             log_error("no user id for key signature packet\n");
362             rc = G10ERR_SIG_CLASS;
363         }
364     }
365
366     return rc;
367 }
368
369