0ef69b7d5285c134223ee1a720c6dad23ec5bbbe
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33 #include "status.h"
34
35
36 static int do_check( PKT_public_cert *pkc, PKT_signature *sig,
37                                                 MD_HANDLE digest );
38
39
40 /****************
41  * Check the signature which is contained in SIG.
42  * The md5handle should be currently open, so that this function
43  * is able to append some data, before finalizing the digest.
44  */
45 int
46 signature_check( PKT_signature *sig, MD_HANDLE digest )
47 {
48     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
49     int rc=0;
50
51
52     if( is_RSA(sig->pubkey_algo) )
53         write_status(STATUS_RSA_OR_IDEA);
54
55     if( get_pubkey( pkc, sig->keyid ) )
56         rc = G10ERR_NO_PUBKEY;
57     else
58         rc = do_check( pkc, sig, digest );
59
60     free_public_cert( pkc );
61     return rc;
62 }
63
64
65 static int
66 do_check( PKT_public_cert *pkc, PKT_signature *sig, MD_HANDLE digest )
67 {
68     MPI result = NULL;
69     int rc=0;
70
71     if( pkc->version == 4 && pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL_E ) {
72         log_info("this is a PGP generated "
73                  "ElGamal key which is NOT secure for signatures!\n");
74         return G10ERR_PUBKEY_ALGO;
75     }
76
77     if( pkc->timestamp > sig->timestamp )
78         return G10ERR_TIME_CONFLICT; /* pubkey newer that signature */
79
80     if( is_ELGAMAL(pkc->pubkey_algo) ) {
81         if( (rc=check_digest_algo(sig->digest_algo)) )
82             goto leave;
83         /* make sure the digest algo is enabled (in case of a detached
84          * signature */
85         md_enable( digest, sig->digest_algo );
86         /* complete the digest */
87         md_putc( digest, sig->sig_class );
88         {   u32 a = sig->timestamp;
89             md_putc( digest, (a >> 24) & 0xff );
90             md_putc( digest, (a >> 16) & 0xff );
91             md_putc( digest, (a >>  8) & 0xff );
92             md_putc( digest,  a        & 0xff );
93         }
94         md_final( digest );
95         result = encode_md_value( digest, sig->digest_algo,
96                                           mpi_get_nbits(pkc->pkey[0]));
97         if( DBG_CIPHER )
98             log_mpidump("calc sig frame (elg): ", result);
99         rc = pubkey_verify( pkc->pubkey_algo, result, sig->data, pkc->pkey );
100     }
101     else if( pkc->pubkey_algo == PUBKEY_ALGO_DSA ) {
102         if( (rc=check_digest_algo(sig->digest_algo)) )
103             goto leave;
104         /* make sure the digest algo is enabled (in case of a detached
105          * signature */
106         md_enable( digest, sig->digest_algo );
107
108         /* complete the digest */
109         if( sig->version >= 4 )
110             md_putc( digest, sig->version );
111         md_putc( digest, sig->sig_class );
112         if( sig->version < 4 ) {
113             u32 a = sig->timestamp;
114             md_putc( digest, (a >> 24) & 0xff );
115             md_putc( digest, (a >> 16) & 0xff );
116             md_putc( digest, (a >>  8) & 0xff );
117             md_putc( digest,  a        & 0xff );
118         }
119         else {
120             byte buf[6];
121             size_t n;
122             md_putc( digest, sig->pubkey_algo );
123             md_putc( digest, sig->digest_algo );
124             if( sig->hashed_data ) {
125                 n = (sig->hashed_data[0] << 8) | sig->hashed_data[1];
126                 md_write( digest, sig->hashed_data, n+2 );
127                 n += 6;
128             }
129             else
130                 n = 6;
131             /* add some magic */
132             buf[0] = sig->version;
133             buf[1] = 0xff;
134             buf[2] = n >> 24;
135             buf[3] = n >> 16;
136             buf[4] = n >>  8;
137             buf[5] = n;
138             md_write( digest, buf, 6 );
139         }
140         md_final( digest );
141
142         result = mpi_alloc( (md_digest_length(sig->digest_algo)
143                              +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
144         mpi_set_buffer( result, md_read(digest, sig->digest_algo),
145                                 md_digest_length(sig->digest_algo), 0 );
146         if( DBG_CIPHER )
147             log_mpidump("calc sig frame: ", result);
148         rc = pubkey_verify( pkc->pubkey_algo, result, sig->data, pkc->pkey );
149     }
150   #if 0 /* WORK!!! */
151     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA
152              || pkc->pubkey_algo == PUBKEY_ALGO_RSA_S ) {
153         int i, j, c, old_enc;
154         byte *dp;
155         const byte *asn;
156         size_t mdlen, asnlen;
157
158         result = mpi_alloc(40);
159         rsa_public( result, sig->d.rsa.rsa_integer, &pkc->d.rsa );
160
161         old_enc = 0;
162         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
163             if( !j ) {
164                 if( !i && c != 1 )
165                     break;
166                 else if( i && c == 0xff )
167                     ; /* skip the padding */
168                 else if( i && !c )
169                     j++;
170                 else
171                     break;
172             }
173             else if( ++j == 18 && c != 1 )
174                 break;
175             else if( j == 19 && c == 0 ) {
176                 old_enc++;
177                 break;
178             }
179         }
180         if( old_enc ) {
181             log_error("old encoding scheme is not supported\n");
182             rc = G10ERR_GENERAL;
183             goto leave;
184         }
185
186         if( (rc=check_digest_algo(sig->digest_algo)) )
187             goto leave; /* unsupported algo */
188         md_enable( digest, sig->digest_algo );
189         asn = md_asn_oid( sig->digest_algo, &asnlen, &mdlen );
190
191         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
192                                                                i++, j-- )
193             if( asn[j] != c )
194                 break;
195         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
196             rc = G10ERR_BAD_PUBKEY;
197             goto leave;
198         }
199         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
200             if( c != 0xff  )
201                 break;
202         i++;
203         if( c != sig->digest_algo || mpi_getbyte(result, i) ) {
204             /* Padding or leading bytes in signature is wrong */
205             rc = G10ERR_BAD_PUBKEY;
206             goto leave;
207         }
208         if( mpi_getbyte(result, mdlen-1) != sig->digest_start[0]
209             || mpi_getbyte(result, mdlen-2) != sig->digest_start[1] ) {
210             /* Wrong key used to check the signature */
211             rc = G10ERR_BAD_PUBKEY;
212             goto leave;
213         }
214
215         /* complete the digest */
216         md_putc( digest, sig->sig_class );
217         {   u32 a = sig->timestamp;
218             md_putc( digest, (a >> 24) & 0xff );
219             md_putc( digest, (a >> 16) & 0xff );
220             md_putc( digest, (a >>  8) & 0xff );
221             md_putc( digest,  a        & 0xff );
222         }
223         md_final( digest );
224         dp = md_read( digest, sig->digest_algo );
225         for(i=mdlen-1; i >= 0; i--, dp++ ) {
226             if( mpi_getbyte( result, i ) != *dp ) {
227                 rc = G10ERR_BAD_SIGN;
228                 goto leave;
229             }
230         }
231     }
232   #endif
233     else {
234         /*log_debug("signature_check: unsupported pubkey algo %d\n",
235                         pkc->pubkey_algo );*/
236         rc = G10ERR_PUBKEY_ALGO;
237         goto leave;
238     }
239
240
241   leave:
242     mpi_free( result );
243     return rc;
244 }
245
246
247 static void
248 hash_uid_node( KBNODE unode, MD_HANDLE md, PKT_signature *sig )
249 {
250     PKT_user_id *uid = unode->pkt->pkt.user_id;
251
252     assert( unode->pkt->pkttype == PKT_USER_ID );
253     if( sig->version >=4 ) {
254         byte buf[5];
255         buf[0] = 0xb4; /* indicates a userid packet */
256         buf[1] = uid->len >> 24;  /* always use 4 length bytes */
257         buf[2] = uid->len >> 16;
258         buf[3] = uid->len >>  8;
259         buf[4] = uid->len;
260         md_write( md, buf, 5 );
261     }
262     md_write( md, uid->name, uid->len );
263 }
264
265 /****************
266  * check the signature pointed to by NODE. This is a key signature.
267  * If the function detects a self-signature, it uses the PKC from
268  * NODE and does not read any public key.
269  */
270 int
271 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
272 {
273     MD_HANDLE md;
274     PKT_public_cert *pkc;
275     PKT_signature *sig;
276     int algo;
277     int rc;
278
279     if( is_selfsig )
280         *is_selfsig = 0;
281     assert( node->pkt->pkttype == PKT_SIGNATURE );
282     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
283
284     pkc = root->pkt->pkt.public_cert;
285     sig = node->pkt->pkt.signature;
286     algo = sig->digest_algo;
287     if( (rc=check_digest_algo(algo)) )
288         return rc;
289
290     if( sig->sig_class == 0x20 ) {
291         md = md_open( algo, 0 );
292         hash_public_cert( md, pkc );
293         rc = do_check( pkc, sig, md );
294         md_close(md);
295     }
296     else if( sig->sig_class == 0x18 ) {
297         KBNODE snode = find_prev_kbnode( root, node, PKT_PUBKEY_SUBCERT );
298
299         if( snode ) {
300             if( is_selfsig ) {
301                 u32 keyid[2];
302
303                 keyid_from_pkc( pkc, keyid );
304                 if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] )
305                     *is_selfsig = 1;
306             }
307             md = md_open( algo, 0 );
308             hash_public_cert( md, pkc );
309             hash_public_cert( md, snode->pkt->pkt.public_cert );
310             rc = do_check( pkc, sig, md );
311             md_close(md);
312         }
313         else {
314             log_error("no subkey for key signature packet\n");
315             rc = G10ERR_SIG_CLASS;
316         }
317     }
318     else {
319         KBNODE unode = find_prev_kbnode( root, node, PKT_USER_ID );
320
321         if( unode ) {
322             u32 keyid[2];
323
324             keyid_from_pkc( pkc, keyid );
325             md = md_open( algo, 0 );
326             /*md_start_debug(md, "check");*/
327             hash_public_cert( md, pkc );
328             hash_uid_node( unode, md, sig );
329             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
330                 if( is_selfsig )
331                     *is_selfsig = 1;
332                 rc = do_check( pkc, sig, md );
333             }
334             else
335                 rc = signature_check( sig, md );
336             md_close(md);
337         }
338         else {
339             log_error("no user id for key signature packet\n");
340             rc = G10ERR_SIG_CLASS;
341         }
342     }
343
344     return rc;
345 }
346
347