a whole bunch of internal cleanups
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33 #include "status.h"
34
35
36 static int do_check( PKT_public_cert *pkc, PKT_signature *sig,
37                                                 MD_HANDLE digest );
38
39
40 /****************
41  * Check the signature which is contained in SIG.
42  * The md5handle should be currently open, so that this function
43  * is able to append some data, before finalizing the digest.
44  */
45 int
46 signature_check( PKT_signature *sig, MD_HANDLE digest )
47 {
48     PKT_public_cert *pkc = m_alloc_clear( sizeof *pkc );
49     int rc=0;
50
51
52   #ifndef HAVE_RSA_CIPHER
53     if( is_RSA(sig->pubkey_algo) )
54         write_status(STATUS_RSA_OR_IDEA);
55   #endif
56
57     if( get_pubkey( pkc, sig->keyid ) )
58         rc = G10ERR_NO_PUBKEY;
59     else
60         rc = do_check( pkc, sig, digest );
61
62     free_public_cert( pkc );
63     return rc;
64 }
65
66
67 static int
68 do_check( PKT_public_cert *pkc, PKT_signature *sig, MD_HANDLE digest )
69 {
70     MPI result = NULL;
71     int rc=0;
72
73     if( pkc->version == 4 && pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL_E ) {
74         log_info("this is a PGP generated "
75                  "ElGamal key which is NOT secure for signatures!\n");
76         return G10ERR_PUBKEY_ALGO;
77     }
78
79     if( pkc->timestamp > sig->timestamp )
80         return G10ERR_TIME_CONFLICT; /* pubkey newer that signature */
81
82     if( is_ELGAMAL(pkc->pubkey_algo) ) {
83         if( (rc=check_digest_algo(sig->digest_algo)) )
84             goto leave;
85         /* make sure the digest algo is enabled (in case of a detached
86          * signature */
87         md_enable( digest, sig->digest_algo );
88         /* complete the digest */
89         md_putc( digest, sig->sig_class );
90         {   u32 a = sig->timestamp;
91             md_putc( digest, (a >> 24) & 0xff );
92             md_putc( digest, (a >> 16) & 0xff );
93             md_putc( digest, (a >>  8) & 0xff );
94             md_putc( digest,  a        & 0xff );
95         }
96         md_final( digest );
97         result = encode_md_value( digest, sig->digest_algo,
98                                           mpi_get_nbits(pkc->pkey[0]));
99         if( DBG_CIPHER )
100             log_mpidump("calc sig frame (elg): ", result);
101         rc = pubkey_verify( pkc->pubkey_algo, result, sig->data, pkc->pkey );
102     }
103     else if( pkc->pubkey_algo == PUBKEY_ALGO_DSA ) {
104         if( (rc=check_digest_algo(sig->digest_algo)) )
105             goto leave;
106         /* make sure the digest algo is enabled (in case of a detached
107          * signature */
108         md_enable( digest, sig->digest_algo );
109
110         /* complete the digest */
111         if( sig->version >= 4 )
112             md_putc( digest, sig->version );
113         md_putc( digest, sig->sig_class );
114         if( sig->version < 4 ) {
115             u32 a = sig->timestamp;
116             md_putc( digest, (a >> 24) & 0xff );
117             md_putc( digest, (a >> 16) & 0xff );
118             md_putc( digest, (a >>  8) & 0xff );
119             md_putc( digest,  a        & 0xff );
120         }
121         else {
122             byte buf[6];
123             size_t n;
124             md_putc( digest, sig->pubkey_algo );
125             md_putc( digest, sig->digest_algo );
126             if( sig->hashed_data ) {
127                 n = (sig->hashed_data[0] << 8) | sig->hashed_data[1];
128                 md_write( digest, sig->hashed_data, n+2 );
129                 n += 6;
130             }
131             else
132                 n = 6;
133             /* add some magic */
134             buf[0] = sig->version;
135             buf[1] = 0xff;
136             buf[2] = n >> 24;
137             buf[3] = n >> 16;
138             buf[4] = n >>  8;
139             buf[5] = n;
140             md_write( digest, buf, 6 );
141         }
142         md_final( digest );
143
144         result = mpi_alloc( (md_digest_length(sig->digest_algo)
145                              +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
146         mpi_set_buffer( result, md_read(digest, sig->digest_algo),
147                                 md_digest_length(sig->digest_algo), 0 );
148         if( DBG_CIPHER )
149             log_mpidump("calc sig frame: ", result);
150         rc = pubkey_verify( pkc->pubkey_algo, result, sig->data, pkc->pkey );
151     }
152  #ifdef HAVE_RSA_CIPHER
153     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA
154              || pkc->pubkey_algo == PUBKEY_ALGO_RSA_S ) {
155         int i, j, c, old_enc;
156         byte *dp;
157         const byte *asn;
158         size_t mdlen, asnlen;
159
160         result = mpi_alloc(40);
161         rsa_public( result, sig->d.rsa.rsa_integer, &pkc->d.rsa );
162
163         old_enc = 0;
164         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
165             if( !j ) {
166                 if( !i && c != 1 )
167                     break;
168                 else if( i && c == 0xff )
169                     ; /* skip the padding */
170                 else if( i && !c )
171                     j++;
172                 else
173                     break;
174             }
175             else if( ++j == 18 && c != 1 )
176                 break;
177             else if( j == 19 && c == 0 ) {
178                 old_enc++;
179                 break;
180             }
181         }
182         if( old_enc ) {
183             log_error("old encoding scheme is not supported\n");
184             rc = G10ERR_GENERAL;
185             goto leave;
186         }
187
188         if( (rc=check_digest_algo(sig->digest_algo)) )
189             goto leave; /* unsupported algo */
190         md_enable( digest, sig->digest_algo );
191         asn = md_asn_oid( sig->digest_algo, &asnlen, &mdlen );
192
193         for(i=mdlen,j=asnlen-1; (c=mpi_getbyte(result, i)) != -1 && j >= 0;
194                                                                i++, j-- )
195             if( asn[j] != c )
196                 break;
197         if( j != -1 || mpi_getbyte(result, i) ) { /* ASN is wrong */
198             rc = G10ERR_BAD_PUBKEY;
199             goto leave;
200         }
201         for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
202             if( c != 0xff  )
203                 break;
204         i++;
205         if( c != sig->digest_algo || mpi_getbyte(result, i) ) {
206             /* Padding or leading bytes in signature is wrong */
207             rc = G10ERR_BAD_PUBKEY;
208             goto leave;
209         }
210         if( mpi_getbyte(result, mdlen-1) != sig->digest_start[0]
211             || mpi_getbyte(result, mdlen-2) != sig->digest_start[1] ) {
212             /* Wrong key used to check the signature */
213             rc = G10ERR_BAD_PUBKEY;
214             goto leave;
215         }
216
217         /* complete the digest */
218         md_putc( digest, sig->sig_class );
219         {   u32 a = sig->timestamp;
220             md_putc( digest, (a >> 24) & 0xff );
221             md_putc( digest, (a >> 16) & 0xff );
222             md_putc( digest, (a >>  8) & 0xff );
223             md_putc( digest,  a        & 0xff );
224         }
225         md_final( digest );
226         dp = md_read( digest, sig->digest_algo );
227         for(i=mdlen-1; i >= 0; i--, dp++ ) {
228             if( mpi_getbyte( result, i ) != *dp ) {
229                 rc = G10ERR_BAD_SIGN;
230                 goto leave;
231             }
232         }
233     }
234   #endif/*HAVE_RSA_CIPHER*/
235     else {
236         /*log_debug("signature_check: unsupported pubkey algo %d\n",
237                         pkc->pubkey_algo );*/
238         rc = G10ERR_PUBKEY_ALGO;
239         goto leave;
240     }
241
242
243   leave:
244     mpi_free( result );
245     return rc;
246 }
247
248
249 static void
250 hash_uid_node( KBNODE unode, MD_HANDLE md, PKT_signature *sig )
251 {
252     PKT_user_id *uid = unode->pkt->pkt.user_id;
253
254     assert( unode->pkt->pkttype == PKT_USER_ID );
255     if( sig->version >=4 ) {
256         byte buf[5];
257         buf[0] = 0xb4; /* indicates a userid packet */
258         buf[1] = uid->len >> 24;  /* always use 4 length bytes */
259         buf[2] = uid->len >> 16;
260         buf[3] = uid->len >>  8;
261         buf[4] = uid->len;
262         md_write( md, buf, 5 );
263     }
264     md_write( md, uid->name, uid->len );
265 }
266
267 /****************
268  * check the signature pointed to by NODE. This is a key signature.
269  * If the function detects a self-signature, it uses the PKC from
270  * NODE and does not read any public key.
271  */
272 int
273 check_key_signature( KBNODE root, KBNODE node, int *is_selfsig )
274 {
275     MD_HANDLE md;
276     PKT_public_cert *pkc;
277     PKT_signature *sig;
278     int algo;
279     int rc;
280
281     if( is_selfsig )
282         *is_selfsig = 0;
283     assert( node->pkt->pkttype == PKT_SIGNATURE );
284     assert( root->pkt->pkttype == PKT_PUBLIC_CERT );
285
286     pkc = root->pkt->pkt.public_cert;
287     sig = node->pkt->pkt.signature;
288     algo = sig->digest_algo;
289     if( (rc=check_digest_algo(algo)) )
290         return rc;
291
292     if( sig->sig_class == 0x20 ) {
293         md = md_open( algo, 0 );
294         hash_public_cert( md, pkc );
295         rc = do_check( pkc, sig, md );
296         md_close(md);
297     }
298     else if( sig->sig_class == 0x18 ) {
299         KBNODE snode = find_prev_kbnode( root, node, PKT_PUBKEY_SUBCERT );
300
301         if( snode ) {
302             if( is_selfsig ) {
303                 u32 keyid[2];
304
305                 keyid_from_pkc( pkc, keyid );
306                 if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] )
307                     *is_selfsig = 1;
308             }
309             md = md_open( algo, 0 );
310             hash_public_cert( md, pkc );
311             hash_public_cert( md, snode->pkt->pkt.public_cert );
312             rc = do_check( pkc, sig, md );
313             md_close(md);
314         }
315         else {
316             log_error("no subkey for key signature packet\n");
317             rc = G10ERR_SIG_CLASS;
318         }
319     }
320     else {
321         KBNODE unode = find_prev_kbnode( root, node, PKT_USER_ID );
322
323         if( unode ) {
324             u32 keyid[2];
325
326             keyid_from_pkc( pkc, keyid );
327             md = md_open( algo, 0 );
328             /*md_start_debug(md, "check");*/
329             hash_public_cert( md, pkc );
330             hash_uid_node( unode, md, sig );
331             if( keyid[0] == sig->keyid[0] && keyid[1] == sig->keyid[1] ) {
332                 if( is_selfsig )
333                     *is_selfsig = 1;
334                 rc = do_check( pkc, sig, md );
335             }
336             else
337                 rc = signature_check( sig, md );
338             md_close(md);
339         }
340         else {
341             log_error("no user id for key signature packet\n");
342             rc = G10ERR_SIG_CLASS;
343         }
344     }
345
346     return rc;
347 }
348
349