How with some assembly support
[gnupg.git] / g10 / sig-check.c
1 /* sig-check.c -  Check a signature
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "packet.h"
28 #include "memory.h"
29 #include "mpi.h"
30 #include "keydb.h"
31 #include "cipher.h"
32 #include "main.h"
33
34
35 /****************
36  * Check the signature which is contained in the rsa_integer.
37  * The md5handle should be currently open, so that this function
38  * is able to append some data, before getting the digest.
39  */
40 int
41 signature_check( PKT_signature *sig, MD_HANDLE digest )
42 {
43     PKT_pubkey_cert *pkc = m_alloc_clear( sizeof *pkc );
44     MPI result = NULL;
45     int rc=0, i, j, c, old_enc;
46     byte *dp;
47
48
49     if( get_pubkey( pkc, sig->keyid ) ) {
50         rc = G10ERR_NO_PUBKEY;
51         goto leave;
52     }
53
54     if( pkc->pubkey_algo == PUBKEY_ALGO_ELGAMAL ) {
55         ELG_public_key pkey;
56
57         if( sig->d.elg.digest_algo == DIGEST_ALGO_RMD160 ) {
58             /* complete the digest */
59             rmd160_putchar( digest.u.rmd, sig->sig_class );
60             {   u32 a = sig->timestamp;
61                 rmd160_putchar( digest.u.rmd, (a >> 24) & 0xff );
62                 rmd160_putchar( digest.u.rmd, (a >> 16) & 0xff );
63                 rmd160_putchar( digest.u.rmd, (a >>  8) & 0xff );
64                 rmd160_putchar( digest.u.rmd,  a        & 0xff );
65             }
66             dp = rmd160_final( digest.u.rmd );
67             result = encode_rmd160_value( dp, 20, mpi_get_nbits(pkc->d.elg.p));
68         }
69         else if( sig->d.elg.digest_algo == DIGEST_ALGO_MD5 ) {
70             md5_putchar( digest.u.md5, sig->sig_class );
71             {   u32 a = sig->timestamp;
72                 md5_putchar( digest.u.md5, (a >> 24) & 0xff );
73                 md5_putchar( digest.u.md5, (a >> 16) & 0xff );
74                 md5_putchar( digest.u.md5, (a >>  8) & 0xff );
75                 md5_putchar( digest.u.md5,  a        & 0xff );
76             }
77             md5_final( digest.u.md5 );
78             dp = md5_read( digest.u.md5 );
79             result = encode_md5_value( dp, 16, mpi_get_nbits(pkc->d.elg.p));
80         }
81         else {
82             rc = G10ERR_DIGEST_ALGO;
83             goto leave;
84         }
85
86         pkey.p = pkc->d.elg.p;
87         pkey.g = pkc->d.elg.g;
88         pkey.y = pkc->d.elg.y;
89         if( !elg_verify( sig->d.elg.a, sig->d.elg.b, result, &pkey ) )
90             rc = G10ERR_BAD_SIGN;
91     }
92  #ifdef HAVE_RSA_CIPHER
93     else if( pkc->pubkey_algo == PUBKEY_ALGO_RSA ) {
94         RSA_public_key pkey;
95
96         result = mpi_alloc(40);
97         pkey.n = pkc->d.rsa.rsa_n;
98         pkey.e = pkc->d.rsa.rsa_e;
99         rsa_public( result, sig->d.rsa.rsa_integer, &pkey );
100
101         old_enc = 0;
102         for(i=j=0; (c=mpi_getbyte(result, i)) != -1; i++ ) {
103             if( !j ) {
104                 if( !i && c != 1 )
105                     break;
106                 else if( i && c == 0xff )
107                     ; /* skip the padding */
108                 else if( i && !c )
109                     j++;
110                 else
111                     break;
112             }
113             else if( ++j == 18 && c != 1 )
114                 break;
115             else if( j == 19 && c == 0 ) {
116                 old_enc++;
117                 break;
118             }
119         }
120         if( old_enc ) {
121             log_error("old encoding scheme is not supported\n");
122             rc = G10ERR_GENERAL;
123             goto leave;
124         }
125
126         if( sig->d.rsa.digest_algo == DIGEST_ALGO_RMD160 ) {
127             static byte asn[18] = /* stored reverse FIXME: need other values*/
128                   { 0x10, 0x04, 0x00, 0x05, 0x05, 0x02, 0x0d, 0xf7, 0x86,
129                     0x48, 0x86, 0x2a, 0x08, 0x06, 0x0c, 0x30, 0x20, 0x30 };
130
131             for(i=20,j=0; (c=mpi_getbyte(result, i)) != -1 && j < 18; i++, j++ )
132                 if( asn[j] != c )
133                     break;
134             if( j != 18 || c ) { /* ASN is wrong */
135                 rc = G10ERR_BAD_PUBKEY;
136                 goto leave;
137             }
138             for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
139                 if( c != 0xff  )
140                     break;
141             i++;
142             if( c != DIGEST_ALGO_RMD160 || mpi_getbyte(result, i) ) {
143                 /* Padding or leading bytes in signature is wrong */
144                 rc = G10ERR_BAD_PUBKEY;
145                 goto leave;
146             }
147             if( mpi_getbyte(result, 19) != sig->d.rsa.digest_start[0]
148                 || mpi_getbyte(result, 18) != sig->d.rsa.digest_start[1] ) {
149                 /* Wrong key used to check the signature */
150                 rc = G10ERR_BAD_PUBKEY;
151                 goto leave;
152             }
153
154             /* complete the digest */
155             rmd160_putchar( digest.u.rmd, sig->sig_class );
156             {   u32 a = sig->timestamp;
157                 rmd160_putchar( digest.u.rmd, (a >> 24) & 0xff );
158                 rmd160_putchar( digest.u.rmd, (a >> 16) & 0xff );
159                 rmd160_putchar( digest.u.rmd, (a >>  8) & 0xff );
160                 rmd160_putchar( digest.u.rmd,  a        & 0xff );
161             }
162             dp = rmd160_final( digest.u.rmd );
163             for(i=19; i >= 0; i--, dp++ )
164                 if( mpi_getbyte( result, i ) != *dp ) {
165                     rc = G10ERR_BAD_SIGN;
166                     goto leave;
167                 }
168         }
169         else if( sig->d.rsa.digest_algo == DIGEST_ALGO_MD5 ) {
170             static byte asn[18] = /* stored reverse */
171                   { 0x10, 0x04, 0x00, 0x05, 0x05, 0x02, 0x0d, 0xf7, 0x86,
172                     0x48, 0x86, 0x2a, 0x08, 0x06, 0x0c, 0x30, 0x20, 0x30 };
173
174             for(i=16,j=0; j < 18 && (c=mpi_getbyte(result, i)) != -1; i++, j++ )
175                 if( asn[j] != c )
176                     break;
177             if( j != 18 || c ) { /* ASN is wrong */
178                 rc = G10ERR_BAD_PUBKEY;
179                 goto leave;
180             }
181             for(i++; (c=mpi_getbyte(result, i)) != -1; i++ )
182                 if( c != 0xff  )
183                     break;
184             i++;
185             if( c != DIGEST_ALGO_MD5 || mpi_getbyte(result, i) ) {
186                 /* Padding or leading bytes in signature is wrong */
187                 rc = G10ERR_BAD_PUBKEY;
188                 goto leave;
189             }
190             if( mpi_getbyte(result, 15) != sig->d.rsa.digest_start[0]
191                 || mpi_getbyte(result, 14) != sig->d.rsa.digest_start[1] ) {
192                 /* Wrong key used to check the signature */
193                 rc = G10ERR_BAD_PUBKEY;
194                 goto leave;
195             }
196
197             /* complete the digest */
198             md5_putchar( digest.u.md5, sig->sig_class );
199             {   u32 a = sig->timestamp;
200                 md5_putchar( digest.u.md5, (a >> 24) & 0xff );
201                 md5_putchar( digest.u.md5, (a >> 16) & 0xff );
202                 md5_putchar( digest.u.md5, (a >>  8) & 0xff );
203                 md5_putchar( digest.u.md5,  a        & 0xff );
204             }
205             md5_final( digest.u.md5 );
206             dp = md5_read( digest.u.md5 );
207             for(i=15; i >= 0; i--, dp++ )
208                 if( mpi_getbyte( result, i ) != *dp ) {
209                     rc = G10ERR_BAD_SIGN;
210                     goto leave;
211                 }
212         }
213         else {
214             rc = G10ERR_DIGEST_ALGO;
215             goto leave;
216         }
217     }
218   #endif/*HAVE_RSA_CIPHER*/
219     else {
220         log_debug("signature_check: unsupported pubkey algo %d\n",
221                         pkc->pubkey_algo );
222         rc = G10ERR_PUBKEY_ALGO;
223         goto leave;
224     }
225
226
227   leave:
228     if( pkc )
229         free_pubkey_cert( pkc );
230     mpi_free( result );
231     return rc;
232 }
233