added some stuff for signing keys
[gnupg.git] / cipher / rmd160.c
1 /* rmd160.c  -  RIPE-MD160
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "memory.h"
28 #include "cipher.h" /* grrrr */
29 #include "rmd.h"
30
31 /*********************************
32  * RIPEMD-160 is not patented, see (as of 25.10.97)
33  *   http://www.esat.kuleuven.ac.be/~bosselae/ripemd160.html
34  * Note that the code uses Little Endian byteorder, which is good for
35  * 386 etc, but we must add some conversion when used on a big endian box.
36  *
37  *
38  * Pseudo-code for RIPEMD-160
39  *
40  * RIPEMD-160 is an iterative hash function that operates on 32-bit words.
41  * The round function takes as input a 5-word chaining variable and a 16-word
42  * message block and maps this to a new chaining variable. All operations are
43  * defined on 32-bit words. Padding is identical to that of MD4.
44  *
45  *
46  * RIPEMD-160: definitions
47  *
48  *
49  *   nonlinear functions at bit level: exor, mux, -, mux, -
50  *
51  *   f(j, x, y, z) = x XOR y XOR z                (0 <= j <= 15)
52  *   f(j, x, y, z) = (x AND y) OR (NOT(x) AND z)  (16 <= j <= 31)
53  *   f(j, x, y, z) = (x OR NOT(y)) XOR z          (32 <= j <= 47)
54  *   f(j, x, y, z) = (x AND z) OR (y AND NOT(z))  (48 <= j <= 63)
55  *   f(j, x, y, z) = x XOR (y OR NOT(z))          (64 <= j <= 79)
56  *
57  *
58  *   added constants (hexadecimal)
59  *
60  *   K(j) = 0x00000000      (0 <= j <= 15)
61  *   K(j) = 0x5A827999     (16 <= j <= 31)      int(2**30 x sqrt(2))
62  *   K(j) = 0x6ED9EBA1     (32 <= j <= 47)      int(2**30 x sqrt(3))
63  *   K(j) = 0x8F1BBCDC     (48 <= j <= 63)      int(2**30 x sqrt(5))
64  *   K(j) = 0xA953FD4E     (64 <= j <= 79)      int(2**30 x sqrt(7))
65  *   K'(j) = 0x50A28BE6     (0 <= j <= 15)      int(2**30 x cbrt(2))
66  *   K'(j) = 0x5C4DD124    (16 <= j <= 31)      int(2**30 x cbrt(3))
67  *   K'(j) = 0x6D703EF3    (32 <= j <= 47)      int(2**30 x cbrt(5))
68  *   K'(j) = 0x7A6D76E9    (48 <= j <= 63)      int(2**30 x cbrt(7))
69  *   K'(j) = 0x00000000    (64 <= j <= 79)
70  *
71  *
72  *   selection of message word
73  *
74  *   r(j)      = j                    (0 <= j <= 15)
75  *   r(16..31) = 7, 4, 13, 1, 10, 6, 15, 3, 12, 0, 9, 5, 2, 14, 11, 8
76  *   r(32..47) = 3, 10, 14, 4, 9, 15, 8, 1, 2, 7, 0, 6, 13, 11, 5, 12
77  *   r(48..63) = 1, 9, 11, 10, 0, 8, 12, 4, 13, 3, 7, 15, 14, 5, 6, 2
78  *   r(64..79) = 4, 0, 5, 9, 7, 12, 2, 10, 14, 1, 3, 8, 11, 6, 15, 13
79  *   r0(0..15) = 5, 14, 7, 0, 9, 2, 11, 4, 13, 6, 15, 8, 1, 10, 3, 12
80  *   r0(16..31)= 6, 11, 3, 7, 0, 13, 5, 10, 14, 15, 8, 12, 4, 9, 1, 2
81  *   r0(32..47)= 15, 5, 1, 3, 7, 14, 6, 9, 11, 8, 12, 2, 10, 0, 4, 13
82  *   r0(48..63)= 8, 6, 4, 1, 3, 11, 15, 0, 5, 12, 2, 13, 9, 7, 10, 14
83  *   r0(64..79)= 12, 15, 10, 4, 1, 5, 8, 7, 6, 2, 13, 14, 0, 3, 9, 11
84  *
85  *
86  *   amount for rotate left (rol)
87  *
88  *   s(0..15)  = 11, 14, 15, 12, 5, 8, 7, 9, 11, 13, 14, 15, 6, 7, 9, 8
89  *   s(16..31) = 7, 6, 8, 13, 11, 9, 7, 15, 7, 12, 15, 9, 11, 7, 13, 12
90  *   s(32..47) = 11, 13, 6, 7, 14, 9, 13, 15, 14, 8, 13, 6, 5, 12, 7, 5
91  *   s(48..63) = 11, 12, 14, 15, 14, 15, 9, 8, 9, 14, 5, 6, 8, 6, 5, 12
92  *   s(64..79) = 9, 15, 5, 11, 6, 8, 13, 12, 5, 12, 13, 14, 11, 8, 5, 6
93  *   s'(0..15) = 8, 9, 9, 11, 13, 15, 15, 5, 7, 7, 8, 11, 14, 14, 12, 6
94  *   s'(16..31)= 9, 13, 15, 7, 12, 8, 9, 11, 7, 7, 12, 7, 6, 15, 13, 11
95  *   s'(32..47)= 9, 7, 15, 11, 8, 6, 6, 14, 12, 13, 5, 14, 13, 13, 7, 5
96  *   s'(48..63)= 15, 5, 8, 11, 14, 14, 6, 14, 6, 9, 12, 9, 12, 5, 15, 8
97  *   s'(64..79)= 8, 5, 12, 9, 12, 5, 14, 6, 8, 13, 6, 5, 15, 13, 11, 11
98  *
99  *
100  *   initial value (hexadecimal)
101  *
102  *   h0 = 0x67452301; h1 = 0xEFCDAB89; h2 = 0x98BADCFE; h3 = 0x10325476;
103  *                                                      h4 = 0xC3D2E1F0;
104  *
105  *
106  * RIPEMD-160: pseudo-code
107  *
108  *   It is assumed that the message after padding consists of t 16-word blocks
109  *   that will be denoted with X[i][j], with 0 <= i <= t-1 and 0 <= j <= 15.
110  *   The symbol [+] denotes addition modulo 2**32 and rol_s denotes cyclic left
111  *   shift (rotate) over s positions.
112  *
113  *
114  *   for i := 0 to t-1 {
115  *       A := h0; B := h1; C := h2; D = h3; E = h4;
116  *       A' := h0; B' := h1; C' := h2; D' = h3; E' = h4;
117  *       for j := 0 to 79 {
118  *           T := rol_s(j)(A [+] f(j, B, C, D) [+] X[i][r(j)] [+] K(j)) [+] E;
119  *           A := E; E := D; D := rol_10(C); C := B; B := T;
120  *           T := rol_s'(j)(A' [+] f(79-j, B', C', D') [+] X[i][r'(j)]
121                                                        [+] K'(j)) [+] E';
122  *           A' := E'; E' := D'; D' := rol_10(C'); C' := B'; B' := T;
123  *       }
124  *       T := h1 [+] C [+] D'; h1 := h2 [+] D [+] E'; h2 := h3 [+] E [+] A';
125  *       h3 := h4 [+] A [+] B'; h4 := h0 [+] B [+] C'; h0 := T;
126  *   }
127  */
128
129 /* Some examples:
130  * ""                    9c1185a5c5e9fc54612808977ee8f548b2258d31
131  * "a"                   0bdc9d2d256b3ee9daae347be6f4dc835a467ffe
132  * "abc"                 8eb208f7e05d987a9b044a8e98c6b087f15a0bfc
133  * "message digest"      5d0689ef49d2fae572b881b123a85ffa21595f36
134  * "a...z"               f71c27109c692c1b56bbdceb5b9d2865b3708dbc
135  * "abcdbcde...nopq"     12a053384a9c0c88e405a06c27dcf49ada62eb2b
136  * "A...Za...z0...9"     b0e20b6e3116640286ed3a87a5713079b21f5189
137  * 8 times "1234567890"  9b752e45573d4b39f4dbd3323cab82bf63326bfb
138  * 1 million times "a"   52783243c1697bdbe16d37f97f68f08325dc1528
139  */
140
141
142 static void
143 initialize( RMDHANDLE hd )
144 {
145     hd->h0 = 0x67452301;
146     hd->h1 = 0xEFCDAB89;
147     hd->h2 = 0x98BADCFE;
148     hd->h3 = 0x10325476;
149     hd->h4 = 0xC3D2E1F0;
150     hd->bufcount = 0;
151     hd->nblocks = 0;
152 }
153
154
155 /****************
156  * Transform the message X which consists of 16 32-bit-words
157  */
158 static void
159 transform( RMDHANDLE hd, u32 *x )
160 {
161     static int r[80] = {
162         0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15,
163         7, 4, 13, 1, 10, 6, 15, 3, 12, 0, 9, 5, 2, 14, 11, 8,
164         3, 10, 14, 4, 9, 15, 8, 1, 2, 7, 0, 6, 13, 11, 5, 12,
165         1, 9, 11, 10, 0, 8, 12, 4, 13, 3, 7, 15, 14, 5, 6, 2,
166         4, 0, 5, 9, 7, 12, 2, 10, 14, 1, 3, 8, 11, 6, 15, 13 };
167     static int rr[80] = {
168         5, 14, 7, 0, 9, 2, 11, 4, 13, 6, 15, 8, 1, 10, 3, 12,
169         6, 11, 3, 7, 0, 13, 5, 10, 14, 15, 8, 12, 4, 9, 1, 2,
170         15, 5, 1, 3, 7, 14, 6, 9, 11, 8, 12, 2, 10, 0, 4, 13,
171         8, 6, 4, 1, 3, 11, 15, 0, 5, 12, 2, 13, 9, 7, 10, 14,
172         12, 15, 10, 4, 1, 5, 8, 7, 6, 2, 13, 14, 0, 3, 9, 11 };
173     static int s[80] = {
174         11, 14, 15, 12, 5, 8, 7, 9, 11, 13, 14, 15, 6, 7, 9, 8,
175         7, 6, 8, 13, 11, 9, 7, 15, 7, 12, 15, 9, 11, 7, 13, 12,
176         11, 13, 6, 7, 14, 9, 13, 15, 14, 8, 13, 6, 5, 12, 7, 5,
177         11, 12, 14, 15, 14, 15, 9, 8, 9, 14, 5, 6, 8, 6, 5, 12,
178         9, 15, 5, 11, 6, 8, 13, 12, 5, 12, 13, 14, 11, 8, 5, 6  };
179     static int ss[80] = {
180         8, 9, 9, 11, 13, 15, 15, 5, 7, 7, 8, 11, 14, 14, 12, 6,
181         9, 13, 15, 7, 12, 8, 9, 11, 7, 7, 12, 7, 6, 15, 13, 11,
182         9, 7, 15, 11, 8, 6, 6, 14, 12, 13, 5, 14, 13, 13, 7, 5,
183         15, 5, 8, 11, 14, 14, 6, 14, 6, 9, 12, 9, 12, 5, 15, 8,
184         8, 5, 12, 9, 12, 5, 14, 6, 8, 13, 6, 5, 15, 13, 11, 11  };
185     u32 a,b,c,d,e,aa,bb,cc,dd,ee,t;
186     int rbits, j;
187
188 #define K(a)   ( (a) < 16 ? 0x00000000 :              \
189                  (a) < 32 ? 0x5A827999 :              \
190                  (a) < 48 ? 0x6ED9EBA1 :              \
191                  (a) < 64 ? 0x8F1BBCDC : 0xA953FD4E )
192 #define KK(a)  ( (a) < 16 ? 0x50A28BE6 :              \
193                  (a) < 32 ? 0x5C4DD124 :              \
194                  (a) < 48 ? 0x6D703EF3 :              \
195                  (a) < 64 ? 0x7A6D76E9 : 0x00000000 )
196
197 #define F0(x,y,z)   ( (x) ^ (y) ^ (z) )
198 #define F1(x,y,z)   ( ((x) & (y)) | (~(x) & (z)) )
199 #define F2(x,y,z)   ( ((x) | ~(y)) ^ (z) )
200 #define F3(x,y,z)   ( ((x) & (z)) | ((y) & ~(z)) )
201 #define F4(x,y,z)   ( (x) ^ ((y) | ~(z)) )
202 #define F(a,x,y,z)  ( (a) < 16 ? F0((x),(y),(z)) : \
203                       (a) < 32 ? F1((x),(y),(z)) : \
204                       (a) < 48 ? F2((x),(y),(z)) : \
205                       (a) < 64 ? F3((x),(y),(z)) : \
206                                  F4((x),(y),(z)) )
207
208 #define rol(n,x) ( ((x) << (n)) | ((x) >> (32-(n))) )
209
210     a = aa = hd->h0;
211     b = bb = hd->h1;
212     c = cc = hd->h2;
213     d = dd = hd->h3;
214     e = ee = hd->h4;
215
216     for(j=0; j < 80; j++ ) {
217         t = a + F( j, b, c, d ) + x[ r[j] ] + K(j);
218         rbits = s[j];
219         a = rol(rbits, t) + e;
220         c = rol(10,c);
221         t = a; a = e; e = d; d = c; c = b; b = t;
222
223         t = aa + F(79-j, bb, cc, dd ) + x[ rr[j] ] + KK(j);
224         rbits = ss[j];
225         aa = rol(rbits, t) + ee;
226         cc = rol(10,cc);
227         t = aa; aa = ee; ee = dd; dd = cc; cc = bb; bb = t;
228     }
229
230     t      = hd->h1 + c + dd;
231     hd->h1 = hd->h2 + d + ee;
232     hd->h2 = hd->h3 + e + aa;
233     hd->h3 = hd->h4 + a + bb;
234     hd->h4 = hd->h0 + b + cc;
235     hd->h0 = t;
236 }
237
238
239
240
241 RMDHANDLE
242 rmd160_open( int secure )
243 {
244     RMDHANDLE hd;
245
246     hd = secure? m_alloc_secure( sizeof *hd )
247                : m_alloc( sizeof *hd );
248     initialize(hd);
249     return hd;
250 }
251
252
253 RMDHANDLE
254 rmd160_copy( RMDHANDLE a )
255 {
256     RMDHANDLE b;
257
258     assert(a);
259     b = m_is_secure(a)? m_alloc_secure( sizeof *b )
260                       : m_alloc( sizeof *b );
261     memcpy( b, a, sizeof *a );
262     return b;
263 }
264
265
266 /* BAD Kludge!!! */
267 MD_HANDLE *
268 rmd160_copy2md( RMDHANDLE a )
269 {
270     MD_HANDLE *md = md_makecontainer( DIGEST_ALGO_RMD160 );
271     md->u.rmd = rmd160_copy( a );
272     return md;
273 }
274
275
276
277 void
278 rmd160_close(RMDHANDLE hd)
279 {
280     if( hd )
281         m_free(hd);
282 }
283
284
285
286 /* Update the message digest with the contents
287  * of INBUF with length INLEN.
288  */
289 void
290 rmd160_write( RMDHANDLE hd, byte *inbuf, size_t inlen)
291 {
292     if( hd->bufcount == 64 ) { /* flush the buffer */
293         transform( hd, (u32*)hd->buffer );
294         hd->bufcount = 0;
295         hd->nblocks++;
296     }
297     if( !inbuf )
298         return;
299     if( hd->bufcount ) {
300         for( ; inlen && hd->bufcount < 64; inlen-- )
301             hd->buffer[hd->bufcount++] = *inbuf++;
302         rmd160_write( hd, NULL, 0 );
303         if( !inlen )
304             return;
305     }
306
307     while( inlen >= 64 ) {
308         transform( hd, (u32*)inbuf );
309         hd->bufcount = 0;
310         hd->nblocks++;
311         inlen -= 64;
312         inbuf += 64;
313     }
314     for( ; inlen && hd->bufcount < 64; inlen-- )
315         hd->buffer[hd->bufcount++] = *inbuf++;
316 }
317
318
319 /* The routine final terminates the computation and
320  * returns the digest.
321  * The handle is prepared for a new cycle, but adding bytes to the
322  * handle will the destroy the returned buffer.
323  * Returns: 20 bytes representing the digest.
324  */
325
326 byte *
327 rmd160_final(RMDHANDLE hd)
328 {
329     u32 t, msb, lsb;
330     byte *p;
331
332     rmd160_write(hd, NULL, 0); /* flush */;
333
334     msb = 0;
335     t = hd->nblocks;
336     if( (lsb = t << 6) < t ) /* multiply by 64 to make a byte count */
337         msb++;
338     msb += t >> 26;
339     t = lsb;
340     if( (lsb = t + hd->bufcount) < t ) /* add the bufcount */
341         msb++;
342     t = lsb;
343     if( (lsb = t << 3) < t ) /* multiply by 8 to make a bit count */
344         msb++;
345     msb += t >> 29;
346
347     if( hd->bufcount < 56 ) { /* enough room */
348         hd->buffer[hd->bufcount++] = 0x80; /* pad */
349         while( hd->bufcount < 56 )
350             hd->buffer[hd->bufcount++] = 0;  /* pad */
351     }
352     else { /* need one extra block */
353         hd->buffer[hd->bufcount++] = 0x80; /* pad character */
354         while( hd->bufcount < 64 )
355             hd->buffer[hd->bufcount++] = 0;
356         rmd160_write(hd, NULL, 0);  /* flush */;
357         memset(hd->buffer, 0, 56 ); /* fill next block with zeroes */
358     }
359     /* append the 64 bit count */
360     hd->buffer[56] = lsb      ;
361     hd->buffer[57] = lsb >>  8;
362     hd->buffer[58] = lsb >> 16;
363     hd->buffer[59] = lsb >> 24;
364     hd->buffer[60] = msb      ;
365     hd->buffer[61] = msb >>  8;
366     hd->buffer[62] = msb >> 16;
367     hd->buffer[63] = msb >> 24;
368     transform( hd, (u32*)hd->buffer );
369
370     p = hd->buffer;
371   #ifdef HAVE_BIG_ENDIAN
372     #define X(a) do { *p++ = hd->h##a >> 24; *p++ = hd->h##a >> 16;      \
373                         *p++ = hd->h##a >> 8; *p++ = hd->h##a; } while(0)
374   #else /* little endian */
375     #define X(a) do { *(u32*)p = hd->h##a ; p += 4; } while(0)
376   #endif
377     X(0);
378     X(1);
379     X(2);
380     X(3);
381     X(4);
382   #undef X
383
384     initialize( hd );   /* prepare for next cycle */
385     return hd->buffer; /* now contains the digest */
386 }
387
388