Use hash transform function return type for passing burn stack depth
[libgcrypt.git] / cipher / md5.c
1 /* md5.c - MD5 Message-Digest Algorithm
2  * Copyright (C) 1995,1996,1998,1999,2001,2002,
3  *               2003  Free Software Foundation, Inc.
4  *
5  * This file is part of Libgcrypt.
6  *
7  * Libgcrypt is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU Lesser General Public License as
9  * published by the Free Software Foundation; either version 2.1 of
10  * the License, or (at your option) any later version.
11  *
12  * Libgcrypt is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with this program; if not, write to the Free Software
19  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
20  *
21  * According to the definition of MD5 in RFC 1321 from April 1992.
22  * NOTE: This is *not* the same file as the one from glibc.
23  * Written by Ulrich Drepper <drepper@gnu.ai.mit.edu>, 1995.
24  * heavily modified for GnuPG by Werner Koch <wk@gnupg.org>
25  */
26
27 /* Test values:
28  * ""                  D4 1D 8C D9 8F 00 B2 04  E9 80 09 98 EC F8 42 7E
29  * "a"                 0C C1 75 B9 C0 F1 B6 A8  31 C3 99 E2 69 77 26 61
30  * "abc                90 01 50 98 3C D2 4F B0  D6 96 3F 7D 28 E1 7F 72
31  * "message digest"    F9 6B 69 7D 7C B7 93 8D  52 5A 2F 31 AA F1 61 D0
32  */
33
34 #include <config.h>
35 #include <stdio.h>
36 #include <stdlib.h>
37 #include <string.h>
38
39 #include "g10lib.h"
40 #include "cipher.h"
41
42 #include "bithelp.h"
43 #include "hash-common.h"
44
45
46 typedef struct {
47     gcry_md_block_ctx_t bctx;
48     u32 A,B,C,D;          /* chaining variables */
49 } MD5_CONTEXT;
50
51 static unsigned int
52 transform ( void *ctx, const unsigned char *data );
53
54 static void
55 md5_init( void *context )
56 {
57   MD5_CONTEXT *ctx = context;
58
59   ctx->A = 0x67452301;
60   ctx->B = 0xefcdab89;
61   ctx->C = 0x98badcfe;
62   ctx->D = 0x10325476;
63
64   ctx->bctx.nblocks = 0;
65   ctx->bctx.count = 0;
66   ctx->bctx.blocksize = 64;
67   ctx->bctx.bwrite = transform;
68 }
69
70
71 /* These are the four functions used in the four steps of the MD5 algorithm
72    and defined in the RFC 1321.  The first function is a little bit optimized
73    (as found in Colin Plumbs public domain implementation).  */
74 /* #define FF(b, c, d) ((b & c) | (~b & d)) */
75 #define FF(b, c, d) (d ^ (b & (c ^ d)))
76 #define FG(b, c, d) FF (d, b, c)
77 #define FH(b, c, d) (b ^ c ^ d)
78 #define FI(b, c, d) (c ^ (b | ~d))
79
80
81 /****************
82  * transform n*64 bytes
83  */
84 static unsigned int
85 transform ( void *c, const unsigned char *data )
86 {
87   MD5_CONTEXT *ctx = c;
88   u32 correct_words[16];
89   register u32 A = ctx->A;
90   register u32 B = ctx->B;
91   register u32 C = ctx->C;
92   register u32 D = ctx->D;
93   u32 *cwp = correct_words;
94
95 #ifdef WORDS_BIGENDIAN
96   {
97     int i;
98     byte *p2;
99     const byte *p1;
100     for(i=0, p1=data, p2=(byte*)correct_words; i < 16; i++, p2 += 4 )
101       {
102         p2[3] = *p1++;
103         p2[2] = *p1++;
104         p2[1] = *p1++;
105         p2[0] = *p1++;
106       }
107   }
108 #else
109   memcpy( correct_words, data, 64 );
110 #endif
111
112
113 #define OP(a, b, c, d, s, T) \
114   do                                       \
115     {                                      \
116       a += FF (b, c, d) + (*cwp++) + T;    \
117       a = rol(a, s);                       \
118       a += b;                              \
119     }                                      \
120   while (0)
121
122   /* Before we start, one word about the strange constants.
123      They are defined in RFC 1321 as
124
125      T[i] = (int) (4294967296.0 * fabs (sin (i))), i=1..64
126   */
127
128   /* Round 1.  */
129   OP (A, B, C, D,  7, 0xd76aa478);
130   OP (D, A, B, C, 12, 0xe8c7b756);
131   OP (C, D, A, B, 17, 0x242070db);
132   OP (B, C, D, A, 22, 0xc1bdceee);
133   OP (A, B, C, D,  7, 0xf57c0faf);
134   OP (D, A, B, C, 12, 0x4787c62a);
135   OP (C, D, A, B, 17, 0xa8304613);
136   OP (B, C, D, A, 22, 0xfd469501);
137   OP (A, B, C, D,  7, 0x698098d8);
138   OP (D, A, B, C, 12, 0x8b44f7af);
139   OP (C, D, A, B, 17, 0xffff5bb1);
140   OP (B, C, D, A, 22, 0x895cd7be);
141   OP (A, B, C, D,  7, 0x6b901122);
142   OP (D, A, B, C, 12, 0xfd987193);
143   OP (C, D, A, B, 17, 0xa679438e);
144   OP (B, C, D, A, 22, 0x49b40821);
145
146 #undef OP
147 #define OP(f, a, b, c, d, k, s, T)  \
148     do                                                                \
149       {                                                               \
150         a += f (b, c, d) + correct_words[k] + T;                      \
151         a = rol(a, s);                                                \
152         a += b;                                                       \
153       }                                                               \
154     while (0)
155
156   /* Round 2.  */
157   OP (FG, A, B, C, D,  1,  5, 0xf61e2562);
158   OP (FG, D, A, B, C,  6,  9, 0xc040b340);
159   OP (FG, C, D, A, B, 11, 14, 0x265e5a51);
160   OP (FG, B, C, D, A,  0, 20, 0xe9b6c7aa);
161   OP (FG, A, B, C, D,  5,  5, 0xd62f105d);
162   OP (FG, D, A, B, C, 10,  9, 0x02441453);
163   OP (FG, C, D, A, B, 15, 14, 0xd8a1e681);
164   OP (FG, B, C, D, A,  4, 20, 0xe7d3fbc8);
165   OP (FG, A, B, C, D,  9,  5, 0x21e1cde6);
166   OP (FG, D, A, B, C, 14,  9, 0xc33707d6);
167   OP (FG, C, D, A, B,  3, 14, 0xf4d50d87);
168   OP (FG, B, C, D, A,  8, 20, 0x455a14ed);
169   OP (FG, A, B, C, D, 13,  5, 0xa9e3e905);
170   OP (FG, D, A, B, C,  2,  9, 0xfcefa3f8);
171   OP (FG, C, D, A, B,  7, 14, 0x676f02d9);
172   OP (FG, B, C, D, A, 12, 20, 0x8d2a4c8a);
173
174   /* Round 3.  */
175   OP (FH, A, B, C, D,  5,  4, 0xfffa3942);
176   OP (FH, D, A, B, C,  8, 11, 0x8771f681);
177   OP (FH, C, D, A, B, 11, 16, 0x6d9d6122);
178   OP (FH, B, C, D, A, 14, 23, 0xfde5380c);
179   OP (FH, A, B, C, D,  1,  4, 0xa4beea44);
180   OP (FH, D, A, B, C,  4, 11, 0x4bdecfa9);
181   OP (FH, C, D, A, B,  7, 16, 0xf6bb4b60);
182   OP (FH, B, C, D, A, 10, 23, 0xbebfbc70);
183   OP (FH, A, B, C, D, 13,  4, 0x289b7ec6);
184   OP (FH, D, A, B, C,  0, 11, 0xeaa127fa);
185   OP (FH, C, D, A, B,  3, 16, 0xd4ef3085);
186   OP (FH, B, C, D, A,  6, 23, 0x04881d05);
187   OP (FH, A, B, C, D,  9,  4, 0xd9d4d039);
188   OP (FH, D, A, B, C, 12, 11, 0xe6db99e5);
189   OP (FH, C, D, A, B, 15, 16, 0x1fa27cf8);
190   OP (FH, B, C, D, A,  2, 23, 0xc4ac5665);
191
192   /* Round 4.  */
193   OP (FI, A, B, C, D,  0,  6, 0xf4292244);
194   OP (FI, D, A, B, C,  7, 10, 0x432aff97);
195   OP (FI, C, D, A, B, 14, 15, 0xab9423a7);
196   OP (FI, B, C, D, A,  5, 21, 0xfc93a039);
197   OP (FI, A, B, C, D, 12,  6, 0x655b59c3);
198   OP (FI, D, A, B, C,  3, 10, 0x8f0ccc92);
199   OP (FI, C, D, A, B, 10, 15, 0xffeff47d);
200   OP (FI, B, C, D, A,  1, 21, 0x85845dd1);
201   OP (FI, A, B, C, D,  8,  6, 0x6fa87e4f);
202   OP (FI, D, A, B, C, 15, 10, 0xfe2ce6e0);
203   OP (FI, C, D, A, B,  6, 15, 0xa3014314);
204   OP (FI, B, C, D, A, 13, 21, 0x4e0811a1);
205   OP (FI, A, B, C, D,  4,  6, 0xf7537e82);
206   OP (FI, D, A, B, C, 11, 10, 0xbd3af235);
207   OP (FI, C, D, A, B,  2, 15, 0x2ad7d2bb);
208   OP (FI, B, C, D, A,  9, 21, 0xeb86d391);
209
210   /* Put checksum in context given as argument.  */
211   ctx->A += A;
212   ctx->B += B;
213   ctx->C += C;
214   ctx->D += D;
215
216   return /*burn_stack*/ 80+6*sizeof(void*);
217 }
218
219
220
221 /* The routine final terminates the message-digest computation and
222  * ends with the desired message digest in mdContext->digest[0...15].
223  * The handle is prepared for a new MD5 cycle.
224  * Returns 16 bytes representing the digest.
225  */
226
227 static void
228 md5_final( void *context)
229 {
230   MD5_CONTEXT *hd = context;
231   u32 t, msb, lsb;
232   byte *p;
233   unsigned int burn;
234
235   _gcry_md_block_write(hd, NULL, 0); /* flush */;
236
237   t = hd->bctx.nblocks;
238   /* multiply by 64 to make a byte count */
239   lsb = t << 6;
240   msb = t >> 26;
241   /* add the count */
242   t = lsb;
243   if( (lsb += hd->bctx.count) < t )
244     msb++;
245   /* multiply by 8 to make a bit count */
246   t = lsb;
247   lsb <<= 3;
248   msb <<= 3;
249   msb |= t >> 29;
250
251   if( hd->bctx.count < 56 )  /* enough room */
252     {
253       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad */
254       while( hd->bctx.count < 56 )
255         hd->bctx.buf[hd->bctx.count++] = 0;  /* pad */
256     }
257   else  /* need one extra block */
258     {
259       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad character */
260       while( hd->bctx.count < 64 )
261         hd->bctx.buf[hd->bctx.count++] = 0;
262       _gcry_md_block_write(hd, NULL, 0);  /* flush */;
263       memset(hd->bctx.buf, 0, 56 ); /* fill next block with zeroes */
264     }
265   /* append the 64 bit count */
266   hd->bctx.buf[56] = lsb           ;
267   hd->bctx.buf[57] = lsb >>  8;
268   hd->bctx.buf[58] = lsb >> 16;
269   hd->bctx.buf[59] = lsb >> 24;
270   hd->bctx.buf[60] = msb           ;
271   hd->bctx.buf[61] = msb >>  8;
272   hd->bctx.buf[62] = msb >> 16;
273   hd->bctx.buf[63] = msb >> 24;
274   burn = transform( hd, hd->bctx.buf );
275   _gcry_burn_stack (burn);
276
277   p = hd->bctx.buf;
278 #ifdef WORDS_BIGENDIAN
279 #define X(a) do { *p++ = hd->a      ; *p++ = hd->a >> 8;      \
280                   *p++ = hd->a >> 16; *p++ = hd->a >> 24; } while(0)
281 #else /* little endian */
282 #define X(a) do { *(u32*)p = (*hd).a ; p += 4; } while(0)
283 #endif
284   X(A);
285   X(B);
286   X(C);
287   X(D);
288 #undef X
289
290 }
291
292 static byte *
293 md5_read( void *context )
294 {
295   MD5_CONTEXT *hd = (MD5_CONTEXT *) context;
296   return hd->bctx.buf;
297 }
298
299 static byte asn[18] = /* Object ID is 1.2.840.113549.2.5 */
300   { 0x30, 0x20, 0x30, 0x0c, 0x06, 0x08, 0x2a, 0x86,0x48,
301     0x86, 0xf7, 0x0d, 0x02, 0x05, 0x05, 0x00, 0x04, 0x10 };
302
303 static gcry_md_oid_spec_t oid_spec_md5[] =
304   {
305     /* iso.member-body.us.rsadsi.pkcs.pkcs-1.4 (md5WithRSAEncryption) */
306     { "1.2.840.113549.1.1.4" },
307     /* RSADSI digestAlgorithm MD5 */
308     { "1.2.840.113549.2.5" },
309     { NULL },
310   };
311
312 gcry_md_spec_t _gcry_digest_spec_md5 =
313   {
314     "MD5", asn, DIM (asn), oid_spec_md5, 16,
315     md5_init, _gcry_md_block_write, md5_final, md5_read,
316     sizeof (MD5_CONTEXT)
317   };