md: Fix hashing for data >= 256 GB
[libgcrypt.git] / cipher / md5.c
1 /* md5.c - MD5 Message-Digest Algorithm
2  * Copyright (C) 1995,1996,1998,1999,2001,2002,
3  *               2003  Free Software Foundation, Inc.
4  *
5  * This file is part of Libgcrypt.
6  *
7  * Libgcrypt is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU Lesser General Public License as
9  * published by the Free Software Foundation; either version 2.1 of
10  * the License, or (at your option) any later version.
11  *
12  * Libgcrypt is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with this program; if not, write to the Free Software
19  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
20  *
21  * According to the definition of MD5 in RFC 1321 from April 1992.
22  * NOTE: This is *not* the same file as the one from glibc.
23  * Written by Ulrich Drepper <drepper@gnu.ai.mit.edu>, 1995.
24  * heavily modified for GnuPG by Werner Koch <wk@gnupg.org>
25  */
26
27 /* Test values:
28  * ""                  D4 1D 8C D9 8F 00 B2 04  E9 80 09 98 EC F8 42 7E
29  * "a"                 0C C1 75 B9 C0 F1 B6 A8  31 C3 99 E2 69 77 26 61
30  * "abc                90 01 50 98 3C D2 4F B0  D6 96 3F 7D 28 E1 7F 72
31  * "message digest"    F9 6B 69 7D 7C B7 93 8D  52 5A 2F 31 AA F1 61 D0
32  */
33
34 #include <config.h>
35 #include <stdio.h>
36 #include <stdlib.h>
37 #include <string.h>
38
39 #include "g10lib.h"
40 #include "cipher.h"
41
42 #include "bithelp.h"
43 #include "bufhelp.h"
44 #include "hash-common.h"
45
46
47 typedef struct {
48     gcry_md_block_ctx_t bctx;
49     u32 A,B,C,D;          /* chaining variables */
50 } MD5_CONTEXT;
51
52 static unsigned int
53 transform ( void *ctx, const unsigned char *data );
54
55 static void
56 md5_init( void *context )
57 {
58   MD5_CONTEXT *ctx = context;
59
60   ctx->A = 0x67452301;
61   ctx->B = 0xefcdab89;
62   ctx->C = 0x98badcfe;
63   ctx->D = 0x10325476;
64
65   ctx->bctx.nblocks = 0;
66   ctx->bctx.nblocks_high = 0;
67   ctx->bctx.count = 0;
68   ctx->bctx.blocksize = 64;
69   ctx->bctx.bwrite = transform;
70 }
71
72
73 /* These are the four functions used in the four steps of the MD5 algorithm
74    and defined in the RFC 1321.  The first function is a little bit optimized
75    (as found in Colin Plumbs public domain implementation).  */
76 /* #define FF(b, c, d) ((b & c) | (~b & d)) */
77 #define FF(b, c, d) (d ^ (b & (c ^ d)))
78 #define FG(b, c, d) FF (d, b, c)
79 #define FH(b, c, d) (b ^ c ^ d)
80 #define FI(b, c, d) (c ^ (b | ~d))
81
82
83 /****************
84  * transform n*64 bytes
85  */
86 static unsigned int
87 transform ( void *c, const unsigned char *data )
88 {
89   MD5_CONTEXT *ctx = c;
90   u32 correct_words[16];
91   register u32 A = ctx->A;
92   register u32 B = ctx->B;
93   register u32 C = ctx->C;
94   register u32 D = ctx->D;
95   u32 *cwp = correct_words;
96   int i;
97
98   for ( i = 0; i < 16; i++ )
99     correct_words[i] = buf_get_le32(data + i * 4);
100
101 #define OP(a, b, c, d, s, T) \
102   do                                       \
103     {                                      \
104       a += FF (b, c, d) + (*cwp++) + T;    \
105       a = rol(a, s);                       \
106       a += b;                              \
107     }                                      \
108   while (0)
109
110   /* Before we start, one word about the strange constants.
111      They are defined in RFC 1321 as
112
113      T[i] = (int) (4294967296.0 * fabs (sin (i))), i=1..64
114   */
115
116   /* Round 1.  */
117   OP (A, B, C, D,  7, 0xd76aa478);
118   OP (D, A, B, C, 12, 0xe8c7b756);
119   OP (C, D, A, B, 17, 0x242070db);
120   OP (B, C, D, A, 22, 0xc1bdceee);
121   OP (A, B, C, D,  7, 0xf57c0faf);
122   OP (D, A, B, C, 12, 0x4787c62a);
123   OP (C, D, A, B, 17, 0xa8304613);
124   OP (B, C, D, A, 22, 0xfd469501);
125   OP (A, B, C, D,  7, 0x698098d8);
126   OP (D, A, B, C, 12, 0x8b44f7af);
127   OP (C, D, A, B, 17, 0xffff5bb1);
128   OP (B, C, D, A, 22, 0x895cd7be);
129   OP (A, B, C, D,  7, 0x6b901122);
130   OP (D, A, B, C, 12, 0xfd987193);
131   OP (C, D, A, B, 17, 0xa679438e);
132   OP (B, C, D, A, 22, 0x49b40821);
133
134 #undef OP
135 #define OP(f, a, b, c, d, k, s, T)  \
136     do                                                                \
137       {                                                               \
138         a += f (b, c, d) + correct_words[k] + T;                      \
139         a = rol(a, s);                                                \
140         a += b;                                                       \
141       }                                                               \
142     while (0)
143
144   /* Round 2.  */
145   OP (FG, A, B, C, D,  1,  5, 0xf61e2562);
146   OP (FG, D, A, B, C,  6,  9, 0xc040b340);
147   OP (FG, C, D, A, B, 11, 14, 0x265e5a51);
148   OP (FG, B, C, D, A,  0, 20, 0xe9b6c7aa);
149   OP (FG, A, B, C, D,  5,  5, 0xd62f105d);
150   OP (FG, D, A, B, C, 10,  9, 0x02441453);
151   OP (FG, C, D, A, B, 15, 14, 0xd8a1e681);
152   OP (FG, B, C, D, A,  4, 20, 0xe7d3fbc8);
153   OP (FG, A, B, C, D,  9,  5, 0x21e1cde6);
154   OP (FG, D, A, B, C, 14,  9, 0xc33707d6);
155   OP (FG, C, D, A, B,  3, 14, 0xf4d50d87);
156   OP (FG, B, C, D, A,  8, 20, 0x455a14ed);
157   OP (FG, A, B, C, D, 13,  5, 0xa9e3e905);
158   OP (FG, D, A, B, C,  2,  9, 0xfcefa3f8);
159   OP (FG, C, D, A, B,  7, 14, 0x676f02d9);
160   OP (FG, B, C, D, A, 12, 20, 0x8d2a4c8a);
161
162   /* Round 3.  */
163   OP (FH, A, B, C, D,  5,  4, 0xfffa3942);
164   OP (FH, D, A, B, C,  8, 11, 0x8771f681);
165   OP (FH, C, D, A, B, 11, 16, 0x6d9d6122);
166   OP (FH, B, C, D, A, 14, 23, 0xfde5380c);
167   OP (FH, A, B, C, D,  1,  4, 0xa4beea44);
168   OP (FH, D, A, B, C,  4, 11, 0x4bdecfa9);
169   OP (FH, C, D, A, B,  7, 16, 0xf6bb4b60);
170   OP (FH, B, C, D, A, 10, 23, 0xbebfbc70);
171   OP (FH, A, B, C, D, 13,  4, 0x289b7ec6);
172   OP (FH, D, A, B, C,  0, 11, 0xeaa127fa);
173   OP (FH, C, D, A, B,  3, 16, 0xd4ef3085);
174   OP (FH, B, C, D, A,  6, 23, 0x04881d05);
175   OP (FH, A, B, C, D,  9,  4, 0xd9d4d039);
176   OP (FH, D, A, B, C, 12, 11, 0xe6db99e5);
177   OP (FH, C, D, A, B, 15, 16, 0x1fa27cf8);
178   OP (FH, B, C, D, A,  2, 23, 0xc4ac5665);
179
180   /* Round 4.  */
181   OP (FI, A, B, C, D,  0,  6, 0xf4292244);
182   OP (FI, D, A, B, C,  7, 10, 0x432aff97);
183   OP (FI, C, D, A, B, 14, 15, 0xab9423a7);
184   OP (FI, B, C, D, A,  5, 21, 0xfc93a039);
185   OP (FI, A, B, C, D, 12,  6, 0x655b59c3);
186   OP (FI, D, A, B, C,  3, 10, 0x8f0ccc92);
187   OP (FI, C, D, A, B, 10, 15, 0xffeff47d);
188   OP (FI, B, C, D, A,  1, 21, 0x85845dd1);
189   OP (FI, A, B, C, D,  8,  6, 0x6fa87e4f);
190   OP (FI, D, A, B, C, 15, 10, 0xfe2ce6e0);
191   OP (FI, C, D, A, B,  6, 15, 0xa3014314);
192   OP (FI, B, C, D, A, 13, 21, 0x4e0811a1);
193   OP (FI, A, B, C, D,  4,  6, 0xf7537e82);
194   OP (FI, D, A, B, C, 11, 10, 0xbd3af235);
195   OP (FI, C, D, A, B,  2, 15, 0x2ad7d2bb);
196   OP (FI, B, C, D, A,  9, 21, 0xeb86d391);
197
198   /* Put checksum in context given as argument.  */
199   ctx->A += A;
200   ctx->B += B;
201   ctx->C += C;
202   ctx->D += D;
203
204   return /*burn_stack*/ 80+6*sizeof(void*);
205 }
206
207
208
209 /* The routine final terminates the message-digest computation and
210  * ends with the desired message digest in mdContext->digest[0...15].
211  * The handle is prepared for a new MD5 cycle.
212  * Returns 16 bytes representing the digest.
213  */
214
215 static void
216 md5_final( void *context)
217 {
218   MD5_CONTEXT *hd = context;
219   u32 t, th, msb, lsb;
220   byte *p;
221   unsigned int burn;
222
223   _gcry_md_block_write(hd, NULL, 0); /* flush */;
224
225   t = hd->bctx.nblocks;
226   if (sizeof t == sizeof hd->bctx.nblocks)
227     th = hd->bctx.nblocks_high;
228   else
229     th = hd->bctx.nblocks >> 32;
230
231   /* multiply by 64 to make a byte count */
232   lsb = t << 6;
233   msb = (th << 6) | (t >> 26);
234   /* add the count */
235   t = lsb;
236   if( (lsb += hd->bctx.count) < t )
237     msb++;
238   /* multiply by 8 to make a bit count */
239   t = lsb;
240   lsb <<= 3;
241   msb <<= 3;
242   msb |= t >> 29;
243
244   if( hd->bctx.count < 56 )  /* enough room */
245     {
246       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad */
247       while( hd->bctx.count < 56 )
248         hd->bctx.buf[hd->bctx.count++] = 0;  /* pad */
249     }
250   else  /* need one extra block */
251     {
252       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad character */
253       while( hd->bctx.count < 64 )
254         hd->bctx.buf[hd->bctx.count++] = 0;
255       _gcry_md_block_write(hd, NULL, 0);  /* flush */;
256       memset(hd->bctx.buf, 0, 56 ); /* fill next block with zeroes */
257     }
258   /* append the 64 bit count */
259   buf_put_le32(hd->bctx.buf + 56, lsb);
260   buf_put_le32(hd->bctx.buf + 60, msb);
261   burn = transform( hd, hd->bctx.buf );
262   _gcry_burn_stack (burn);
263
264   p = hd->bctx.buf;
265 #define X(a) do { *(u32*)p = le_bswap32((*hd).a) ; p += 4; } while(0)
266   X(A);
267   X(B);
268   X(C);
269   X(D);
270 #undef X
271
272 }
273
274 static byte *
275 md5_read( void *context )
276 {
277   MD5_CONTEXT *hd = (MD5_CONTEXT *) context;
278   return hd->bctx.buf;
279 }
280
281 static byte asn[18] = /* Object ID is 1.2.840.113549.2.5 */
282   { 0x30, 0x20, 0x30, 0x0c, 0x06, 0x08, 0x2a, 0x86,0x48,
283     0x86, 0xf7, 0x0d, 0x02, 0x05, 0x05, 0x00, 0x04, 0x10 };
284
285 static gcry_md_oid_spec_t oid_spec_md5[] =
286   {
287     /* iso.member-body.us.rsadsi.pkcs.pkcs-1.4 (md5WithRSAEncryption) */
288     { "1.2.840.113549.1.1.4" },
289     /* RSADSI digestAlgorithm MD5 */
290     { "1.2.840.113549.2.5" },
291     { NULL },
292   };
293
294 gcry_md_spec_t _gcry_digest_spec_md5 =
295   {
296     GCRY_MD_MD5, {0, 1},
297     "MD5", asn, DIM (asn), oid_spec_md5, 16,
298     md5_init, _gcry_md_block_write, md5_final, md5_read,
299     sizeof (MD5_CONTEXT)
300   };