Bug in blowfish behoben
[gnupg.git] / cipher / md5.c
1 /* md5.c - MD5 Message-Digest Algorithm
2  *      Copyright (c) 1994 by Werner Koch (dd9jn)
3  *
4  *  This is a hacked version from WkLib
5  *
6  *  This file is part of WkLib.
7  *
8  *  WkLib is free software; you can redistribute it and/or modify
9  *  it under the terms of the GNU General Public License as published by
10  *  the Free Software Foundation; either version 2 of the License, or
11  *  (at your option) any later version.
12  *
13  *  WkLib is distributed in the hope that it will be useful,
14  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
15  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  *  GNU General Public License for more details.
17  *
18  *  You should have received a copy of the GNU General Public License
19  *  along with this program; if not, write to the Free Software
20  *  Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
21  ***********************************************************************
22  ** Copyright (C) 1990, RSA Data Security, Inc. All rights reserved.  **
23  **                                                                   **
24  ** License to copy and use this software is granted provided that    **
25  ** it is identified as the "RSA Data Security, Inc. MD5 Message-     **
26  ** Digest Algorithm" in all material mentioning or referencing this  **
27  ** software or this function.                                        **
28  **                                                                   **
29  ** License is also granted to make and use derivative works          **
30  ** provided that such works are identified as "derived from the RSA  **
31  ** Data Security, Inc. MD5 Message-Digest Algorithm" in all          **
32  ** material mentioning or referencing the derived work.              **
33  **                                                                   **
34  ** RSA Data Security, Inc. makes no representations concerning       **
35  ** either the merchantability of this software or the suitability    **
36  ** of this software for any particular purpose.  It is provided "as  **
37  ** is" without express or implied warranty of any kind.              **
38  **                                                                   **
39  ** These notices must be retained in any copies of any part of this  **
40  ** documentation and/or software.                                    **
41  ***********************************************************************
42  *
43  * History:
44  * 16.01.95 wk  now uses generic base-64 support
45  * 24.01.95 wk  changed back to original base-64 coding, because
46  *              the generic base-64 support was changed to go conform
47  *              with RFC1113 !
48  */
49
50 /* Test values:
51  * ""                  D4 1D 8C D9 8F 00 B2 04  E9 80 09 98 EC F8 42 7E
52  * "a"                 0C C1 75 B9 C0 F1 B6 A8  31 C3 99 E2 69 77 26 61
53  * "abc                90 01 50 98 3C D2 4F B0  D6 96 3F 7D 28 E1 7F 72
54  * "message digest"    F9 6B 69 7D 7C B7 93 8D  52 5A 2F 31 AA F1 61 D0
55  */
56
57 #include <config.h>
58 #include <stdio.h>
59 #include <stdlib.h>
60 #include <string.h>
61 #include <assert.h>
62 #include "util.h"
63 #include "md5.h"
64 #include "cipher.h"  /* kludge for md5_copy2md() */
65 #include "memory.h"
66
67
68 #if __WATCOMC__ && defined(M_I86)
69   /* 16-Bit Compiler breaks Code in Function Transform() */
70   /* (at least when compiling for windows) */
71   #ifndef __SW_OD
72      #error must be compiled without optimizations
73   #endif
74 #endif
75
76
77 static void Init( MD5HANDLE mdContext);
78 static void Transform(u32 *buf,u32 *in);
79
80 static byte PADDING[64] = {
81   0x80, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
82   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
83   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
84   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
85   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
86   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
87   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
88   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00
89 };
90
91 /* F, G, H and I are basic MD5 functions */
92 #define F(x, y, z) (((x) & (y)) | ((~x) & (z)))
93 #define G(x, y, z) (((x) & (z)) | ((y) & (~z)))
94 #define H(x, y, z) ((x) ^ (y) ^ (z))
95 #define I(x, y, z) ((y) ^ ((x) | (~z)))
96
97 /* ROTATE_LEFT rotates x left n bits */
98 #define ROTATE_LEFT(x, n) (((x) << (n)) | ((x) >> (32-(n))))
99
100 /* FF, GG, HH, and II transformations for rounds 1, 2, 3, and 4 */
101 /* Rotation is separate from addition to prevent recomputation */
102 #define FF(a, b, c, d, x, s, ac) \
103   {(a) += F ((b), (c), (d)) + (x) + (u32)(ac); \
104    (a) = ROTATE_LEFT ((a), (s)); \
105    (a) += (b); \
106   }
107 #define GG(a, b, c, d, x, s, ac) \
108   {(a) += G ((b), (c), (d)) + (x) + (u32)(ac); \
109    (a) = ROTATE_LEFT ((a), (s)); \
110    (a) += (b); \
111   }
112 #define HH(a, b, c, d, x, s, ac) \
113   {(a) += H ((b), (c), (d)) + (x) + (u32)(ac); \
114    (a) = ROTATE_LEFT ((a), (s)); \
115    (a) += (b); \
116   }
117 #define II(a, b, c, d, x, s, ac) \
118   {(a) += I ((b), (c), (d)) + (x) + (u32)(ac); \
119    (a) = ROTATE_LEFT ((a), (s)); \
120    (a) += (b); \
121   }
122
123 /* The routine Init initializes the message-digest context
124  * mdContext. All fields are set to zero.
125  * mode should be zero is reserved for extensions.
126  */
127
128 MD5HANDLE
129 md5_open(int secure)
130 {
131     MD5HANDLE mdContext;
132
133     mdContext = secure? m_alloc_secure( sizeof *mdContext )
134                       : m_alloc( sizeof *mdContext );
135     Init(mdContext);
136     return mdContext;
137 }
138
139
140 MD5HANDLE
141 md5_copy( MD5HANDLE a )
142 {
143     MD5HANDLE mdContext;
144
145     assert(a);
146     mdContext = m_is_secure(a)? m_alloc_secure( sizeof *mdContext )
147                               : m_alloc( sizeof *mdContext );
148     memcpy( mdContext, a, sizeof *a );
149     return mdContext;
150 }
151
152
153 /* BAD Kludge!!! */
154 MD_HANDLE *
155 md5_copy2md( MD5HANDLE a )
156 {
157     MD_HANDLE *md = md_makecontainer( DIGEST_ALGO_MD5 );
158     md->u.md5 = md5_copy( a );
159     return md;
160 }
161
162
163 void
164 md5_close(MD5HANDLE hd)
165 {
166     if( hd )
167         m_free(hd);
168 }
169
170
171 static void
172 Init( MD5HANDLE mdContext)
173 {
174     mdContext->i[0] = mdContext->i[1] = (u32)0;
175     /* Load magic initialization constants.
176      */
177     mdContext->buf[0] = (u32)0x67452301L;
178     mdContext->buf[1] = (u32)0xefcdab89L;
179     mdContext->buf[2] = (u32)0x98badcfeL;
180     mdContext->buf[3] = (u32)0x10325476L;
181     mdContext->bufcount = 0;
182 }
183
184 /* The routine Update updates the message-digest context to
185  * account for the presence of each of the characters inBuf[0..inLen-1]
186  * in the message whose digest is being computed.
187  */
188 void
189 md5_write( MD5HANDLE mdContext, byte *inBuf, size_t inLen)
190 {
191     register int i, ii;
192     int mdi;
193     u32 in[16];
194
195     if(mdContext->bufcount) { /* flush the buffer */
196         i = mdContext->bufcount;
197         mdContext->bufcount = 0;
198         md5_write( mdContext, mdContext->digest, i);
199     }
200     if( !inBuf )
201         return;
202
203     /* compute number of bytes mod 64 */
204     mdi = (int)((mdContext->i[0] >> 3) & 0x3F);
205
206     /* update number of bits */
207     if((mdContext->i[0] + ((u32)inLen << 3)) < mdContext->i[0])
208         mdContext->i[1]++;
209     mdContext->i[0] += ((u32)inLen << 3);
210     mdContext->i[1] += ((u32)inLen >> 29);
211
212     while(inLen--) {
213         /* add new character to buffer, increment mdi */
214         mdContext->in[mdi++] = *inBuf++;
215
216         /* transform if necessary */
217         if( mdi == 0x40 ) {
218             for(i = 0, ii = 0; i < 16; i++, ii += 4)
219                 in[i] = (((u32)mdContext->in[ii+3]) << 24) |
220                         (((u32)mdContext->in[ii+2]) << 16) |
221                         (((u32)mdContext->in[ii+1]) << 8) |
222                         ((u32)mdContext->in[ii]);
223             Transform(mdContext->buf, in);
224             mdi = 0;
225         }
226     }
227 }
228
229
230 /****************
231  * Process a single character, this character will be buffered to
232  * increase performance. The digest-field is used as a buffer.
233  */
234
235 void
236 md5_putchar( MD5HANDLE mdContext, int c )
237 {
238     if(mdContext->bufcount == 16)
239         md5_write( mdContext, NULL, 0 );
240     mdContext->digest[mdContext->bufcount++] = c & 0xff;
241 }
242
243
244
245 /* The routine final terminates the message-digest computation and
246  * ends with the desired message digest in mdContext->digest[0...15].
247  * The handle is prepared for a new MD5 cycle.
248  * Returns 16 bytes representing the digest.
249  */
250
251 void
252 md5_final(MD5HANDLE mdContext)
253 {
254     u32 in[16];
255     int mdi;
256     unsigned int i, ii;
257     unsigned int padLen;
258
259     if(mdContext->bufcount) /* flush buffer */
260         md5_write(mdContext, NULL, 0 );
261     /* save number of bits */
262     in[14] = mdContext->i[0];
263     in[15] = mdContext->i[1];
264
265     /* compute number of bytes mod 64 */
266     mdi = (int)((mdContext->i[0] >> 3) & 0x3F);
267
268     /* pad out to 56 mod 64 */
269     padLen = (mdi < 56) ? (56 - mdi) : (120 - mdi);
270     md5_write(mdContext, PADDING, padLen);
271
272     /* append length in bits and transform */
273     for(i = 0, ii = 0; i < 14; i++, ii += 4)
274         in[i] = (((u32)mdContext->in[ii+3]) << 24) |
275                 (((u32)mdContext->in[ii+2]) << 16) |
276                 (((u32)mdContext->in[ii+1]) << 8) |
277                 ((u32)mdContext->in[ii]);
278     Transform(mdContext->buf, in);
279
280     /* store buffer in digest */
281     for(i = 0, ii = 0; i < 4; i++, ii += 4) {
282         mdContext->digest[ii]   = (byte)(mdContext->buf[i] & 0xFF);
283         mdContext->digest[ii+1] = (byte)((mdContext->buf[i] >> 8) & 0xFF);
284         mdContext->digest[ii+2] = (byte)((mdContext->buf[i] >> 16) & 0xFF);
285         mdContext->digest[ii+3] = (byte)((mdContext->buf[i] >> 24) & 0xFF);
286     }
287     Init(mdContext);
288 }
289
290 /**********
291  * Returns 16 bytes representing the digest.
292  */
293 byte *
294 md5_read(MD5HANDLE mdContext)
295 {
296     return mdContext->digest;
297 }
298
299
300
301 /****************
302  * Converts the result form Read into a printable representation.
303  * This should only be used direct after a md5_read(), because it uses
304  * In-Place conversion.
305  * Returns digest.
306  */
307
308 char *
309 md5_tostring( byte *digest )
310 {
311     static byte bintoasc[] = "ABCDEFGHIJKLMNOPQRSTUVWXYZ."
312                              "abcdefghijklmnopqrstuvwxyz_"
313                              "0123456789";
314     int i;
315     byte *d, *s;
316
317     memmove(digest+8,digest, 16); /* make some room */
318     d = digest;
319     s = digest+8;
320     for(i=0; i < 5; i++, s += 3 ) {
321         *d++ = bintoasc[(*s >> 2) & 077];
322         *d++ = bintoasc[(((*s << 4) & 060) | ((s[1] >> 4) & 017)) & 077];
323         *d++ = bintoasc[(((s[1] << 2) & 074) | ((s[2] >> 6) & 03)) & 077];
324         *d++ = bintoasc[s[2] & 077];
325     }
326     *d++ = bintoasc[(*s >> 2) & 077];
327     *d++ = bintoasc[((*s << 4) & 060) & 077];
328     *d = 0;
329     return (char*)digest;
330 }
331
332
333 /* Basic MD5 step. Transforms buf based on in.  Note that if the Mysterious
334  * Constants are arranged backwards in little-endian order and decrypted with
335  * the DES they produce OCCULT MESSAGES!
336  */
337 static void
338 Transform(register u32 *buf,register u32 *in)
339 {
340   register u32 a = buf[0], b = buf[1], c = buf[2], d = buf[3];
341
342   /* Round 1 */
343 #define S11 7
344 #define S12 12
345 #define S13 17
346 #define S14 22
347   FF ( a, b, c, d, in[ 0], S11, 0xD76AA478L); /* 1 */
348   FF ( d, a, b, c, in[ 1], S12, 0xE8C7B756L); /* 2 */
349   FF ( c, d, a, b, in[ 2], S13, 0x242070DBL); /* 3 */
350   FF ( b, c, d, a, in[ 3], S14, 0xC1BDCEEEL); /* 4 */
351   FF ( a, b, c, d, in[ 4], S11, 0xF57C0FAFL); /* 5 */
352   FF ( d, a, b, c, in[ 5], S12, 0x4787C62AL); /* 6 */
353   FF ( c, d, a, b, in[ 6], S13, 0xA8304613L); /* 7 */
354   FF ( b, c, d, a, in[ 7], S14, 0xFD469501L); /* 8 */
355   FF ( a, b, c, d, in[ 8], S11, 0x698098D8L); /* 9 */
356   FF ( d, a, b, c, in[ 9], S12, 0x8B44F7AFL); /* 10 */
357   FF ( c, d, a, b, in[10], S13, 0xFFFF5BB1L); /* 11 */
358   FF ( b, c, d, a, in[11], S14, 0x895CD7BEL); /* 12 */
359   FF ( a, b, c, d, in[12], S11, 0x6B901122L); /* 13 */
360   FF ( d, a, b, c, in[13], S12, 0xFD987193L); /* 14 */
361   FF ( c, d, a, b, in[14], S13, 0xA679438EL); /* 15 */
362   FF ( b, c, d, a, in[15], S14, 0x49B40821L); /* 16 */
363
364   /* Round 2 */
365 #define S21 5
366 #define S22 9
367 #define S23 14
368 #define S24 20
369   GG ( a, b, c, d, in[ 1], S21, 0xF61E2562L); /* 17 */
370   GG ( d, a, b, c, in[ 6], S22, 0xC040B340L); /* 18 */
371   GG ( c, d, a, b, in[11], S23, 0x265E5A51L); /* 19 */
372   GG ( b, c, d, a, in[ 0], S24, 0xE9B6C7AAL); /* 20 */
373   GG ( a, b, c, d, in[ 5], S21, 0xD62F105DL); /* 21 */
374   GG ( d, a, b, c, in[10], S22, 0x02441453L); /* 22 */
375   GG ( c, d, a, b, in[15], S23, 0xD8A1E681L); /* 23 */
376   GG ( b, c, d, a, in[ 4], S24, 0xE7D3FBC8L); /* 24 */
377   GG ( a, b, c, d, in[ 9], S21, 0x21E1CDE6L); /* 25 */
378   GG ( d, a, b, c, in[14], S22, 0xC33707D6L); /* 26 */
379   GG ( c, d, a, b, in[ 3], S23, 0xF4D50D87L); /* 27 */
380   GG ( b, c, d, a, in[ 8], S24, 0x455A14EDL); /* 28 */
381   GG ( a, b, c, d, in[13], S21, 0xA9E3E905L); /* 29 */
382   GG ( d, a, b, c, in[ 2], S22, 0xFCEFA3F8L); /* 30 */
383   GG ( c, d, a, b, in[ 7], S23, 0x676F02D9L); /* 31 */
384   GG ( b, c, d, a, in[12], S24, 0x8D2A4C8AL); /* 32 */
385
386   /* Round 3 */
387 #define S31 4
388 #define S32 11
389 #define S33 16
390 #define S34 23
391   HH ( a, b, c, d, in[ 5], S31, 0xFFFA3942L); /* 33 */
392   HH ( d, a, b, c, in[ 8], S32, 0x8771F681L); /* 34 */
393   HH ( c, d, a, b, in[11], S33, 0x6D9D6122L); /* 35 */
394   HH ( b, c, d, a, in[14], S34, 0xFDE5380CL); /* 36 */
395   HH ( a, b, c, d, in[ 1], S31, 0xA4BEEA44L); /* 37 */
396   HH ( d, a, b, c, in[ 4], S32, 0x4BDECFA9L); /* 38 */
397   HH ( c, d, a, b, in[ 7], S33, 0xF6BB4B60L); /* 39 */
398   HH ( b, c, d, a, in[10], S34, 0xBEBFBC70L); /* 40 */
399   HH ( a, b, c, d, in[13], S31, 0x289B7EC6L); /* 41 */
400   HH ( d, a, b, c, in[ 0], S32, 0xEAA127FAL); /* 42 */
401   HH ( c, d, a, b, in[ 3], S33, 0xD4EF3085L); /* 43 */
402   HH ( b, c, d, a, in[ 6], S34, 0x04881D05L); /* 44 */
403   HH ( a, b, c, d, in[ 9], S31, 0xD9D4D039L); /* 45 */
404   HH ( d, a, b, c, in[12], S32, 0xE6DB99E5L); /* 46 */
405   HH ( c, d, a, b, in[15], S33, 0x1FA27CF8L); /* 47 */
406   HH ( b, c, d, a, in[ 2], S34, 0xC4AC5665L); /* 48 */
407
408   /* Round 4 */
409 #define S41 6
410 #define S42 10
411 #define S43 15
412 #define S44 21
413   II ( a, b, c, d, in[ 0], S41, 0xF4292244L); /* 49 */
414   II ( d, a, b, c, in[ 7], S42, 0x432AFF97L); /* 50 */
415   II ( c, d, a, b, in[14], S43, 0xAB9423A7L); /* 51 */
416   II ( b, c, d, a, in[ 5], S44, 0xFC93A039L); /* 52 */
417   II ( a, b, c, d, in[12], S41, 0x655B59C3L); /* 53 */
418   II ( d, a, b, c, in[ 3], S42, 0x8F0CCC92L); /* 54 */
419   II ( c, d, a, b, in[10], S43, 0xFFEFF47DL); /* 55 */
420   II ( b, c, d, a, in[ 1], S44, 0x85845DD1L); /* 56 */
421   II ( a, b, c, d, in[ 8], S41, 0x6FA87E4FL); /* 57 */
422   II ( d, a, b, c, in[15], S42, 0xFE2CE6E0L); /* 58 */
423   II ( c, d, a, b, in[ 6], S43, 0xA3014314L); /* 59 */
424   II ( b, c, d, a, in[13], S44, 0x4E0811A1L); /* 60 */
425   II ( a, b, c, d, in[ 4], S41, 0xF7537E82L); /* 61 */
426   II ( d, a, b, c, in[11], S42, 0xBD3AF235L); /* 62 */
427   II ( c, d, a, b, in[ 2], S43, 0x2AD7D2BBL); /* 63 */
428   II ( b, c, d, a, in[ 9], S44, 0xEB86D391L); /* 64 */
429
430   buf[0] += a;
431   buf[1] += b;
432   buf[2] += c;
433   buf[3] += d;
434 }
435
436
437
438 /* end of file */