bug fixes
[gnupg.git] / cipher / md5.c
1 /* md5.c - MD5 Message-Digest Algorithm
2  *      Copyright (c) 1994 by Werner Koch (dd9jn)
3  *
4  *  This is a hacked version from WkLib
5  *
6  *  This file is part of WkLib.
7  *
8  *  WkLib is free software; you can redistribute it and/or modify
9  *  it under the terms of the GNU General Public License as published by
10  *  the Free Software Foundation; either version 2 of the License, or
11  *  (at your option) any later version.
12  *
13  *  WkLib is distributed in the hope that it will be useful,
14  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
15  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  *  GNU General Public License for more details.
17  *
18  *  You should have received a copy of the GNU General Public License
19  *  along with this program; if not, write to the Free Software
20  *  Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
21  ***********************************************************************
22  ** Copyright (C) 1990, RSA Data Security, Inc. All rights reserved.  **
23  **                                                                   **
24  ** License to copy and use this software is granted provided that    **
25  ** it is identified as the "RSA Data Security, Inc. MD5 Message-     **
26  ** Digest Algorithm" in all material mentioning or referencing this  **
27  ** software or this function.                                        **
28  **                                                                   **
29  ** License is also granted to make and use derivative works          **
30  ** provided that such works are identified as "derived from the RSA  **
31  ** Data Security, Inc. MD5 Message-Digest Algorithm" in all          **
32  ** material mentioning or referencing the derived work.              **
33  **                                                                   **
34  ** RSA Data Security, Inc. makes no representations concerning       **
35  ** either the merchantability of this software or the suitability    **
36  ** of this software for any particular purpose.  It is provided "as  **
37  ** is" without express or implied warranty of any kind.              **
38  **                                                                   **
39  ** These notices must be retained in any copies of any part of this  **
40  ** documentation and/or software.                                    **
41  ***********************************************************************
42  *
43  * History:
44  * 16.01.95 wk  now uses generic base-64 support
45  * 24.01.95 wk  changed back to original base-64 coding, because
46  *              the generic base-64 support was changed to go conform
47  *              with RFC1113 !
48  */
49
50 /* Test values:
51  * ""                  D4 1D 8C D9 8F 00 B2 04  E9 80 09 98 EC F8 42 7E
52  * "a"                 0C C1 75 B9 C0 F1 B6 A8  31 C3 99 E2 69 77 26 61
53  * "abc                90 01 50 98 3C D2 4F B0  D6 96 3F 7D 28 E1 7F 72
54  * "message digest"    F9 6B 69 7D 7C B7 93 8D  52 5A 2F 31 AA F1 61 D0
55  */
56
57 #include <config.h>
58 #include <stdio.h>
59 #include <stdlib.h>
60 #include <string.h>
61 #include <assert.h>
62 #include "util.h"
63 #include "md5.h"
64 #include "memory.h"
65
66
67 #if __WATCOMC__ && defined(M_I86)
68   /* 16-Bit Compiler breaks Code in Function Transform() */
69   /* (at least when compiling for windows) */
70   #ifndef __SW_OD
71      #error must be compiled without optimizations
72   #endif
73 #endif
74
75
76 static void Transform(u32 *buf,u32 *in);
77
78 static byte PADDING[64] = {
79   0x80, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
80   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
81   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
82   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
83   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
84   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
85   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
86   0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00
87 };
88
89 /* F, G, H and I are basic MD5 functions */
90 #define F(x, y, z) (((x) & (y)) | ((~x) & (z)))
91 #define G(x, y, z) (((x) & (z)) | ((y) & (~z)))
92 #define H(x, y, z) ((x) ^ (y) ^ (z))
93 #define I(x, y, z) ((y) ^ ((x) | (~z)))
94
95 /* ROTATE_LEFT rotates x left n bits */
96 #if defined(__GNUC__) && defined(__i386__)
97 static inline u32
98 ROTATE_LEFT(u32 x, int n)
99 {
100         __asm__("roll %%cl,%0"
101                 :"=r" (x)
102                 :"0" (x),"c" (n));
103         return x;
104 }
105 #else
106   #define ROTATE_LEFT(x, n) (((x) << (n)) | ((x) >> (32-(n))))
107 #endif
108
109 /* FF, GG, HH, and II transformations for rounds 1, 2, 3, and 4 */
110 /* Rotation is separate from addition to prevent recomputation */
111 #define FF(a, b, c, d, x, s, ac) \
112   {(a) += F ((b), (c), (d)) + (x) + (u32)(ac); \
113    (a) = ROTATE_LEFT ((a), (s)); \
114    (a) += (b); \
115   }
116 #define GG(a, b, c, d, x, s, ac) \
117   {(a) += G ((b), (c), (d)) + (x) + (u32)(ac); \
118    (a) = ROTATE_LEFT ((a), (s)); \
119    (a) += (b); \
120   }
121 #define HH(a, b, c, d, x, s, ac) \
122   {(a) += H ((b), (c), (d)) + (x) + (u32)(ac); \
123    (a) = ROTATE_LEFT ((a), (s)); \
124    (a) += (b); \
125   }
126 #define II(a, b, c, d, x, s, ac) \
127   {(a) += I ((b), (c), (d)) + (x) + (u32)(ac); \
128    (a) = ROTATE_LEFT ((a), (s)); \
129    (a) += (b); \
130   }
131
132
133 void
134 md5_init( MD5_CONTEXT *mdContext)
135 {
136     mdContext->i[0] = mdContext->i[1] = (u32)0;
137     /* Load magic initialization constants.
138      */
139     mdContext->buf[0] = (u32)0x67452301L;
140     mdContext->buf[1] = (u32)0xefcdab89L;
141     mdContext->buf[2] = (u32)0x98badcfeL;
142     mdContext->buf[3] = (u32)0x10325476L;
143     mdContext->count = 0;
144 }
145
146 /* The routine Update updates the message-digest context to
147  * account for the presence of each of the characters inBuf[0..inLen-1]
148  * in the message whose digest is being computed.
149  */
150 void
151 md5_write( MD5_CONTEXT *mdContext, byte *inBuf, size_t inLen)
152 {
153     register int i, ii;
154     int mdi;
155     u32 in[16];
156
157     if(mdContext->count) { /* flush the buffer */
158         i = mdContext->count;
159         mdContext->count = 0;
160         md5_write( mdContext, mdContext->digest, i);
161     }
162     if( !inBuf )
163         return;
164
165     /* compute number of bytes mod 64 */
166     mdi = (int)((mdContext->i[0] >> 3) & 0x3F);
167
168     /* update number of bits */
169     if((mdContext->i[0] + ((u32)inLen << 3)) < mdContext->i[0])
170         mdContext->i[1]++;
171     mdContext->i[0] += ((u32)inLen << 3);
172     mdContext->i[1] += ((u32)inLen >> 29);
173
174     while(inLen--) {
175         /* add new character to buffer, increment mdi */
176         mdContext->in[mdi++] = *inBuf++;
177
178         /* transform if necessary */
179         if( mdi == 0x40 ) {
180             for(i = 0, ii = 0; i < 16; i++, ii += 4)
181                 in[i] = (((u32)mdContext->in[ii+3]) << 24) |
182                         (((u32)mdContext->in[ii+2]) << 16) |
183                         (((u32)mdContext->in[ii+1]) << 8) |
184                         ((u32)mdContext->in[ii]);
185             Transform(mdContext->buf, in);
186             mdi = 0;
187         }
188     }
189 }
190
191
192
193 /* The routine final terminates the message-digest computation and
194  * ends with the desired message digest in mdContext->digest[0...15].
195  * The handle is prepared for a new MD5 cycle.
196  * Returns 16 bytes representing the digest.
197  */
198
199 void
200 md5_final( MD5_CONTEXT *mdContext )
201 {
202     u32 in[16];
203     int mdi;
204     unsigned int i, ii;
205     unsigned int padLen;
206
207     if(mdContext->count) /* flush buffer */
208         md5_write(mdContext, NULL, 0 );
209     /* save number of bits */
210     in[14] = mdContext->i[0];
211     in[15] = mdContext->i[1];
212
213     /* compute number of bytes mod 64 */
214     mdi = (int)((mdContext->i[0] >> 3) & 0x3F);
215
216     /* pad out to 56 mod 64 */
217     padLen = (mdi < 56) ? (56 - mdi) : (120 - mdi);
218     md5_write(mdContext, PADDING, padLen);
219
220     /* append length in bits and transform */
221     for(i = 0, ii = 0; i < 14; i++, ii += 4)
222         in[i] = (((u32)mdContext->in[ii+3]) << 24) |
223                 (((u32)mdContext->in[ii+2]) << 16) |
224                 (((u32)mdContext->in[ii+1]) << 8) |
225                 ((u32)mdContext->in[ii]);
226     Transform(mdContext->buf, in);
227
228     /* store buffer in digest */
229     for(i = 0, ii = 0; i < 4; i++, ii += 4) {
230         mdContext->digest[ii]   = (byte)(mdContext->buf[i] & 0xFF);
231         mdContext->digest[ii+1] = (byte)((mdContext->buf[i] >> 8) & 0xFF);
232         mdContext->digest[ii+2] = (byte)((mdContext->buf[i] >> 16) & 0xFF);
233         mdContext->digest[ii+3] = (byte)((mdContext->buf[i] >> 24) & 0xFF);
234     }
235 }
236
237
238 /* Basic MD5 step. Transforms buf based on in.  Note that if the Mysterious
239  * Constants are arranged backwards in little-endian order and decrypted with
240  * the DES they produce OCCULT MESSAGES!
241  */
242 static void
243 Transform(register u32 *buf,register u32 *in)
244 {
245   register u32 a = buf[0], b = buf[1], c = buf[2], d = buf[3];
246
247   /* Round 1 */
248 #define S11 7
249 #define S12 12
250 #define S13 17
251 #define S14 22
252   FF ( a, b, c, d, in[ 0], S11, 0xD76AA478L); /* 1 */
253   FF ( d, a, b, c, in[ 1], S12, 0xE8C7B756L); /* 2 */
254   FF ( c, d, a, b, in[ 2], S13, 0x242070DBL); /* 3 */
255   FF ( b, c, d, a, in[ 3], S14, 0xC1BDCEEEL); /* 4 */
256   FF ( a, b, c, d, in[ 4], S11, 0xF57C0FAFL); /* 5 */
257   FF ( d, a, b, c, in[ 5], S12, 0x4787C62AL); /* 6 */
258   FF ( c, d, a, b, in[ 6], S13, 0xA8304613L); /* 7 */
259   FF ( b, c, d, a, in[ 7], S14, 0xFD469501L); /* 8 */
260   FF ( a, b, c, d, in[ 8], S11, 0x698098D8L); /* 9 */
261   FF ( d, a, b, c, in[ 9], S12, 0x8B44F7AFL); /* 10 */
262   FF ( c, d, a, b, in[10], S13, 0xFFFF5BB1L); /* 11 */
263   FF ( b, c, d, a, in[11], S14, 0x895CD7BEL); /* 12 */
264   FF ( a, b, c, d, in[12], S11, 0x6B901122L); /* 13 */
265   FF ( d, a, b, c, in[13], S12, 0xFD987193L); /* 14 */
266   FF ( c, d, a, b, in[14], S13, 0xA679438EL); /* 15 */
267   FF ( b, c, d, a, in[15], S14, 0x49B40821L); /* 16 */
268
269   /* Round 2 */
270 #define S21 5
271 #define S22 9
272 #define S23 14
273 #define S24 20
274   GG ( a, b, c, d, in[ 1], S21, 0xF61E2562L); /* 17 */
275   GG ( d, a, b, c, in[ 6], S22, 0xC040B340L); /* 18 */
276   GG ( c, d, a, b, in[11], S23, 0x265E5A51L); /* 19 */
277   GG ( b, c, d, a, in[ 0], S24, 0xE9B6C7AAL); /* 20 */
278   GG ( a, b, c, d, in[ 5], S21, 0xD62F105DL); /* 21 */
279   GG ( d, a, b, c, in[10], S22, 0x02441453L); /* 22 */
280   GG ( c, d, a, b, in[15], S23, 0xD8A1E681L); /* 23 */
281   GG ( b, c, d, a, in[ 4], S24, 0xE7D3FBC8L); /* 24 */
282   GG ( a, b, c, d, in[ 9], S21, 0x21E1CDE6L); /* 25 */
283   GG ( d, a, b, c, in[14], S22, 0xC33707D6L); /* 26 */
284   GG ( c, d, a, b, in[ 3], S23, 0xF4D50D87L); /* 27 */
285   GG ( b, c, d, a, in[ 8], S24, 0x455A14EDL); /* 28 */
286   GG ( a, b, c, d, in[13], S21, 0xA9E3E905L); /* 29 */
287   GG ( d, a, b, c, in[ 2], S22, 0xFCEFA3F8L); /* 30 */
288   GG ( c, d, a, b, in[ 7], S23, 0x676F02D9L); /* 31 */
289   GG ( b, c, d, a, in[12], S24, 0x8D2A4C8AL); /* 32 */
290
291   /* Round 3 */
292 #define S31 4
293 #define S32 11
294 #define S33 16
295 #define S34 23
296   HH ( a, b, c, d, in[ 5], S31, 0xFFFA3942L); /* 33 */
297   HH ( d, a, b, c, in[ 8], S32, 0x8771F681L); /* 34 */
298   HH ( c, d, a, b, in[11], S33, 0x6D9D6122L); /* 35 */
299   HH ( b, c, d, a, in[14], S34, 0xFDE5380CL); /* 36 */
300   HH ( a, b, c, d, in[ 1], S31, 0xA4BEEA44L); /* 37 */
301   HH ( d, a, b, c, in[ 4], S32, 0x4BDECFA9L); /* 38 */
302   HH ( c, d, a, b, in[ 7], S33, 0xF6BB4B60L); /* 39 */
303   HH ( b, c, d, a, in[10], S34, 0xBEBFBC70L); /* 40 */
304   HH ( a, b, c, d, in[13], S31, 0x289B7EC6L); /* 41 */
305   HH ( d, a, b, c, in[ 0], S32, 0xEAA127FAL); /* 42 */
306   HH ( c, d, a, b, in[ 3], S33, 0xD4EF3085L); /* 43 */
307   HH ( b, c, d, a, in[ 6], S34, 0x04881D05L); /* 44 */
308   HH ( a, b, c, d, in[ 9], S31, 0xD9D4D039L); /* 45 */
309   HH ( d, a, b, c, in[12], S32, 0xE6DB99E5L); /* 46 */
310   HH ( c, d, a, b, in[15], S33, 0x1FA27CF8L); /* 47 */
311   HH ( b, c, d, a, in[ 2], S34, 0xC4AC5665L); /* 48 */
312
313   /* Round 4 */
314 #define S41 6
315 #define S42 10
316 #define S43 15
317 #define S44 21
318   II ( a, b, c, d, in[ 0], S41, 0xF4292244L); /* 49 */
319   II ( d, a, b, c, in[ 7], S42, 0x432AFF97L); /* 50 */
320   II ( c, d, a, b, in[14], S43, 0xAB9423A7L); /* 51 */
321   II ( b, c, d, a, in[ 5], S44, 0xFC93A039L); /* 52 */
322   II ( a, b, c, d, in[12], S41, 0x655B59C3L); /* 53 */
323   II ( d, a, b, c, in[ 3], S42, 0x8F0CCC92L); /* 54 */
324   II ( c, d, a, b, in[10], S43, 0xFFEFF47DL); /* 55 */
325   II ( b, c, d, a, in[ 1], S44, 0x85845DD1L); /* 56 */
326   II ( a, b, c, d, in[ 8], S41, 0x6FA87E4FL); /* 57 */
327   II ( d, a, b, c, in[15], S42, 0xFE2CE6E0L); /* 58 */
328   II ( c, d, a, b, in[ 6], S43, 0xA3014314L); /* 59 */
329   II ( b, c, d, a, in[13], S44, 0x4E0811A1L); /* 60 */
330   II ( a, b, c, d, in[ 4], S41, 0xF7537E82L); /* 61 */
331   II ( d, a, b, c, in[11], S42, 0xBD3AF235L); /* 62 */
332   II ( c, d, a, b, in[ 2], S43, 0x2AD7D2BBL); /* 63 */
333   II ( b, c, d, a, in[ 9], S44, 0xEB86D391L); /* 64 */
334
335   buf[0] += a;
336   buf[1] += b;
337   buf[2] += c;
338   buf[3] += d;
339 }
340
341
342
343 /* end of file */