Use hash transform function return type for passing burn stack depth
[libgcrypt.git] / cipher / md4.c
1 /* md4.c - MD4 Message-Digest Algorithm
2  * Copyright (C) 2002, 2003 Free Software Foundation, Inc.
3  *
4  * This file is part of Libgcrypt.
5  *
6  * Libgcrypt is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU Lesser General Public License as
8  * published by the Free Software Foundation; either version 2.1 of
9  * the License, or (at your option) any later version.
10  *
11  * Libgcrypt is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  *
20  * Based on md5.c in libgcrypt, but rewritten to compute md4 checksums
21  * using a public domain md4 implementation with the following comments:
22  *
23  * Modified by Wei Dai from Andrew M. Kuchling's md4.c
24  * The original code and all modifications are in the public domain.
25  *
26  * This is the original introductory comment:
27  *
28  *  md4.c : MD4 hash algorithm.
29  *
30  * Part of the Python Cryptography Toolkit, version 1.1
31  *
32  * Distribute and use freely; there are no restrictions on further
33  * dissemination and usage except those imposed by the laws of your
34  * country of residence.
35  *
36  */
37
38 /* MD4 test suite:
39  * MD4 ("") = 31d6cfe0d16ae931b73c59d7e0c089c0
40  * MD4 ("a") = bde52cb31de33e46245e05fbdbd6fb24
41  * MD4 ("abc") = a448017aaf21d8525fc10ae87aa6729d
42  * MD4 ("message digest") = d9130a8164549fe818874806e1c7014b
43  * MD4 ("abcdefghijklmnopqrstuvwxyz") = d79e1c308aa5bbcdeea8ed63df412da9
44  * MD4 ("ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789") =
45  * 043f8582f241db351ce627e153e7f0e4
46  * MD4 ("123456789012345678901234567890123456789012345678901234567890123456
47  * 78901234567890") = e33b4ddc9c38f2199c3e7b164fcc0536
48  */
49
50 #include <config.h>
51 #include <stdio.h>
52 #include <stdlib.h>
53 #include <string.h>
54
55 #include "g10lib.h"
56 #include "cipher.h"
57
58 #include "bithelp.h"
59 #include "hash-common.h"
60
61
62 typedef struct {
63     gcry_md_block_ctx_t bctx;
64     u32 A,B,C,D;          /* chaining variables */
65 } MD4_CONTEXT;
66
67 static unsigned int
68 transform ( void *c, const unsigned char *data );
69
70 static void
71 md4_init( void *context )
72 {
73   MD4_CONTEXT *ctx = context;
74
75   ctx->A = 0x67452301;
76   ctx->B = 0xefcdab89;
77   ctx->C = 0x98badcfe;
78   ctx->D = 0x10325476;
79
80   ctx->bctx.nblocks = 0;
81   ctx->bctx.count = 0;
82   ctx->bctx.blocksize = 64;
83   ctx->bctx.bwrite = transform;
84 }
85
86 #define F(x, y, z) ((z) ^ ((x) & ((y) ^ (z))))
87 #define G(x, y, z) (((x) & (y)) | ((x) & (z)) | ((y) & (z)))
88 #define H(x, y, z) ((x) ^ (y) ^ (z))
89
90
91 /****************
92  * transform 64 bytes
93  */
94 static unsigned int
95 transform ( void *c, const unsigned char *data )
96 {
97   MD4_CONTEXT *ctx = c;
98   u32 in[16];
99   register u32 A = ctx->A;
100   register u32 B = ctx->B;
101   register u32 C = ctx->C;
102   register u32 D = ctx->D;
103
104 #ifdef WORDS_BIGENDIAN
105   {
106     int i;
107     byte *p2;
108     const byte *p1;
109     for(i=0, p1=data, p2=(byte*)in; i < 16; i++, p2 += 4 )
110       {
111         p2[3] = *p1++;
112         p2[2] = *p1++;
113         p2[1] = *p1++;
114         p2[0] = *p1++;
115       }
116   }
117 #else
118   memcpy (in, data, 64);
119 #endif
120
121   /* Round 1.  */
122 #define function(a,b,c,d,k,s) a=rol(a+F(b,c,d)+in[k],s);
123   function(A,B,C,D, 0, 3);
124   function(D,A,B,C, 1, 7);
125   function(C,D,A,B, 2,11);
126   function(B,C,D,A, 3,19);
127   function(A,B,C,D, 4, 3);
128   function(D,A,B,C, 5, 7);
129   function(C,D,A,B, 6,11);
130   function(B,C,D,A, 7,19);
131   function(A,B,C,D, 8, 3);
132   function(D,A,B,C, 9, 7);
133   function(C,D,A,B,10,11);
134   function(B,C,D,A,11,19);
135   function(A,B,C,D,12, 3);
136   function(D,A,B,C,13, 7);
137   function(C,D,A,B,14,11);
138   function(B,C,D,A,15,19);
139
140 #undef function
141
142   /* Round 2.  */
143 #define function(a,b,c,d,k,s) a=rol(a+G(b,c,d)+in[k]+0x5a827999,s);
144
145   function(A,B,C,D, 0, 3);
146   function(D,A,B,C, 4, 5);
147   function(C,D,A,B, 8, 9);
148   function(B,C,D,A,12,13);
149   function(A,B,C,D, 1, 3);
150   function(D,A,B,C, 5, 5);
151   function(C,D,A,B, 9, 9);
152   function(B,C,D,A,13,13);
153   function(A,B,C,D, 2, 3);
154   function(D,A,B,C, 6, 5);
155   function(C,D,A,B,10, 9);
156   function(B,C,D,A,14,13);
157   function(A,B,C,D, 3, 3);
158   function(D,A,B,C, 7, 5);
159   function(C,D,A,B,11, 9);
160   function(B,C,D,A,15,13);
161
162 #undef function
163
164   /* Round 3.  */
165 #define function(a,b,c,d,k,s) a=rol(a+H(b,c,d)+in[k]+0x6ed9eba1,s);
166
167   function(A,B,C,D, 0, 3);
168   function(D,A,B,C, 8, 9);
169   function(C,D,A,B, 4,11);
170   function(B,C,D,A,12,15);
171   function(A,B,C,D, 2, 3);
172   function(D,A,B,C,10, 9);
173   function(C,D,A,B, 6,11);
174   function(B,C,D,A,14,15);
175   function(A,B,C,D, 1, 3);
176   function(D,A,B,C, 9, 9);
177   function(C,D,A,B, 5,11);
178   function(B,C,D,A,13,15);
179   function(A,B,C,D, 3, 3);
180   function(D,A,B,C,11, 9);
181   function(C,D,A,B, 7,11);
182   function(B,C,D,A,15,15);
183
184
185   /* Put checksum in context given as argument.  */
186   ctx->A += A;
187   ctx->B += B;
188   ctx->C += C;
189   ctx->D += D;
190
191   return /*burn_stack*/ 80+6*sizeof(void*);
192 }
193
194
195
196 /* The routine final terminates the message-digest computation and
197  * ends with the desired message digest in mdContext->digest[0...15].
198  * The handle is prepared for a new MD4 cycle.
199  * Returns 16 bytes representing the digest.
200  */
201
202 static void
203 md4_final( void *context )
204 {
205   MD4_CONTEXT *hd = context;
206   u32 t, msb, lsb;
207   byte *p;
208   unsigned int burn;
209
210   _gcry_md_block_write(hd, NULL, 0); /* flush */;
211
212   t = hd->bctx.nblocks;
213   /* multiply by 64 to make a byte count */
214   lsb = t << 6;
215   msb = t >> 26;
216   /* add the count */
217   t = lsb;
218   if( (lsb += hd->bctx.count) < t )
219     msb++;
220   /* multiply by 8 to make a bit count */
221   t = lsb;
222   lsb <<= 3;
223   msb <<= 3;
224   msb |= t >> 29;
225
226   if( hd->bctx.count < 56 )  /* enough room */
227     {
228       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad */
229       while( hd->bctx.count < 56 )
230         hd->bctx.buf[hd->bctx.count++] = 0;  /* pad */
231     }
232   else /* need one extra block */
233     {
234       hd->bctx.buf[hd->bctx.count++] = 0x80; /* pad character */
235       while( hd->bctx.count < 64 )
236         hd->bctx.buf[hd->bctx.count++] = 0;
237       _gcry_md_block_write(hd, NULL, 0);  /* flush */;
238       memset(hd->bctx.buf, 0, 56 ); /* fill next block with zeroes */
239     }
240   /* append the 64 bit count */
241   hd->bctx.buf[56] = lsb           ;
242   hd->bctx.buf[57] = lsb >>  8;
243   hd->bctx.buf[58] = lsb >> 16;
244   hd->bctx.buf[59] = lsb >> 24;
245   hd->bctx.buf[60] = msb           ;
246   hd->bctx.buf[61] = msb >>  8;
247   hd->bctx.buf[62] = msb >> 16;
248   hd->bctx.buf[63] = msb >> 24;
249   burn = transform( hd, hd->bctx.buf );
250   _gcry_burn_stack (burn);
251
252   p = hd->bctx.buf;
253 #ifdef WORDS_BIGENDIAN
254 #define X(a) do { *p++ = hd->a      ; *p++ = hd->a >> 8;      \
255                   *p++ = hd->a >> 16; *p++ = hd->a >> 24; } while(0)
256 #else /* little endian */
257 #define X(a) do { *(u32*)p = (*hd).a ; p += 4; } while(0)
258 #endif
259   X(A);
260   X(B);
261   X(C);
262   X(D);
263 #undef X
264
265 }
266
267 static byte *
268 md4_read (void *context)
269 {
270   MD4_CONTEXT *hd = context;
271   return hd->bctx.buf;
272 }
273
274 static byte asn[18] = /* Object ID is 1.2.840.113549.2.4 */
275   { 0x30, 0x20, 0x30, 0x0c, 0x06, 0x08, 0x2a, 0x86,0x48,
276     0x86, 0xf7, 0x0d, 0x02, 0x04, 0x05, 0x00, 0x04, 0x10 };
277
278 static gcry_md_oid_spec_t oid_spec_md4[] =
279   {
280     /* iso.member-body.us.rsadsi.digestAlgorithm.md4 */
281     { "1.2.840.113549.2.4" },
282     { NULL },
283   };
284
285 gcry_md_spec_t _gcry_digest_spec_md4 =
286   {
287     "MD4", asn, DIM (asn), oid_spec_md4,16,
288     md4_init, _gcry_md_block_write, md4_final, md4_read,
289     sizeof (MD4_CONTEXT)
290   };