* configure.ac: Improved --disable-endian-check that doesn't involve
[gnupg.git] / cipher / sha512.c
1 /* sha512.c - SHA384 and SHA512 hash functions
2  *      Copyright (C) 2003 Free Software Foundation, Inc.
3  *
4  * Please see below for more legal information!
5  *
6  * This file is part of GnuPG.
7  *
8  * GnuPG is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License as published by
10  * the Free Software Foundation; either version 2 of the License, or
11  * (at your option) any later version.
12  *
13  * GnuPG is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License
19  * along with this program; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
21  * USA.
22  */
23
24
25 /*  Test vectors from FIPS-180-2:
26  *
27  *  "abc"
28  * 384:
29  *  CB00753F 45A35E8B B5A03D69 9AC65007 272C32AB 0EDED163
30  *  1A8B605A 43FF5BED 8086072B A1E7CC23 58BAECA1 34C825A7
31  * 512:
32  *  DDAF35A1 93617ABA CC417349 AE204131 12E6FA4E 89A97EA2 0A9EEEE6 4B55D39A
33  *  2192992A 274FC1A8 36BA3C23 A3FEEBBD 454D4423 643CE80E 2A9AC94F A54CA49F
34  *
35  *  "abcdefghbcdefghicdefghijdefghijkefghijklfghijklmghijklmnhijklmnoijklmnopjklmnopqklmnopqrlmnopqrsmnopqrstnopqrstu"
36  * 384:
37  *  09330C33 F71147E8 3D192FC7 82CD1B47 53111B17 3B3B05D2
38  *  2FA08086 E3B0F712 FCC7C71A 557E2DB9 66C3E9FA 91746039
39  * 512:
40  *  8E959B75 DAE313DA 8CF4F728 14FC143F 8F7779C6 EB9F7FA1 7299AEAD B6889018
41  *  501D289E 4900F7E4 331B99DE C4B5433A C7D329EE B6DD2654 5E96E55B 874BE909
42  *
43  *  "a" x 1000000
44  * 384:
45  *  9D0E1809 716474CB 086E834E 310A4A1C ED149E9C 00F24852
46  *  7972CEC5 704C2A5B 07B8B3DC 38ECC4EB AE97DDD8 7F3D8985
47  * 512:
48  *  E718483D 0CE76964 4E2E42C7 BC15B463 8E1F98B1 3B204428 5632A803 AFA973EB
49  *  DE0FF244 877EA60A 4CB0432C E577C31B EB009C5C 2C49AA2E 4EADB217 AD8CC09B
50  */
51
52
53 #include <config.h>
54 #include <string.h>
55 #include "util.h"
56 #include "algorithms.h"
57
58
59 typedef struct {
60     u64  h0,h1,h2,h3,h4,h5,h6,h7;
61     u64  nblocks;
62     byte buf[128];
63     int  count;
64 } SHA512_CONTEXT;
65
66 static void
67 burn_stack (int bytes)
68 {
69   char buf[128];
70
71   wipememory(buf,sizeof buf);
72   bytes -= sizeof buf;
73   if (bytes > 0)
74     burn_stack (bytes);
75 }
76
77
78 void
79 sha512_init( SHA512_CONTEXT *hd )
80 {
81   hd->h0 = U64_C(0x6a09e667f3bcc908);
82   hd->h1 = U64_C(0xbb67ae8584caa73b);
83   hd->h2 = U64_C(0x3c6ef372fe94f82b);
84   hd->h3 = U64_C(0xa54ff53a5f1d36f1);
85   hd->h4 = U64_C(0x510e527fade682d1);
86   hd->h5 = U64_C(0x9b05688c2b3e6c1f);
87   hd->h6 = U64_C(0x1f83d9abfb41bd6b);
88   hd->h7 = U64_C(0x5be0cd19137e2179);
89
90   hd->nblocks = 0;
91   hd->count = 0;
92 }
93
94 void
95 sha384_init( SHA512_CONTEXT *hd )
96 {
97   hd->h0 = U64_C(0xcbbb9d5dc1059ed8);
98   hd->h1 = U64_C(0x629a292a367cd507);
99   hd->h2 = U64_C(0x9159015a3070dd17);
100   hd->h3 = U64_C(0x152fecd8f70e5939);
101   hd->h4 = U64_C(0x67332667ffc00b31);
102   hd->h5 = U64_C(0x8eb44a8768581511);
103   hd->h6 = U64_C(0xdb0c2e0d64f98fa7);
104   hd->h7 = U64_C(0x47b5481dbefa4fa4);
105
106   hd->nblocks = 0;
107   hd->count = 0;
108 }
109
110
111 /****************
112  * Transform the message W which consists of 16 64-bit-words
113  */
114 static void
115 transform( SHA512_CONTEXT *hd, byte *data )
116 {
117   u64 a,b,c,d,e,f,g,h;
118   u64 w[80];
119   int t;
120   static const u64 k[]=
121     {
122       U64_C(0x428a2f98d728ae22), U64_C(0x7137449123ef65cd),
123       U64_C(0xb5c0fbcfec4d3b2f), U64_C(0xe9b5dba58189dbbc),
124       U64_C(0x3956c25bf348b538), U64_C(0x59f111f1b605d019),
125       U64_C(0x923f82a4af194f9b), U64_C(0xab1c5ed5da6d8118),
126       U64_C(0xd807aa98a3030242), U64_C(0x12835b0145706fbe),
127       U64_C(0x243185be4ee4b28c), U64_C(0x550c7dc3d5ffb4e2),
128       U64_C(0x72be5d74f27b896f), U64_C(0x80deb1fe3b1696b1),
129       U64_C(0x9bdc06a725c71235), U64_C(0xc19bf174cf692694),
130       U64_C(0xe49b69c19ef14ad2), U64_C(0xefbe4786384f25e3),
131       U64_C(0x0fc19dc68b8cd5b5), U64_C(0x240ca1cc77ac9c65),
132       U64_C(0x2de92c6f592b0275), U64_C(0x4a7484aa6ea6e483),
133       U64_C(0x5cb0a9dcbd41fbd4), U64_C(0x76f988da831153b5),
134       U64_C(0x983e5152ee66dfab), U64_C(0xa831c66d2db43210),
135       U64_C(0xb00327c898fb213f), U64_C(0xbf597fc7beef0ee4),
136       U64_C(0xc6e00bf33da88fc2), U64_C(0xd5a79147930aa725),
137       U64_C(0x06ca6351e003826f), U64_C(0x142929670a0e6e70),
138       U64_C(0x27b70a8546d22ffc), U64_C(0x2e1b21385c26c926),
139       U64_C(0x4d2c6dfc5ac42aed), U64_C(0x53380d139d95b3df),
140       U64_C(0x650a73548baf63de), U64_C(0x766a0abb3c77b2a8),
141       U64_C(0x81c2c92e47edaee6), U64_C(0x92722c851482353b),
142       U64_C(0xa2bfe8a14cf10364), U64_C(0xa81a664bbc423001),
143       U64_C(0xc24b8b70d0f89791), U64_C(0xc76c51a30654be30),
144       U64_C(0xd192e819d6ef5218), U64_C(0xd69906245565a910),
145       U64_C(0xf40e35855771202a), U64_C(0x106aa07032bbd1b8),
146       U64_C(0x19a4c116b8d2d0c8), U64_C(0x1e376c085141ab53),
147       U64_C(0x2748774cdf8eeb99), U64_C(0x34b0bcb5e19b48a8),
148       U64_C(0x391c0cb3c5c95a63), U64_C(0x4ed8aa4ae3418acb),
149       U64_C(0x5b9cca4f7763e373), U64_C(0x682e6ff3d6b2b8a3),
150       U64_C(0x748f82ee5defb2fc), U64_C(0x78a5636f43172f60),
151       U64_C(0x84c87814a1f0ab72), U64_C(0x8cc702081a6439ec),
152       U64_C(0x90befffa23631e28), U64_C(0xa4506cebde82bde9),
153       U64_C(0xbef9a3f7b2c67915), U64_C(0xc67178f2e372532b),
154       U64_C(0xca273eceea26619c), U64_C(0xd186b8c721c0c207),
155       U64_C(0xeada7dd6cde0eb1e), U64_C(0xf57d4f7fee6ed178),
156       U64_C(0x06f067aa72176fba), U64_C(0x0a637dc5a2c898a6),
157       U64_C(0x113f9804bef90dae), U64_C(0x1b710b35131c471b),
158       U64_C(0x28db77f523047d84), U64_C(0x32caab7b40c72493),
159       U64_C(0x3c9ebe0a15c9bebc), U64_C(0x431d67c49c100d4c),
160       U64_C(0x4cc5d4becb3e42b6), U64_C(0x597f299cfc657e2a),
161       U64_C(0x5fcb6fab3ad6faec), U64_C(0x6c44198c4a475817)
162     };
163
164   /* get values from the chaining vars */
165   a = hd->h0;
166   b = hd->h1;
167   c = hd->h2;
168   d = hd->h3;
169   e = hd->h4;
170   f = hd->h5;
171   g = hd->h6;
172   h = hd->h7;
173
174 #if BIG_ENDIAN_HOST
175   memcpy( w, data, 128 );
176 #else
177   {
178     int i;
179     byte *p2;
180
181     for(i=0, p2=(byte*)w; i < 16; i++, p2 += 8 )
182       {
183         p2[7] = *data++;
184         p2[6] = *data++;
185         p2[5] = *data++;
186         p2[4] = *data++;
187         p2[3] = *data++;
188         p2[2] = *data++;
189         p2[1] = *data++;
190         p2[0] = *data++;
191       }
192   }
193 #endif
194
195 #define ROTR(x,n) (((x)>>(n)) | ((x)<<(64-(n))))
196 #define Ch(x,y,z) (((x) & (y)) ^ ((~(x)) & (z)))
197 #define Maj(x,y,z) (((x) & (y)) ^ ((x) & (z)) ^ ((y) & (z)))
198 #define Sum0(x) (ROTR((x),28) ^ ROTR((x),34) ^ ROTR((x),39))
199 #define Sum1(x) (ROTR((x),14) ^ ROTR((x),18) ^ ROTR((x),41))
200 #define S0(x) (ROTR((x),1) ^ ROTR((x),8) ^ ((x)>>7))
201 #define S1(x) (ROTR((x),19) ^ ROTR((x),61) ^ ((x)>>6))
202
203   for(t=16;t<80;t++)
204     w[t] = S1(w[t-2]) + w[t-7] + S0(w[t-15]) + w[t-16];
205
206   for(t=0;t<80;t++)
207     {
208       u64 t1,t2;
209
210       t1=h+Sum1(e)+Ch(e,f,g)+k[t]+w[t];
211       t2=Sum0(a)+Maj(a,b,c);
212       h=g;
213       g=f;
214       f=e;
215       e=d+t1;
216       d=c;
217       c=b;
218       b=a;
219       a=t1+t2;
220
221       /* printf("t=%d a=%016llX b=%016llX c=%016llX d=%016llX e=%016llX f=%016llX g=%016llX h=%016llX\n",t,a,b,c,d,e,f,g,h); */
222     }
223
224   /* update chaining vars */
225   hd->h0 += a;
226   hd->h1 += b;
227   hd->h2 += c;
228   hd->h3 += d;
229   hd->h4 += e;
230   hd->h5 += f;
231   hd->h6 += g;
232   hd->h7 += h;
233 }
234
235
236 /* Update the message digest with the contents
237  * of INBUF with length INLEN.
238  */
239 static void
240 sha512_write( SHA512_CONTEXT *hd, byte *inbuf, size_t inlen)
241 {
242     if( hd->count == 128 ) { /* flush the buffer */
243         transform( hd, hd->buf );
244         burn_stack (768);
245         hd->count = 0;
246         hd->nblocks++;
247     }
248     if( !inbuf )
249         return;
250     if( hd->count ) {
251         for( ; inlen && hd->count < 128; inlen-- )
252             hd->buf[hd->count++] = *inbuf++;
253         sha512_write( hd, NULL, 0 );
254         if( !inlen )
255             return;
256     }
257
258     while( inlen >= 128 ) {
259         transform( hd, inbuf );
260         hd->count = 0;
261         hd->nblocks++;
262         inlen -= 128;
263         inbuf += 128;
264     }
265     burn_stack (768);
266     for( ; inlen && hd->count < 128; inlen-- )
267         hd->buf[hd->count++] = *inbuf++;
268 }
269
270
271 /* The routine final terminates the computation and
272  * returns the digest.
273  * The handle is prepared for a new cycle, but adding bytes to the
274  * handle will the destroy the returned buffer.
275  * Returns: 64 bytes representing the digest.  When used for sha384,
276  * we take the leftmost 48 of those bytes.
277  */
278
279 static void
280 sha512_final(SHA512_CONTEXT *hd)
281 {
282     u64 t, msb, lsb;
283     byte *p;
284
285     sha512_write(hd, NULL, 0); /* flush */;
286
287     t = hd->nblocks;
288     /* multiply by 128 to make a byte count */
289     lsb = t << 7;
290     msb = t >> 57;
291     /* add the count */
292     t = lsb;
293     if( (lsb += hd->count) < t )
294         msb++;
295     /* multiply by 8 to make a bit count */
296     t = lsb;
297     lsb <<= 3;
298     msb <<= 3;
299     msb |= t >> 61;
300
301     if( hd->count < 112 ) { /* enough room */
302         hd->buf[hd->count++] = 0x80; /* pad */
303         while( hd->count < 112 )
304             hd->buf[hd->count++] = 0;  /* pad */
305     }
306     else { /* need one extra block */
307         hd->buf[hd->count++] = 0x80; /* pad character */
308         while( hd->count < 128 )
309             hd->buf[hd->count++] = 0;
310         sha512_write(hd, NULL, 0);  /* flush */;
311         memset(hd->buf, 0, 112 ); /* fill next block with zeroes */
312     }
313     /* append the 128 bit count */
314     hd->buf[112] = msb >> 56;
315     hd->buf[113] = msb >> 48;
316     hd->buf[114] = msb >> 40;
317     hd->buf[115] = msb >> 32;
318     hd->buf[116] = msb >> 24;
319     hd->buf[117] = msb >> 16;
320     hd->buf[118] = msb >>  8;
321     hd->buf[119] = msb     ;
322
323     hd->buf[120] = lsb >> 56;
324     hd->buf[121] = lsb >> 48;
325     hd->buf[122] = lsb >> 40;
326     hd->buf[123] = lsb >> 32;
327     hd->buf[124] = lsb >> 24;
328     hd->buf[125] = lsb >> 16;
329     hd->buf[126] = lsb >>  8;
330     hd->buf[127] = lsb     ;
331     transform( hd, hd->buf );
332     burn_stack (768);
333
334     p = hd->buf;
335 #if BIG_ENDIAN_HOST
336 #define X(a) do { *(u64*)p = hd->h##a ; p += 8; } while(0)
337 #else /* little endian */
338 #define X(a) do { *p++ = hd->h##a >> 56; *p++ = hd->h##a >> 48;  \
339                       *p++ = hd->h##a >> 40; *p++ = hd->h##a >> 32;      \
340                       *p++ = hd->h##a >> 24; *p++ = hd->h##a >> 16;      \
341                       *p++ = hd->h##a >> 8; *p++ = hd->h##a; } while(0)
342 #endif
343     X(0);
344     X(1);
345     X(2);
346     X(3);
347     X(4);
348     X(5);
349     /* Note that these last two chunks are included even for SHA384.
350        We just ignore them. */
351     X(6);
352     X(7);
353 #undef X
354 }
355
356 static byte *
357 sha512_read( SHA512_CONTEXT *hd )
358 {
359   return hd->buf;
360 }
361
362 /****************
363  * Return some information about the algorithm.  We need algo here to
364  * distinguish different flavors of the algorithm.
365  * Returns: A pointer to string describing the algorithm or NULL if
366  *          the ALGO is invalid.
367  */
368 const char *
369 sha512_get_info( int algo, size_t *contextsize,
370                  byte **r_asnoid, int *r_asnlen, int *r_mdlen,
371                  void (**r_init)( void *c ),
372                  void (**r_write)( void *c, byte *buf, size_t nbytes ),
373                  void (**r_final)( void *c ),
374                  byte *(**r_read)( void *c )
375                  )
376 {
377   static byte asn[] = /* Object ID is 2.16.840.1.101.3.4.2.3 */
378     { 
379       0x30, 0x51, 0x30, 0x0d, 0x06, 0x09, 0x60, 0x86,
380       0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x03, 0x05,
381       0x00, 0x04, 0x40
382     };
383
384     if( algo != 10 )
385         return NULL;
386
387     *contextsize = sizeof(SHA512_CONTEXT);
388     *r_asnoid = asn;
389     *r_asnlen = DIM(asn);
390     *r_mdlen = 64;
391     *(void  (**)(SHA512_CONTEXT *))r_init                 = sha512_init;
392     *(void  (**)(SHA512_CONTEXT *, byte*, size_t))r_write = sha512_write;
393     *(void  (**)(SHA512_CONTEXT *))r_final                = sha512_final;
394     *(byte *(**)(SHA512_CONTEXT *))r_read                 = sha512_read;
395
396     return "SHA512";
397 }
398
399 /* SHA384 is really a truncated SHA512 with a different
400    initialization */
401 const char *
402 sha384_get_info( int algo, size_t *contextsize,
403                  byte **r_asnoid, int *r_asnlen, int *r_mdlen,
404                  void (**r_init)( void *c ),
405                  void (**r_write)( void *c, byte *buf, size_t nbytes ),
406                  void (**r_final)( void *c ),
407                  byte *(**r_read)( void *c )
408                  )
409 {
410   static byte asn[] = /* Object ID is 2.16.840.1.101.3.4.2.2 */
411     {
412       0x30, 0x41, 0x30, 0x0d, 0x06, 0x09, 0x60, 0x86,
413       0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x02, 0x05,
414       0x00, 0x04, 0x30
415     };
416
417     if( algo != 9 )
418         return NULL;
419
420     *contextsize = sizeof(SHA512_CONTEXT);
421     *r_asnoid = asn;
422     *r_asnlen = DIM(asn);
423     *r_mdlen = 48;
424     *(void  (**)(SHA512_CONTEXT *))r_init                 = sha384_init;
425     *(void  (**)(SHA512_CONTEXT *, byte*, size_t))r_write = sha512_write;
426     *(void  (**)(SHA512_CONTEXT *))r_final                = sha512_final;
427     *(byte *(**)(SHA512_CONTEXT *))r_read                 = sha512_read;
428
429     return "SHA384";
430 }