A whole bunch of changes to eventually support
[libgcrypt.git] / cipher / sha512.c
1 /* sha512.c - SHA384 and SHA512 hash functions
2  *      Copyright (C) 2003, 2008 Free Software Foundation, Inc.
3  *
4  * This file is part of Libgcrypt.
5  *
6  * Libgcrypt is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU Lesser general Public License as
8  * published by the Free Software Foundation; either version 2.1 of
9  * the License, or (at your option) any later version.
10  *
11  * Libgcrypt is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this program; if not, see <http://www.gnu.org/licenses/>.
18  */
19
20
21 /*  Test vectors from FIPS-180-2:
22  *
23  *  "abc"
24  * 384:
25  *  CB00753F 45A35E8B B5A03D69 9AC65007 272C32AB 0EDED163
26  *  1A8B605A 43FF5BED 8086072B A1E7CC23 58BAECA1 34C825A7
27  * 512:
28  *  DDAF35A1 93617ABA CC417349 AE204131 12E6FA4E 89A97EA2 0A9EEEE6 4B55D39A
29  *  2192992A 274FC1A8 36BA3C23 A3FEEBBD 454D4423 643CE80E 2A9AC94F A54CA49F
30  *
31  *  "abcdefghbcdefghicdefghijdefghijkefghijklfghijklmghijklmnhijklmnoijklmnopjklmnopqklmnopqrlmnopqrsmnopqrstnopqrstu"
32  * 384:
33  *  09330C33 F71147E8 3D192FC7 82CD1B47 53111B17 3B3B05D2
34  *  2FA08086 E3B0F712 FCC7C71A 557E2DB9 66C3E9FA 91746039
35  * 512:
36  *  8E959B75 DAE313DA 8CF4F728 14FC143F 8F7779C6 EB9F7FA1 7299AEAD B6889018
37  *  501D289E 4900F7E4 331B99DE C4B5433A C7D329EE B6DD2654 5E96E55B 874BE909
38  *
39  *  "a" x 1000000
40  * 384:
41  *  9D0E1809 716474CB 086E834E 310A4A1C ED149E9C 00F24852
42  *  7972CEC5 704C2A5B 07B8B3DC 38ECC4EB AE97DDD8 7F3D8985
43  * 512:
44  *  E718483D 0CE76964 4E2E42C7 BC15B463 8E1F98B1 3B204428 5632A803 AFA973EB
45  *  DE0FF244 877EA60A 4CB0432C E577C31B EB009C5C 2C49AA2E 4EADB217 AD8CC09B
46  */
47
48
49 #include <config.h>
50 #include <string.h>
51 #include "g10lib.h"
52 #include "bithelp.h"
53 #include "cipher.h"
54
55 typedef struct
56 {
57   u64 h0, h1, h2, h3, h4, h5, h6, h7;
58   u64 nblocks;
59   byte buf[128];
60   int count;
61 } SHA512_CONTEXT;
62
63 static void
64 sha512_init (void *context)
65 {
66   SHA512_CONTEXT *hd = context;
67
68   hd->h0 = U64_C(0x6a09e667f3bcc908);
69   hd->h1 = U64_C(0xbb67ae8584caa73b);
70   hd->h2 = U64_C(0x3c6ef372fe94f82b);
71   hd->h3 = U64_C(0xa54ff53a5f1d36f1);
72   hd->h4 = U64_C(0x510e527fade682d1);
73   hd->h5 = U64_C(0x9b05688c2b3e6c1f);
74   hd->h6 = U64_C(0x1f83d9abfb41bd6b);
75   hd->h7 = U64_C(0x5be0cd19137e2179);
76
77   hd->nblocks = 0;
78   hd->count = 0;
79 }
80
81 static void
82 sha384_init (void *context)
83 {
84   SHA512_CONTEXT *hd = context;
85
86   hd->h0 = U64_C(0xcbbb9d5dc1059ed8);
87   hd->h1 = U64_C(0x629a292a367cd507);
88   hd->h2 = U64_C(0x9159015a3070dd17);
89   hd->h3 = U64_C(0x152fecd8f70e5939);
90   hd->h4 = U64_C(0x67332667ffc00b31);
91   hd->h5 = U64_C(0x8eb44a8768581511);
92   hd->h6 = U64_C(0xdb0c2e0d64f98fa7);
93   hd->h7 = U64_C(0x47b5481dbefa4fa4);
94
95   hd->nblocks = 0;
96   hd->count = 0;
97 }
98
99
100 /****************
101  * Transform the message W which consists of 16 64-bit-words
102  */
103 static void
104 transform (SHA512_CONTEXT *hd, const unsigned char *data)
105 {
106   u64 a, b, c, d, e, f, g, h;
107   u64 w[80];
108   int t;
109   static const u64 k[] =
110     {
111       U64_C(0x428a2f98d728ae22), U64_C(0x7137449123ef65cd),
112       U64_C(0xb5c0fbcfec4d3b2f), U64_C(0xe9b5dba58189dbbc),
113       U64_C(0x3956c25bf348b538), U64_C(0x59f111f1b605d019),
114       U64_C(0x923f82a4af194f9b), U64_C(0xab1c5ed5da6d8118),
115       U64_C(0xd807aa98a3030242), U64_C(0x12835b0145706fbe),
116       U64_C(0x243185be4ee4b28c), U64_C(0x550c7dc3d5ffb4e2),
117       U64_C(0x72be5d74f27b896f), U64_C(0x80deb1fe3b1696b1),
118       U64_C(0x9bdc06a725c71235), U64_C(0xc19bf174cf692694),
119       U64_C(0xe49b69c19ef14ad2), U64_C(0xefbe4786384f25e3),
120       U64_C(0x0fc19dc68b8cd5b5), U64_C(0x240ca1cc77ac9c65),
121       U64_C(0x2de92c6f592b0275), U64_C(0x4a7484aa6ea6e483),
122       U64_C(0x5cb0a9dcbd41fbd4), U64_C(0x76f988da831153b5),
123       U64_C(0x983e5152ee66dfab), U64_C(0xa831c66d2db43210),
124       U64_C(0xb00327c898fb213f), U64_C(0xbf597fc7beef0ee4),
125       U64_C(0xc6e00bf33da88fc2), U64_C(0xd5a79147930aa725),
126       U64_C(0x06ca6351e003826f), U64_C(0x142929670a0e6e70),
127       U64_C(0x27b70a8546d22ffc), U64_C(0x2e1b21385c26c926),
128       U64_C(0x4d2c6dfc5ac42aed), U64_C(0x53380d139d95b3df),
129       U64_C(0x650a73548baf63de), U64_C(0x766a0abb3c77b2a8),
130       U64_C(0x81c2c92e47edaee6), U64_C(0x92722c851482353b),
131       U64_C(0xa2bfe8a14cf10364), U64_C(0xa81a664bbc423001),
132       U64_C(0xc24b8b70d0f89791), U64_C(0xc76c51a30654be30),
133       U64_C(0xd192e819d6ef5218), U64_C(0xd69906245565a910),
134       U64_C(0xf40e35855771202a), U64_C(0x106aa07032bbd1b8),
135       U64_C(0x19a4c116b8d2d0c8), U64_C(0x1e376c085141ab53),
136       U64_C(0x2748774cdf8eeb99), U64_C(0x34b0bcb5e19b48a8),
137       U64_C(0x391c0cb3c5c95a63), U64_C(0x4ed8aa4ae3418acb),
138       U64_C(0x5b9cca4f7763e373), U64_C(0x682e6ff3d6b2b8a3),
139       U64_C(0x748f82ee5defb2fc), U64_C(0x78a5636f43172f60),
140       U64_C(0x84c87814a1f0ab72), U64_C(0x8cc702081a6439ec),
141       U64_C(0x90befffa23631e28), U64_C(0xa4506cebde82bde9),
142       U64_C(0xbef9a3f7b2c67915), U64_C(0xc67178f2e372532b),
143       U64_C(0xca273eceea26619c), U64_C(0xd186b8c721c0c207),
144       U64_C(0xeada7dd6cde0eb1e), U64_C(0xf57d4f7fee6ed178),
145       U64_C(0x06f067aa72176fba), U64_C(0x0a637dc5a2c898a6),
146       U64_C(0x113f9804bef90dae), U64_C(0x1b710b35131c471b),
147       U64_C(0x28db77f523047d84), U64_C(0x32caab7b40c72493),
148       U64_C(0x3c9ebe0a15c9bebc), U64_C(0x431d67c49c100d4c),
149       U64_C(0x4cc5d4becb3e42b6), U64_C(0x597f299cfc657e2a),
150       U64_C(0x5fcb6fab3ad6faec), U64_C(0x6c44198c4a475817)
151     };
152
153   /* get values from the chaining vars */
154   a = hd->h0;
155   b = hd->h1;
156   c = hd->h2;
157   d = hd->h3;
158   e = hd->h4;
159   f = hd->h5;
160   g = hd->h6;
161   h = hd->h7;
162
163 #ifdef WORDS_BIGENDIAN
164   memcpy (w, data, 128);
165 #else
166   {
167     int i;
168     byte *p2;
169
170     for (i = 0, p2 = (byte *) w; i < 16; i++, p2 += 8)
171       {
172         p2[7] = *data++;
173         p2[6] = *data++;
174         p2[5] = *data++;
175         p2[4] = *data++;
176         p2[3] = *data++;
177         p2[2] = *data++;
178         p2[1] = *data++;
179         p2[0] = *data++;
180       }
181   }
182 #endif
183
184 #define ROTR(x,n) (((x)>>(n)) | ((x)<<(64-(n))))
185 #define Ch(x,y,z) (((x) & (y)) ^ ((~(x)) & (z)))
186 #define Maj(x,y,z) (((x) & (y)) ^ ((x) & (z)) ^ ((y) & (z)))
187 #define Sum0(x) (ROTR((x),28) ^ ROTR((x),34) ^ ROTR((x),39))
188 #define Sum1(x) (ROTR((x),14) ^ ROTR((x),18) ^ ROTR((x),41))
189 #define S0(x) (ROTR((x),1) ^ ROTR((x),8) ^ ((x)>>7))
190 #define S1(x) (ROTR((x),19) ^ ROTR((x),61) ^ ((x)>>6))
191
192   for (t = 16; t < 80; t++)
193     w[t] = S1 (w[t - 2]) + w[t - 7] + S0 (w[t - 15]) + w[t - 16];
194
195   for (t = 0; t < 80; t++)
196     {
197       u64 t1, t2;
198
199       t1 = h + Sum1 (e) + Ch (e, f, g) + k[t] + w[t];
200       t2 = Sum0 (a) + Maj (a, b, c);
201       h = g;
202       g = f;
203       f = e;
204       e = d + t1;
205       d = c;
206       c = b;
207       b = a;
208       a = t1 + t2;
209
210       /* printf("t=%d a=%016llX b=%016llX c=%016llX d=%016llX "
211           "e=%016llX f=%016llX g=%016llX h=%016llX\n",t,a,b,c,d,e,f,g,h); */
212     }
213
214   /* update chaining vars */
215   hd->h0 += a;
216   hd->h1 += b;
217   hd->h2 += c;
218   hd->h3 += d;
219   hd->h4 += e;
220   hd->h5 += f;
221   hd->h6 += g;
222   hd->h7 += h;
223 }
224
225
226 /* Update the message digest with the contents
227  * of INBUF with length INLEN.
228  */
229 static void
230 sha512_write (void *context, const void *inbuf_arg, size_t inlen)
231 {
232   const unsigned char *inbuf = inbuf_arg;
233   SHA512_CONTEXT *hd = context;
234
235   if (hd->count == 128)
236     {                           /* flush the buffer */
237       transform (hd, hd->buf);
238       _gcry_burn_stack (768);
239       hd->count = 0;
240       hd->nblocks++;
241     }
242   if (!inbuf)
243     return;
244   if (hd->count)
245     {
246       for (; inlen && hd->count < 128; inlen--)
247         hd->buf[hd->count++] = *inbuf++;
248       sha512_write (context, NULL, 0);
249       if (!inlen)
250         return;
251     }
252
253   while (inlen >= 128)
254     {
255       transform (hd, inbuf);
256       hd->count = 0;
257       hd->nblocks++;
258       inlen -= 128;
259       inbuf += 128;
260     }
261   _gcry_burn_stack (768);
262   for (; inlen && hd->count < 128; inlen--)
263     hd->buf[hd->count++] = *inbuf++;
264 }
265
266
267 /* The routine final terminates the computation and
268  * returns the digest.
269  * The handle is prepared for a new cycle, but adding bytes to the
270  * handle will the destroy the returned buffer.
271  * Returns: 64 bytes representing the digest.  When used for sha384,
272  * we take the leftmost 48 of those bytes.
273  */
274
275 static void
276 sha512_final (void *context)
277 {
278   SHA512_CONTEXT *hd = context;
279   u64 t, msb, lsb;
280   byte *p;
281
282   sha512_write (context, NULL, 0); /* flush */ ;
283
284   t = hd->nblocks;
285   /* multiply by 128 to make a byte count */
286   lsb = t << 7;
287   msb = t >> 57;
288   /* add the count */
289   t = lsb;
290   if ((lsb += hd->count) < t)
291     msb++;
292   /* multiply by 8 to make a bit count */
293   t = lsb;
294   lsb <<= 3;
295   msb <<= 3;
296   msb |= t >> 61;
297
298   if (hd->count < 112)
299     {                           /* enough room */
300       hd->buf[hd->count++] = 0x80;      /* pad */
301       while (hd->count < 112)
302         hd->buf[hd->count++] = 0;       /* pad */
303     }
304   else
305     {                           /* need one extra block */
306       hd->buf[hd->count++] = 0x80;      /* pad character */
307       while (hd->count < 128)
308         hd->buf[hd->count++] = 0;
309       sha512_write (context, NULL, 0); /* flush */ ;
310       memset (hd->buf, 0, 112); /* fill next block with zeroes */
311     }
312   /* append the 128 bit count */
313   hd->buf[112] = msb >> 56;
314   hd->buf[113] = msb >> 48;
315   hd->buf[114] = msb >> 40;
316   hd->buf[115] = msb >> 32;
317   hd->buf[116] = msb >> 24;
318   hd->buf[117] = msb >> 16;
319   hd->buf[118] = msb >> 8;
320   hd->buf[119] = msb;
321
322   hd->buf[120] = lsb >> 56;
323   hd->buf[121] = lsb >> 48;
324   hd->buf[122] = lsb >> 40;
325   hd->buf[123] = lsb >> 32;
326   hd->buf[124] = lsb >> 24;
327   hd->buf[125] = lsb >> 16;
328   hd->buf[126] = lsb >> 8;
329   hd->buf[127] = lsb;
330   transform (hd, hd->buf);
331   _gcry_burn_stack (768);
332
333   p = hd->buf;
334 #ifdef WORDS_BIGENDIAN
335 #define X(a) do { *(u64*)p = hd->h##a ; p += 8; } while (0)
336 #else /* little endian */
337 #define X(a) do { *p++ = hd->h##a >> 56; *p++ = hd->h##a >> 48;       \
338                   *p++ = hd->h##a >> 40; *p++ = hd->h##a >> 32;       \
339                   *p++ = hd->h##a >> 24; *p++ = hd->h##a >> 16;       \
340                   *p++ = hd->h##a >> 8;  *p++ = hd->h##a; } while (0)
341 #endif
342   X (0);
343   X (1);
344   X (2);
345   X (3);
346   X (4);
347   X (5);
348   /* Note that these last two chunks are included even for SHA384.
349      We just ignore them. */
350   X (6);
351   X (7);
352 #undef X
353 }
354
355 static byte *
356 sha512_read (void *context)
357 {
358   SHA512_CONTEXT *hd = (SHA512_CONTEXT *) context;
359   return hd->buf;
360 }
361
362
363 \f
364 /* 
365      Self-test section.
366  */
367
368
369 static gpg_err_code_t
370 selftests_sha384 (selftest_report_func_t report)
371 {
372   const char *what;
373   const char *errtxt;
374   
375   what = "low-level";
376   errtxt = NULL; /*selftest ();*/
377   if (errtxt)
378     goto failed;
379
380   /* FIXME:  need more tests.  */
381
382   return 0; /* Succeeded. */
383
384  failed:
385   if (report)
386     report ("digest", GCRY_MD_SHA384, what, errtxt);
387   return GPG_ERR_SELFTEST_FAILED;
388 }
389
390 static gpg_err_code_t
391 selftests_sha512 (selftest_report_func_t report)
392 {
393   const char *what;
394   const char *errtxt;
395   
396   what = "low-level";
397   errtxt = NULL; /*selftest ();*/
398   if (errtxt)
399     goto failed;
400
401   /* FIXME:  need more tests.  */
402
403   return 0; /* Succeeded. */
404
405  failed:
406   if (report)
407     report ("digest", GCRY_MD_SHA512, what, errtxt);
408   return GPG_ERR_SELFTEST_FAILED;
409 }
410
411
412 /* Run a full self-test for ALGO and return 0 on success.  */
413 static gpg_err_code_t
414 run_selftests (int algo, selftest_report_func_t report)
415 {
416   gpg_err_code_t ec;
417
418   switch (algo)
419     {
420     case GCRY_MD_SHA384:
421       ec = selftests_sha384 (report);
422       break;
423     case GCRY_MD_SHA512:
424       ec = selftests_sha512 (report);
425       break;
426     default:
427       ec = GPG_ERR_DIGEST_ALGO;
428       break;
429         
430     }
431   return ec;
432 }
433
434
435
436 \f
437 static byte sha512_asn[] =      /* Object ID is 2.16.840.1.101.3.4.2.3 */
438   {
439     0x30, 0x51, 0x30, 0x0d, 0x06, 0x09, 0x60, 0x86,
440     0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x03, 0x05,
441     0x00, 0x04, 0x40
442   };
443
444 static gcry_md_oid_spec_t oid_spec_sha512[] =
445   {
446     { "2.16.840.1.101.3.4.2.3" },
447
448     /* PKCS#1 sha512WithRSAEncryption */
449     { "1.2.840.113549.1.1.13" },
450
451     { NULL }
452   };
453
454 gcry_md_spec_t _gcry_digest_spec_sha512 = 
455   {
456     "SHA512", sha512_asn, DIM (sha512_asn), oid_spec_sha512, 64,
457     sha512_init, sha512_write, sha512_final, sha512_read,
458     sizeof (SHA512_CONTEXT),
459   };
460 md_extra_spec_t _gcry_digest_extraspec_sha512 = 
461   {
462     run_selftests
463   };
464
465 static byte sha384_asn[] =      /* Object ID is 2.16.840.1.101.3.4.2.2 */
466   {
467     0x30, 0x41, 0x30, 0x0d, 0x06, 0x09, 0x60, 0x86,
468     0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x02, 0x05,
469     0x00, 0x04, 0x30
470   };
471
472 static gcry_md_oid_spec_t oid_spec_sha384[] =
473   {
474     { "2.16.840.1.101.3.4.2.2" }, 
475
476     /* PKCS#1 sha384WithRSAEncryption */
477     { "1.2.840.113549.1.1.12" },
478
479     { NULL },
480   };
481
482 gcry_md_spec_t _gcry_digest_spec_sha384 = 
483   {
484     "SHA384", sha384_asn, DIM (sha384_asn), oid_spec_sha384, 48,
485     sha384_init, sha512_write, sha512_final, sha512_read,
486     sizeof (SHA512_CONTEXT),
487   };
488 md_extra_spec_t _gcry_digest_extraspec_sha384 = 
489   {
490     run_selftests
491   };