Add a bad-case test for the key generation.
[libgcrypt.git] / mpi / mpiutil.c
1 /* mpiutil.ac  -  Utility functions for MPI
2  * Copyright (C) 1998, 2000, 2001, 2002, 2003,
3  *               2007  Free Software Foundation, Inc.
4  *
5  * This file is part of Libgcrypt.
6  *
7  * Libgcrypt is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU Lesser General Public License as
9  * published by the Free Software Foundation; either version 2.1 of
10  * the License, or (at your option) any later version.
11  *
12  * Libgcrypt is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with this program; if not, see <http://www.gnu.org/licenses/>.
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25
26 #include "g10lib.h"
27 #include "mpi-internal.h"
28 #include "memory.h"
29 #include "mod-source-info.h"
30
31
32 const char *
33 _gcry_mpi_get_hw_config (void)
34 {
35   return mod_source_info + 1;
36 }
37
38
39 /****************
40  * Note:  It was a bad idea to use the number of limbs to allocate
41  *        because on a alpha the limbs are large but we normally need
42  *        integers of n bits - So we should change this to bits (or bytes).
43  *
44  *        But mpi_alloc is used in a lot of places :-(.  New code
45  *        should use mpi_new.
46  */
47 gcry_mpi_t
48 _gcry_mpi_alloc( unsigned nlimbs )
49 {
50     gcry_mpi_t a;
51
52     a = gcry_xmalloc( sizeof *a );
53     a->d = nlimbs? mpi_alloc_limb_space( nlimbs, 0 ) : NULL;
54     a->alloced = nlimbs;
55     a->nlimbs = 0;
56     a->sign = 0;
57     a->flags = 0;
58     return a;
59 }
60
61 void
62 _gcry_mpi_m_check( gcry_mpi_t a )
63 {
64     _gcry_check_heap(a);
65     _gcry_check_heap(a->d);
66 }
67
68 gcry_mpi_t
69 _gcry_mpi_alloc_secure( unsigned nlimbs )
70 {
71     gcry_mpi_t a;
72
73     a = gcry_xmalloc( sizeof *a );
74     a->d = nlimbs? mpi_alloc_limb_space( nlimbs, 1 ) : NULL;
75     a->alloced = nlimbs;
76     a->flags = 1;
77     a->nlimbs = 0;
78     a->sign = 0;
79     return a;
80 }
81
82
83
84 mpi_ptr_t
85 _gcry_mpi_alloc_limb_space( unsigned int nlimbs, int secure )
86 {
87     mpi_ptr_t p;
88     size_t len;
89
90     len = (nlimbs ? nlimbs : 1) * sizeof (mpi_limb_t);
91     p = secure ? gcry_xmalloc_secure (len) : gcry_xmalloc (len);
92     if (! nlimbs)
93       *p = 0;
94
95     return p;
96 }
97
98 void
99 _gcry_mpi_free_limb_space( mpi_ptr_t a, unsigned int nlimbs)
100 {
101   if (a)
102     {
103       size_t len = nlimbs * sizeof(mpi_limb_t);
104       
105       /* If we have information on the number of allocated limbs, we
106          better wipe that space out.  This is a failsafe feature if
107          secure memory has been disabled or was not properly
108          implemented in user provided allocation functions. */
109       if (len)
110         wipememory (a, len);
111       gcry_free(a);
112     }
113 }
114
115
116 void
117 _gcry_mpi_assign_limb_space( gcry_mpi_t a, mpi_ptr_t ap, unsigned int nlimbs )
118 {
119   _gcry_mpi_free_limb_space (a->d, a->alloced);
120   a->d = ap;
121   a->alloced = nlimbs;
122 }
123
124
125
126 /****************
127  * Resize the array of A to NLIMBS. The additional space is cleared
128  * (set to 0).
129  */
130 void
131 _gcry_mpi_resize (gcry_mpi_t a, unsigned nlimbs)
132 {
133   size_t i;
134
135   if (nlimbs <= a->alloced)
136     {
137       /* We only need to clear the new space (this is a nop if the
138          limb space is already of the correct size. */
139       for (i=a->nlimbs; i < a->alloced; i++)
140         a->d[i] = 0;
141       return; 
142     }
143
144   /* Actually resize the limb space.  */
145   if (a->d)
146     {
147       a->d = gcry_xrealloc (a->d, nlimbs * sizeof (mpi_limb_t));
148       for (i=a->alloced; i < nlimbs; i++)
149         a->d[i] = 0;
150     }
151   else
152     {
153       if (a->flags & 1)
154         /* Secure memory is wanted.  */
155         a->d = gcry_xcalloc_secure (nlimbs , sizeof (mpi_limb_t));
156       else
157         /* Standard memory.  */
158         a->d = gcry_xcalloc (nlimbs , sizeof (mpi_limb_t));
159     }
160   a->alloced = nlimbs;
161 }
162
163 void
164 _gcry_mpi_clear( gcry_mpi_t a )
165 {
166     a->nlimbs = 0;
167     a->flags = 0;
168 }
169
170
171 void
172 _gcry_mpi_free( gcry_mpi_t a )
173 {
174   if (!a )
175     return;
176   if ((a->flags & 4))
177     gcry_free( a->d );
178   else
179     {
180       _gcry_mpi_free_limb_space(a->d, a->alloced);
181     }
182   if ((a->flags & ~7))
183     log_bug("invalid flag value in mpi\n");
184   gcry_free(a);
185 }
186
187 static void
188 mpi_set_secure( gcry_mpi_t a )
189 {
190   mpi_ptr_t ap, bp;
191
192   if ( (a->flags & 1) )
193     return;
194   a->flags |= 1;
195   ap = a->d;
196   if (!a->nlimbs)
197     {
198       gcry_assert (!ap);
199       return;
200     }
201   bp = mpi_alloc_limb_space (a->nlimbs, 1);
202   MPN_COPY( bp, ap, a->nlimbs );
203   a->d = bp;
204   _gcry_mpi_free_limb_space (ap, a->alloced);
205 }
206
207
208 gcry_mpi_t
209 gcry_mpi_set_opaque( gcry_mpi_t a, void *p, unsigned int nbits )
210 {
211   if (!a) 
212     a = mpi_alloc(0);
213     
214   if( a->flags & 4 )
215     gcry_free( a->d );
216   else 
217     _gcry_mpi_free_limb_space (a->d, a->alloced);
218
219   a->d = p;
220   a->alloced = 0;
221   a->nlimbs = 0;
222   a->sign  = nbits;
223   a->flags = 4;
224   return a;
225 }
226
227
228 void *
229 gcry_mpi_get_opaque( gcry_mpi_t a, unsigned int *nbits )
230 {
231     if( !(a->flags & 4) )
232         log_bug("mpi_get_opaque on normal mpi\n");
233     if( nbits )
234         *nbits = a->sign;
235     return a->d;
236 }
237
238
239 /****************
240  * Note: This copy function should not interpret the MPI
241  *       but copy it transparently.
242  */
243 gcry_mpi_t
244 gcry_mpi_copy( gcry_mpi_t a )
245 {
246     int i;
247     gcry_mpi_t b;
248
249     if( a && (a->flags & 4) ) {
250         void *p = gcry_is_secure(a->d)? gcry_xmalloc_secure( (a->sign+7)/8 )
251                                      : gcry_xmalloc( (a->sign+7)/8 );
252         memcpy( p, a->d, (a->sign+7)/8 );
253         b = gcry_mpi_set_opaque( NULL, p, a->sign );
254     }
255     else if( a ) {
256         b = mpi_is_secure(a)? mpi_alloc_secure( a->nlimbs )
257                             : mpi_alloc( a->nlimbs );
258         b->nlimbs = a->nlimbs;
259         b->sign = a->sign;
260         b->flags  = a->flags;
261         for(i=0; i < b->nlimbs; i++ )
262             b->d[i] = a->d[i];
263     }
264     else
265         b = NULL;
266     return b;
267 }
268
269
270 /****************
271  * This function allocates an MPI which is optimized to hold
272  * a value as large as the one given in the argument and allocates it
273  * with the same flags as A.
274  */
275 gcry_mpi_t
276 _gcry_mpi_alloc_like( gcry_mpi_t a )
277 {
278     gcry_mpi_t b;
279
280     if( a && (a->flags & 4) ) {
281         int n = (a->sign+7)/8;
282         void *p = gcry_is_secure(a->d)? gcry_malloc_secure( n )
283                                      : gcry_malloc( n );
284         memcpy( p, a->d, n );
285         b = gcry_mpi_set_opaque( NULL, p, a->sign );
286     }
287     else if( a ) {
288         b = mpi_is_secure(a)? mpi_alloc_secure( a->nlimbs )
289                             : mpi_alloc( a->nlimbs );
290         b->nlimbs = 0;
291         b->sign = 0;
292         b->flags = a->flags;
293     }
294     else
295         b = NULL;
296     return b;
297 }
298
299
300 gcry_mpi_t
301 gcry_mpi_set( gcry_mpi_t w, gcry_mpi_t u)
302 {
303   mpi_ptr_t wp, up;
304   mpi_size_t usize = u->nlimbs;
305   int usign = u->sign;
306   
307   if (!w)
308     w = _gcry_mpi_alloc( mpi_get_nlimbs(u) );
309   RESIZE_IF_NEEDED(w, usize);
310   wp = w->d;
311   up = u->d;
312   MPN_COPY( wp, up, usize );
313   w->nlimbs = usize;
314   w->flags = u->flags;
315   w->sign = usign;
316   return w;
317 }
318
319
320 gcry_mpi_t
321 gcry_mpi_set_ui( gcry_mpi_t w, unsigned long u)
322 {
323   if (!w)
324     w = _gcry_mpi_alloc (1);
325   /* FIXME: If U is 0 we have no need to resize and thus possible
326      allocating the the limbs. */
327   RESIZE_IF_NEEDED(w, 1);
328   w->d[0] = u;
329   w->nlimbs = u? 1:0;
330   w->sign = 0;
331   w->flags = 0;
332   return w;
333 }
334
335 gcry_err_code_t
336 _gcry_mpi_get_ui (gcry_mpi_t w, unsigned long *u)
337 {
338   gcry_err_code_t err = GPG_ERR_NO_ERROR;
339   unsigned long x = 0;
340
341   if (w->nlimbs > 1)
342     err = GPG_ERR_TOO_LARGE;
343   else if (w->nlimbs == 1)
344     x = w->d[0];
345   else
346     x = 0;
347
348   if (! err)
349     *u = x;
350   
351   return err;
352 }
353
354 gcry_error_t
355 gcry_mpi_get_ui (gcry_mpi_t w, unsigned long *u)
356 {
357   gcry_err_code_t err = GPG_ERR_NO_ERROR;
358
359   err = _gcry_mpi_get_ui (w, u);
360   
361   return gcry_error (err);
362 }
363
364 gcry_mpi_t
365 _gcry_mpi_alloc_set_ui( unsigned long u)
366 {
367     gcry_mpi_t w = mpi_alloc(1);
368     w->d[0] = u;
369     w->nlimbs = u? 1:0;
370     w->sign = 0;
371     return w;
372 }
373
374 void
375 gcry_mpi_swap( gcry_mpi_t a, gcry_mpi_t b)
376 {
377     struct gcry_mpi tmp;
378
379     tmp = *a; *a = *b; *b = tmp;
380 }
381
382
383 gcry_mpi_t
384 gcry_mpi_new( unsigned int nbits )
385 {
386     return _gcry_mpi_alloc ( (nbits+BITS_PER_MPI_LIMB-1)
387                              / BITS_PER_MPI_LIMB );
388 }
389
390
391 gcry_mpi_t
392 gcry_mpi_snew( unsigned int nbits )
393 {
394   return _gcry_mpi_alloc_secure ( (nbits+BITS_PER_MPI_LIMB-1)
395                                   / BITS_PER_MPI_LIMB );
396 }
397
398 void
399 gcry_mpi_release( gcry_mpi_t a )
400 {
401     _gcry_mpi_free( a );
402 }
403
404 void
405 gcry_mpi_randomize( gcry_mpi_t w,
406                     unsigned int nbits, enum gcry_random_level level )
407 {
408   unsigned char *p;
409   size_t nbytes = (nbits+7)/8;
410   
411   if (level == GCRY_WEAK_RANDOM)
412     {
413       p = mpi_is_secure(w) ? gcry_xmalloc_secure (nbytes)
414                            : gcry_xmalloc (nbytes);
415       gcry_create_nonce (p, nbytes);
416     }
417   else
418     {
419       p = mpi_is_secure(w) ? gcry_random_bytes_secure (nbytes, level)
420                            : gcry_random_bytes (nbytes, level);
421     }
422   _gcry_mpi_set_buffer( w, p, nbytes, 0 );
423   gcry_free (p);
424 }
425
426
427 void
428 gcry_mpi_set_flag( gcry_mpi_t a, enum gcry_mpi_flag flag )
429 {
430     switch( flag ) {
431       case GCRYMPI_FLAG_SECURE:  mpi_set_secure(a); break;
432       case GCRYMPI_FLAG_OPAQUE:
433       default: log_bug("invalid flag value\n");
434     }
435 }
436
437 void
438 gcry_mpi_clear_flag( gcry_mpi_t a, enum gcry_mpi_flag flag )
439 {
440   (void)a; /* Not yet used. */
441
442   switch (flag)
443     {
444     case GCRYMPI_FLAG_SECURE:
445     case GCRYMPI_FLAG_OPAQUE:
446     default: log_bug("invalid flag value\n");
447     }
448 }
449
450 int
451 gcry_mpi_get_flag( gcry_mpi_t a, enum gcry_mpi_flag flag )
452 {
453   switch (flag)
454     {
455     case GCRYMPI_FLAG_SECURE: return (a->flags & 1);
456     case GCRYMPI_FLAG_OPAQUE: return (a->flags & 4);
457     default: log_bug("invalid flag value\n");
458     }
459   /*NOTREACHED*/
460   return 0;
461 }
462