Sylvester Version
[gnupg.git] / cipher / primegen.c
1 /* primegen.c - prime number generator
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "mpi.h"
28 #include "cipher.h"
29
30 static int no_of_small_prime_numbers;
31 static MPI gen_prime( unsigned  nbits, int mode, int randomlevel );
32 static int check_prime( MPI prime );
33 static int is_prime( MPI n, int steps, int *count );
34 static void m_out_of_n( char *array, int m, int n );
35
36
37 /****************
38  * Generate a prime number (stored in secure memory)
39  */
40 MPI
41 generate_secret_prime( unsigned  nbits )
42 {
43     MPI prime;
44
45     prime = gen_prime( nbits, 1, 2 );
46     fputc('\n', stderr);
47     return prime;
48 }
49
50 MPI
51 generate_public_prime( unsigned  nbits )
52 {
53     MPI prime;
54
55     prime = gen_prime( nbits, 0, 2 );
56     fputc('\n', stderr);
57     return prime;
58 }
59
60
61 MPI
62 generate_elg_prime( unsigned pbits, unsigned qbits, MPI g )
63 {
64     int n;  /* number of factors */
65     int m;  /* number of primes in pool */
66     unsigned fbits; /* length of prime factors */
67     MPI *factors; /* curent factors */
68     MPI *pool;  /* pool of primes */
69     MPI q;      /* first prime factor */
70     MPI prime;  /* prime test value */
71     byte *perms = NULL;
72     int i, j;
73     int count1, count2;
74     unsigned nprime;
75
76     /* find number of needed prime factors */
77     for(n=1; (pbits - qbits - 1) / n  >= qbits; n++ )
78         ;
79     n--;
80     if( !n )
81         log_fatal("can't gen prime with pbits=%u qbits=%u\n", pbits, qbits );
82     fbits = (pbits - qbits -1) / n;
83     while( qbits + n*fbits < pbits )
84         qbits++;
85     if( DBG_CIPHER )
86         log_debug("gen prime: pbits=%u qbits=%u fbits=%u n=%d\n",
87                     pbits, qbits, fbits, n  );
88
89     prime = mpi_alloc( (pbits + BITS_PER_MPI_LIMB - 1) /  BITS_PER_MPI_LIMB );
90     q = gen_prime( qbits, 0, 2 );
91
92     /* allocate an array to hold the factors + 2 for later usage */
93     factors = m_alloc_clear( (n+2) * sizeof *factors );
94
95     /* make a pool of 3n+5 primes (this is an arbitrary value) */
96     m = n*3+5;
97     if( m < 25 )
98         m = 25;
99     pool = m_alloc_clear( m * sizeof *pool );
100
101     /* permutate over the pool of primes */
102     count1=count2=0;
103     do {
104       next_try:
105         if( !perms ) {
106             /* allocate new primes */
107             for(i=0; i < m; i++ ) {
108                 mpi_free(pool[i]);
109                 pool[i] = NULL;
110             }
111             /* init m_out_of_n() */
112             perms = m_alloc_clear( m );
113             for(i=0; i < n; i++ ) {
114                 perms[i] = 1;
115                 pool[i] = gen_prime( fbits, 0, 2 );
116                 factors[i] = pool[i];
117             }
118         }
119         else {
120             m_out_of_n( perms, n, m );
121             for(i=j=0; i < m && j < n ; i++ )
122                 if( perms[i] ) {
123                     if( !pool[i] )
124                         pool[i] = gen_prime( fbits, 0, 2 );
125                     factors[j++] = pool[i];
126                 }
127             if( i == n ) {
128                 m_free(perms); perms = NULL;
129                 fputc('!', stderr);
130                 goto next_try;  /* allocate new primes */
131             }
132         }
133
134         mpi_set( prime, q );
135         mpi_mul_ui( prime, prime, 2 );
136         for(i=0; i < n; i++ )
137             mpi_mul( prime, prime, factors[i] );
138         mpi_add_ui( prime, prime, 1 );
139         nprime = mpi_get_nbits(prime);
140         if( nprime < pbits ) {
141             if( ++count1 > 20 ) {
142                 count1 = 0;
143                 qbits++;
144                 fputc('>', stderr);
145                 q = gen_prime( qbits, 0, 2 );
146                 goto next_try;
147             }
148         }
149         else
150             count1 = 0;
151         if( nprime > pbits ) {
152             if( ++count2 > 20 ) {
153                 count2 = 0;
154                 qbits--;
155                 fputc('<', stderr);
156                 q = gen_prime( qbits, 0, 2 );
157                 goto next_try;
158             }
159         }
160         else
161             count2 = 0;
162     } while( !(nprime == pbits && check_prime( prime )) );
163
164
165     if( DBG_CIPHER ) {
166         putc('\n', stderr);
167         log_mpidump( "prime    : ", prime );
168         log_mpidump( "factor  q: ", q );
169         for(i=0; i < n; i++ )
170             log_mpidump( "factor pi: ", factors[i] );
171         log_debug("bit sizes: prime=%u, q=%u", mpi_get_nbits(prime), mpi_get_nbits(q) );
172         for(i=0; i < n; i++ )
173             fprintf(stderr, ", p%d=%u", i, mpi_get_nbits(factors[i]) );
174         putc('\n', stderr);
175     }
176
177     if( g ) { /* create a generator (start with 3)*/
178         MPI tmp   = mpi_alloc( mpi_get_nlimbs(prime) );
179         MPI b     = mpi_alloc( mpi_get_nlimbs(prime) );
180         MPI pmin1 = mpi_alloc( mpi_get_nlimbs(prime) );
181
182         factors[n] = q;
183         factors[n+1] = mpi_alloc_set_ui(2);
184         mpi_sub_ui( pmin1, prime, 1 );
185         mpi_set_ui(g,2);
186         do {
187             mpi_add_ui(g, g, 1);
188             if( DBG_CIPHER ) {
189                 log_debug("checking g: ");
190                 mpi_print( stderr, g, 1 );
191             }
192             else
193                 fputc('^', stderr);
194             for(i=0; i < n+2; i++ ) {
195                 fputc('~', stderr);
196                 mpi_fdiv_q(tmp, pmin1, factors[i] );
197                 /* (no mpi_pow(), but it is okay to use this with mod prime) */
198                 mpi_powm(b, g, tmp, prime );
199                 if( !mpi_cmp_ui(b, 1) )
200                     break;
201             }
202             if( DBG_CIPHER )
203                 fputc('\n', stderr);
204         } while( i < n+2 );
205         mpi_free(factors[n+1]);
206         mpi_free(tmp);
207         mpi_free(b);
208         mpi_free(pmin1);
209     }
210     if( !DBG_CIPHER )
211         putc('\n', stderr);
212
213     m_free( factors );  /* (factors are shallow copies) */
214     for(i=0; i < m; i++ )
215         mpi_free( pool[i] );
216     m_free( pool );
217     m_free(perms);
218     return prime;
219 }
220
221
222 static MPI
223 gen_prime( unsigned  nbits, int secret, int randomlevel )
224 {
225     unsigned  nlimbs;
226     MPI prime, val_2, val_3, result;
227     int i;
228     unsigned x, step;
229     unsigned count1, count2;
230     int *mods;
231
232     if( 0 && DBG_CIPHER )
233         log_debug("generate a prime of %u bits ", nbits );
234
235     if( !no_of_small_prime_numbers ) {
236         for(i=0; small_prime_numbers[i]; i++ )
237             no_of_small_prime_numbers++;
238     }
239     mods = m_alloc( no_of_small_prime_numbers * sizeof *mods );
240     /* make nbits fit into MPI implementation */
241     nlimbs = (nbits + BITS_PER_MPI_LIMB - 1) /  BITS_PER_MPI_LIMB;
242     assert( nlimbs );
243     val_2  = mpi_alloc( nlimbs );
244     mpi_set_ui(val_2, 2);
245     val_3  = mpi_alloc( nlimbs );
246     mpi_set_ui(val_3, 3);
247     result = mpi_alloc( nlimbs );
248     prime  = secret? mpi_alloc_secure( nlimbs ): mpi_alloc( nlimbs );
249     count1 = count2 = 0;
250     /* enter (endless) loop */
251     for(;;) {
252         /* generate a random number */
253         mpi_set_bytes( prime, nbits, get_random_byte, randomlevel );
254         /* set high order bit to 1, set low order bit to 1 */
255         mpi_set_highbit( prime, nbits-1 );
256         mpi_set_bit( prime, 0 );
257
258         /* calculate all remainders */
259         for(i=0; (x = small_prime_numbers[i]); i++ )
260             mods[i] = mpi_fdiv_r_ui(NULL, prime, x);
261
262         for(step=0; step < 20000; step += 2 ) {
263             /* check against all the small primes we have in mods */
264             count1++;
265             for(i=0; (x = small_prime_numbers[i]); i++ ) {
266                 while( mods[i] + step >= x )
267                     mods[i] -= x;
268                 if( !(mods[i] + step) )
269                     break;
270             }
271             if( x )
272                 continue;   /* found a multiple of a already known prime */
273
274             mpi_add_ui( prime, prime, step );
275
276            #if 0
277             /* do a Fermat test */
278             count2++;
279             mpi_powm( result, val_2, prime, prime );
280             if( mpi_cmp_ui(result, 2) )
281                 continue;  /* stepping (fermat test failed) */
282             fputc('+', stderr);
283            #endif
284
285             /* perform stronger tests */
286             if( is_prime(prime, 5, &count2 ) ) {
287                 if( !mpi_test_bit( prime, nbits-1 ) ) {
288                     if( 0 && DBG_CIPHER ) {
289                         fputc('\n', stderr);
290                         log_debug("overflow in prime generation\n");
291                         break; /* step loop, cont with a new prime */
292                     }
293                 }
294
295                 if( 0 && DBG_CIPHER ) {
296                     log_debug("performed %u simple and %u stronger tests\n",
297                                         count1, count2 );
298                     log_mpidump("found prime: ", prime );
299                 }
300
301                 mpi_free(val_2);
302                 mpi_free(val_3);
303                 mpi_free(result);
304                 m_free(mods);
305                 return prime;
306             }
307             fputc('.', stderr);
308         }
309         fputc(':', stderr); /* restart with a new random value */
310     }
311 }
312
313 /****************
314  * Returns: true if this is may me a prime
315  */
316 static int
317 check_prime( MPI prime )
318 {
319     int i;
320     unsigned x;
321     int count=0;
322     MPI result;
323     MPI val_2;
324
325     /* check against small primes */
326     for(i=0; (x = small_prime_numbers[i]); i++ ) {
327         if( mpi_divisible_ui( prime, x ) )
328             return 0;
329     }
330
331   #if 0
332     result = mpi_alloc( mpi_get_nlimbs(prime) );
333     val_2  = mpi_alloc_set_ui( 2 );
334     mpi_powm( result, val_2, prime, prime );
335     if( mpi_cmp_ui(result, 2) ) {
336         mpi_free(result);
337         mpi_free(val_2);
338         return 0;
339     }
340     mpi_free(result);
341     mpi_free(val_2);
342     fputc('+', stderr);
343   #endif
344
345     /* perform stronger tests */
346     if( is_prime(prime, 5, &count ) )
347         return 1; /* is probably a prime */
348     fputc('.', stderr);
349     return 0;
350 }
351
352
353 /****************
354  * Return true if n is propably a prime
355  */
356 static int
357 is_prime( MPI n, int steps, int *count )
358 {
359     MPI x = mpi_alloc( mpi_get_nlimbs( n ) );
360     MPI y = mpi_alloc( mpi_get_nlimbs( n ) );
361     MPI z = mpi_alloc( mpi_get_nlimbs( n ) );
362     MPI nminus1 = mpi_alloc( mpi_get_nlimbs( n ) );
363     MPI a2 = mpi_alloc_set_ui( 2 );
364     MPI q;
365     unsigned i, j, k;
366     int rc = 0;
367     unsigned nbits = mpi_get_nbits( n );
368
369     mpi_sub_ui( nminus1, n, 1 );
370
371     /* find q and k, so that n = 1 + 2^k * q */
372     q = mpi_copy( nminus1 );
373     k = mpi_trailing_zeros( q );
374     mpi_tdiv_q_2exp(q, q, k);
375
376     for(i=0 ; i < steps; i++ ) {
377         ++*count;
378         if( !i ) {
379             mpi_set_ui( x, 2 );
380         }
381         else {
382             mpi_set_bytes( x, nbits-1, get_random_byte, 0 );
383             /* work around a bug in mpi_set_bytes */
384             if( mpi_test_bit( x, nbits-2 ) )
385                 mpi_set_highbit( x, nbits-2 ); /* clear all higher bits */
386             else {
387                 mpi_set_highbit( x, nbits-2 );
388                 mpi_clear_bit( x, nbits-2 );
389             }
390             assert( mpi_cmp( x, nminus1 ) < 0 && mpi_cmp_ui( x, 1 ) > 0 );
391         }
392         mpi_powm( y, x, q, n);
393         if( mpi_cmp_ui(y, 1) && mpi_cmp( y, nminus1 ) ) {
394             for( j=1; j < k && mpi_cmp( y, nminus1 ); j++ ) {
395                 mpi_powm(y, y, a2, n);
396                 if( !mpi_cmp_ui( y, 1 ) )
397                     goto leave; /* not a prime */
398             }
399             if( mpi_cmp( y, nminus1 ) )
400                 goto leave; /* not a prime */
401         }
402         fputc('+', stderr);
403     }
404     rc = 1; /* may be a prime */
405
406   leave:
407     mpi_free( x );
408     mpi_free( y );
409     mpi_free( z );
410     mpi_free( nminus1 );
411     mpi_free( q );
412
413     return rc;
414 }
415
416
417 static void
418 m_out_of_n( char *array, int m, int n )
419 {
420     int i=0, i1=0, j=0, jp=0,  j1=0, k1=0, k2=0;
421
422     if( !m || m >= n )
423         return;
424
425     if( m == 1 ) { /* special case */
426         for(i=0; i < n; i++ )
427             if( array[i] ) {
428                 array[i++] = 0;
429                 if( i >= n )
430                     i = 0;
431                 array[i] = 1;
432                 return;
433             }
434         log_bug(NULL);
435     }
436
437     for(j=1; j < n; j++ ) {
438         if( array[n-1] == array[n-j-1] )
439             continue;
440         j1 = j;
441         break;
442     }
443
444     if( m & 1 ) { /* m is odd */
445         if( array[n-1] ) {
446             if( j1 & 1 ) {
447                 k1 = n - j1;
448                 k2 = k1+2;
449                 if( k2 > n )
450                     k2 = n;
451                 goto leave;
452             }
453             goto scan;
454         }
455         k2 = n - j1 - 1;
456         if( k2 == 0 ) {
457             k1 = i;
458             k2 = n - j1;
459         }
460         else if( array[k2] && array[k2-1] )
461             k1 = n;
462         else
463             k1 = k2 + 1;
464     }
465     else { /* m is even */
466         if( !array[n-1] ) {
467             k1 = n - j1;
468             k2 = k1 + 1;
469             goto leave;
470         }
471
472         if( !(j1 & 1) ) {
473             k1 = n - j1;
474             k2 = k1+2;
475             if( k2 > n )
476                 k2 = n;
477             goto leave;
478         }
479       scan:
480         jp = n - j1 - 1;
481         for(i=1; i <= jp; i++ ) {
482             i1 = jp + 2 - i;
483             if( array[i1-1]  ) {
484                 if( array[i1-2] ) {
485                     k1 = i1 - 1;
486                     k2 = n - j1;
487                 }
488                 else {
489                     k1 = i1 - 1;
490                     k2 = n + 1 - j1;
491                 }
492                 goto leave;
493             }
494         }
495         k1 = 1;
496         k2 = n + 1 - m;
497     }
498   leave:
499     array[k1-1] = !array[k1-1];
500     array[k2-1] = !array[k2-1];
501 }
502