Fixed a few bugs
[gnupg.git] / mpi / mpicoder.c
1 /* mpicoder.c  -  Coder for the external representation of MPIs
2  *      Copyright (c) 1997 by Werner Koch (dd9jn)
3  *
4  * This file is part of G10.
5  *
6  * G10 is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * G10 is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <string.h>
24 #include <stdlib.h>
25 #include <assert.h>
26
27 #include "mpi.h"
28 #include "mpi-internal.h"
29 #include "iobuf.h"
30 #include "memory.h"
31 #include "util.h"
32
33 #ifdef M_DEBUG
34   #undef mpi_read
35 #endif
36
37 #define MAX_EXTERN_MPI_BITS 16384
38
39 /****************
40  * write an mpi to out.
41  */
42 int
43 mpi_write( IOBUF out, MPI a )
44 {
45     int rc;
46     unsigned nbits = mpi_get_nbits(a);
47     byte *p, *buf;
48     unsigned n;
49
50     if( nbits > MAX_EXTERN_MPI_BITS )
51         log_bug("mpi_encode: mpi too large (%u bits)\n", nbits);
52
53     iobuf_put(out, (nbits >>8) );
54     iobuf_put(out, (nbits) );
55
56     p = buf = mpi_get_buffer( a, &n, NULL );
57     for( ; !*p && n; p++, n-- )
58         ;
59     rc = iobuf_write( out, p, n );
60     m_free(buf);
61     return rc;
62 }
63
64
65 /****************
66  * Read an external representation of an mpi and return the MPI
67  * The external format is a 16 bit unsigned value stored in network byte order,
68  * giving the number of bits for the following integer. The integer is stored
69  * with MSB first (left padded with zeroes to align on a byte boundary).
70  */
71 MPI
72 #ifdef M_DEBUG
73 mpi_debug_read(IOBUF inp, unsigned *ret_nread, int secure, const char *info)
74 #else
75 mpi_read(IOBUF inp, unsigned *ret_nread, int secure)
76 #endif
77 {
78     int c, i, j;
79     unsigned nbits, nbytes, nlimbs, nread=0;
80     mpi_limb_t a;
81     MPI val = MPI_NULL;
82
83     if( (c = iobuf_get(inp)) == -1 )
84         goto leave;
85     nbits = c << 8;
86     if( (c = iobuf_get(inp)) == -1 )
87         goto leave;
88     nbits |= c;
89     if( nbits > MAX_EXTERN_MPI_BITS ) {
90         log_error("mpi too large (%u bits)\n", nbits);
91         goto leave;
92     }
93     nread = 2;
94
95     nbytes = (nbits+7) / 8;
96     nlimbs = (nbytes+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB;
97   #ifdef M_DEBUG
98     val = secure? mpi_debug_alloc_secure( nlimbs, info )
99                 : mpi_debug_alloc( nlimbs, info );
100   #else
101     val = secure? mpi_alloc_secure( nlimbs )
102                 : mpi_alloc( nlimbs );
103   #endif
104     i = BYTES_PER_MPI_LIMB - nbytes % BYTES_PER_MPI_LIMB;
105     i %= BYTES_PER_MPI_LIMB;
106     val->nbits = nbits;
107     j= val->nlimbs = nlimbs;
108     val->sign = 0;
109     for( ; j > 0; j-- ) {
110         a = 0;
111         for(; i < BYTES_PER_MPI_LIMB; i++ ) {
112             a <<= 8;
113             a |= iobuf_get(inp) & 0xff; nread++;
114         }
115         i = 0;
116         val->d[j-1] = a;
117     }
118
119   leave:
120     if( nread > *ret_nread )
121         log_error("Ooops: mpi crosses packet border");
122     else
123         *ret_nread = nread;
124     return val;
125 }
126
127
128
129 /****************
130  * Make a mpi from a character string.
131  */
132 int
133 mpi_fromstr(MPI val, const char *str)
134 {
135     int hexmode=0, sign=0, prepend_zero=0, i, j, c, c1, c2;
136     unsigned nbits, nbytes, nlimbs;
137     mpi_limb_t a;
138
139     if( *str == '-' ) {
140         sign = 1;
141         str++;
142     }
143     if( *str == '0' && str[1] == 'x' )
144         hexmode = 1;
145     else
146         return 1; /* other bases are not yet supported */
147     str += 2;
148
149     nbits = strlen(str)*4;
150     if( nbits % 8 )
151         prepend_zero = 1;
152     nbytes = (nbits+7) / 8;
153     nlimbs = (nbytes+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB;
154     if( val->alloced < nlimbs )
155         mpi_resize(val, nlimbs );
156     i = BYTES_PER_MPI_LIMB - nbytes % BYTES_PER_MPI_LIMB;
157     i %= BYTES_PER_MPI_LIMB;
158     j= val->nlimbs = nlimbs;
159     val->sign = sign;
160     for( ; j > 0; j-- ) {
161         a = 0;
162         for(; i < BYTES_PER_MPI_LIMB; i++ ) {
163             if( prepend_zero ) {
164                 c1 = '0';
165                 prepend_zero = 0;
166             }
167             else
168                 c1 = *str++;
169             assert(c1);
170             c2 = *str++;
171             assert(c2);
172             if( c1 >= '0' && c1 <= '9' )
173                 c = c1 - '0';
174             else if( c1 >= 'a' && c1 <= 'f' )
175                 c = c1 - 'a' + 10;
176             else if( c1 >= 'A' && c1 <= 'F' )
177                 c = c1 - 'A' + 10;
178             else {
179                 mpi_clear(val);
180                 return 1;
181             }
182             c <<= 4;
183             if( c2 >= '0' && c2 <= '9' )
184                 c |= c2 - '0';
185             else if( c2 >= 'a' && c2 <= 'f' )
186                 c |= c2 - 'a' + 10;
187             else if( c2 >= 'A' && c2 <= 'F' )
188                 c |= c2 - 'A' + 10;
189             else {
190                 mpi_clear(val);
191                 return 1;
192             }
193             a <<= 8;
194             a |= c;
195         }
196         i = 0;
197         val->d[j-1] = a;
198     }
199
200     return 0;
201 }
202
203
204 /****************
205  * print an MPI to the give stream and return the number of characters
206  * printed.
207  */
208 int
209 mpi_print( FILE *fp, MPI a, int mode )
210 {
211     int i, n=0;
212
213     if( a == MPI_NULL )
214         return fprintf(fp, "[MPI_NULL]");
215     if( !mode )
216         n += fprintf(fp, "[%u bits]", mpi_get_nbits(a) );
217     else {
218         if( a->sign )
219             putc('-', fp);
220        #if BYTES_PER_MPI_LIMB == 2
221           #define X "4"
222        #elif BYTES_PER_MPI_LIMB == 4
223           #define X "8"
224        #elif BYTES_PER_MPI_LIMB == 8
225           #define X "16"
226        #else
227           #error please define the format here
228        #endif
229         for(i=a->nlimbs; i > 0 ; i-- ) {
230             n += fprintf(fp, i!=a->nlimbs? "%0" X "lX":"%lX", (ulong)a->d[i-1]);
231        #undef X
232         }
233         if( !a->nlimbs )
234             putc('0', fp );
235     }
236     return n;
237 }
238
239
240 /****************
241  * Special function to get the low 8 bytes from a mpi,
242  * this can be used as a keyid, KEYID is an 2 element array.
243  * Does return the low 4 bytes.
244  */
245 u32
246 mpi_get_keyid( MPI a, u32 *keyid )
247 {
248 #if BYTES_PER_MPI_LIMB == 4
249     if( keyid ) {
250         keyid[0] = a->nlimbs >= 2? a->d[1] : 0;
251         keyid[1] = a->nlimbs >= 1? a->d[0] : 0;
252     }
253     return a->nlimbs >= 1? a->d[0] : 0;
254 #elif BYTES_PER_MPI_LIMB == 8
255     if( keyid ) {
256         keyid[0] = a->nlimbs? (u32)(a->d[0] >> 32) : 0;
257         keyid[1] = a->nlimbs? (u32)(a->d[0] & 0xffffffff) : 0;
258     }
259     return a->nlimbs? (u32)(a->d[0] & 0xffffffff) : 0;
260 #else
261   #error Make this function work with other LIMB sizes
262 #endif
263 }
264
265
266 /****************
267  * Return a m_alloced buffer with the MPI (msb first).
268  * NBYTES receives the length of this buffer. Caller must free the
269  * return string (This function does return a 0 byte buffer with NBYTES
270  * set to zero if the value of A is zero. If sign is not NULL, it will
271  * be set to the sign of the A.
272  */
273 byte *
274 mpi_get_buffer( MPI a, unsigned *nbytes, int *sign )
275 {
276     byte *p, *buffer;
277     mpi_limb_t alimb;
278     int i;
279
280     if( sign )
281         *sign = a->sign;
282     *nbytes = a->nlimbs * BYTES_PER_MPI_LIMB;
283     p = buffer = a->secure ? m_alloc_secure( *nbytes) : m_alloc( *nbytes );
284
285     for(i=a->nlimbs-1; i >= 0; i-- ) {
286         alimb = a->d[i];
287       #if BYTES_PER_MPI_LIMB == 4
288         *p++ = alimb >> 24;
289         *p++ = alimb >> 16;
290         *p++ = alimb >>  8;
291         *p++ = alimb      ;
292       #elif BYTES_PER_MPI_LIMB == 8
293         *p++ = alimb >> 56;
294         *p++ = alimb >> 48;
295         *p++ = alimb >> 40;
296         *p++ = alimb >> 32;
297         *p++ = alimb >> 24;
298         *p++ = alimb >> 16;
299         *p++ = alimb >>  8;
300         *p++ = alimb      ;
301       #else
302         #error please implement for this limb size.
303       #endif
304     }
305     return buffer;
306 }
307
308 /****************
309  * Use BUFFER to update MPI.
310  */
311 void
312 mpi_set_buffer( MPI a, const byte *buffer, unsigned nbytes, int sign )
313 {
314     const byte *p;
315     mpi_limb_t alimb;
316     int nlimbs;
317     int i;
318
319     nlimbs = (nbytes + BYTES_PER_MPI_LIMB - 1) / BYTES_PER_MPI_LIMB;
320     RESIZE_IF_NEEDED(a, nlimbs);
321     a->sign = sign;
322
323     for(i=0, p = buffer+nbytes-1; p >= buffer+BYTES_PER_MPI_LIMB; ) {
324       #if BYTES_PER_MPI_LIMB == 4
325         alimb  = *p--       ;
326         alimb |= *p-- <<  8 ;
327         alimb |= *p-- << 16 ;
328         alimb |= *p-- << 24 ;
329       #elif BYTES_PER_MPI_LIMB == 8
330         /* cast due to egc's "left shift count >= width of type" warning*/
331         alimb  = (mpi_limb_t)*p--       ;
332         alimb |= (mpi_limb_t)*p-- <<  8 ;
333         alimb |= (mpi_limb_t)*p-- << 16 ;
334         alimb |= (mpi_limb_t)*p-- << 24 ;
335         alimb |= (mpi_limb_t)*p-- << 32 ;
336         alimb |= (mpi_limb_t)*p-- << 40 ;
337         alimb |= (mpi_limb_t)*p-- << 48 ;
338         alimb |= (mpi_limb_t)*p-- << 56 ;
339       #else
340         #error please implement for this limb size.
341       #endif
342         a->d[i++] = alimb;
343     }
344     if( p >= buffer ) {
345       #if BYTES_PER_MPI_LIMB == 4
346         alimb  = *p--       ;
347         if( p >= buffer ) alimb |= *p-- <<  8 ;
348         if( p >= buffer ) alimb |= *p-- << 16 ;
349         if( p >= buffer ) alimb |= *p-- << 24 ;
350       #elif BYTES_PER_MPI_LIMB == 8
351         alimb  = (mpi_limb_t)*p-- ;
352         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- <<  8 ;
353         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 16 ;
354         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 24 ;
355         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 32 ;
356         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 40 ;
357         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 48 ;
358         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 56 ;
359       #else
360         #error please implement for this limb size.
361       #endif
362         a->d[i++] = alimb;
363     }
364     a->nlimbs = i;
365     assert( i == nlimbs );
366 }
367