cc58154ad89e81b44cc645dc2f45c50608ad5fa2
[gnupg.git] / g10 / seskey.c
1 /* seskey.c -  make sesssion keys etc.
2  * Copyright (C) 1998, 1999, 2000, 2001 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "cipher.h"
28 #include "mpi.h"
29 #include "main.h"
30 #include "i18n.h"
31
32
33 /****************
34  * Make a session key and put it into DEK
35  */
36 void
37 make_session_key( DEK *dek )
38 {
39     CIPHER_HANDLE chd;
40     int i, rc;
41
42     dek->keylen = cipher_get_keylen( dek->algo ) / 8;
43
44     chd = cipher_open( dek->algo, CIPHER_MODE_AUTO_CFB, 1 );
45     randomize_buffer( dek->key, dek->keylen, 1 );
46     for(i=0; i < 16; i++ ) {
47         rc = cipher_setkey( chd, dek->key, dek->keylen );
48         if( !rc ) {
49             cipher_close( chd );
50             return;
51         }
52         log_info(_("weak key created - retrying\n") );
53         /* Renew the session key until we get a non-weak key. */
54         randomize_buffer( dek->key, dek->keylen, 1 );
55     }
56     log_fatal(_(
57             "cannot avoid weak key for symmetric cipher; tried %d times!\n"),
58                   i);
59 }
60
61
62 /****************
63  * Encode the session key. NBITS is the number of bits which should be used
64  * for packing the session key.
65  * returns: A mpi with the session key (caller must free)
66  */
67 MPI
68 encode_session_key( DEK *dek, unsigned nbits )
69 {
70     int nframe = (nbits+7) / 8;
71     byte *p;
72     byte *frame;
73     int i,n;
74     u16 csum;
75     MPI a;
76
77     /* the current limitation is that we can only use a session key
78      * whose length is a multiple of BITS_PER_MPI_LIMB
79      * I think we can live with that.
80      */
81     if( dek->keylen + 7 > nframe || !nframe )
82         log_bug("can't encode a %d bit key in a %d bits frame\n",
83                     dek->keylen*8, nbits );
84
85     /* We encode the session key in this way:
86      *
87      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
88      *
89      * (But how can we store the leading 0 - the external representaion
90      *  of MPIs doesn't allow leading zeroes =:-)
91      *
92      * RND are non-zero random bytes.
93      * A   is the cipher algorithm
94      * DEK is the encryption key (session key) length k depends on the
95      *     cipher algorithm (20 is used with blowfish160).
96      * CSUM is the 16 bit checksum over the DEK
97      */
98     csum = 0;
99     for( p = dek->key, i=0; i < dek->keylen; i++ )
100         csum += *p++;
101
102     frame = m_alloc_secure( nframe );
103     n = 0;
104     frame[n++] = 0;
105     frame[n++] = 2;
106     i = nframe - 6 - dek->keylen;
107     assert( i > 0 );
108     p = get_random_bits( i*8, 1, 1 );
109     /* replace zero bytes by new values */
110     for(;;) {
111         int j, k;
112         byte *pp;
113
114         /* count the zero bytes */
115         for(j=k=0; j < i; j++ )
116             if( !p[j] )
117                 k++;
118         if( !k )
119             break; /* okay: no zero bytes */
120         k += k/128 + 3; /* better get some more */
121         pp = get_random_bits( k*8, 1, 1);
122         for(j=0; j < i && k ;) {
123             if( !p[j] )
124                 p[j] = pp[--k];
125             if (p[j])
126               j++;
127         }
128         m_free(pp);
129     }
130     memcpy( frame+n, p, i );
131     m_free(p);
132     n += i;
133     frame[n++] = 0;
134     frame[n++] = dek->algo;
135     memcpy( frame+n, dek->key, dek->keylen ); n += dek->keylen;
136     frame[n++] = csum >>8;
137     frame[n++] = csum;
138     assert( n == nframe );
139     a = mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
140     mpi_set_buffer( a, frame, nframe, 0 );
141     m_free(frame);
142     return a;
143 }
144
145
146 static MPI
147 do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
148               const byte *asn, size_t asnlen )
149 {
150     int nframe = (nbits+7) / 8;
151     byte *frame;
152     int i,n;
153     MPI a;
154
155     if( len + asnlen + 4  > nframe )
156         log_bug("can't encode a %d bit MD into a %d bits frame\n",
157                     (int)(len*8), (int)nbits);
158
159     /* We encode the MD in this way:
160      *
161      *     0  1 PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
162      *
163      * PAD consists of FF bytes.
164      */
165     frame = md_is_secure(md)? m_alloc_secure( nframe ) : m_alloc( nframe );
166     n = 0;
167     frame[n++] = 0;
168     frame[n++] = 1; /* block type */
169     i = nframe - len - asnlen -3 ;
170     assert( i > 1 );
171     memset( frame+n, 0xff, i ); n += i;
172     frame[n++] = 0;
173     memcpy( frame+n, asn, asnlen ); n += asnlen;
174     memcpy( frame+n, md_read(md, algo), len ); n += len;
175     assert( n == nframe );
176     a = md_is_secure(md)?
177          mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
178          : mpi_alloc( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
179     mpi_set_buffer( a, frame, nframe, 0 );
180     m_free(frame);
181
182     /* Note that PGP before version 2.3 encoded the MD as:
183      *
184      *   0   1   MD(16 bytes)   0   PAD(n bytes)   1
185      *
186      * The MD is always 16 bytes here because it's always MD5.  We do
187      * not support pre-v2.3 signatures, but I'm including this comment
188      * so the information is easily found in the future.
189      */
190
191     return a;
192 }
193
194
195 /****************
196  * Encode a message digest into an MPI.
197  * v3compathack is used to work around a bug in old GnuPG versions
198  * which did put the algo identifier inseatd of the block type 1 into
199  * the encoded value.  Setting this flag forces the old behaviour.
200  */
201 MPI
202 encode_md_value( int pubkey_algo, MD_HANDLE md,
203                  int hash_algo, unsigned nbits )
204 {
205     int algo = hash_algo? hash_algo : md_get_algo(md);
206     const byte *asn;
207     size_t asnlen, mdlen;
208     MPI frame;
209
210     if( pubkey_algo == PUBKEY_ALGO_DSA ) {
211         mdlen = md_digest_length (hash_algo);
212         if (mdlen != 20) {
213             log_error (_("DSA requires the use of a 160 bit hash algorithm\n"));
214             return NULL;
215         }
216
217         frame = md_is_secure(md)? mpi_alloc_secure((md_digest_length(hash_algo)
218                                  +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
219                                 : mpi_alloc((md_digest_length(hash_algo)
220                                  +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
221         mpi_set_buffer( frame, md_read(md, hash_algo),
222                                md_digest_length(hash_algo), 0 );
223     }
224     else {
225        asn = md_asn_oid( algo, &asnlen, &mdlen );
226        frame = do_encode_md( md, algo, mdlen, nbits, asn, asnlen );
227     }
228     return frame;
229 }