d4d2ab1fba30d80ed9d88f2994926117633a23a0
[gnupg.git] / g10 / seskey.c
1 /* seskey.c -  make sesssion keys etc.
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "cipher.h"
28 #include "mpi.h"
29 #include "main.h"
30
31
32 /****************
33  * Make a session key and put it into DEK
34  */
35 void
36 make_session_key( DEK *dek )
37 {
38     dek->keylen = cipher_get_keylen( dek->algo ) / 8;
39     randomize_buffer( dek->key, dek->keylen, 1 );
40 }
41
42
43 /****************
44  * Encode the session key. NBITS is the number of bits which should be used
45  * for packing the session key.
46  * returns: A mpi with the session key (caller must free)
47  */
48 MPI
49 encode_session_key( DEK *dek, unsigned nbits )
50 {
51     int nframe = (nbits+7) / 8;
52     byte *p;
53     byte *frame;
54     int i,n;
55     u16 csum;
56     MPI a;
57
58     /* the current limitation is that we can only use a session key
59      * whose length is a multiple of BITS_PER_MPI_LIMB
60      * I think we can live with that.
61      */
62     if( dek->keylen + 7 > nframe || !nframe )
63         log_bug("can't encode a %d bit key in a %d bits frame\n",
64                     dek->keylen*8, nbits );
65
66     /* We encode the session key in this way:
67      *
68      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
69      *
70      * (But how can we store the leading 0 - the external representaion
71      *  of MPIs doesn't allow leading zeroes =:-)
72      *
73      * RND are non-zero random bytes.
74      * A   is the cipher algorithm
75      * DEK is the encryption key (session key) length k depends on the
76      *     cipher algorithm (20 is used with blowfish160).
77      * CSUM is the 16 bit checksum over the DEK
78      */
79     csum = 0;
80     for( p = dek->key, i=0; i < dek->keylen; i++ )
81         csum += *p++;
82
83     frame = m_alloc_secure( nframe );
84     n = 0;
85     frame[n++] = 0;
86     frame[n++] = 2;
87     i = nframe - 6 - dek->keylen;
88     assert( i > 0 );
89     p = get_random_bits( i*8, 1, 1 );
90     /* replace zero bytes by new values */
91     for(;;) {
92         int j, k;
93         byte *pp;
94
95         /* count the zero bytes */
96         for(j=k=0; j < i; j++ )
97             if( !p[j] )
98                 k++;
99         if( !k )
100             break; /* okay: no zero bytes */
101         k += k/128; /* better get some more */
102         pp = get_random_bits( k*8, 1, 1);
103         for(j=0; j < i && k ; j++ )
104             if( !p[j] )
105                 p[j] = pp[--k];
106         m_free(pp);
107     }
108     memcpy( frame+n, p, i );
109     m_free(p);
110     n += i;
111     frame[n++] = 0;
112     frame[n++] = dek->algo;
113     memcpy( frame+n, dek->key, dek->keylen ); n += dek->keylen;
114     frame[n++] = csum >>8;
115     frame[n++] = csum;
116     assert( n == nframe );
117     a = mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
118     mpi_set_buffer( a, frame, nframe, 0 );
119     m_free(frame);
120     return a;
121 }
122
123
124 static MPI
125 do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
126                                    const byte *asn, size_t asnlen )
127 {
128     int nframe = (nbits+7) / 8;
129     byte *frame;
130     int i,n;
131     MPI a;
132
133     if( len + asnlen + 4  > nframe )
134         log_bug("can't encode a %d bit MD into a %d bits frame\n",
135                     (int)(len*8), (int)nbits);
136
137     /* We encode the MD in this way:
138      *
139      *     0  A PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
140      *
141      * PAD consists of FF bytes.
142      */
143     frame = md_is_secure(md)? m_alloc_secure( nframe ) : m_alloc( nframe );
144     n = 0;
145     frame[n++] = 0;
146     frame[n++] = algo;
147     i = nframe - len - asnlen -3 ;
148     assert( i > 1 );
149     memset( frame+n, 0xff, i ); n += i;
150     frame[n++] = 0;
151     memcpy( frame+n, asn, asnlen ); n += asnlen;
152     memcpy( frame+n, md_read(md, algo), len ); n += len;
153     assert( n == nframe );
154     a = md_is_secure(md)?
155          mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
156          : mpi_alloc( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
157     mpi_set_buffer( a, frame, nframe, 0 );
158     m_free(frame);
159     return a;
160 }
161
162
163 MPI
164 encode_md_value( int pubkey_algo, MD_HANDLE md, int hash_algo, unsigned nbits )
165 {
166     int algo = hash_algo? hash_algo : md_get_algo(md);
167     const byte *asn;
168     size_t asnlen, mdlen;
169     MPI frame;
170
171     if( pubkey_algo == PUBKEY_ALGO_DSA ) {
172         frame = md_is_secure(md)? mpi_alloc_secure((md_digest_length(hash_algo)
173                                  +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
174                                 : mpi_alloc((md_digest_length(hash_algo)
175                                  +BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
176         mpi_set_buffer( frame, md_read(md, hash_algo),
177                                md_digest_length(hash_algo), 0 );
178     }
179     else {
180        asn = md_asn_oid( algo, &asnlen, &mdlen );
181        frame = do_encode_md( md, algo, mdlen, nbits, asn, asnlen );
182     }
183     return frame;
184 }
185