cast5 does now work
[gnupg.git] / g10 / seskey.c
1 /* seskey.c -  make sesssion keys etc.
2  *      Copyright (C) 1998 Free Software Foundation, Inc.
3  *
4  * This file is part of GNUPG.
5  *
6  * GNUPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GNUPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <assert.h>
26 #include "util.h"
27 #include "cipher.h"
28 #include "mpi.h"
29 #include "main.h"
30
31
32 /****************
33  * Make a session key and put it into DEK
34  */
35 void
36 make_session_key( DEK *dek )
37 {
38     switch( dek->algo ) {
39       case CIPHER_ALGO_BLOWFISH:
40         dek->keylen = 20;
41         randomize_buffer( dek->key, dek->keylen, 1 );
42         break;
43       case CIPHER_ALGO_BLOWFISH128:
44       case CIPHER_ALGO_CAST:
45         dek->keylen = 16;
46         randomize_buffer( dek->key, dek->keylen, 1 );
47         break;
48
49       default: log_bug("invalid algo %d in make_session_key()\n", dek->algo);
50     }
51 }
52
53
54 /****************
55  * Encode the session key. NBITS is the number of bits which should be used
56  * for packing the session key.
57  * returns: A mpi with the session key (caller must free)
58  */
59 MPI
60 encode_session_key( DEK *dek, unsigned nbits )
61 {
62     int nframe = (nbits+7) / 8;
63     byte *p;
64     byte *frame;
65     int i,n,c;
66     u16 csum;
67     MPI a;
68
69     /* the current limitation is, that we can only use a session key
70      * which length is a multiple of BITS_PER_MPI_LIMB
71      * I think we can live with that.
72      */
73     if( dek->keylen + 7 > nframe || !nframe )
74         log_bug("can't encode a %d bit key in a %d bits frame\n",
75                     dek->keylen*8, nbits );
76
77     /* We encode the session key in this way:
78      *
79      *     0  2  RND(n bytes)  0  A  DEK(k bytes)  CSUM(2 bytes)
80      *
81      * RND are non-zero random bytes.
82      * A   is the cipher algorithm
83      * DEK is the encryption key (session key) length k depends on the
84      *     cipher algorithm (20 is used with blowfish).
85      * CSUM is the 16 bit checksum over the DEK
86      */
87     csum = 0;
88     for( p = dek->key, i=0; i < dek->keylen; i++ )
89         csum += *p++;
90
91     frame = m_alloc_secure( nframe );
92     n = 0;
93     frame[n++] = 0;
94     frame[n++] = 2;
95     i = nframe - 6 - dek->keylen;
96     assert( i > 0 );
97     for( ; i ; i-- ) {
98         while( !(c = get_random_byte(1)) )
99             ;
100         frame[n++] = c;
101     }
102     frame[n++] = 0;
103     frame[n++] = dek->algo;
104     memcpy( frame+n, dek->key, dek->keylen ); n += dek->keylen;
105     frame[n++] = csum >>8;
106     frame[n++] = csum;
107     assert( n == nframe );
108     a = mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
109     mpi_set_buffer( a, frame, nframe, 0 );
110     m_free(frame);
111     return a;
112 }
113
114
115 static MPI
116 do_encode_md( MD_HANDLE md, int algo, size_t len, unsigned nbits,
117                                    const byte *asn, size_t asnlen )
118 {
119     int nframe = (nbits+7) / 8;
120     byte *frame;
121     int i,n;
122     MPI a;
123
124     if( len + asnlen + 4  > nframe )
125         log_bug("can't encode a %d bit MD into a %d bits frame\n",
126                     (int)(len*8), (int)nbits);
127
128     /* We encode the MD in this way:
129      *
130      *     0  A PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
131      *
132      * PAD consists of FF bytes.
133      */
134     frame = md_is_secure(md)? m_alloc_secure( nframe ) : m_alloc( nframe );
135     n = 0;
136     frame[n++] = 0;
137     frame[n++] = algo;
138     i = nframe - len - asnlen -3 ;
139     assert( i > 1 );
140     memset( frame+n, 0xff, i ); n += i;
141     frame[n++] = 0;
142     memcpy( frame+n, asn, asnlen ); n += asnlen;
143     memcpy( frame+n, md_read(md, algo), len ); n += len;
144     assert( n == nframe );
145     a = md_is_secure(md)?
146          mpi_alloc_secure( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB )
147          : mpi_alloc( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
148     mpi_set_buffer( a, frame, nframe, 0 );
149     m_free(frame);
150     return a;
151 }
152
153
154 MPI
155 encode_md_value( MD_HANDLE md, unsigned nbits )
156 {
157     int algo = md_get_algo(md);
158     const byte *asn;
159     size_t asnlen, mdlen;
160
161     asn = md_asn_oid( algo, &asnlen, &mdlen );
162     return do_encode_md( md, algo, mdlen, nbits, asn, asnlen );
163 }
164