* ldap.m4: New. Moved from configure.ac.
[gnupg.git] / agent / pksign.c
1 /* pksign.c - public key signing (well, acually using a secret key)
2  *      Copyright (C) 2001, 2002, 2003 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include <config.h>
22 #include <errno.h>
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <string.h>
26 #include <ctype.h>
27 #include <assert.h>
28 #include <unistd.h>
29 #include <sys/stat.h>
30
31 #include "agent.h"
32
33
34 static int
35 do_encode_md (const unsigned char *digest, size_t digestlen, int algo,
36               unsigned int nbits, gcry_mpi_t *r_val)
37 {
38   int nframe = (nbits+7) / 8;
39   byte *frame;
40   int i, n;
41   byte asn[100];
42   size_t asnlen;
43
44   asnlen = DIM(asn);
45   if (gcry_md_algo_info (algo, GCRYCTL_GET_ASNOID, asn, &asnlen))
46     {
47       log_error ("no object identifier for algo %d\n", algo);
48       return gpg_error (GPG_ERR_INTERNAL);
49     }
50
51   if (digestlen + asnlen + 4  > nframe )
52     {
53       log_error ("can't encode a %d bit MD into a %d bits frame\n",
54                  (int)(digestlen*8), (int)nbits);
55       return gpg_error (GPG_ERR_INTERNAL);
56     }
57   
58   /* We encode the MD in this way:
59    *
60    *       0  1 PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
61    *
62    * PAD consists of FF bytes.
63    */
64   frame = xtrymalloc (nframe);
65   if (!frame)
66     return out_of_core ();
67   n = 0;
68   frame[n++] = 0;
69   frame[n++] = 1; /* block type */
70   i = nframe - digestlen - asnlen -3 ;
71   assert ( i > 1 );
72   memset ( frame+n, 0xff, i ); n += i;
73   frame[n++] = 0;
74   memcpy ( frame+n, asn, asnlen ); n += asnlen;
75   memcpy ( frame+n, digest, digestlen ); n += digestlen;
76   assert ( n == nframe );
77   if (DBG_CRYPTO)
78     log_printhex ("encoded hash:", frame, nframe);
79       
80   gcry_mpi_scan (r_val, GCRYMPI_FMT_USG, frame, n, &nframe);
81   xfree (frame);
82   return 0;
83 }
84
85
86 /* SIGN whatever information we have accumulated in CTRL and write it
87    back to OUTFP. */
88 int
89 agent_pksign (CTRL ctrl, FILE *outfp, int ignore_cache) 
90 {
91   gcry_sexp_t s_skey = NULL, s_hash = NULL, s_sig = NULL;
92   gcry_mpi_t frame = NULL;
93   unsigned char *shadow_info = NULL;
94   int rc;
95   char *buf = NULL;
96   size_t len;
97
98   if (!ctrl->have_keygrip)
99     return gpg_error (GPG_ERR_NO_SECKEY);
100
101   s_skey = agent_key_from_file (ctrl,
102                                 ctrl->keygrip, &shadow_info, ignore_cache);
103   if (!s_skey && !shadow_info)
104     {
105       log_error ("failed to read the secret key\n");
106       rc = gpg_error (GPG_ERR_NO_SECKEY);
107       goto leave;
108     }
109
110   if (!s_skey)
111     { /* divert operation to the smartcard */
112       unsigned char *sigbuf;
113
114       rc = divert_pksign (ctrl, 
115                           ctrl->digest.value, 
116                           ctrl->digest.valuelen,
117                           ctrl->digest.algo,
118                           shadow_info, &sigbuf);
119       if (rc)
120         {
121           log_error ("smartcard signing failed: %s\n", gpg_strerror (rc));
122           goto leave;
123         }
124       len = gcry_sexp_canon_len (sigbuf, 0, NULL, NULL);
125       assert (len);
126       buf = sigbuf;
127     }
128   else
129     { /* no smartcard, but a private key */
130
131       /* put the hash into a sexp */
132       rc = do_encode_md (ctrl->digest.value,
133                          ctrl->digest.valuelen,
134                          ctrl->digest.algo,
135                          gcry_pk_get_nbits (s_skey),
136                          &frame);
137       if (rc)
138         goto leave;
139       if ( gcry_sexp_build (&s_hash, NULL, "%m", frame) )
140         BUG ();
141
142       if (DBG_CRYPTO)
143         {
144           log_debug ("skey: ");
145           gcry_sexp_dump (s_skey);
146         }
147
148       /* sign */
149       rc = gcry_pk_sign (&s_sig, s_hash, s_skey);
150       if (rc)
151         {
152           log_error ("signing failed: %s\n", gpg_strerror (rc));
153           rc = map_gcry_err (rc);
154           goto leave;
155         }
156
157       if (DBG_CRYPTO)
158         {
159           log_debug ("result: ");
160           gcry_sexp_dump (s_sig);
161         }
162
163       len = gcry_sexp_sprint (s_sig, GCRYSEXP_FMT_CANON, NULL, 0);
164       assert (len);
165       buf = xmalloc (len);
166       len = gcry_sexp_sprint (s_sig, GCRYSEXP_FMT_CANON, buf, len);
167       assert (len);
168     }
169
170   /* FIXME: we must make sure that no buffering takes place or we are
171      in full control of the buffer memory (easy to do) - should go
172      into assuan. */
173   fwrite (buf, 1, len, outfp);
174
175  leave:
176   gcry_sexp_release (s_skey);
177   gcry_sexp_release (s_hash);
178   gcry_sexp_release (s_sig);
179   gcry_mpi_release (frame);
180   xfree (buf);
181   xfree (shadow_info);
182   return rc;
183 }
184
185