Merge branch 'master' into ECC-INTEGRATION-2-1
[gnupg.git] / agent / keyformat.txt
1 keyformat.txt (wk 2001-12-18)
2 -----------------------------
3
4
5 Some notes on the format of the secret keys used with gpg-agent.
6
7 Location of keys
8 ================
9 The secret keys[1] are stored on a per file basis in a directory below
10 the ~/.gnupg home directory.  This directory is named
11
12    private-keys-v1.d
13
14 and should have permissions 700.
15
16 The secret keys are stored in files with a name matching the
17 hexadecimal representation of the keygrip[2] and suffixed with ".key".
18
19
20 Unprotected Private Key Format
21 ==============================
22 The content of the file is an S-Expression like the ones used with
23 Libgcrypt.  Here is an example of an unprotected file:
24
25 (private-key
26  (rsa
27   (n #00e0ce9..[some bytes not shown]..51#)
28   (e #010001#)
29   (d #046129F..[some bytes not shown]..81#)
30   (p #00e861b..[some bytes not shown]..f1#)
31   (q #00f7a7c..[some bytes not shown]..61#)
32   (u #304559a..[some bytes not shown]..9b#)
33  )
34  (created-at timestamp)
35  (uri http://foo.bar x-foo:whatever_you_want)
36  (comment whatever)
37 )
38
39 "comment", "created-at" and "uri" are optional.  "comment" is
40 currently used to keep track of ssh key comments. "created-at" is used
41 to keep track of the creation time stamp used with OpenPGP keys; it is
42 optional but required for some operations to calculate the fingerprint
43 of the key.  This timestamp should be a string with the number of
44 seconds since Epoch or an ISO time string (yyyymmddThhmmss).
45
46 Actually this form should not be used for regular purposes and only
47 accepted by gpg-agent with the configuration option:
48 --allow-non-canonical-key-format.  The regular way to represent the
49 keys is in canonical representation[3]:
50
51 (private-key
52    (rsa
53     (n #00e0ce9..[some bytes not shown]..51#)
54     (e #010001#)
55     (d #046129F..[some bytes not shown]..81#)
56     (p #00e861b..[some bytes not shown]..f1#)
57     (q #00f7a7c..[some bytes not shown]..61#)
58     (u #304559a..[some bytes not shown]..9b#)
59    )
60    (uri http://foo.bar x-foo:whatever_you_want)
61 )  
62
63
64 Protected Private Key Format
65 ==============================
66 A protected key is like this:
67
68 (protected-private-key
69    (rsa
70     (n #00e0ce9..[some bytes not shown]..51#)
71     (e #010001#)
72     (protected mode (parms) encrypted_octet_string)
73     (protected-at <isotimestamp>)
74    )
75    (uri http://foo.bar x-foo:whatever_you_want)
76    (comment whatever)
77 )  
78
79
80 In this scheme the encrypted_octet_string is encrypted according to
81 the algorithm described after the keyword protected; most protection
82 algorithms need some parameters, which are given in a list before the
83 encrypted_octet_string.  The result of the decryption process is a
84 list of the secret key parameters.  The protected-at expression is
85 optional; the isotimestamp is 15 bytes long (e.g. "19610711T172000").
86
87 The only available protection mode for now is
88
89   openpgp-s2k3-sha1-aes-cbc
90
91 which describes an algorithm using using AES in CBC mode for
92 encryption, SHA-1 for integrity protection and the String to Key
93 algorithm 3 from OpenPGP (rfc2440).
94
95 Example:
96
97 (protected openpgp-s2k3-sha1-aes-cbc
98   ((sha1 16byte_salt no_of_iterations) 16byte_iv)
99   encrypted_octet_string
100 )
101
102 The encrypted_octet string should yield this S-Exp (in canonical
103 representation) after decryption:
104
105 (
106  (
107   (d #046129F..[some bytes not shown]..81#)
108   (p #00e861b..[some bytes not shown]..f1#)
109   (q #00f7a7c..[some bytes not shown]..61#)
110   (u #304559a..[some bytes not shown]..9b#) 
111  ) 
112  (hash sha1 #...[hashvalue]...#)
113 )
114
115 For padding reasons, random bytes are appended to this list - they can
116 easily be stripped by looking for the end of the list. 
117
118 The hash is calculated on the concatenation of the public key and
119 secret key parameter lists: i.e it is required to hash the
120 concatenation of these 6 canonical encoded lists for RSA, including
121 the parenthesis, the algorithm keyword and (if used) the protected-at
122 list.
123
124 (rsa
125  (n #00e0ce9..[some bytes not shown]..51#)
126  (e #010001#)
127  (d #046129F..[some bytes not shown]..81#)
128  (p #00e861b..[some bytes not shown]..f1#)
129  (q #00f7a7c..[some bytes not shown]..61#)
130  (u #304559a..[some bytes not shown]..9b#)
131  (protected-at "18950523T000000")
132 )
133
134 After decryption the hash must be recalculated and compared against
135 the stored one - If they don't match the integrity of the key is not
136 given.
137
138
139 Shadowed Private Key Format
140 ============================
141 To keep track of keys stored on IC cards we use a third format for
142 private kyes which are called shadow keys as they are only a reference
143 to keys stored on a token:
144
145 (shadowed-private-key
146    (rsa
147     (n #00e0ce9..[some bytes not shown]..51#)
148     (e #010001#)
149     (shadowed protocol (info))
150    )
151    (uri http://foo.bar x-foo:whatever_you_want)
152    (comment whatever)
153 )  
154
155 The currently used protocol is "ti-v1" (token info version 1).  The
156 second list with the information has this layout:
157
158 (card_serial_number id_string_of_key)
159
160 More items may be added to the list.
161
162
163 OpenPGP Private Key Transfer Format
164 ===================================
165
166 This format is used to transfer keys between gpg and gpg-agent.
167
168 (openpgp-private-key
169   (version V)
170   (algo PUBKEYALGO)
171   (skey _ P1 _ P2 _ P3 ... e PN)
172   (csum n)
173   (protection PROTTYPE PROTALGO IV S2KMODE S2KHASH S2KSALT S2KCOUNT))
174
175
176 * V is the packet version number (3 or 4).
177 * PUBKEYALGO is a Libgcrypt algo name 
178 * P1 .. PN are the parameters; the public parameters are never encrypted
179   the secrect key parameters are encrypted if the "protection" list is
180   given.  To make this more explicit each parameter is preceded by a
181   flag "_" for cleartext or "e" for encrypted text.
182 * CSUM is the depreciated 16 bit checksum as defined by OpenPGP.  This
183   is an optional element.
184 * If PROTTYPE is "sha1" the new style SHA1 checksum is used if it is "sum"
185   the old 16 bit checksum (above) is used and if it is "none" no
186   protection at all is used.
187 * PROTALGO is a Libgcrypt style cipher algorithm name
188 * IV is the initialization verctor.
189 * S2KMODE is the value from RFC-4880.
190 * S2KHASH is a a libgcrypt style hash algorithm identifier.
191 * S2KSALT is the 8 byte salt
192 * S2KCOUNT is the count value from RFC-4880.
193
194
195 Persistent Passphrase Format
196 ============================
197
198 To allow persistent storage of cached passphrases we use a scheme
199 similar to the private-key storage format.  This is a master
200 passphrase format where each file may protect several secrets under
201 one master passphrase.  It is possible to have several of those files
202 each protected by a dedicated master passphrase.  Clear text keywords
203 allow to list the available protected passphrases.
204
205 The name of the files with these protected secrets have this form:
206 pw-<string>.dat.  STRING may be an arbitrary string, as a default name
207 for the passphrase storage the name "pw-default.dat" is suggested.
208
209
210 (protected-shared-secret
211    ((desc descriptive_text)
212     (key [key_1] (keyword_1 keyword_2 keyword_n))
213     (key [key_2] (keyword_21 keyword_22 keyword_2n))
214     (key [key_n] (keyword_n1 keyword_n2 keyword_nn))
215     (protected mode (parms) encrypted_octet_string)
216     (protected-at <isotimestamp>)
217    )
218 )  
219
220 After decryption the encrypted_octet_string yields this S-expression:
221
222 (
223  (
224   (value key_1 value_1)
225   (value key_2 value_2)
226   (value key_n value_n)
227  ) 
228  (hash sha1 #...[hashvalue]...#)
229 )
230
231 The "descriptive_text" is displayed with the prompt to enter the
232 unprotection passphrase.
233
234 KEY_1 to KEY_N are unique identifiers for the shared secret, for
235 example an URI.  In case this information should be kept confidential
236 as well, they may not appear in the unprotected part; however they are
237 mandatory in the encrypted_octet_string.  The list of keywords is
238 optional.  The oder of the "key" lists and the order of the "value"
239 lists mut match, that is the first "key"-list is associated with the
240 first "value" list in the encrypted_octet_string.
241
242 The protection mode etc. is indentical to the protection mode as
243 decribed for the private key format.
244
245 list of the secret key parameters.  The protected-at expression is
246 optional; the isotimestamp is 15 bytes long (e.g. "19610711T172000").
247
248 The "hash" in the encrypted_octet_string is calculated on the
249 concatenation of the key list and value lists: i.e it is required to
250 hash the concatenation of all these lists, including the
251 parenthesis and (if used) the protected-at list.
252
253 Example:
254
255 (protected-shared-secret
256    ((desc "List of system passphrases")
257     (key "uid-1002" ("Knuth" "Donald Ervin Knuth"))
258     (key "uid-1001" ("Dijkstra" "Edsgar Wybe Dijkstra"))
259     (key)
260     (protected mode (parms) encrypted_octet_string)
261     (protected-at "20100915T111722")
262    )
263 )  
264
265 with "encrypted_octet_string" decoding to:
266
267 (
268  (
269   (value 4:1002 "signal flags at the lock")
270   (value 4:1001 "taocp")
271   (value 1:0    "premature optimization is the root of all evil")
272  ) 
273  (hash sha1 #0102030405060708091011121314151617181920#)
274 )
275
276 To compute the hash this S-expression (in canoncical format) was
277 hashed:
278
279    ((desc "List of system passphrases")
280     (key "uid-1002" ("Knuth" "Donald Ervin Knuth"))
281     (key "uid-1001" ("Dijkstra" "Edsgar Wybe Dijkstra"))
282     (key)
283     (value 4:1002 "signal flags at the lock")
284     (value 4:1001 "taocp")
285     (value 1:0    "premature optimization is the root of all evil")
286     (protected-at "20100915T111722")
287    )
288
289
290
291
292
293
294
295 Notes:
296 ======
297 [1] I usually use the terms private and secret key exchangeable but prefer the
298 term secret key because it can be visually be better distinguished
299 from the term public key.
300
301 [2] The keygrip is a unique identifier for a key pair, it is
302 independent of any protocol, so that the same key can be used with
303 different protocols.  PKCS-15 calls this a subjectKeyHash; it can be
304 calculated using Libgcrypt's gcry_pk_get_keygrip ().
305
306 [3] Even when canonical representation are required we will show the
307 S-expression here in a more readable representation.