rndhw: add missing "memory" clobbers
[libgcrypt.git] / src / hwf-arm.c
1 /* hwf-arm.c - Detect hardware features - ARM part
2  * Copyright (C) 2013  Jussi Kivilinna <jussi.kivilinna@iki.fi>
3  *
4  * This file is part of Libgcrypt.
5  *
6  * Libgcrypt is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU Lesser General Public License as
8  * published by the Free Software Foundation; either version 2.1 of
9  * the License, or (at your option) any later version.
10  *
11  * Libgcrypt is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this program; if not, see <http://www.gnu.org/licenses/>.
18  */
19
20 #include <config.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <stdarg.h>
25 #include <unistd.h>
26
27 #include "g10lib.h"
28 #include "hwf-common.h"
29
30 #if !defined (__arm__) && !defined (__aarch64__)
31 # error Module build for wrong CPU.
32 #endif
33
34 #undef HAS_SYS_AT_HWCAP
35 #undef HAS_PROC_CPUINFO
36 #ifdef __linux__
37
38 struct feature_map_s {
39   unsigned int hwcap_flag;
40   unsigned int hwcap2_flag;
41   const char *feature_match;
42   unsigned int hwf_flag;
43 };
44
45 #define HAS_SYS_AT_HWCAP 1
46 #define HAS_PROC_CPUINFO 1
47
48 #ifdef __arm__
49
50 #define AT_HWCAP      16
51 #define AT_HWCAP2     26
52
53 #define HWCAP_NEON    4096
54
55 #define HWCAP2_AES    1
56 #define HWCAP2_PMULL  2
57 #define HWCAP2_SHA1   3
58 #define HWCAP2_SHA2   4
59
60 static const struct feature_map_s arm_features[] =
61   {
62 #ifdef ENABLE_NEON_SUPPORT
63     { HWCAP_NEON, 0, " neon", HWF_ARM_NEON },
64 #endif
65 #ifdef ENABLE_ARM_CRYPTO_SUPPORT
66     { 0, HWCAP2_AES, " aes", HWF_ARM_AES },
67     { 0, HWCAP2_SHA1," sha1", HWF_ARM_SHA1 },
68     { 0, HWCAP2_SHA2, " sha2", HWF_ARM_SHA2 },
69     { 0, HWCAP2_PMULL, " pmull", HWF_ARM_PMULL },
70 #endif
71   };
72
73 #elif defined(__aarch64__)
74
75 #define AT_HWCAP    16
76 #define AT_HWCAP2   -1
77
78 #define HWCAP_ASIMD 2
79 #define HWCAP_AES   8
80 #define HWCAP_PMULL 16
81 #define HWCAP_SHA1  32
82 #define HWCAP_SHA2  64
83
84 static const struct feature_map_s arm_features[] =
85   {
86 #ifdef ENABLE_NEON_SUPPORT
87     { HWCAP_ASIMD, 0, " asimd", HWF_ARM_NEON },
88 #endif
89 #ifdef ENABLE_ARM_CRYPTO_SUPPORT
90     { HWCAP_AES, 0, " aes", HWF_ARM_AES },
91     { HWCAP_SHA1, 0, " sha1", HWF_ARM_SHA1 },
92     { HWCAP_SHA2, 0, " sha2", HWF_ARM_SHA2 },
93     { HWCAP_PMULL, 0, " pmull", HWF_ARM_PMULL },
94 #endif
95   };
96
97 #endif
98
99 static int
100 get_hwcap(unsigned int *hwcap, unsigned int *hwcap2)
101 {
102   struct { unsigned long a_type; unsigned long a_val; } auxv;
103   FILE *f;
104   int err = -1;
105   static int hwcap_initialized = 0;
106   static unsigned int stored_hwcap = 0;
107   static unsigned int stored_hwcap2 = 0;
108
109   if (hwcap_initialized)
110     {
111       *hwcap = stored_hwcap;
112       *hwcap2 = stored_hwcap2;
113       return 0;
114     }
115
116   f = fopen("/proc/self/auxv", "r");
117   if (!f)
118     {
119       *hwcap = stored_hwcap;
120       *hwcap2 = stored_hwcap2;
121       return -1;
122     }
123
124   while (fread(&auxv, sizeof(auxv), 1, f) > 0)
125     {
126       if (auxv.a_type == AT_HWCAP)
127         {
128           stored_hwcap = auxv.a_val;
129           hwcap_initialized = 1;
130         }
131
132       if (auxv.a_type == AT_HWCAP2)
133         {
134           stored_hwcap2 = auxv.a_val;
135           hwcap_initialized = 1;
136         }
137     }
138
139   if (hwcap_initialized)
140     err = 0;
141
142   fclose(f);
143   *hwcap = stored_hwcap;
144   *hwcap2 = stored_hwcap2;
145   return err;
146 }
147
148 static unsigned int
149 detect_arm_at_hwcap(void)
150 {
151   unsigned int hwcap;
152   unsigned int hwcap2;
153   unsigned int features = 0;
154   unsigned int i;
155
156   if (get_hwcap(&hwcap, &hwcap2) < 0)
157     return features;
158
159   for (i = 0; i < DIM(arm_features); i++)
160     {
161       if (hwcap & arm_features[i].hwcap_flag)
162         features |= arm_features[i].hwf_flag;
163
164       if (hwcap2 & arm_features[i].hwcap2_flag)
165         features |= arm_features[i].hwf_flag;
166     }
167
168   return features;
169 }
170
171 static unsigned int
172 detect_arm_proc_cpuinfo(unsigned int *broken_hwfs)
173 {
174   char buf[1024]; /* large enough */
175   char *str_features, *str_feat;
176   int cpu_implementer, cpu_arch, cpu_variant, cpu_part, cpu_revision;
177   FILE *f;
178   int readlen, i;
179   size_t mlen;
180   static int cpuinfo_initialized = 0;
181   static unsigned int stored_cpuinfo_features;
182   static unsigned int stored_broken_hwfs;
183   struct {
184     const char *name;
185     int *value;
186   } cpu_entries[5] = {
187     { "CPU implementer", &cpu_implementer },
188     { "CPU architecture", &cpu_arch },
189     { "CPU variant", &cpu_variant },
190     { "CPU part", &cpu_part },
191     { "CPU revision", &cpu_revision },
192   };
193
194   if (cpuinfo_initialized)
195     {
196       *broken_hwfs |= stored_broken_hwfs;
197       return stored_cpuinfo_features;
198     }
199
200   f = fopen("/proc/cpuinfo", "r");
201   if (!f)
202     return 0;
203
204   memset (buf, 0, sizeof(buf));
205   readlen = fread (buf, 1, sizeof(buf), f);
206   fclose (f);
207   if (readlen <= 0 || readlen > sizeof(buf))
208     return 0;
209
210   buf[sizeof(buf) - 1] = '\0';
211
212   cpuinfo_initialized = 1;
213   stored_cpuinfo_features = 0;
214   stored_broken_hwfs = 0;
215
216   /* Find features line. */
217   str_features = strstr(buf, "Features");
218   if (!str_features)
219     return stored_cpuinfo_features;
220
221   /* Find CPU version information. */
222   for (i = 0; i < DIM(cpu_entries); i++)
223     {
224       char *str;
225
226       *cpu_entries[i].value = -1;
227
228       str = strstr(buf, cpu_entries[i].name);
229       if (!str)
230         continue;
231
232       str = strstr(str, ": ");
233       if (!str)
234         continue;
235
236       str += 2;
237       if (strcmp(cpu_entries[i].name, "CPU architecture") == 0
238           && strcmp(str, "AArch64") == 0)
239         *cpu_entries[i].value = 8;
240       else
241         *cpu_entries[i].value = strtoul(str, NULL, 0);
242     }
243
244   /* Lines to strings. */
245   for (i = 0; i < sizeof(buf); i++)
246     if (buf[i] == '\n')
247       buf[i] = '\0';
248
249   /* Check features. */
250   for (i = 0; i < DIM(arm_features); i++)
251     {
252       str_feat = strstr(str_features, arm_features[i].feature_match);
253       if (str_feat)
254         {
255           mlen = strlen(arm_features[i].feature_match);
256           if (str_feat[mlen] == ' ' || str_feat[mlen] == '\0')
257             {
258               stored_cpuinfo_features |= arm_features[i].hwf_flag;
259             }
260         }
261     }
262
263   /* Check for CPUs with broken NEON implementation. See
264    * https://code.google.com/p/chromium/issues/detail?id=341598
265    */
266   if (cpu_implementer == 0x51
267       && cpu_arch == 7
268       && cpu_variant == 1
269       && cpu_part == 0x4d
270       && cpu_revision == 0)
271     {
272       stored_broken_hwfs = HWF_ARM_NEON;
273     }
274
275   *broken_hwfs |= stored_broken_hwfs;
276   return stored_cpuinfo_features;
277 }
278
279 #endif /* __linux__ */
280
281 unsigned int
282 _gcry_hwf_detect_arm (void)
283 {
284   unsigned int ret = 0;
285   unsigned int broken_hwfs = 0;
286
287 #if defined (HAS_SYS_AT_HWCAP)
288   ret |= detect_arm_at_hwcap ();
289 #endif
290
291 #if defined (HAS_PROC_CPUINFO)
292   ret |= detect_arm_proc_cpuinfo (&broken_hwfs);
293 #endif
294
295 #if defined(__ARM_NEON) && defined(ENABLE_NEON_SUPPORT)
296   ret |= HWF_ARM_NEON;
297 #endif
298
299   ret &= ~broken_hwfs;
300
301   return ret;
302 }