Branch data Line data Source code
1 : : // SPDX-License-Identifier: GPL-2.0-or-later
2 : : /*
3 : : * Authenc: Simple AEAD wrapper for IPsec
4 : : *
5 : : * Copyright (c) 2007-2015 Herbert Xu <herbert@gondor.apana.org.au>
6 : : */
7 : :
8 : : #include <crypto/internal/aead.h>
9 : : #include <crypto/internal/hash.h>
10 : : #include <crypto/internal/skcipher.h>
11 : : #include <crypto/authenc.h>
12 : : #include <crypto/null.h>
13 : : #include <crypto/scatterwalk.h>
14 : : #include <linux/err.h>
15 : : #include <linux/init.h>
16 : : #include <linux/kernel.h>
17 : : #include <linux/module.h>
18 : : #include <linux/rtnetlink.h>
19 : : #include <linux/slab.h>
20 : : #include <linux/spinlock.h>
21 : :
22 : : struct authenc_instance_ctx {
23 : : struct crypto_ahash_spawn auth;
24 : : struct crypto_skcipher_spawn enc;
25 : : unsigned int reqoff;
26 : : };
27 : :
28 : : struct crypto_authenc_ctx {
29 : : struct crypto_ahash *auth;
30 : : struct crypto_skcipher *enc;
31 : : struct crypto_sync_skcipher *null;
32 : : };
33 : :
34 : : struct authenc_request_ctx {
35 : : struct scatterlist src[2];
36 : : struct scatterlist dst[2];
37 : : char tail[];
38 : : };
39 : :
40 : 0 : static void authenc_request_complete(struct aead_request *req, int err)
41 : : {
42 : 0 : if (err != -EINPROGRESS)
43 : 0 : aead_request_complete(req, err);
44 : : }
45 : :
46 : 0 : int crypto_authenc_extractkeys(struct crypto_authenc_keys *keys, const u8 *key,
47 : : unsigned int keylen)
48 : : {
49 : 0 : struct rtattr *rta = (struct rtattr *)key;
50 : 0 : struct crypto_authenc_key_param *param;
51 : :
52 [ # # # # : 0 : if (!RTA_OK(rta, keylen))
# # ]
53 : : return -EINVAL;
54 [ # # ]: 0 : if (rta->rta_type != CRYPTO_AUTHENC_KEYA_PARAM)
55 : : return -EINVAL;
56 : :
57 : : /*
58 : : * RTA_OK() didn't align the rtattr's payload when validating that it
59 : : * fits in the buffer. Yet, the keys should start on the next 4-byte
60 : : * aligned boundary. To avoid confusion, require that the rtattr
61 : : * payload be exactly the param struct, which has a 4-byte aligned size.
62 : : */
63 [ # # ]: 0 : if (RTA_PAYLOAD(rta) != sizeof(*param))
64 : : return -EINVAL;
65 : 0 : BUILD_BUG_ON(sizeof(*param) % RTA_ALIGNTO);
66 : :
67 : 0 : param = RTA_DATA(rta);
68 : 0 : keys->enckeylen = be32_to_cpu(param->enckeylen);
69 : :
70 : 0 : key += rta->rta_len;
71 : 0 : keylen -= rta->rta_len;
72 : :
73 [ # # ]: 0 : if (keylen < keys->enckeylen)
74 : : return -EINVAL;
75 : :
76 : 0 : keys->authkeylen = keylen - keys->enckeylen;
77 : 0 : keys->authkey = key;
78 : 0 : keys->enckey = key + keys->authkeylen;
79 : :
80 : 0 : return 0;
81 : : }
82 : : EXPORT_SYMBOL_GPL(crypto_authenc_extractkeys);
83 : :
84 : 0 : static int crypto_authenc_setkey(struct crypto_aead *authenc, const u8 *key,
85 : : unsigned int keylen)
86 : : {
87 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
88 : 0 : struct crypto_ahash *auth = ctx->auth;
89 : 0 : struct crypto_skcipher *enc = ctx->enc;
90 : 0 : struct crypto_authenc_keys keys;
91 : 0 : int err = -EINVAL;
92 : :
93 [ # # ]: 0 : if (crypto_authenc_extractkeys(&keys, key, keylen) != 0)
94 : 0 : goto out;
95 : :
96 : 0 : crypto_ahash_clear_flags(auth, CRYPTO_TFM_REQ_MASK);
97 : 0 : crypto_ahash_set_flags(auth, crypto_aead_get_flags(authenc) &
98 : : CRYPTO_TFM_REQ_MASK);
99 : 0 : err = crypto_ahash_setkey(auth, keys.authkey, keys.authkeylen);
100 [ # # ]: 0 : if (err)
101 : 0 : goto out;
102 : :
103 : 0 : crypto_skcipher_clear_flags(enc, CRYPTO_TFM_REQ_MASK);
104 : 0 : crypto_skcipher_set_flags(enc, crypto_aead_get_flags(authenc) &
105 : : CRYPTO_TFM_REQ_MASK);
106 : 0 : err = crypto_skcipher_setkey(enc, keys.enckey, keys.enckeylen);
107 : 0 : out:
108 : 0 : memzero_explicit(&keys, sizeof(keys));
109 : 0 : return err;
110 : : }
111 : :
112 : 0 : static void authenc_geniv_ahash_done(struct crypto_async_request *areq, int err)
113 : : {
114 : 0 : struct aead_request *req = areq->data;
115 [ # # ]: 0 : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
116 [ # # ]: 0 : struct aead_instance *inst = aead_alg_instance(authenc);
117 [ # # ]: 0 : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
118 [ # # ]: 0 : struct authenc_request_ctx *areq_ctx = aead_request_ctx(req);
119 : 0 : struct ahash_request *ahreq = (void *)(areq_ctx->tail + ictx->reqoff);
120 : :
121 [ # # ]: 0 : if (err)
122 : 0 : goto out;
123 : :
124 : 0 : scatterwalk_map_and_copy(ahreq->result, req->dst,
125 : 0 : req->assoclen + req->cryptlen,
126 : : crypto_aead_authsize(authenc), 1);
127 : :
128 : 0 : out:
129 : 0 : aead_request_complete(req, err);
130 : 0 : }
131 : :
132 : 0 : static int crypto_authenc_genicv(struct aead_request *req, unsigned int flags)
133 : : {
134 : 0 : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
135 : 0 : struct aead_instance *inst = aead_alg_instance(authenc);
136 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
137 : 0 : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
138 : 0 : struct crypto_ahash *auth = ctx->auth;
139 : 0 : struct authenc_request_ctx *areq_ctx = aead_request_ctx(req);
140 : 0 : struct ahash_request *ahreq = (void *)(areq_ctx->tail + ictx->reqoff);
141 : 0 : u8 *hash = areq_ctx->tail;
142 : 0 : int err;
143 : :
144 : 0 : hash = (u8 *)ALIGN((unsigned long)hash + crypto_ahash_alignmask(auth),
145 : : crypto_ahash_alignmask(auth) + 1);
146 : :
147 : 0 : ahash_request_set_tfm(ahreq, auth);
148 : 0 : ahash_request_set_crypt(ahreq, req->dst, hash,
149 : 0 : req->assoclen + req->cryptlen);
150 : 0 : ahash_request_set_callback(ahreq, flags,
151 : : authenc_geniv_ahash_done, req);
152 : :
153 : 0 : err = crypto_ahash_digest(ahreq);
154 [ # # ]: 0 : if (err)
155 : : return err;
156 : :
157 : 0 : scatterwalk_map_and_copy(hash, req->dst, req->assoclen + req->cryptlen,
158 : : crypto_aead_authsize(authenc), 1);
159 : :
160 : 0 : return 0;
161 : : }
162 : :
163 : 0 : static void crypto_authenc_encrypt_done(struct crypto_async_request *req,
164 : : int err)
165 : : {
166 : 0 : struct aead_request *areq = req->data;
167 : :
168 [ # # ]: 0 : if (err)
169 : 0 : goto out;
170 : :
171 : 0 : err = crypto_authenc_genicv(areq, 0);
172 : :
173 : 0 : out:
174 [ # # ]: 0 : authenc_request_complete(areq, err);
175 : 0 : }
176 : :
177 : 0 : static int crypto_authenc_copy_assoc(struct aead_request *req)
178 : : {
179 : 0 : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
180 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
181 : 0 : SYNC_SKCIPHER_REQUEST_ON_STACK(skreq, ctx->null);
182 : :
183 : 0 : skcipher_request_set_sync_tfm(skreq, ctx->null);
184 : 0 : skcipher_request_set_callback(skreq, aead_request_flags(req),
185 : : NULL, NULL);
186 : 0 : skcipher_request_set_crypt(skreq, req->src, req->dst, req->assoclen,
187 : : NULL);
188 : :
189 : 0 : return crypto_skcipher_encrypt(skreq);
190 : : }
191 : :
192 : 0 : static int crypto_authenc_encrypt(struct aead_request *req)
193 : : {
194 : 0 : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
195 : 0 : struct aead_instance *inst = aead_alg_instance(authenc);
196 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
197 : 0 : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
198 : 0 : struct authenc_request_ctx *areq_ctx = aead_request_ctx(req);
199 : 0 : struct crypto_skcipher *enc = ctx->enc;
200 : 0 : unsigned int cryptlen = req->cryptlen;
201 : 0 : struct skcipher_request *skreq = (void *)(areq_ctx->tail +
202 : 0 : ictx->reqoff);
203 : 0 : struct scatterlist *src, *dst;
204 : 0 : int err;
205 : :
206 : 0 : src = scatterwalk_ffwd(areq_ctx->src, req->src, req->assoclen);
207 : 0 : dst = src;
208 : :
209 [ # # ]: 0 : if (req->src != req->dst) {
210 : 0 : err = crypto_authenc_copy_assoc(req);
211 [ # # ]: 0 : if (err)
212 : : return err;
213 : :
214 : 0 : dst = scatterwalk_ffwd(areq_ctx->dst, req->dst, req->assoclen);
215 : : }
216 : :
217 : 0 : skcipher_request_set_tfm(skreq, enc);
218 : 0 : skcipher_request_set_callback(skreq, aead_request_flags(req),
219 : : crypto_authenc_encrypt_done, req);
220 : 0 : skcipher_request_set_crypt(skreq, src, dst, cryptlen, req->iv);
221 : :
222 : 0 : err = crypto_skcipher_encrypt(skreq);
223 [ # # ]: 0 : if (err)
224 : : return err;
225 : :
226 : 0 : return crypto_authenc_genicv(req, aead_request_flags(req));
227 : : }
228 : :
229 : : static int crypto_authenc_decrypt_tail(struct aead_request *req,
230 : : unsigned int flags)
231 : : {
232 : : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
233 : : struct aead_instance *inst = aead_alg_instance(authenc);
234 : : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
235 : : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
236 : : struct authenc_request_ctx *areq_ctx = aead_request_ctx(req);
237 : : struct ahash_request *ahreq = (void *)(areq_ctx->tail + ictx->reqoff);
238 : : struct skcipher_request *skreq = (void *)(areq_ctx->tail +
239 : : ictx->reqoff);
240 : : unsigned int authsize = crypto_aead_authsize(authenc);
241 : : u8 *ihash = ahreq->result + authsize;
242 : : struct scatterlist *src, *dst;
243 : :
244 : : scatterwalk_map_and_copy(ihash, req->src, ahreq->nbytes, authsize, 0);
245 : :
246 : : if (crypto_memneq(ihash, ahreq->result, authsize))
247 : : return -EBADMSG;
248 : :
249 : : src = scatterwalk_ffwd(areq_ctx->src, req->src, req->assoclen);
250 : : dst = src;
251 : :
252 : : if (req->src != req->dst)
253 : : dst = scatterwalk_ffwd(areq_ctx->dst, req->dst, req->assoclen);
254 : :
255 : : skcipher_request_set_tfm(skreq, ctx->enc);
256 : : skcipher_request_set_callback(skreq, aead_request_flags(req),
257 : : req->base.complete, req->base.data);
258 : : skcipher_request_set_crypt(skreq, src, dst,
259 : : req->cryptlen - authsize, req->iv);
260 : :
261 : : return crypto_skcipher_decrypt(skreq);
262 : : }
263 : :
264 : 0 : static void authenc_verify_ahash_done(struct crypto_async_request *areq,
265 : : int err)
266 : : {
267 : 0 : struct aead_request *req = areq->data;
268 : :
269 [ # # ]: 0 : if (err)
270 : 0 : goto out;
271 : :
272 : 0 : err = crypto_authenc_decrypt_tail(req, 0);
273 : :
274 : 0 : out:
275 [ # # ]: 0 : authenc_request_complete(req, err);
276 : 0 : }
277 : :
278 : 0 : static int crypto_authenc_decrypt(struct aead_request *req)
279 : : {
280 : 0 : struct crypto_aead *authenc = crypto_aead_reqtfm(req);
281 : 0 : unsigned int authsize = crypto_aead_authsize(authenc);
282 : 0 : struct aead_instance *inst = aead_alg_instance(authenc);
283 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(authenc);
284 : 0 : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
285 : 0 : struct crypto_ahash *auth = ctx->auth;
286 : 0 : struct authenc_request_ctx *areq_ctx = aead_request_ctx(req);
287 : 0 : struct ahash_request *ahreq = (void *)(areq_ctx->tail + ictx->reqoff);
288 : 0 : u8 *hash = areq_ctx->tail;
289 : 0 : int err;
290 : :
291 : 0 : hash = (u8 *)ALIGN((unsigned long)hash + crypto_ahash_alignmask(auth),
292 : : crypto_ahash_alignmask(auth) + 1);
293 : :
294 : 0 : ahash_request_set_tfm(ahreq, auth);
295 : 0 : ahash_request_set_crypt(ahreq, req->src, hash,
296 : 0 : req->assoclen + req->cryptlen - authsize);
297 : 0 : ahash_request_set_callback(ahreq, aead_request_flags(req),
298 : : authenc_verify_ahash_done, req);
299 : :
300 : 0 : err = crypto_ahash_digest(ahreq);
301 [ # # ]: 0 : if (err)
302 : : return err;
303 : :
304 : 0 : return crypto_authenc_decrypt_tail(req, aead_request_flags(req));
305 : : }
306 : :
307 : 0 : static int crypto_authenc_init_tfm(struct crypto_aead *tfm)
308 : : {
309 : 0 : struct aead_instance *inst = aead_alg_instance(tfm);
310 : 0 : struct authenc_instance_ctx *ictx = aead_instance_ctx(inst);
311 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(tfm);
312 : 0 : struct crypto_ahash *auth;
313 : 0 : struct crypto_skcipher *enc;
314 : 0 : struct crypto_sync_skcipher *null;
315 : 0 : int err;
316 : :
317 : 0 : auth = crypto_spawn_ahash(&ictx->auth);
318 [ # # ]: 0 : if (IS_ERR(auth))
319 : 0 : return PTR_ERR(auth);
320 : :
321 : 0 : enc = crypto_spawn_skcipher(&ictx->enc);
322 [ # # ]: 0 : err = PTR_ERR(enc);
323 [ # # ]: 0 : if (IS_ERR(enc))
324 : 0 : goto err_free_ahash;
325 : :
326 : 0 : null = crypto_get_default_null_skcipher();
327 [ # # ]: 0 : err = PTR_ERR(null);
328 [ # # ]: 0 : if (IS_ERR(null))
329 : 0 : goto err_free_skcipher;
330 : :
331 : 0 : ctx->auth = auth;
332 : 0 : ctx->enc = enc;
333 : 0 : ctx->null = null;
334 : :
335 : 0 : crypto_aead_set_reqsize(
336 : : tfm,
337 : : sizeof(struct authenc_request_ctx) +
338 : 0 : ictx->reqoff +
339 : 0 : max_t(unsigned int,
340 : : crypto_ahash_reqsize(auth) +
341 : : sizeof(struct ahash_request),
342 : : sizeof(struct skcipher_request) +
343 : : crypto_skcipher_reqsize(enc)));
344 : :
345 : 0 : return 0;
346 : :
347 : : err_free_skcipher:
348 : 0 : crypto_free_skcipher(enc);
349 : 0 : err_free_ahash:
350 : 0 : crypto_free_ahash(auth);
351 : 0 : return err;
352 : : }
353 : :
354 : 0 : static void crypto_authenc_exit_tfm(struct crypto_aead *tfm)
355 : : {
356 : 0 : struct crypto_authenc_ctx *ctx = crypto_aead_ctx(tfm);
357 : :
358 : 0 : crypto_free_ahash(ctx->auth);
359 : 0 : crypto_free_skcipher(ctx->enc);
360 : 0 : crypto_put_default_null_skcipher();
361 : 0 : }
362 : :
363 : 0 : static void crypto_authenc_free(struct aead_instance *inst)
364 : : {
365 : 0 : struct authenc_instance_ctx *ctx = aead_instance_ctx(inst);
366 : :
367 : 0 : crypto_drop_skcipher(&ctx->enc);
368 : 0 : crypto_drop_ahash(&ctx->auth);
369 : 0 : kfree(inst);
370 : 0 : }
371 : :
372 : 0 : static int crypto_authenc_create(struct crypto_template *tmpl,
373 : : struct rtattr **tb)
374 : : {
375 : 0 : struct crypto_attr_type *algt;
376 : 0 : u32 mask;
377 : 0 : struct aead_instance *inst;
378 : 0 : struct authenc_instance_ctx *ctx;
379 : 0 : struct hash_alg_common *auth;
380 : 0 : struct crypto_alg *auth_base;
381 : 0 : struct skcipher_alg *enc;
382 : 0 : int err;
383 : :
384 : 0 : algt = crypto_get_attr_type(tb);
385 [ # # ]: 0 : if (IS_ERR(algt))
386 : 0 : return PTR_ERR(algt);
387 : :
388 [ # # ]: 0 : if ((algt->type ^ CRYPTO_ALG_TYPE_AEAD) & algt->mask)
389 : : return -EINVAL;
390 : :
391 : 0 : mask = crypto_requires_sync(algt->type, algt->mask);
392 : :
393 : 0 : inst = kzalloc(sizeof(*inst) + sizeof(*ctx), GFP_KERNEL);
394 [ # # ]: 0 : if (!inst)
395 : : return -ENOMEM;
396 : 0 : ctx = aead_instance_ctx(inst);
397 : :
398 : 0 : err = crypto_grab_ahash(&ctx->auth, aead_crypto_instance(inst),
399 : : crypto_attr_alg_name(tb[1]), 0, mask);
400 [ # # ]: 0 : if (err)
401 : 0 : goto err_free_inst;
402 : 0 : auth = crypto_spawn_ahash_alg(&ctx->auth);
403 : 0 : auth_base = &auth->base;
404 : :
405 : 0 : err = crypto_grab_skcipher(&ctx->enc, aead_crypto_instance(inst),
406 : : crypto_attr_alg_name(tb[2]), 0, mask);
407 [ # # ]: 0 : if (err)
408 : 0 : goto err_free_inst;
409 [ # # ]: 0 : enc = crypto_spawn_skcipher_alg(&ctx->enc);
410 : :
411 : 0 : ctx->reqoff = ALIGN(2 * auth->digestsize + auth_base->cra_alignmask,
412 : : auth_base->cra_alignmask + 1);
413 : :
414 : 0 : err = -ENAMETOOLONG;
415 : 0 : if (snprintf(inst->alg.base.cra_name, CRYPTO_MAX_ALG_NAME,
416 : 0 : "authenc(%s,%s)", auth_base->cra_name,
417 [ # # ]: 0 : enc->base.cra_name) >=
418 : : CRYPTO_MAX_ALG_NAME)
419 : 0 : goto err_free_inst;
420 : :
421 : 0 : if (snprintf(inst->alg.base.cra_driver_name, CRYPTO_MAX_ALG_NAME,
422 : 0 : "authenc(%s,%s)", auth_base->cra_driver_name,
423 [ # # ]: 0 : enc->base.cra_driver_name) >= CRYPTO_MAX_ALG_NAME)
424 : 0 : goto err_free_inst;
425 : :
426 : 0 : inst->alg.base.cra_flags = (auth_base->cra_flags |
427 : 0 : enc->base.cra_flags) & CRYPTO_ALG_ASYNC;
428 : 0 : inst->alg.base.cra_priority = enc->base.cra_priority * 10 +
429 : 0 : auth_base->cra_priority;
430 : 0 : inst->alg.base.cra_blocksize = enc->base.cra_blocksize;
431 : 0 : inst->alg.base.cra_alignmask = auth_base->cra_alignmask |
432 : 0 : enc->base.cra_alignmask;
433 : 0 : inst->alg.base.cra_ctxsize = sizeof(struct crypto_authenc_ctx);
434 : :
435 : 0 : inst->alg.ivsize = crypto_skcipher_alg_ivsize(enc);
436 : 0 : inst->alg.chunksize = crypto_skcipher_alg_chunksize(enc);
437 : 0 : inst->alg.maxauthsize = auth->digestsize;
438 : :
439 : 0 : inst->alg.init = crypto_authenc_init_tfm;
440 : 0 : inst->alg.exit = crypto_authenc_exit_tfm;
441 : :
442 : 0 : inst->alg.setkey = crypto_authenc_setkey;
443 : 0 : inst->alg.encrypt = crypto_authenc_encrypt;
444 : 0 : inst->alg.decrypt = crypto_authenc_decrypt;
445 : :
446 : 0 : inst->free = crypto_authenc_free;
447 : :
448 : 0 : err = aead_register_instance(tmpl, inst);
449 [ # # ]: 0 : if (err) {
450 : 0 : err_free_inst:
451 : 0 : crypto_authenc_free(inst);
452 : : }
453 : : return err;
454 : : }
455 : :
456 : : static struct crypto_template crypto_authenc_tmpl = {
457 : : .name = "authenc",
458 : : .create = crypto_authenc_create,
459 : : .module = THIS_MODULE,
460 : : };
461 : :
462 : 30 : static int __init crypto_authenc_module_init(void)
463 : : {
464 : 30 : return crypto_register_template(&crypto_authenc_tmpl);
465 : : }
466 : :
467 : 0 : static void __exit crypto_authenc_module_exit(void)
468 : : {
469 : 0 : crypto_unregister_template(&crypto_authenc_tmpl);
470 : 0 : }
471 : :
472 : : subsys_initcall(crypto_authenc_module_init);
473 : : module_exit(crypto_authenc_module_exit);
474 : :
475 : : MODULE_LICENSE("GPL");
476 : : MODULE_DESCRIPTION("Simple AEAD wrapper for IPsec");
477 : : MODULE_ALIAS_CRYPTO("authenc");
|
