Annotate RSA-PSS SHA parameter encoding as wrong
authortb <tb@openbsd.org>
Sun, 17 Mar 2024 07:10:00 +0000 (07:10 +0000)
committertb <tb@openbsd.org>
Sun, 17 Mar 2024 07:10:00 +0000 (07:10 +0000)
commit1eb3d403c0b906b74d72964ea1ac54f688ca1692
treed734026f6eddd4baffef98e76af9d5813956484f
parent6651c3e51fb0bb3de19705bcb5b10d37f0e68f5d
Annotate RSA-PSS SHA parameter encoding as wrong

A historic blunderfest in the ASN.1 module for RSA-PSS led to very
confusing text in various RFCs. davidben and my current reading of
this is that parameters for SHA-* should be encoded as an ASN.1 NULL
rather than omitted. The use of X509_ALGOR_set_evp_md() leads to them
being omitted, and is therefore counter to the specification (but
allowed. We should fix this. For now, leave a reminder.

See https://boringssl-review.googlesource.com/c/boringssl/+/67088
for a lot more details.

ok davidben
lib/libcrypto/rsa/rsa_ameth.c