Rewrite X509_ALGOR_set0()
authortb <tb@openbsd.org>
Wed, 11 Oct 2023 13:20:18 +0000 (13:20 +0000)
committertb <tb@openbsd.org>
Wed, 11 Oct 2023 13:20:18 +0000 (13:20 +0000)
commit97fce2b4783e9e53a0d63d7f4b49c2bc54e5491f
tree9c1f2738247140a7285206adde4a509945dff178
parentfc20c8359d88d0941b87bcee13bfb8ec27fdf312
Rewrite X509_ALGOR_set0()

The current implementation is a complete mess. There are three cases:
1) ptype == V_ASN1_UNDEF: parameter must be freed and set to NULL.
2) ptype == 0: existing non-NULL parameters are left untouched, NULL
   parameters are replaced with ASN1_TYPE_new()'s wacky defaults.
3) otherwise allocate new parameters if needed and set them to ptype/pval.
In all three cases free the algorithm and set it to aobj.

The challenge now is to implement this using nine if statements and one
else clause... We can do better. This preserves existing behavior. There
would be cleaner implementations possible, but they would change behavior.

There are many callers in the ecosystem that do not error check
X509_ALGOR_set0() since OpenSSL failed to do so. So this was carefully
rewritten to leave alg in a consisten state so that unchecking callers
don't encounter corrupted algs.

ok jsing
lib/libcrypto/asn1/x_algor.c