Clean up ASN1_item_sign_ctx() a little
authortb <tb@openbsd.org>
Tue, 24 May 2022 20:20:19 +0000 (20:20 +0000)
committertb <tb@openbsd.org>
Tue, 24 May 2022 20:20:19 +0000 (20:20 +0000)
commit2e8da2cfc430924cfcea0c324390438f5cd3b2fa
tree637297d2a73b17bb6a4e72f8ee13290b28e12b80
parentaaf8962a38dde62945cde0170b03c5fd5321e885
Clean up ASN1_item_sign_ctx() a little

Instead of inl, outl, and outll, use in_len, out_len, and buf_out_len.
Use the appropriate types for them. Check return values properly, check
for overflow. Remove some unnecessary casts and add some for readability.
Use asn1_abs_set_unused_bits() instead of inlining it.

This removes the last direct consumer of ASN1_STRING_FLAG_BITS_LEFT
outside of asn1/a_bitstr.c. The flag is still mentioned in x509/x509_addr.c
but that will hopefully go away soon.

tweaks/ok jsing
lib/libcrypto/asn1/asn1_item.c