xref: /freebsd-src/contrib/bearssl/src/ssl/ssl_scert_single_rsa.c (revision 2aaf9152a852aba9eb2036b95f4948ee77988826)
1*0957b409SSimon J. Gerraty /*
2*0957b409SSimon J. Gerraty  * Copyright (c) 2016 Thomas Pornin <pornin@bolet.org>
3*0957b409SSimon J. Gerraty  *
4*0957b409SSimon J. Gerraty  * Permission is hereby granted, free of charge, to any person obtaining
5*0957b409SSimon J. Gerraty  * a copy of this software and associated documentation files (the
6*0957b409SSimon J. Gerraty  * "Software"), to deal in the Software without restriction, including
7*0957b409SSimon J. Gerraty  * without limitation the rights to use, copy, modify, merge, publish,
8*0957b409SSimon J. Gerraty  * distribute, sublicense, and/or sell copies of the Software, and to
9*0957b409SSimon J. Gerraty  * permit persons to whom the Software is furnished to do so, subject to
10*0957b409SSimon J. Gerraty  * the following conditions:
11*0957b409SSimon J. Gerraty  *
12*0957b409SSimon J. Gerraty  * The above copyright notice and this permission notice shall be
13*0957b409SSimon J. Gerraty  * included in all copies or substantial portions of the Software.
14*0957b409SSimon J. Gerraty  *
15*0957b409SSimon J. Gerraty  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
16*0957b409SSimon J. Gerraty  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
17*0957b409SSimon J. Gerraty  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
18*0957b409SSimon J. Gerraty  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
19*0957b409SSimon J. Gerraty  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
20*0957b409SSimon J. Gerraty  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
21*0957b409SSimon J. Gerraty  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
22*0957b409SSimon J. Gerraty  * SOFTWARE.
23*0957b409SSimon J. Gerraty  */
24*0957b409SSimon J. Gerraty 
25*0957b409SSimon J. Gerraty #include "inner.h"
26*0957b409SSimon J. Gerraty 
27*0957b409SSimon J. Gerraty static int
sr_choose(const br_ssl_server_policy_class ** pctx,const br_ssl_server_context * cc,br_ssl_server_choices * choices)28*0957b409SSimon J. Gerraty sr_choose(const br_ssl_server_policy_class **pctx,
29*0957b409SSimon J. Gerraty 	const br_ssl_server_context *cc,
30*0957b409SSimon J. Gerraty 	br_ssl_server_choices *choices)
31*0957b409SSimon J. Gerraty {
32*0957b409SSimon J. Gerraty 	br_ssl_server_policy_rsa_context *pc;
33*0957b409SSimon J. Gerraty 	const br_suite_translated *st;
34*0957b409SSimon J. Gerraty 	size_t u, st_num;
35*0957b409SSimon J. Gerraty 	unsigned hash_id;
36*0957b409SSimon J. Gerraty 	int fh;
37*0957b409SSimon J. Gerraty 
38*0957b409SSimon J. Gerraty 	pc = (br_ssl_server_policy_rsa_context *)pctx;
39*0957b409SSimon J. Gerraty 	st = br_ssl_server_get_client_suites(cc, &st_num);
40*0957b409SSimon J. Gerraty 	if (cc->eng.session.version < BR_TLS12) {
41*0957b409SSimon J. Gerraty 		hash_id = 0;
42*0957b409SSimon J. Gerraty 		fh = 1;
43*0957b409SSimon J. Gerraty 	} else {
44*0957b409SSimon J. Gerraty 		hash_id = br_ssl_choose_hash(
45*0957b409SSimon J. Gerraty 			br_ssl_server_get_client_hashes(cc));
46*0957b409SSimon J. Gerraty 		fh = (hash_id != 0);
47*0957b409SSimon J. Gerraty 	}
48*0957b409SSimon J. Gerraty 	choices->chain = pc->chain;
49*0957b409SSimon J. Gerraty 	choices->chain_len = pc->chain_len;
50*0957b409SSimon J. Gerraty 	for (u = 0; u < st_num; u ++) {
51*0957b409SSimon J. Gerraty 		unsigned tt;
52*0957b409SSimon J. Gerraty 
53*0957b409SSimon J. Gerraty 		tt = st[u][1];
54*0957b409SSimon J. Gerraty 		switch (tt >> 12) {
55*0957b409SSimon J. Gerraty 		case BR_SSLKEYX_RSA:
56*0957b409SSimon J. Gerraty 			if ((pc->allowed_usages & BR_KEYTYPE_KEYX) != 0) {
57*0957b409SSimon J. Gerraty 				choices->cipher_suite = st[u][0];
58*0957b409SSimon J. Gerraty 				return 1;
59*0957b409SSimon J. Gerraty 			}
60*0957b409SSimon J. Gerraty 			break;
61*0957b409SSimon J. Gerraty 		case BR_SSLKEYX_ECDHE_RSA:
62*0957b409SSimon J. Gerraty 			if ((pc->allowed_usages & BR_KEYTYPE_SIGN) != 0 && fh) {
63*0957b409SSimon J. Gerraty 				choices->cipher_suite = st[u][0];
64*0957b409SSimon J. Gerraty 				choices->algo_id = hash_id + 0xFF00;
65*0957b409SSimon J. Gerraty 				return 1;
66*0957b409SSimon J. Gerraty 			}
67*0957b409SSimon J. Gerraty 			break;
68*0957b409SSimon J. Gerraty 		}
69*0957b409SSimon J. Gerraty 	}
70*0957b409SSimon J. Gerraty 	return 0;
71*0957b409SSimon J. Gerraty }
72*0957b409SSimon J. Gerraty 
73*0957b409SSimon J. Gerraty static uint32_t
sr_do_keyx(const br_ssl_server_policy_class ** pctx,unsigned char * data,size_t * len)74*0957b409SSimon J. Gerraty sr_do_keyx(const br_ssl_server_policy_class **pctx,
75*0957b409SSimon J. Gerraty 	unsigned char *data, size_t *len)
76*0957b409SSimon J. Gerraty {
77*0957b409SSimon J. Gerraty 	br_ssl_server_policy_rsa_context *pc;
78*0957b409SSimon J. Gerraty 
79*0957b409SSimon J. Gerraty 	pc = (br_ssl_server_policy_rsa_context *)pctx;
80*0957b409SSimon J. Gerraty 	return br_rsa_ssl_decrypt(pc->irsacore, pc->sk, data, *len);
81*0957b409SSimon J. Gerraty }
82*0957b409SSimon J. Gerraty 
83*0957b409SSimon J. Gerraty /*
84*0957b409SSimon J. Gerraty  * OID for hash functions in RSA signatures.
85*0957b409SSimon J. Gerraty  */
86*0957b409SSimon J. Gerraty static const unsigned char HASH_OID_SHA1[] = {
87*0957b409SSimon J. Gerraty 	0x05, 0x2B, 0x0E, 0x03, 0x02, 0x1A
88*0957b409SSimon J. Gerraty };
89*0957b409SSimon J. Gerraty 
90*0957b409SSimon J. Gerraty static const unsigned char HASH_OID_SHA224[] = {
91*0957b409SSimon J. Gerraty 	0x09, 0x60, 0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x04
92*0957b409SSimon J. Gerraty };
93*0957b409SSimon J. Gerraty 
94*0957b409SSimon J. Gerraty static const unsigned char HASH_OID_SHA256[] = {
95*0957b409SSimon J. Gerraty 	0x09, 0x60, 0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x01
96*0957b409SSimon J. Gerraty };
97*0957b409SSimon J. Gerraty 
98*0957b409SSimon J. Gerraty static const unsigned char HASH_OID_SHA384[] = {
99*0957b409SSimon J. Gerraty 	0x09, 0x60, 0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x02
100*0957b409SSimon J. Gerraty };
101*0957b409SSimon J. Gerraty 
102*0957b409SSimon J. Gerraty static const unsigned char HASH_OID_SHA512[] = {
103*0957b409SSimon J. Gerraty 	0x09, 0x60, 0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x03
104*0957b409SSimon J. Gerraty };
105*0957b409SSimon J. Gerraty 
106*0957b409SSimon J. Gerraty static const unsigned char *HASH_OID[] = {
107*0957b409SSimon J. Gerraty 	HASH_OID_SHA1,
108*0957b409SSimon J. Gerraty 	HASH_OID_SHA224,
109*0957b409SSimon J. Gerraty 	HASH_OID_SHA256,
110*0957b409SSimon J. Gerraty 	HASH_OID_SHA384,
111*0957b409SSimon J. Gerraty 	HASH_OID_SHA512
112*0957b409SSimon J. Gerraty };
113*0957b409SSimon J. Gerraty 
114*0957b409SSimon J. Gerraty static size_t
sr_do_sign(const br_ssl_server_policy_class ** pctx,unsigned algo_id,unsigned char * data,size_t hv_len,size_t len)115*0957b409SSimon J. Gerraty sr_do_sign(const br_ssl_server_policy_class **pctx,
116*0957b409SSimon J. Gerraty 	unsigned algo_id, unsigned char *data, size_t hv_len, size_t len)
117*0957b409SSimon J. Gerraty {
118*0957b409SSimon J. Gerraty 	br_ssl_server_policy_rsa_context *pc;
119*0957b409SSimon J. Gerraty 	unsigned char hv[64];
120*0957b409SSimon J. Gerraty 	size_t sig_len;
121*0957b409SSimon J. Gerraty 	const unsigned char *hash_oid;
122*0957b409SSimon J. Gerraty 
123*0957b409SSimon J. Gerraty 	pc = (br_ssl_server_policy_rsa_context *)pctx;
124*0957b409SSimon J. Gerraty 	memcpy(hv, data, hv_len);
125*0957b409SSimon J. Gerraty 	algo_id &= 0xFF;
126*0957b409SSimon J. Gerraty 	if (algo_id == 0) {
127*0957b409SSimon J. Gerraty 		hash_oid = NULL;
128*0957b409SSimon J. Gerraty 	} else if (algo_id >= 2 && algo_id <= 6) {
129*0957b409SSimon J. Gerraty 		hash_oid = HASH_OID[algo_id - 2];
130*0957b409SSimon J. Gerraty 	} else {
131*0957b409SSimon J. Gerraty 		return 0;
132*0957b409SSimon J. Gerraty 	}
133*0957b409SSimon J. Gerraty 	sig_len = (pc->sk->n_bitlen + 7) >> 3;
134*0957b409SSimon J. Gerraty 	if (len < sig_len) {
135*0957b409SSimon J. Gerraty 		return 0;
136*0957b409SSimon J. Gerraty 	}
137*0957b409SSimon J. Gerraty 	return pc->irsasign(hash_oid, hv, hv_len, pc->sk, data) ? sig_len : 0;
138*0957b409SSimon J. Gerraty }
139*0957b409SSimon J. Gerraty 
140*0957b409SSimon J. Gerraty static const br_ssl_server_policy_class sr_policy_vtable = {
141*0957b409SSimon J. Gerraty 	sizeof(br_ssl_server_policy_rsa_context),
142*0957b409SSimon J. Gerraty 	sr_choose,
143*0957b409SSimon J. Gerraty 	sr_do_keyx,
144*0957b409SSimon J. Gerraty 	sr_do_sign
145*0957b409SSimon J. Gerraty };
146*0957b409SSimon J. Gerraty 
147*0957b409SSimon J. Gerraty /* see bearssl_ssl.h */
148*0957b409SSimon J. Gerraty void
br_ssl_server_set_single_rsa(br_ssl_server_context * cc,const br_x509_certificate * chain,size_t chain_len,const br_rsa_private_key * sk,unsigned allowed_usages,br_rsa_private irsacore,br_rsa_pkcs1_sign irsasign)149*0957b409SSimon J. Gerraty br_ssl_server_set_single_rsa(br_ssl_server_context *cc,
150*0957b409SSimon J. Gerraty 	const br_x509_certificate *chain, size_t chain_len,
151*0957b409SSimon J. Gerraty 	const br_rsa_private_key *sk, unsigned allowed_usages,
152*0957b409SSimon J. Gerraty 	br_rsa_private irsacore, br_rsa_pkcs1_sign irsasign)
153*0957b409SSimon J. Gerraty {
154*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.vtable = &sr_policy_vtable;
155*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.chain = chain;
156*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.chain_len = chain_len;
157*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.sk = sk;
158*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.allowed_usages = allowed_usages;
159*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.irsacore = irsacore;
160*0957b409SSimon J. Gerraty 	cc->chain_handler.single_rsa.irsasign = irsasign;
161*0957b409SSimon J. Gerraty 	cc->policy_vtable = &cc->chain_handler.single_rsa.vtable;
162*0957b409SSimon J. Gerraty }
163