xref: /freebsd-src/crypto/openssl/test/bntest.c (revision e0c4386e7e71d93b0edc0c8fa156263fc4a8b0b6)
1*e0c4386eSCy Schubert /*
2*e0c4386eSCy Schubert  * Copyright 1995-2022 The OpenSSL Project Authors. All Rights Reserved.
3*e0c4386eSCy Schubert  *
4*e0c4386eSCy Schubert  * Licensed under the Apache License 2.0 (the "License").  You may not use
5*e0c4386eSCy Schubert  * this file except in compliance with the License.  You can obtain a copy
6*e0c4386eSCy Schubert  * in the file LICENSE in the source distribution or at
7*e0c4386eSCy Schubert  * https://www.openssl.org/source/license.html
8*e0c4386eSCy Schubert  */
9*e0c4386eSCy Schubert #include <assert.h>
10*e0c4386eSCy Schubert #include <errno.h>
11*e0c4386eSCy Schubert #include <stdio.h>
12*e0c4386eSCy Schubert #include <string.h>
13*e0c4386eSCy Schubert #include <ctype.h>
14*e0c4386eSCy Schubert 
15*e0c4386eSCy Schubert #include <openssl/bn.h>
16*e0c4386eSCy Schubert #include <openssl/crypto.h>
17*e0c4386eSCy Schubert #include <openssl/err.h>
18*e0c4386eSCy Schubert #include <openssl/rand.h>
19*e0c4386eSCy Schubert #include "internal/nelem.h"
20*e0c4386eSCy Schubert #include "internal/numbers.h"
21*e0c4386eSCy Schubert #include "testutil.h"
22*e0c4386eSCy Schubert 
23*e0c4386eSCy Schubert /*
24*e0c4386eSCy Schubert  * Things in boring, not in openssl.
25*e0c4386eSCy Schubert  */
26*e0c4386eSCy Schubert #define HAVE_BN_SQRT 0
27*e0c4386eSCy Schubert 
28*e0c4386eSCy Schubert typedef struct filetest_st {
29*e0c4386eSCy Schubert     const char *name;
30*e0c4386eSCy Schubert     int (*func)(STANZA *s);
31*e0c4386eSCy Schubert } FILETEST;
32*e0c4386eSCy Schubert 
33*e0c4386eSCy Schubert typedef struct mpitest_st {
34*e0c4386eSCy Schubert     const char *base10;
35*e0c4386eSCy Schubert     const char *mpi;
36*e0c4386eSCy Schubert     size_t mpi_len;
37*e0c4386eSCy Schubert } MPITEST;
38*e0c4386eSCy Schubert 
39*e0c4386eSCy Schubert static const int NUM0 = 100;           /* number of tests */
40*e0c4386eSCy Schubert static const int NUM1 = 50;            /* additional tests for some functions */
41*e0c4386eSCy Schubert static BN_CTX *ctx;
42*e0c4386eSCy Schubert 
43*e0c4386eSCy Schubert /*
44*e0c4386eSCy Schubert  * Polynomial coefficients used in GFM tests.
45*e0c4386eSCy Schubert  */
46*e0c4386eSCy Schubert #ifndef OPENSSL_NO_EC2M
47*e0c4386eSCy Schubert static int p0[] = { 163, 7, 6, 3, 0, -1 };
48*e0c4386eSCy Schubert static int p1[] = { 193, 15, 0, -1 };
49*e0c4386eSCy Schubert #endif
50*e0c4386eSCy Schubert 
51*e0c4386eSCy Schubert /*
52*e0c4386eSCy Schubert  * Look for |key| in the stanza and return it or NULL if not found.
53*e0c4386eSCy Schubert  */
findattr(STANZA * s,const char * key)54*e0c4386eSCy Schubert static const char *findattr(STANZA *s, const char *key)
55*e0c4386eSCy Schubert {
56*e0c4386eSCy Schubert     int i = s->numpairs;
57*e0c4386eSCy Schubert     PAIR *pp = s->pairs;
58*e0c4386eSCy Schubert 
59*e0c4386eSCy Schubert     for ( ; --i >= 0; pp++)
60*e0c4386eSCy Schubert         if (OPENSSL_strcasecmp(pp->key, key) == 0)
61*e0c4386eSCy Schubert             return pp->value;
62*e0c4386eSCy Schubert     return NULL;
63*e0c4386eSCy Schubert }
64*e0c4386eSCy Schubert 
65*e0c4386eSCy Schubert /*
66*e0c4386eSCy Schubert  * Parse BIGNUM from sparse hex-strings, return |BN_hex2bn| result.
67*e0c4386eSCy Schubert  */
parse_bigBN(BIGNUM ** out,const char * bn_strings[])68*e0c4386eSCy Schubert static int parse_bigBN(BIGNUM **out, const char *bn_strings[])
69*e0c4386eSCy Schubert {
70*e0c4386eSCy Schubert     char *bigstring = glue_strings(bn_strings, NULL);
71*e0c4386eSCy Schubert     int ret = BN_hex2bn(out, bigstring);
72*e0c4386eSCy Schubert 
73*e0c4386eSCy Schubert     OPENSSL_free(bigstring);
74*e0c4386eSCy Schubert     return ret;
75*e0c4386eSCy Schubert }
76*e0c4386eSCy Schubert 
77*e0c4386eSCy Schubert /*
78*e0c4386eSCy Schubert  * Parse BIGNUM, return number of bytes parsed.
79*e0c4386eSCy Schubert  */
parseBN(BIGNUM ** out,const char * in)80*e0c4386eSCy Schubert static int parseBN(BIGNUM **out, const char *in)
81*e0c4386eSCy Schubert {
82*e0c4386eSCy Schubert     *out = NULL;
83*e0c4386eSCy Schubert     return BN_hex2bn(out, in);
84*e0c4386eSCy Schubert }
85*e0c4386eSCy Schubert 
parsedecBN(BIGNUM ** out,const char * in)86*e0c4386eSCy Schubert static int parsedecBN(BIGNUM **out, const char *in)
87*e0c4386eSCy Schubert {
88*e0c4386eSCy Schubert     *out = NULL;
89*e0c4386eSCy Schubert     return BN_dec2bn(out, in);
90*e0c4386eSCy Schubert }
91*e0c4386eSCy Schubert 
getBN(STANZA * s,const char * attribute)92*e0c4386eSCy Schubert static BIGNUM *getBN(STANZA *s, const char *attribute)
93*e0c4386eSCy Schubert {
94*e0c4386eSCy Schubert     const char *hex;
95*e0c4386eSCy Schubert     BIGNUM *ret = NULL;
96*e0c4386eSCy Schubert 
97*e0c4386eSCy Schubert     if ((hex = findattr(s, attribute)) == NULL) {
98*e0c4386eSCy Schubert         TEST_error("%s:%d: Can't find %s", s->test_file, s->start, attribute);
99*e0c4386eSCy Schubert         return NULL;
100*e0c4386eSCy Schubert     }
101*e0c4386eSCy Schubert 
102*e0c4386eSCy Schubert     if (parseBN(&ret, hex) != (int)strlen(hex)) {
103*e0c4386eSCy Schubert         TEST_error("Could not decode '%s'", hex);
104*e0c4386eSCy Schubert         return NULL;
105*e0c4386eSCy Schubert     }
106*e0c4386eSCy Schubert     return ret;
107*e0c4386eSCy Schubert }
108*e0c4386eSCy Schubert 
getint(STANZA * s,int * out,const char * attribute)109*e0c4386eSCy Schubert static int getint(STANZA *s, int *out, const char *attribute)
110*e0c4386eSCy Schubert {
111*e0c4386eSCy Schubert     BIGNUM *ret;
112*e0c4386eSCy Schubert     BN_ULONG word;
113*e0c4386eSCy Schubert     int st = 0;
114*e0c4386eSCy Schubert 
115*e0c4386eSCy Schubert     if (!TEST_ptr(ret = getBN(s, attribute))
116*e0c4386eSCy Schubert             || !TEST_ulong_le(word = BN_get_word(ret), INT_MAX))
117*e0c4386eSCy Schubert         goto err;
118*e0c4386eSCy Schubert 
119*e0c4386eSCy Schubert     *out = (int)word;
120*e0c4386eSCy Schubert     st = 1;
121*e0c4386eSCy Schubert  err:
122*e0c4386eSCy Schubert     BN_free(ret);
123*e0c4386eSCy Schubert     return st;
124*e0c4386eSCy Schubert }
125*e0c4386eSCy Schubert 
equalBN(const char * op,const BIGNUM * expected,const BIGNUM * actual)126*e0c4386eSCy Schubert static int equalBN(const char *op, const BIGNUM *expected, const BIGNUM *actual)
127*e0c4386eSCy Schubert {
128*e0c4386eSCy Schubert     if (BN_cmp(expected, actual) == 0)
129*e0c4386eSCy Schubert         return 1;
130*e0c4386eSCy Schubert 
131*e0c4386eSCy Schubert     TEST_error("unexpected %s value", op);
132*e0c4386eSCy Schubert     TEST_BN_eq(expected, actual);
133*e0c4386eSCy Schubert     return 0;
134*e0c4386eSCy Schubert }
135*e0c4386eSCy Schubert 
136*e0c4386eSCy Schubert /*
137*e0c4386eSCy Schubert  * Return a "random" flag for if a BN should be negated.
138*e0c4386eSCy Schubert  */
rand_neg(void)139*e0c4386eSCy Schubert static int rand_neg(void)
140*e0c4386eSCy Schubert {
141*e0c4386eSCy Schubert     static unsigned int neg = 0;
142*e0c4386eSCy Schubert     static int sign[8] = { 0, 0, 0, 1, 1, 0, 1, 1 };
143*e0c4386eSCy Schubert 
144*e0c4386eSCy Schubert     return sign[(neg++) % 8];
145*e0c4386eSCy Schubert }
146*e0c4386eSCy Schubert 
test_swap(void)147*e0c4386eSCy Schubert static int test_swap(void)
148*e0c4386eSCy Schubert {
149*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL;
150*e0c4386eSCy Schubert     int top, cond, st = 0;
151*e0c4386eSCy Schubert 
152*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
153*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
154*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
155*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new()))
156*e0c4386eSCy Schubert         goto err;
157*e0c4386eSCy Schubert 
158*e0c4386eSCy Schubert     if (!(TEST_true(BN_bntest_rand(a, 1024, 1, 0))
159*e0c4386eSCy Schubert             && TEST_true(BN_bntest_rand(b, 1024, 1, 0))
160*e0c4386eSCy Schubert             && TEST_ptr(BN_copy(c, a))
161*e0c4386eSCy Schubert             && TEST_ptr(BN_copy(d, b))))
162*e0c4386eSCy Schubert         goto err;
163*e0c4386eSCy Schubert     top = BN_num_bits(a) / BN_BITS2;
164*e0c4386eSCy Schubert 
165*e0c4386eSCy Schubert     /* regular swap */
166*e0c4386eSCy Schubert     BN_swap(a, b);
167*e0c4386eSCy Schubert     if (!equalBN("swap", a, d)
168*e0c4386eSCy Schubert             || !equalBN("swap", b, c))
169*e0c4386eSCy Schubert         goto err;
170*e0c4386eSCy Schubert 
171*e0c4386eSCy Schubert     /* conditional swap: true */
172*e0c4386eSCy Schubert     cond = 1;
173*e0c4386eSCy Schubert     BN_consttime_swap(cond, a, b, top);
174*e0c4386eSCy Schubert     if (!equalBN("cswap true", a, c)
175*e0c4386eSCy Schubert             || !equalBN("cswap true", b, d))
176*e0c4386eSCy Schubert         goto err;
177*e0c4386eSCy Schubert 
178*e0c4386eSCy Schubert     /* conditional swap: false */
179*e0c4386eSCy Schubert     cond = 0;
180*e0c4386eSCy Schubert     BN_consttime_swap(cond, a, b, top);
181*e0c4386eSCy Schubert     if (!equalBN("cswap false", a, c)
182*e0c4386eSCy Schubert             || !equalBN("cswap false", b, d))
183*e0c4386eSCy Schubert         goto err;
184*e0c4386eSCy Schubert 
185*e0c4386eSCy Schubert     /* same tests but checking flag swap */
186*e0c4386eSCy Schubert     BN_set_flags(a, BN_FLG_CONSTTIME);
187*e0c4386eSCy Schubert 
188*e0c4386eSCy Schubert     BN_swap(a, b);
189*e0c4386eSCy Schubert     if (!equalBN("swap, flags", a, d)
190*e0c4386eSCy Schubert             || !equalBN("swap, flags", b, c)
191*e0c4386eSCy Schubert             || !TEST_true(BN_get_flags(b, BN_FLG_CONSTTIME))
192*e0c4386eSCy Schubert             || !TEST_false(BN_get_flags(a, BN_FLG_CONSTTIME)))
193*e0c4386eSCy Schubert         goto err;
194*e0c4386eSCy Schubert 
195*e0c4386eSCy Schubert     cond = 1;
196*e0c4386eSCy Schubert     BN_consttime_swap(cond, a, b, top);
197*e0c4386eSCy Schubert     if (!equalBN("cswap true, flags", a, c)
198*e0c4386eSCy Schubert             || !equalBN("cswap true, flags", b, d)
199*e0c4386eSCy Schubert             || !TEST_true(BN_get_flags(a, BN_FLG_CONSTTIME))
200*e0c4386eSCy Schubert             || !TEST_false(BN_get_flags(b, BN_FLG_CONSTTIME)))
201*e0c4386eSCy Schubert         goto err;
202*e0c4386eSCy Schubert 
203*e0c4386eSCy Schubert     cond = 0;
204*e0c4386eSCy Schubert     BN_consttime_swap(cond, a, b, top);
205*e0c4386eSCy Schubert     if (!equalBN("cswap false, flags", a, c)
206*e0c4386eSCy Schubert             || !equalBN("cswap false, flags", b, d)
207*e0c4386eSCy Schubert             || !TEST_true(BN_get_flags(a, BN_FLG_CONSTTIME))
208*e0c4386eSCy Schubert             || !TEST_false(BN_get_flags(b, BN_FLG_CONSTTIME)))
209*e0c4386eSCy Schubert         goto err;
210*e0c4386eSCy Schubert 
211*e0c4386eSCy Schubert     st = 1;
212*e0c4386eSCy Schubert  err:
213*e0c4386eSCy Schubert     BN_free(a);
214*e0c4386eSCy Schubert     BN_free(b);
215*e0c4386eSCy Schubert     BN_free(c);
216*e0c4386eSCy Schubert     BN_free(d);
217*e0c4386eSCy Schubert     return st;
218*e0c4386eSCy Schubert }
219*e0c4386eSCy Schubert 
test_sub(void)220*e0c4386eSCy Schubert static int test_sub(void)
221*e0c4386eSCy Schubert {
222*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL;
223*e0c4386eSCy Schubert     int i, st = 0;
224*e0c4386eSCy Schubert 
225*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
226*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
227*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new()))
228*e0c4386eSCy Schubert         goto err;
229*e0c4386eSCy Schubert 
230*e0c4386eSCy Schubert     for (i = 0; i < NUM0 + NUM1; i++) {
231*e0c4386eSCy Schubert         if (i < NUM1) {
232*e0c4386eSCy Schubert             if (!(TEST_true(BN_bntest_rand(a, 512, 0, 0)))
233*e0c4386eSCy Schubert                     && TEST_ptr(BN_copy(b, a))
234*e0c4386eSCy Schubert                     && TEST_int_ne(BN_set_bit(a, i), 0)
235*e0c4386eSCy Schubert                     && TEST_true(BN_add_word(b, i)))
236*e0c4386eSCy Schubert                 goto err;
237*e0c4386eSCy Schubert         } else {
238*e0c4386eSCy Schubert             if (!TEST_true(BN_bntest_rand(b, 400 + i - NUM1, 0, 0)))
239*e0c4386eSCy Schubert                 goto err;
240*e0c4386eSCy Schubert             BN_set_negative(a, rand_neg());
241*e0c4386eSCy Schubert             BN_set_negative(b, rand_neg());
242*e0c4386eSCy Schubert         }
243*e0c4386eSCy Schubert         if (!(TEST_true(BN_sub(c, a, b))
244*e0c4386eSCy Schubert                 && TEST_true(BN_add(c, c, b))
245*e0c4386eSCy Schubert                 && TEST_true(BN_sub(c, c, a))
246*e0c4386eSCy Schubert                 && TEST_BN_eq_zero(c)))
247*e0c4386eSCy Schubert             goto err;
248*e0c4386eSCy Schubert     }
249*e0c4386eSCy Schubert     st = 1;
250*e0c4386eSCy Schubert  err:
251*e0c4386eSCy Schubert     BN_free(a);
252*e0c4386eSCy Schubert     BN_free(b);
253*e0c4386eSCy Schubert     BN_free(c);
254*e0c4386eSCy Schubert     return st;
255*e0c4386eSCy Schubert }
256*e0c4386eSCy Schubert 
test_div_recip(void)257*e0c4386eSCy Schubert static int test_div_recip(void)
258*e0c4386eSCy Schubert {
259*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL, *e = NULL;
260*e0c4386eSCy Schubert     BN_RECP_CTX *recp = NULL;
261*e0c4386eSCy Schubert     int st = 0, i;
262*e0c4386eSCy Schubert 
263*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
264*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
265*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
266*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
267*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
268*e0c4386eSCy Schubert             || !TEST_ptr(recp = BN_RECP_CTX_new()))
269*e0c4386eSCy Schubert         goto err;
270*e0c4386eSCy Schubert 
271*e0c4386eSCy Schubert     for (i = 0; i < NUM0 + NUM1; i++) {
272*e0c4386eSCy Schubert         if (i < NUM1) {
273*e0c4386eSCy Schubert             if (!(TEST_true(BN_bntest_rand(a, 400, 0, 0))
274*e0c4386eSCy Schubert                     && TEST_ptr(BN_copy(b, a))
275*e0c4386eSCy Schubert                     && TEST_true(BN_lshift(a, a, i))
276*e0c4386eSCy Schubert                     && TEST_true(BN_add_word(a, i))))
277*e0c4386eSCy Schubert                 goto err;
278*e0c4386eSCy Schubert         } else {
279*e0c4386eSCy Schubert             if (!(TEST_true(BN_bntest_rand(b, 50 + 3 * (i - NUM1), 0, 0))))
280*e0c4386eSCy Schubert                 goto err;
281*e0c4386eSCy Schubert         }
282*e0c4386eSCy Schubert         BN_set_negative(a, rand_neg());
283*e0c4386eSCy Schubert         BN_set_negative(b, rand_neg());
284*e0c4386eSCy Schubert         if (!(TEST_true(BN_RECP_CTX_set(recp, b, ctx))
285*e0c4386eSCy Schubert                 && TEST_true(BN_div_recp(d, c, a, recp, ctx))
286*e0c4386eSCy Schubert                 && TEST_true(BN_mul(e, d, b, ctx))
287*e0c4386eSCy Schubert                 && TEST_true(BN_add(d, e, c))
288*e0c4386eSCy Schubert                 && TEST_true(BN_sub(d, d, a))
289*e0c4386eSCy Schubert                 && TEST_BN_eq_zero(d)))
290*e0c4386eSCy Schubert             goto err;
291*e0c4386eSCy Schubert     }
292*e0c4386eSCy Schubert     st = 1;
293*e0c4386eSCy Schubert  err:
294*e0c4386eSCy Schubert     BN_free(a);
295*e0c4386eSCy Schubert     BN_free(b);
296*e0c4386eSCy Schubert     BN_free(c);
297*e0c4386eSCy Schubert     BN_free(d);
298*e0c4386eSCy Schubert     BN_free(e);
299*e0c4386eSCy Schubert     BN_RECP_CTX_free(recp);
300*e0c4386eSCy Schubert     return st;
301*e0c4386eSCy Schubert }
302*e0c4386eSCy Schubert 
303*e0c4386eSCy Schubert static struct {
304*e0c4386eSCy Schubert     int n, divisor, result, remainder;
305*e0c4386eSCy Schubert } signed_mod_tests[] = {
306*e0c4386eSCy Schubert     {  10,   3,   3,   1 },
307*e0c4386eSCy Schubert     { -10,   3,  -3,  -1 },
308*e0c4386eSCy Schubert     {  10,  -3,  -3,   1 },
309*e0c4386eSCy Schubert     { -10,  -3,   3,  -1 },
310*e0c4386eSCy Schubert };
311*e0c4386eSCy Schubert 
set_signed_bn(int value)312*e0c4386eSCy Schubert static BIGNUM *set_signed_bn(int value)
313*e0c4386eSCy Schubert {
314*e0c4386eSCy Schubert     BIGNUM *bn = BN_new();
315*e0c4386eSCy Schubert 
316*e0c4386eSCy Schubert     if (bn == NULL)
317*e0c4386eSCy Schubert         return NULL;
318*e0c4386eSCy Schubert     if (!BN_set_word(bn, value < 0 ? -value : value)) {
319*e0c4386eSCy Schubert         BN_free(bn);
320*e0c4386eSCy Schubert         return NULL;
321*e0c4386eSCy Schubert     }
322*e0c4386eSCy Schubert     BN_set_negative(bn, value < 0);
323*e0c4386eSCy Schubert     return bn;
324*e0c4386eSCy Schubert }
325*e0c4386eSCy Schubert 
test_signed_mod_replace_ab(int n)326*e0c4386eSCy Schubert static int test_signed_mod_replace_ab(int n)
327*e0c4386eSCy Schubert {
328*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL;
329*e0c4386eSCy Schubert     int st = 0;
330*e0c4386eSCy Schubert 
331*e0c4386eSCy Schubert     if (!TEST_ptr(a = set_signed_bn(signed_mod_tests[n].n))
332*e0c4386eSCy Schubert             || !TEST_ptr(b = set_signed_bn(signed_mod_tests[n].divisor))
333*e0c4386eSCy Schubert             || !TEST_ptr(c = set_signed_bn(signed_mod_tests[n].result))
334*e0c4386eSCy Schubert             || !TEST_ptr(d = set_signed_bn(signed_mod_tests[n].remainder)))
335*e0c4386eSCy Schubert         goto err;
336*e0c4386eSCy Schubert 
337*e0c4386eSCy Schubert     if (TEST_true(BN_div(a, b, a, b, ctx))
338*e0c4386eSCy Schubert             && TEST_BN_eq(a, c)
339*e0c4386eSCy Schubert             && TEST_BN_eq(b, d))
340*e0c4386eSCy Schubert         st = 1;
341*e0c4386eSCy Schubert  err:
342*e0c4386eSCy Schubert     BN_free(a);
343*e0c4386eSCy Schubert     BN_free(b);
344*e0c4386eSCy Schubert     BN_free(c);
345*e0c4386eSCy Schubert     BN_free(d);
346*e0c4386eSCy Schubert     return st;
347*e0c4386eSCy Schubert }
348*e0c4386eSCy Schubert 
test_signed_mod_replace_ba(int n)349*e0c4386eSCy Schubert static int test_signed_mod_replace_ba(int n)
350*e0c4386eSCy Schubert {
351*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL;
352*e0c4386eSCy Schubert     int st = 0;
353*e0c4386eSCy Schubert 
354*e0c4386eSCy Schubert     if (!TEST_ptr(a = set_signed_bn(signed_mod_tests[n].n))
355*e0c4386eSCy Schubert             || !TEST_ptr(b = set_signed_bn(signed_mod_tests[n].divisor))
356*e0c4386eSCy Schubert             || !TEST_ptr(c = set_signed_bn(signed_mod_tests[n].result))
357*e0c4386eSCy Schubert             || !TEST_ptr(d = set_signed_bn(signed_mod_tests[n].remainder)))
358*e0c4386eSCy Schubert         goto err;
359*e0c4386eSCy Schubert 
360*e0c4386eSCy Schubert     if (TEST_true(BN_div(b, a, a, b, ctx))
361*e0c4386eSCy Schubert             && TEST_BN_eq(b, c)
362*e0c4386eSCy Schubert             && TEST_BN_eq(a, d))
363*e0c4386eSCy Schubert         st = 1;
364*e0c4386eSCy Schubert  err:
365*e0c4386eSCy Schubert     BN_free(a);
366*e0c4386eSCy Schubert     BN_free(b);
367*e0c4386eSCy Schubert     BN_free(c);
368*e0c4386eSCy Schubert     BN_free(d);
369*e0c4386eSCy Schubert     return st;
370*e0c4386eSCy Schubert }
371*e0c4386eSCy Schubert 
test_mod(void)372*e0c4386eSCy Schubert static int test_mod(void)
373*e0c4386eSCy Schubert {
374*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL, *e = NULL;
375*e0c4386eSCy Schubert     int st = 0, i;
376*e0c4386eSCy Schubert 
377*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
378*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
379*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
380*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
381*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new()))
382*e0c4386eSCy Schubert         goto err;
383*e0c4386eSCy Schubert 
384*e0c4386eSCy Schubert     if (!(TEST_true(BN_bntest_rand(a, 1024, 0, 0))))
385*e0c4386eSCy Schubert         goto err;
386*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
387*e0c4386eSCy Schubert         if (!(TEST_true(BN_bntest_rand(b, 450 + i * 10, 0, 0))))
388*e0c4386eSCy Schubert             goto err;
389*e0c4386eSCy Schubert         BN_set_negative(a, rand_neg());
390*e0c4386eSCy Schubert         BN_set_negative(b, rand_neg());
391*e0c4386eSCy Schubert         if (!(TEST_true(BN_mod(c, a, b, ctx))
392*e0c4386eSCy Schubert                 && TEST_true(BN_div(d, e, a, b, ctx))
393*e0c4386eSCy Schubert                 && TEST_BN_eq(e, c)
394*e0c4386eSCy Schubert                 && TEST_true(BN_mul(c, d, b, ctx))
395*e0c4386eSCy Schubert                 && TEST_true(BN_add(d, c, e))
396*e0c4386eSCy Schubert                 && TEST_BN_eq(d, a)))
397*e0c4386eSCy Schubert             goto err;
398*e0c4386eSCy Schubert     }
399*e0c4386eSCy Schubert     st = 1;
400*e0c4386eSCy Schubert  err:
401*e0c4386eSCy Schubert     BN_free(a);
402*e0c4386eSCy Schubert     BN_free(b);
403*e0c4386eSCy Schubert     BN_free(c);
404*e0c4386eSCy Schubert     BN_free(d);
405*e0c4386eSCy Schubert     BN_free(e);
406*e0c4386eSCy Schubert     return st;
407*e0c4386eSCy Schubert }
408*e0c4386eSCy Schubert 
409*e0c4386eSCy Schubert static const char *bn1strings[] = {
410*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
411*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
412*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
413*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
414*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
415*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
416*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
417*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000000000000FFFFFFFF00",
418*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
419*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
420*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
421*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
422*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
423*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
424*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
425*e0c4386eSCy Schubert     "00000000000000000000000000000000000000000000000000FFFFFFFFFFFFFF",
426*e0c4386eSCy Schubert     NULL
427*e0c4386eSCy Schubert };
428*e0c4386eSCy Schubert 
429*e0c4386eSCy Schubert static const char *bn2strings[] = {
430*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
431*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
432*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
433*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
434*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
435*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
436*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
437*e0c4386eSCy Schubert     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000000000000FFFFFFFF0000000000",
438*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
439*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
440*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
441*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
442*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
443*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
444*e0c4386eSCy Schubert     "0000000000000000000000000000000000000000000000000000000000000000",
445*e0c4386eSCy Schubert     "000000000000000000000000000000000000000000FFFFFFFFFFFFFF00000000",
446*e0c4386eSCy Schubert     NULL
447*e0c4386eSCy Schubert };
448*e0c4386eSCy Schubert 
449*e0c4386eSCy Schubert /*
450*e0c4386eSCy Schubert  * Test constant-time modular exponentiation with 1024-bit inputs, which on
451*e0c4386eSCy Schubert  * x86_64 cause a different code branch to be taken.
452*e0c4386eSCy Schubert  */
test_modexp_mont5(void)453*e0c4386eSCy Schubert static int test_modexp_mont5(void)
454*e0c4386eSCy Schubert {
455*e0c4386eSCy Schubert     BIGNUM *a = NULL, *p = NULL, *m = NULL, *d = NULL, *e = NULL;
456*e0c4386eSCy Schubert     BIGNUM *b = NULL, *n = NULL, *c = NULL;
457*e0c4386eSCy Schubert     BN_MONT_CTX *mont = NULL;
458*e0c4386eSCy Schubert     int st = 0;
459*e0c4386eSCy Schubert 
460*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
461*e0c4386eSCy Schubert             || !TEST_ptr(p = BN_new())
462*e0c4386eSCy Schubert             || !TEST_ptr(m = BN_new())
463*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
464*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
465*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
466*e0c4386eSCy Schubert             || !TEST_ptr(n = BN_new())
467*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
468*e0c4386eSCy Schubert             || !TEST_ptr(mont = BN_MONT_CTX_new()))
469*e0c4386eSCy Schubert         goto err;
470*e0c4386eSCy Schubert 
471*e0c4386eSCy Schubert     /* must be odd for montgomery */
472*e0c4386eSCy Schubert     if (!(TEST_true(BN_bntest_rand(m, 1024, 0, 1))
473*e0c4386eSCy Schubert             /* Zero exponent */
474*e0c4386eSCy Schubert             && TEST_true(BN_bntest_rand(a, 1024, 0, 0))))
475*e0c4386eSCy Schubert         goto err;
476*e0c4386eSCy Schubert     BN_zero(p);
477*e0c4386eSCy Schubert 
478*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL)))
479*e0c4386eSCy Schubert         goto err;
480*e0c4386eSCy Schubert     if (!TEST_BN_eq_one(d))
481*e0c4386eSCy Schubert         goto err;
482*e0c4386eSCy Schubert 
483*e0c4386eSCy Schubert     /* Regression test for carry bug in mulx4x_mont */
484*e0c4386eSCy Schubert     if (!(TEST_true(BN_hex2bn(&a,
485*e0c4386eSCy Schubert         "7878787878787878787878787878787878787878787878787878787878787878"
486*e0c4386eSCy Schubert         "7878787878787878787878787878787878787878787878787878787878787878"
487*e0c4386eSCy Schubert         "7878787878787878787878787878787878787878787878787878787878787878"
488*e0c4386eSCy Schubert         "7878787878787878787878787878787878787878787878787878787878787878"))
489*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&b,
490*e0c4386eSCy Schubert         "095D72C08C097BA488C5E439C655A192EAFB6380073D8C2664668EDDB4060744"
491*e0c4386eSCy Schubert         "E16E57FB4EDB9AE10A0CEFCDC28A894F689A128379DB279D48A2E20849D68593"
492*e0c4386eSCy Schubert         "9B7803BCF46CEBF5C533FB0DD35B080593DE5472E3FE5DB951B8BFF9B4CB8F03"
493*e0c4386eSCy Schubert         "9CC638A5EE8CDD703719F8000E6A9F63BEED5F2FCD52FF293EA05A251BB4AB81"))
494*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&n,
495*e0c4386eSCy Schubert         "D78AF684E71DB0C39CFF4E64FB9DB567132CB9C50CC98009FEB820B26F2DED9B"
496*e0c4386eSCy Schubert         "91B9B5E2B83AE0AE4EB4E0523CA726BFBE969B89FD754F674CE99118C3F2D1C5"
497*e0c4386eSCy Schubert         "D81FDC7C54E02B60262B241D53C040E99E45826ECA37A804668E690E1AFC1CA4"
498*e0c4386eSCy Schubert         "2C9A15D84D4954425F0B7642FC0BD9D7B24E2618D2DCC9B729D944BADACFDDAF"))))
499*e0c4386eSCy Schubert         goto err;
500*e0c4386eSCy Schubert 
501*e0c4386eSCy Schubert     if (!(TEST_true(BN_MONT_CTX_set(mont, n, ctx))
502*e0c4386eSCy Schubert             && TEST_true(BN_mod_mul_montgomery(c, a, b, mont, ctx))
503*e0c4386eSCy Schubert             && TEST_true(BN_mod_mul_montgomery(d, b, a, mont, ctx))
504*e0c4386eSCy Schubert             && TEST_BN_eq(c, d)))
505*e0c4386eSCy Schubert         goto err;
506*e0c4386eSCy Schubert 
507*e0c4386eSCy Schubert     /* Regression test for carry bug in sqr[x]8x_mont */
508*e0c4386eSCy Schubert     if (!(TEST_true(parse_bigBN(&n, bn1strings))
509*e0c4386eSCy Schubert             && TEST_true(parse_bigBN(&a, bn2strings))))
510*e0c4386eSCy Schubert         goto err;
511*e0c4386eSCy Schubert     BN_free(b);
512*e0c4386eSCy Schubert     if (!(TEST_ptr(b = BN_dup(a))
513*e0c4386eSCy Schubert             && TEST_true(BN_MONT_CTX_set(mont, n, ctx))
514*e0c4386eSCy Schubert             && TEST_true(BN_mod_mul_montgomery(c, a, a, mont, ctx))
515*e0c4386eSCy Schubert             && TEST_true(BN_mod_mul_montgomery(d, a, b, mont, ctx))
516*e0c4386eSCy Schubert             && TEST_BN_eq(c, d)))
517*e0c4386eSCy Schubert         goto err;
518*e0c4386eSCy Schubert 
519*e0c4386eSCy Schubert     /* Regression test for carry bug in bn_sqrx8x_internal */
520*e0c4386eSCy Schubert     {
521*e0c4386eSCy Schubert         static const char *ahex[] = {
522*e0c4386eSCy Schubert                       "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
523*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
524*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
525*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
526*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF8FFEADBCFC4DAE7FFF908E92820306B",
527*e0c4386eSCy Schubert             "9544D954000000006C0000000000000000000000000000000000000000000000",
528*e0c4386eSCy Schubert             "00000000000000000000FF030202FFFFF8FFEBDBCFC4DAE7FFF908E92820306B",
529*e0c4386eSCy Schubert             "9544D954000000006C000000FF0302030000000000FFFFFFFFFFFFFFFFFFFFFF",
530*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF01FC00FF02FFFFFFFF",
531*e0c4386eSCy Schubert             "00FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00FCFD",
532*e0c4386eSCy Schubert             "FCFFFFFFFFFF000000000000000000FF0302030000000000FFFFFFFFFFFFFFFF",
533*e0c4386eSCy Schubert             "FF00FCFDFDFF030202FF00000000FFFFFFFFFFFFFFFFFF00FCFDFCFFFFFFFFFF",
534*e0c4386eSCy Schubert             NULL
535*e0c4386eSCy Schubert         };
536*e0c4386eSCy Schubert         static const char *nhex[] = {
537*e0c4386eSCy Schubert                       "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
538*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
539*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
540*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
541*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF8F8F8F8000000",
542*e0c4386eSCy Schubert             "00000010000000006C0000000000000000000000000000000000000000000000",
543*e0c4386eSCy Schubert             "00000000000000000000000000000000000000FFFFFFFFFFFFF8F8F8F8000000",
544*e0c4386eSCy Schubert             "00000010000000006C000000000000000000000000FFFFFFFFFFFFFFFFFFFFFF",
545*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
546*e0c4386eSCy Schubert             "00FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
547*e0c4386eSCy Schubert             "FFFFFFFFFFFF000000000000000000000000000000000000FFFFFFFFFFFFFFFF",
548*e0c4386eSCy Schubert             "FFFFFFFFFFFFFFFFFFFF00000000FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
549*e0c4386eSCy Schubert             NULL
550*e0c4386eSCy Schubert         };
551*e0c4386eSCy Schubert 
552*e0c4386eSCy Schubert         if (!(TEST_true(parse_bigBN(&a, ahex))
553*e0c4386eSCy Schubert                 && TEST_true(parse_bigBN(&n, nhex))))
554*e0c4386eSCy Schubert             goto err;
555*e0c4386eSCy Schubert     }
556*e0c4386eSCy Schubert     BN_free(b);
557*e0c4386eSCy Schubert     if (!(TEST_ptr(b = BN_dup(a))
558*e0c4386eSCy Schubert             && TEST_true(BN_MONT_CTX_set(mont, n, ctx))))
559*e0c4386eSCy Schubert         goto err;
560*e0c4386eSCy Schubert 
561*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_mul_montgomery(c, a, a, mont, ctx))
562*e0c4386eSCy Schubert             || !TEST_true(BN_mod_mul_montgomery(d, a, b, mont, ctx))
563*e0c4386eSCy Schubert             || !TEST_BN_eq(c, d))
564*e0c4386eSCy Schubert         goto err;
565*e0c4386eSCy Schubert 
566*e0c4386eSCy Schubert     /* Regression test for bug in BN_from_montgomery_word */
567*e0c4386eSCy Schubert     if (!(TEST_true(BN_hex2bn(&a,
568*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
569*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
570*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"))
571*e0c4386eSCy Schubert          && TEST_true(BN_hex2bn(&n,
572*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
573*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"))
574*e0c4386eSCy Schubert         && TEST_true(BN_MONT_CTX_set(mont, n, ctx))
575*e0c4386eSCy Schubert         && TEST_false(BN_mod_mul_montgomery(d, a, a, mont, ctx))))
576*e0c4386eSCy Schubert         goto err;
577*e0c4386eSCy Schubert 
578*e0c4386eSCy Schubert     /* Regression test for bug in rsaz_1024_mul_avx2 */
579*e0c4386eSCy Schubert     if (!(TEST_true(BN_hex2bn(&a,
580*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
581*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
582*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
583*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020DF"))
584*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&b,
585*e0c4386eSCy Schubert         "2020202020202020202020202020202020202020202020202020202020202020"
586*e0c4386eSCy Schubert         "2020202020202020202020202020202020202020202020202020202020202020"
587*e0c4386eSCy Schubert         "20202020202020FF202020202020202020202020202020202020202020202020"
588*e0c4386eSCy Schubert         "2020202020202020202020202020202020202020202020202020202020202020"))
589*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&n,
590*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
591*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
592*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
593*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020FF"))
594*e0c4386eSCy Schubert         && TEST_true(BN_MONT_CTX_set(mont, n, ctx))
595*e0c4386eSCy Schubert         && TEST_true(BN_mod_exp_mont_consttime(c, a, b, n, ctx, mont))
596*e0c4386eSCy Schubert         && TEST_true(BN_mod_exp_mont(d, a, b, n, ctx, mont))
597*e0c4386eSCy Schubert         && TEST_BN_eq(c, d)))
598*e0c4386eSCy Schubert         goto err;
599*e0c4386eSCy Schubert 
600*e0c4386eSCy Schubert     /*
601*e0c4386eSCy Schubert      * rsaz_1024_mul_avx2 expects fully-reduced inputs.
602*e0c4386eSCy Schubert      * BN_mod_exp_mont_consttime should reduce the input first.
603*e0c4386eSCy Schubert      */
604*e0c4386eSCy Schubert     if (!(TEST_true(BN_hex2bn(&a,
605*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
606*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
607*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
608*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020DF"))
609*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&b,
610*e0c4386eSCy Schubert         "1FA53F26F8811C58BE0357897AA5E165693230BC9DF5F01DFA6A2D59229EC69D"
611*e0c4386eSCy Schubert         "9DE6A89C36E3B6957B22D6FAAD5A3C73AE587B710DBE92E83D3A9A3339A085CB"
612*e0c4386eSCy Schubert         "B58F508CA4F837924BB52CC1698B7FDC2FD74362456A595A5B58E38E38E38E38"
613*e0c4386eSCy Schubert         "E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E38E"))
614*e0c4386eSCy Schubert         && TEST_true(BN_hex2bn(&n,
615*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
616*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
617*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
618*e0c4386eSCy Schubert         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020DF"))
619*e0c4386eSCy Schubert         && TEST_true(BN_MONT_CTX_set(mont, n, ctx))
620*e0c4386eSCy Schubert         && TEST_true(BN_mod_exp_mont_consttime(c, a, b, n, ctx, mont))))
621*e0c4386eSCy Schubert         goto err;
622*e0c4386eSCy Schubert     BN_zero(d);
623*e0c4386eSCy Schubert     if (!TEST_BN_eq(c, d))
624*e0c4386eSCy Schubert         goto err;
625*e0c4386eSCy Schubert 
626*e0c4386eSCy Schubert     /*
627*e0c4386eSCy Schubert      * Regression test for overflow bug in bn_sqr_comba4/8 for
628*e0c4386eSCy Schubert      * mips-linux-gnu and mipsel-linux-gnu 32bit targets.
629*e0c4386eSCy Schubert      */
630*e0c4386eSCy Schubert     {
631*e0c4386eSCy Schubert         static const char *ehex[] = {
632*e0c4386eSCy Schubert             "95564994a96c45954227b845a1e99cb939d5a1da99ee91acc962396ae999a9ee",
633*e0c4386eSCy Schubert             "38603790448f2f7694c242a875f0cad0aae658eba085f312d2febbbd128dd2b5",
634*e0c4386eSCy Schubert             "8f7d1149f03724215d704344d0d62c587ae3c5939cba4b9b5f3dc5e8e911ef9a",
635*e0c4386eSCy Schubert             "5ce1a5a749a4989d0d8368f6e1f8cdf3a362a6c97fb02047ff152b480a4ad985",
636*e0c4386eSCy Schubert             "2d45efdf0770542992afca6a0590d52930434bba96017afbc9f99e112950a8b1",
637*e0c4386eSCy Schubert             "a359473ec376f329bdae6a19f503be6d4be7393c4e43468831234e27e3838680",
638*e0c4386eSCy Schubert             "b949390d2e416a3f9759e5349ab4c253f6f29f819a6fe4cbfd27ada34903300e",
639*e0c4386eSCy Schubert             "da021f62839f5878a36f1bc3085375b00fd5fa3e68d316c0fdace87a97558465",
640*e0c4386eSCy Schubert             NULL};
641*e0c4386eSCy Schubert         static const char *phex[] = {
642*e0c4386eSCy Schubert             "f95dc0f980fbd22e90caa5a387cc4a369f3f830d50dd321c40db8c09a7e1a241",
643*e0c4386eSCy Schubert             "a536e096622d3280c0c1ba849c1f4a79bf490f60006d081e8cf69960189f0d31",
644*e0c4386eSCy Schubert             "2cd9e17073a3fba7881b21474a13b334116cb2f5dbf3189a6de3515d0840f053",
645*e0c4386eSCy Schubert             "c776d3982d391b6d04d642dda5cc6d1640174c09875addb70595658f89efb439",
646*e0c4386eSCy Schubert             "dc6fbd55f903aadd307982d3f659207f265e1ec6271b274521b7a5e28e8fd7a5",
647*e0c4386eSCy Schubert             "5df089292820477802a43cf5b6b94e999e8c9944ddebb0d0e95a60f88cb7e813",
648*e0c4386eSCy Schubert             "ba110d20e1024774107dd02949031864923b3cb8c3f7250d6d1287b0a40db6a4",
649*e0c4386eSCy Schubert             "7bd5a469518eb65aa207ddc47d8c6e5fc8e0c105be8fc1d4b57b2e27540471d5",
650*e0c4386eSCy Schubert             NULL};
651*e0c4386eSCy Schubert         static const char *mhex[] = {
652*e0c4386eSCy Schubert             "fef15d5ce4625f1bccfbba49fc8439c72bf8202af039a2259678941b60bb4a8f",
653*e0c4386eSCy Schubert             "2987e965d58fd8cf86a856674d519763d0e1211cc9f8596971050d56d9b35db3",
654*e0c4386eSCy Schubert             "785866cfbca17cfdbed6060be3629d894f924a89fdc1efc624f80d41a22f1900",
655*e0c4386eSCy Schubert             "9503fcc3824ef62ccb9208430c26f2d8ceb2c63488ec4c07437aa4c96c43dd8b",
656*e0c4386eSCy Schubert             "9289ed00a712ff66ee195dc71f5e4ead02172b63c543d69baf495f5fd63ba7bc",
657*e0c4386eSCy Schubert             "c633bd309c016e37736da92129d0b053d4ab28d21ad7d8b6fab2a8bbdc8ee647",
658*e0c4386eSCy Schubert             "d2fbcf2cf426cf892e6f5639e0252993965dfb73ccd277407014ea784aaa280c",
659*e0c4386eSCy Schubert             "b7b03972bc8b0baa72360bdb44b82415b86b2f260f877791cd33ba8f2d65229b",
660*e0c4386eSCy Schubert             NULL};
661*e0c4386eSCy Schubert 
662*e0c4386eSCy Schubert         if (!TEST_true(parse_bigBN(&e, ehex))
663*e0c4386eSCy Schubert                 || !TEST_true(parse_bigBN(&p, phex))
664*e0c4386eSCy Schubert                 || !TEST_true(parse_bigBN(&m, mhex))
665*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
666*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_simple(a, e, p, m, ctx))
667*e0c4386eSCy Schubert                 || !TEST_BN_eq(a, d))
668*e0c4386eSCy Schubert             goto err;
669*e0c4386eSCy Schubert     }
670*e0c4386eSCy Schubert 
671*e0c4386eSCy Schubert     /* Zero input */
672*e0c4386eSCy Schubert     if (!TEST_true(BN_bntest_rand(p, 1024, 0, 0)))
673*e0c4386eSCy Schubert         goto err;
674*e0c4386eSCy Schubert     BN_zero(a);
675*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL))
676*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(d))
677*e0c4386eSCy Schubert         goto err;
678*e0c4386eSCy Schubert 
679*e0c4386eSCy Schubert     /*
680*e0c4386eSCy Schubert      * Craft an input whose Montgomery representation is 1, i.e., shorter
681*e0c4386eSCy Schubert      * than the modulus m, in order to test the const time precomputation
682*e0c4386eSCy Schubert      * scattering/gathering.
683*e0c4386eSCy Schubert      */
684*e0c4386eSCy Schubert     if (!(TEST_true(BN_one(a))
685*e0c4386eSCy Schubert             && TEST_true(BN_MONT_CTX_set(mont, m, ctx))))
686*e0c4386eSCy Schubert         goto err;
687*e0c4386eSCy Schubert     if (!TEST_true(BN_from_montgomery(e, a, mont, ctx))
688*e0c4386eSCy Schubert             || !TEST_true(BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
689*e0c4386eSCy Schubert             || !TEST_true(BN_mod_exp_simple(a, e, p, m, ctx))
690*e0c4386eSCy Schubert             || !TEST_BN_eq(a, d))
691*e0c4386eSCy Schubert         goto err;
692*e0c4386eSCy Schubert 
693*e0c4386eSCy Schubert     /* Finally, some regular test vectors. */
694*e0c4386eSCy Schubert     if (!(TEST_true(BN_bntest_rand(e, 1024, 0, 0))
695*e0c4386eSCy Schubert             && TEST_true(BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
696*e0c4386eSCy Schubert             && TEST_true(BN_mod_exp_simple(a, e, p, m, ctx))
697*e0c4386eSCy Schubert             && TEST_BN_eq(a, d)))
698*e0c4386eSCy Schubert         goto err;
699*e0c4386eSCy Schubert 
700*e0c4386eSCy Schubert     st = 1;
701*e0c4386eSCy Schubert 
702*e0c4386eSCy Schubert  err:
703*e0c4386eSCy Schubert     BN_MONT_CTX_free(mont);
704*e0c4386eSCy Schubert     BN_free(a);
705*e0c4386eSCy Schubert     BN_free(p);
706*e0c4386eSCy Schubert     BN_free(m);
707*e0c4386eSCy Schubert     BN_free(d);
708*e0c4386eSCy Schubert     BN_free(e);
709*e0c4386eSCy Schubert     BN_free(b);
710*e0c4386eSCy Schubert     BN_free(n);
711*e0c4386eSCy Schubert     BN_free(c);
712*e0c4386eSCy Schubert     return st;
713*e0c4386eSCy Schubert }
714*e0c4386eSCy Schubert 
715*e0c4386eSCy Schubert #ifndef OPENSSL_NO_EC2M
test_gf2m_add(void)716*e0c4386eSCy Schubert static int test_gf2m_add(void)
717*e0c4386eSCy Schubert {
718*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL;
719*e0c4386eSCy Schubert     int i, st = 0;
720*e0c4386eSCy Schubert 
721*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
722*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
723*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new()))
724*e0c4386eSCy Schubert         goto err;
725*e0c4386eSCy Schubert 
726*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
727*e0c4386eSCy Schubert         if (!(TEST_true(BN_rand(a, 512, 0, 0))
728*e0c4386eSCy Schubert                 && TEST_ptr(BN_copy(b, BN_value_one()))))
729*e0c4386eSCy Schubert             goto err;
730*e0c4386eSCy Schubert         BN_set_negative(a, rand_neg());
731*e0c4386eSCy Schubert         BN_set_negative(b, rand_neg());
732*e0c4386eSCy Schubert         if (!(TEST_true(BN_GF2m_add(c, a, b))
733*e0c4386eSCy Schubert                 /* Test that two added values have the correct parity. */
734*e0c4386eSCy Schubert                 && TEST_false((BN_is_odd(a) && BN_is_odd(c))
735*e0c4386eSCy Schubert                         || (!BN_is_odd(a) && !BN_is_odd(c)))))
736*e0c4386eSCy Schubert             goto err;
737*e0c4386eSCy Schubert         if (!(TEST_true(BN_GF2m_add(c, c, c))
738*e0c4386eSCy Schubert                 /* Test that c + c = 0. */
739*e0c4386eSCy Schubert                 && TEST_BN_eq_zero(c)))
740*e0c4386eSCy Schubert             goto err;
741*e0c4386eSCy Schubert     }
742*e0c4386eSCy Schubert     st = 1;
743*e0c4386eSCy Schubert  err:
744*e0c4386eSCy Schubert     BN_free(a);
745*e0c4386eSCy Schubert     BN_free(b);
746*e0c4386eSCy Schubert     BN_free(c);
747*e0c4386eSCy Schubert     return st;
748*e0c4386eSCy Schubert }
749*e0c4386eSCy Schubert 
test_gf2m_mod(void)750*e0c4386eSCy Schubert static int test_gf2m_mod(void)
751*e0c4386eSCy Schubert {
752*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL, *e = NULL;
753*e0c4386eSCy Schubert     int i, j, st = 0;
754*e0c4386eSCy Schubert 
755*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
756*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
757*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
758*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
759*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
760*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new()))
761*e0c4386eSCy Schubert         goto err;
762*e0c4386eSCy Schubert 
763*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
764*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
765*e0c4386eSCy Schubert         goto err;
766*e0c4386eSCy Schubert 
767*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
768*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 1024, 0, 0)))
769*e0c4386eSCy Schubert             goto err;
770*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
771*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod(c, a, b[j]))
772*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(d, a, c))
773*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod(e, d, b[j]))
774*e0c4386eSCy Schubert                     /* Test that a + (a mod p) mod p == 0. */
775*e0c4386eSCy Schubert                     && TEST_BN_eq_zero(e)))
776*e0c4386eSCy Schubert                 goto err;
777*e0c4386eSCy Schubert         }
778*e0c4386eSCy Schubert     }
779*e0c4386eSCy Schubert     st = 1;
780*e0c4386eSCy Schubert  err:
781*e0c4386eSCy Schubert     BN_free(a);
782*e0c4386eSCy Schubert     BN_free(b[0]);
783*e0c4386eSCy Schubert     BN_free(b[1]);
784*e0c4386eSCy Schubert     BN_free(c);
785*e0c4386eSCy Schubert     BN_free(d);
786*e0c4386eSCy Schubert     BN_free(e);
787*e0c4386eSCy Schubert     return st;
788*e0c4386eSCy Schubert }
789*e0c4386eSCy Schubert 
test_gf2m_mul(void)790*e0c4386eSCy Schubert static int test_gf2m_mul(void)
791*e0c4386eSCy Schubert {
792*e0c4386eSCy Schubert     BIGNUM *a, *b[2] = {NULL, NULL}, *c = NULL, *d = NULL;
793*e0c4386eSCy Schubert     BIGNUM *e = NULL, *f = NULL, *g = NULL, *h = NULL;
794*e0c4386eSCy Schubert     int i, j, st = 0;
795*e0c4386eSCy Schubert 
796*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
797*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
798*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
799*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
800*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
801*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
802*e0c4386eSCy Schubert             || !TEST_ptr(f = BN_new())
803*e0c4386eSCy Schubert             || !TEST_ptr(g = BN_new())
804*e0c4386eSCy Schubert             || !TEST_ptr(h = BN_new()))
805*e0c4386eSCy Schubert         goto err;
806*e0c4386eSCy Schubert 
807*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
808*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
809*e0c4386eSCy Schubert         goto err;
810*e0c4386eSCy Schubert 
811*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
812*e0c4386eSCy Schubert         if (!(TEST_true(BN_bntest_rand(a, 1024, 0, 0))
813*e0c4386eSCy Schubert                 && TEST_true(BN_bntest_rand(c, 1024, 0, 0))
814*e0c4386eSCy Schubert                 && TEST_true(BN_bntest_rand(d, 1024, 0, 0))))
815*e0c4386eSCy Schubert             goto err;
816*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
817*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod_mul(e, a, c, b[j], ctx))
818*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(f, a, d))
819*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(g, f, c, b[j], ctx))
820*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(h, d, c, b[j], ctx))
821*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(f, e, g))
822*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(f, f, h))
823*e0c4386eSCy Schubert                     /* Test that (a+d)*c = a*c + d*c. */
824*e0c4386eSCy Schubert                     && TEST_BN_eq_zero(f)))
825*e0c4386eSCy Schubert                 goto err;
826*e0c4386eSCy Schubert         }
827*e0c4386eSCy Schubert     }
828*e0c4386eSCy Schubert     st = 1;
829*e0c4386eSCy Schubert 
830*e0c4386eSCy Schubert  err:
831*e0c4386eSCy Schubert     BN_free(a);
832*e0c4386eSCy Schubert     BN_free(b[0]);
833*e0c4386eSCy Schubert     BN_free(b[1]);
834*e0c4386eSCy Schubert     BN_free(c);
835*e0c4386eSCy Schubert     BN_free(d);
836*e0c4386eSCy Schubert     BN_free(e);
837*e0c4386eSCy Schubert     BN_free(f);
838*e0c4386eSCy Schubert     BN_free(g);
839*e0c4386eSCy Schubert     BN_free(h);
840*e0c4386eSCy Schubert     return st;
841*e0c4386eSCy Schubert }
842*e0c4386eSCy Schubert 
test_gf2m_sqr(void)843*e0c4386eSCy Schubert static int test_gf2m_sqr(void)
844*e0c4386eSCy Schubert {
845*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
846*e0c4386eSCy Schubert     int i, j, st = 0;
847*e0c4386eSCy Schubert 
848*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
849*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
850*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
851*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
852*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new()))
853*e0c4386eSCy Schubert         goto err;
854*e0c4386eSCy Schubert 
855*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
856*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
857*e0c4386eSCy Schubert         goto err;
858*e0c4386eSCy Schubert 
859*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
860*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 1024, 0, 0)))
861*e0c4386eSCy Schubert                 goto err;
862*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
863*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod_sqr(c, a, b[j], ctx))
864*e0c4386eSCy Schubert                     && TEST_true(BN_copy(d, a))
865*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(d, a, d, b[j], ctx))
866*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(d, c, d))
867*e0c4386eSCy Schubert                     /* Test that a*a = a^2. */
868*e0c4386eSCy Schubert                     && TEST_BN_eq_zero(d)))
869*e0c4386eSCy Schubert                 goto err;
870*e0c4386eSCy Schubert         }
871*e0c4386eSCy Schubert     }
872*e0c4386eSCy Schubert     st = 1;
873*e0c4386eSCy Schubert  err:
874*e0c4386eSCy Schubert     BN_free(a);
875*e0c4386eSCy Schubert     BN_free(b[0]);
876*e0c4386eSCy Schubert     BN_free(b[1]);
877*e0c4386eSCy Schubert     BN_free(c);
878*e0c4386eSCy Schubert     BN_free(d);
879*e0c4386eSCy Schubert     return st;
880*e0c4386eSCy Schubert }
881*e0c4386eSCy Schubert 
test_gf2m_modinv(void)882*e0c4386eSCy Schubert static int test_gf2m_modinv(void)
883*e0c4386eSCy Schubert {
884*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
885*e0c4386eSCy Schubert     int i, j, st = 0;
886*e0c4386eSCy Schubert 
887*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
888*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
889*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
890*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
891*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new()))
892*e0c4386eSCy Schubert         goto err;
893*e0c4386eSCy Schubert 
894*e0c4386eSCy Schubert     /* Test that a non-sensical, too small value causes a failure */
895*e0c4386eSCy Schubert     if (!TEST_true(BN_one(b[0])))
896*e0c4386eSCy Schubert         goto err;
897*e0c4386eSCy Schubert     if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
898*e0c4386eSCy Schubert         goto err;
899*e0c4386eSCy Schubert     if (!TEST_false(BN_GF2m_mod_inv(c, a, b[0], ctx)))
900*e0c4386eSCy Schubert         goto err;
901*e0c4386eSCy Schubert 
902*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
903*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
904*e0c4386eSCy Schubert         goto err;
905*e0c4386eSCy Schubert 
906*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
907*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
908*e0c4386eSCy Schubert             goto err;
909*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
910*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod_inv(c, a, b[j], ctx))
911*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(d, a, c, b[j], ctx))
912*e0c4386eSCy Schubert                     /* Test that ((1/a)*a) = 1. */
913*e0c4386eSCy Schubert                     && TEST_BN_eq_one(d)))
914*e0c4386eSCy Schubert                 goto err;
915*e0c4386eSCy Schubert         }
916*e0c4386eSCy Schubert     }
917*e0c4386eSCy Schubert     st = 1;
918*e0c4386eSCy Schubert  err:
919*e0c4386eSCy Schubert     BN_free(a);
920*e0c4386eSCy Schubert     BN_free(b[0]);
921*e0c4386eSCy Schubert     BN_free(b[1]);
922*e0c4386eSCy Schubert     BN_free(c);
923*e0c4386eSCy Schubert     BN_free(d);
924*e0c4386eSCy Schubert     return st;
925*e0c4386eSCy Schubert }
926*e0c4386eSCy Schubert 
test_gf2m_moddiv(void)927*e0c4386eSCy Schubert static int test_gf2m_moddiv(void)
928*e0c4386eSCy Schubert {
929*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
930*e0c4386eSCy Schubert     BIGNUM *e = NULL, *f = NULL;
931*e0c4386eSCy Schubert     int i, j, st = 0;
932*e0c4386eSCy Schubert 
933*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
934*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
935*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
936*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
937*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
938*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
939*e0c4386eSCy Schubert             || !TEST_ptr(f = BN_new()))
940*e0c4386eSCy Schubert         goto err;
941*e0c4386eSCy Schubert 
942*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
943*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
944*e0c4386eSCy Schubert         goto err;
945*e0c4386eSCy Schubert 
946*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
947*e0c4386eSCy Schubert         if (!(TEST_true(BN_bntest_rand(a, 512, 0, 0))
948*e0c4386eSCy Schubert                 && TEST_true(BN_bntest_rand(c, 512, 0, 0))))
949*e0c4386eSCy Schubert             goto err;
950*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
951*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod_div(d, a, c, b[j], ctx))
952*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(e, d, c, b[j], ctx))
953*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_div(f, a, e, b[j], ctx))
954*e0c4386eSCy Schubert                     /* Test that ((a/c)*c)/a = 1. */
955*e0c4386eSCy Schubert                     && TEST_BN_eq_one(f)))
956*e0c4386eSCy Schubert                 goto err;
957*e0c4386eSCy Schubert         }
958*e0c4386eSCy Schubert     }
959*e0c4386eSCy Schubert     st = 1;
960*e0c4386eSCy Schubert  err:
961*e0c4386eSCy Schubert     BN_free(a);
962*e0c4386eSCy Schubert     BN_free(b[0]);
963*e0c4386eSCy Schubert     BN_free(b[1]);
964*e0c4386eSCy Schubert     BN_free(c);
965*e0c4386eSCy Schubert     BN_free(d);
966*e0c4386eSCy Schubert     BN_free(e);
967*e0c4386eSCy Schubert     BN_free(f);
968*e0c4386eSCy Schubert     return st;
969*e0c4386eSCy Schubert }
970*e0c4386eSCy Schubert 
test_gf2m_modexp(void)971*e0c4386eSCy Schubert static int test_gf2m_modexp(void)
972*e0c4386eSCy Schubert {
973*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
974*e0c4386eSCy Schubert     BIGNUM *e = NULL, *f = NULL;
975*e0c4386eSCy Schubert     int i, j, st = 0;
976*e0c4386eSCy Schubert 
977*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
978*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
979*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
980*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
981*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
982*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
983*e0c4386eSCy Schubert             || !TEST_ptr(f = BN_new()))
984*e0c4386eSCy Schubert         goto err;
985*e0c4386eSCy Schubert 
986*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
987*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
988*e0c4386eSCy Schubert         goto err;
989*e0c4386eSCy Schubert 
990*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
991*e0c4386eSCy Schubert         if (!(TEST_true(BN_bntest_rand(a, 512, 0, 0))
992*e0c4386eSCy Schubert                 && TEST_true(BN_bntest_rand(c, 512, 0, 0))
993*e0c4386eSCy Schubert                 && TEST_true(BN_bntest_rand(d, 512, 0, 0))))
994*e0c4386eSCy Schubert             goto err;
995*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
996*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod_exp(e, a, c, b[j], ctx))
997*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_exp(f, a, d, b[j], ctx))
998*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_mul(e, e, f, b[j], ctx))
999*e0c4386eSCy Schubert                     && TEST_true(BN_add(f, c, d))
1000*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_exp(f, a, f, b[j], ctx))
1001*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(f, e, f))
1002*e0c4386eSCy Schubert                     /* Test that a^(c+d)=a^c*a^d. */
1003*e0c4386eSCy Schubert                     && TEST_BN_eq_zero(f)))
1004*e0c4386eSCy Schubert                 goto err;
1005*e0c4386eSCy Schubert         }
1006*e0c4386eSCy Schubert     }
1007*e0c4386eSCy Schubert     st = 1;
1008*e0c4386eSCy Schubert  err:
1009*e0c4386eSCy Schubert     BN_free(a);
1010*e0c4386eSCy Schubert     BN_free(b[0]);
1011*e0c4386eSCy Schubert     BN_free(b[1]);
1012*e0c4386eSCy Schubert     BN_free(c);
1013*e0c4386eSCy Schubert     BN_free(d);
1014*e0c4386eSCy Schubert     BN_free(e);
1015*e0c4386eSCy Schubert     BN_free(f);
1016*e0c4386eSCy Schubert     return st;
1017*e0c4386eSCy Schubert }
1018*e0c4386eSCy Schubert 
test_gf2m_modsqrt(void)1019*e0c4386eSCy Schubert static int test_gf2m_modsqrt(void)
1020*e0c4386eSCy Schubert {
1021*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
1022*e0c4386eSCy Schubert     BIGNUM *e = NULL, *f = NULL;
1023*e0c4386eSCy Schubert     int i, j, st = 0;
1024*e0c4386eSCy Schubert 
1025*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
1026*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
1027*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
1028*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
1029*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
1030*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new())
1031*e0c4386eSCy Schubert             || !TEST_ptr(f = BN_new()))
1032*e0c4386eSCy Schubert         goto err;
1033*e0c4386eSCy Schubert 
1034*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
1035*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
1036*e0c4386eSCy Schubert         goto err;
1037*e0c4386eSCy Schubert 
1038*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
1039*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
1040*e0c4386eSCy Schubert             goto err;
1041*e0c4386eSCy Schubert 
1042*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
1043*e0c4386eSCy Schubert             if (!(TEST_true(BN_GF2m_mod(c, a, b[j]))
1044*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_sqrt(d, a, b[j], ctx))
1045*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_mod_sqr(e, d, b[j], ctx))
1046*e0c4386eSCy Schubert                     && TEST_true(BN_GF2m_add(f, c, e))
1047*e0c4386eSCy Schubert                     /* Test that d^2 = a, where d = sqrt(a). */
1048*e0c4386eSCy Schubert                     && TEST_BN_eq_zero(f)))
1049*e0c4386eSCy Schubert                 goto err;
1050*e0c4386eSCy Schubert         }
1051*e0c4386eSCy Schubert     }
1052*e0c4386eSCy Schubert     st = 1;
1053*e0c4386eSCy Schubert  err:
1054*e0c4386eSCy Schubert     BN_free(a);
1055*e0c4386eSCy Schubert     BN_free(b[0]);
1056*e0c4386eSCy Schubert     BN_free(b[1]);
1057*e0c4386eSCy Schubert     BN_free(c);
1058*e0c4386eSCy Schubert     BN_free(d);
1059*e0c4386eSCy Schubert     BN_free(e);
1060*e0c4386eSCy Schubert     BN_free(f);
1061*e0c4386eSCy Schubert     return st;
1062*e0c4386eSCy Schubert }
1063*e0c4386eSCy Schubert 
test_gf2m_modsolvequad(void)1064*e0c4386eSCy Schubert static int test_gf2m_modsolvequad(void)
1065*e0c4386eSCy Schubert {
1066*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
1067*e0c4386eSCy Schubert     BIGNUM *e = NULL;
1068*e0c4386eSCy Schubert     int i, j, s = 0, t, st = 0;
1069*e0c4386eSCy Schubert 
1070*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
1071*e0c4386eSCy Schubert             || !TEST_ptr(b[0] = BN_new())
1072*e0c4386eSCy Schubert             || !TEST_ptr(b[1] = BN_new())
1073*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
1074*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new())
1075*e0c4386eSCy Schubert             || !TEST_ptr(e = BN_new()))
1076*e0c4386eSCy Schubert         goto err;
1077*e0c4386eSCy Schubert 
1078*e0c4386eSCy Schubert     if (!(TEST_true(BN_GF2m_arr2poly(p0, b[0]))
1079*e0c4386eSCy Schubert             && TEST_true(BN_GF2m_arr2poly(p1, b[1]))))
1080*e0c4386eSCy Schubert         goto err;
1081*e0c4386eSCy Schubert 
1082*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
1083*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
1084*e0c4386eSCy Schubert             goto err;
1085*e0c4386eSCy Schubert         for (j = 0; j < 2; j++) {
1086*e0c4386eSCy Schubert             t = BN_GF2m_mod_solve_quad(c, a, b[j], ctx);
1087*e0c4386eSCy Schubert             if (t) {
1088*e0c4386eSCy Schubert                 s++;
1089*e0c4386eSCy Schubert                 if (!(TEST_true(BN_GF2m_mod_sqr(d, c, b[j], ctx))
1090*e0c4386eSCy Schubert                         && TEST_true(BN_GF2m_add(d, c, d))
1091*e0c4386eSCy Schubert                         && TEST_true(BN_GF2m_mod(e, a, b[j]))
1092*e0c4386eSCy Schubert                         && TEST_true(BN_GF2m_add(e, e, d))
1093*e0c4386eSCy Schubert                         /*
1094*e0c4386eSCy Schubert                          * Test that solution of quadratic c
1095*e0c4386eSCy Schubert                          * satisfies c^2 + c = a.
1096*e0c4386eSCy Schubert                          */
1097*e0c4386eSCy Schubert                         && TEST_BN_eq_zero(e)))
1098*e0c4386eSCy Schubert                     goto err;
1099*e0c4386eSCy Schubert             }
1100*e0c4386eSCy Schubert         }
1101*e0c4386eSCy Schubert     }
1102*e0c4386eSCy Schubert     if (!TEST_int_ge(s, 0)) {
1103*e0c4386eSCy Schubert         TEST_info("%d tests found no roots; probably an error", NUM0);
1104*e0c4386eSCy Schubert         goto err;
1105*e0c4386eSCy Schubert     }
1106*e0c4386eSCy Schubert     st = 1;
1107*e0c4386eSCy Schubert  err:
1108*e0c4386eSCy Schubert     BN_free(a);
1109*e0c4386eSCy Schubert     BN_free(b[0]);
1110*e0c4386eSCy Schubert     BN_free(b[1]);
1111*e0c4386eSCy Schubert     BN_free(c);
1112*e0c4386eSCy Schubert     BN_free(d);
1113*e0c4386eSCy Schubert     BN_free(e);
1114*e0c4386eSCy Schubert     return st;
1115*e0c4386eSCy Schubert }
1116*e0c4386eSCy Schubert #endif
1117*e0c4386eSCy Schubert 
test_kronecker(void)1118*e0c4386eSCy Schubert static int test_kronecker(void)
1119*e0c4386eSCy Schubert {
1120*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *r = NULL, *t = NULL;
1121*e0c4386eSCy Schubert     int i, legendre, kronecker, st = 0;
1122*e0c4386eSCy Schubert 
1123*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
1124*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
1125*e0c4386eSCy Schubert             || !TEST_ptr(r = BN_new())
1126*e0c4386eSCy Schubert             || !TEST_ptr(t = BN_new()))
1127*e0c4386eSCy Schubert         goto err;
1128*e0c4386eSCy Schubert 
1129*e0c4386eSCy Schubert     /*
1130*e0c4386eSCy Schubert      * We test BN_kronecker(a, b, ctx) just for b odd (Jacobi symbol). In
1131*e0c4386eSCy Schubert      * this case we know that if b is prime, then BN_kronecker(a, b, ctx) is
1132*e0c4386eSCy Schubert      * congruent to $a^{(b-1)/2}$, modulo $b$ (Legendre symbol). So we
1133*e0c4386eSCy Schubert      * generate a random prime b and compare these values for a number of
1134*e0c4386eSCy Schubert      * random a's.  (That is, we run the Solovay-Strassen primality test to
1135*e0c4386eSCy Schubert      * confirm that b is prime, except that we don't want to test whether b
1136*e0c4386eSCy Schubert      * is prime but whether BN_kronecker works.)
1137*e0c4386eSCy Schubert      */
1138*e0c4386eSCy Schubert 
1139*e0c4386eSCy Schubert     if (!TEST_true(BN_generate_prime_ex(b, 512, 0, NULL, NULL, NULL)))
1140*e0c4386eSCy Schubert         goto err;
1141*e0c4386eSCy Schubert     BN_set_negative(b, rand_neg());
1142*e0c4386eSCy Schubert 
1143*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
1144*e0c4386eSCy Schubert         if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
1145*e0c4386eSCy Schubert             goto err;
1146*e0c4386eSCy Schubert         BN_set_negative(a, rand_neg());
1147*e0c4386eSCy Schubert 
1148*e0c4386eSCy Schubert         /* t := (|b|-1)/2  (note that b is odd) */
1149*e0c4386eSCy Schubert         if (!TEST_true(BN_copy(t, b)))
1150*e0c4386eSCy Schubert             goto err;
1151*e0c4386eSCy Schubert         BN_set_negative(t, 0);
1152*e0c4386eSCy Schubert         if (!TEST_true(BN_sub_word(t, 1)))
1153*e0c4386eSCy Schubert             goto err;
1154*e0c4386eSCy Schubert         if (!TEST_true(BN_rshift1(t, t)))
1155*e0c4386eSCy Schubert             goto err;
1156*e0c4386eSCy Schubert         /* r := a^t mod b */
1157*e0c4386eSCy Schubert         BN_set_negative(b, 0);
1158*e0c4386eSCy Schubert 
1159*e0c4386eSCy Schubert         if (!TEST_true(BN_mod_exp_recp(r, a, t, b, ctx)))
1160*e0c4386eSCy Schubert             goto err;
1161*e0c4386eSCy Schubert         BN_set_negative(b, 1);
1162*e0c4386eSCy Schubert 
1163*e0c4386eSCy Schubert         if (BN_is_word(r, 1))
1164*e0c4386eSCy Schubert             legendre = 1;
1165*e0c4386eSCy Schubert         else if (BN_is_zero(r))
1166*e0c4386eSCy Schubert             legendre = 0;
1167*e0c4386eSCy Schubert         else {
1168*e0c4386eSCy Schubert             if (!TEST_true(BN_add_word(r, 1)))
1169*e0c4386eSCy Schubert                 goto err;
1170*e0c4386eSCy Schubert             if (!TEST_int_eq(BN_ucmp(r, b), 0)) {
1171*e0c4386eSCy Schubert                 TEST_info("Legendre symbol computation failed");
1172*e0c4386eSCy Schubert                 goto err;
1173*e0c4386eSCy Schubert             }
1174*e0c4386eSCy Schubert             legendre = -1;
1175*e0c4386eSCy Schubert         }
1176*e0c4386eSCy Schubert 
1177*e0c4386eSCy Schubert         if (!TEST_int_ge(kronecker = BN_kronecker(a, b, ctx), -1))
1178*e0c4386eSCy Schubert             goto err;
1179*e0c4386eSCy Schubert         /* we actually need BN_kronecker(a, |b|) */
1180*e0c4386eSCy Schubert         if (BN_is_negative(a) && BN_is_negative(b))
1181*e0c4386eSCy Schubert             kronecker = -kronecker;
1182*e0c4386eSCy Schubert 
1183*e0c4386eSCy Schubert         if (!TEST_int_eq(legendre, kronecker))
1184*e0c4386eSCy Schubert             goto err;
1185*e0c4386eSCy Schubert     }
1186*e0c4386eSCy Schubert 
1187*e0c4386eSCy Schubert     st = 1;
1188*e0c4386eSCy Schubert  err:
1189*e0c4386eSCy Schubert     BN_free(a);
1190*e0c4386eSCy Schubert     BN_free(b);
1191*e0c4386eSCy Schubert     BN_free(r);
1192*e0c4386eSCy Schubert     BN_free(t);
1193*e0c4386eSCy Schubert     return st;
1194*e0c4386eSCy Schubert }
1195*e0c4386eSCy Schubert 
file_sum(STANZA * s)1196*e0c4386eSCy Schubert static int file_sum(STANZA *s)
1197*e0c4386eSCy Schubert {
1198*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *sum = NULL, *ret = NULL;
1199*e0c4386eSCy Schubert     BN_ULONG b_word;
1200*e0c4386eSCy Schubert     int st = 0;
1201*e0c4386eSCy Schubert 
1202*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1203*e0c4386eSCy Schubert             || !TEST_ptr(b = getBN(s, "B"))
1204*e0c4386eSCy Schubert             || !TEST_ptr(sum = getBN(s, "Sum"))
1205*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new()))
1206*e0c4386eSCy Schubert         goto err;
1207*e0c4386eSCy Schubert 
1208*e0c4386eSCy Schubert     if (!TEST_true(BN_add(ret, a, b))
1209*e0c4386eSCy Schubert             || !equalBN("A + B", sum, ret)
1210*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, sum, a))
1211*e0c4386eSCy Schubert             || !equalBN("Sum - A", b, ret)
1212*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, sum, b))
1213*e0c4386eSCy Schubert             || !equalBN("Sum - B", a, ret))
1214*e0c4386eSCy Schubert         goto err;
1215*e0c4386eSCy Schubert 
1216*e0c4386eSCy Schubert     /*
1217*e0c4386eSCy Schubert      * Test that the functions work when |r| and |a| point to the same BIGNUM,
1218*e0c4386eSCy Schubert      * or when |r| and |b| point to the same BIGNUM.
1219*e0c4386eSCy Schubert      * There is no test for all of |r|, |a|, and |b| pointint to the same BIGNUM.
1220*e0c4386eSCy Schubert      */
1221*e0c4386eSCy Schubert     if (!TEST_true(BN_copy(ret, a))
1222*e0c4386eSCy Schubert             || !TEST_true(BN_add(ret, ret, b))
1223*e0c4386eSCy Schubert             || !equalBN("A + B (r is a)", sum, ret)
1224*e0c4386eSCy Schubert             || !TEST_true(BN_copy(ret, b))
1225*e0c4386eSCy Schubert             || !TEST_true(BN_add(ret, a, ret))
1226*e0c4386eSCy Schubert             || !equalBN("A + B (r is b)", sum, ret)
1227*e0c4386eSCy Schubert             || !TEST_true(BN_copy(ret, sum))
1228*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, ret, a))
1229*e0c4386eSCy Schubert             || !equalBN("Sum - A (r is a)", b, ret)
1230*e0c4386eSCy Schubert             || !TEST_true(BN_copy(ret, a))
1231*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, sum, ret))
1232*e0c4386eSCy Schubert             || !equalBN("Sum - A (r is b)", b, ret)
1233*e0c4386eSCy Schubert             || !TEST_true(BN_copy(ret, sum))
1234*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, ret, b))
1235*e0c4386eSCy Schubert             || !equalBN("Sum - B (r is a)", a, ret)
1236*e0c4386eSCy Schubert             || !TEST_true(BN_copy(ret, b))
1237*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret, sum, ret))
1238*e0c4386eSCy Schubert             || !equalBN("Sum - B (r is b)", a, ret))
1239*e0c4386eSCy Schubert         goto err;
1240*e0c4386eSCy Schubert 
1241*e0c4386eSCy Schubert     /*
1242*e0c4386eSCy Schubert      * Test BN_uadd() and BN_usub() with the prerequisites they are
1243*e0c4386eSCy Schubert      * documented as having. Note that these functions are frequently used
1244*e0c4386eSCy Schubert      * when the prerequisites don't hold. In those cases, they are supposed
1245*e0c4386eSCy Schubert      * to work as if the prerequisite hold, but we don't test that yet.
1246*e0c4386eSCy Schubert      */
1247*e0c4386eSCy Schubert     if (!BN_is_negative(a) && !BN_is_negative(b) && BN_cmp(a, b) >= 0) {
1248*e0c4386eSCy Schubert         if (!TEST_true(BN_uadd(ret, a, b))
1249*e0c4386eSCy Schubert                 || !equalBN("A +u B", sum, ret)
1250*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, sum, a))
1251*e0c4386eSCy Schubert                 || !equalBN("Sum -u A", b, ret)
1252*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, sum, b))
1253*e0c4386eSCy Schubert                 || !equalBN("Sum -u B", a, ret))
1254*e0c4386eSCy Schubert             goto err;
1255*e0c4386eSCy Schubert         /*
1256*e0c4386eSCy Schubert          * Test that the functions work when |r| and |a| point to the same
1257*e0c4386eSCy Schubert          * BIGNUM, or when |r| and |b| point to the same BIGNUM.
1258*e0c4386eSCy Schubert          * There is no test for all of |r|, |a|, and |b| pointint to the same
1259*e0c4386eSCy Schubert          * BIGNUM.
1260*e0c4386eSCy Schubert          */
1261*e0c4386eSCy Schubert         if (!TEST_true(BN_copy(ret, a))
1262*e0c4386eSCy Schubert                 || !TEST_true(BN_uadd(ret, ret, b))
1263*e0c4386eSCy Schubert                 || !equalBN("A +u B (r is a)", sum, ret)
1264*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, b))
1265*e0c4386eSCy Schubert                 || !TEST_true(BN_uadd(ret, a, ret))
1266*e0c4386eSCy Schubert                 || !equalBN("A +u B (r is b)", sum, ret)
1267*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, sum))
1268*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, ret, a))
1269*e0c4386eSCy Schubert                 || !equalBN("Sum -u A (r is a)", b, ret)
1270*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, a))
1271*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, sum, ret))
1272*e0c4386eSCy Schubert                 || !equalBN("Sum -u A (r is b)", b, ret)
1273*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, sum))
1274*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, ret, b))
1275*e0c4386eSCy Schubert                 || !equalBN("Sum -u B (r is a)", a, ret)
1276*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, b))
1277*e0c4386eSCy Schubert                 || !TEST_true(BN_usub(ret, sum, ret))
1278*e0c4386eSCy Schubert                 || !equalBN("Sum -u B (r is b)", a, ret))
1279*e0c4386eSCy Schubert             goto err;
1280*e0c4386eSCy Schubert     }
1281*e0c4386eSCy Schubert 
1282*e0c4386eSCy Schubert     /*
1283*e0c4386eSCy Schubert      * Test with BN_add_word() and BN_sub_word() if |b| is small enough.
1284*e0c4386eSCy Schubert      */
1285*e0c4386eSCy Schubert     b_word = BN_get_word(b);
1286*e0c4386eSCy Schubert     if (!BN_is_negative(b) && b_word != (BN_ULONG)-1) {
1287*e0c4386eSCy Schubert         if (!TEST_true(BN_copy(ret, a))
1288*e0c4386eSCy Schubert                 || !TEST_true(BN_add_word(ret, b_word))
1289*e0c4386eSCy Schubert                 || !equalBN("A + B (word)", sum, ret)
1290*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(ret, sum))
1291*e0c4386eSCy Schubert                 || !TEST_true(BN_sub_word(ret, b_word))
1292*e0c4386eSCy Schubert                 || !equalBN("Sum - B (word)", a, ret))
1293*e0c4386eSCy Schubert             goto err;
1294*e0c4386eSCy Schubert     }
1295*e0c4386eSCy Schubert     st = 1;
1296*e0c4386eSCy Schubert 
1297*e0c4386eSCy Schubert  err:
1298*e0c4386eSCy Schubert     BN_free(a);
1299*e0c4386eSCy Schubert     BN_free(b);
1300*e0c4386eSCy Schubert     BN_free(sum);
1301*e0c4386eSCy Schubert     BN_free(ret);
1302*e0c4386eSCy Schubert     return st;
1303*e0c4386eSCy Schubert }
1304*e0c4386eSCy Schubert 
file_lshift1(STANZA * s)1305*e0c4386eSCy Schubert static int file_lshift1(STANZA *s)
1306*e0c4386eSCy Schubert {
1307*e0c4386eSCy Schubert     BIGNUM *a = NULL, *lshift1 = NULL, *zero = NULL, *ret = NULL;
1308*e0c4386eSCy Schubert     BIGNUM *two = NULL, *remainder = NULL;
1309*e0c4386eSCy Schubert     int st = 0;
1310*e0c4386eSCy Schubert 
1311*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1312*e0c4386eSCy Schubert             || !TEST_ptr(lshift1 = getBN(s, "LShift1"))
1313*e0c4386eSCy Schubert             || !TEST_ptr(zero = BN_new())
1314*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1315*e0c4386eSCy Schubert             || !TEST_ptr(two = BN_new())
1316*e0c4386eSCy Schubert             || !TEST_ptr(remainder = BN_new()))
1317*e0c4386eSCy Schubert         goto err;
1318*e0c4386eSCy Schubert 
1319*e0c4386eSCy Schubert     BN_zero(zero);
1320*e0c4386eSCy Schubert 
1321*e0c4386eSCy Schubert     if (!TEST_true(BN_set_word(two, 2))
1322*e0c4386eSCy Schubert             || !TEST_true(BN_add(ret, a, a))
1323*e0c4386eSCy Schubert             || !equalBN("A + A", lshift1, ret)
1324*e0c4386eSCy Schubert             || !TEST_true(BN_mul(ret, a, two, ctx))
1325*e0c4386eSCy Schubert             || !equalBN("A * 2", lshift1, ret)
1326*e0c4386eSCy Schubert             || !TEST_true(BN_div(ret, remainder, lshift1, two, ctx))
1327*e0c4386eSCy Schubert             || !equalBN("LShift1 / 2", a, ret)
1328*e0c4386eSCy Schubert             || !equalBN("LShift1 % 2", zero, remainder)
1329*e0c4386eSCy Schubert             || !TEST_true(BN_lshift1(ret, a))
1330*e0c4386eSCy Schubert             || !equalBN("A << 1", lshift1, ret)
1331*e0c4386eSCy Schubert             || !TEST_true(BN_rshift1(ret, lshift1))
1332*e0c4386eSCy Schubert             || !equalBN("LShift >> 1", a, ret)
1333*e0c4386eSCy Schubert             || !TEST_true(BN_rshift1(ret, lshift1))
1334*e0c4386eSCy Schubert             || !equalBN("LShift >> 1", a, ret))
1335*e0c4386eSCy Schubert         goto err;
1336*e0c4386eSCy Schubert 
1337*e0c4386eSCy Schubert     /* Set the LSB to 1 and test rshift1 again. */
1338*e0c4386eSCy Schubert     if (!TEST_true(BN_set_bit(lshift1, 0))
1339*e0c4386eSCy Schubert             || !TEST_true(BN_div(ret, NULL /* rem */ , lshift1, two, ctx))
1340*e0c4386eSCy Schubert             || !equalBN("(LShift1 | 1) / 2", a, ret)
1341*e0c4386eSCy Schubert             || !TEST_true(BN_rshift1(ret, lshift1))
1342*e0c4386eSCy Schubert             || !equalBN("(LShift | 1) >> 1", a, ret))
1343*e0c4386eSCy Schubert         goto err;
1344*e0c4386eSCy Schubert 
1345*e0c4386eSCy Schubert     st = 1;
1346*e0c4386eSCy Schubert  err:
1347*e0c4386eSCy Schubert     BN_free(a);
1348*e0c4386eSCy Schubert     BN_free(lshift1);
1349*e0c4386eSCy Schubert     BN_free(zero);
1350*e0c4386eSCy Schubert     BN_free(ret);
1351*e0c4386eSCy Schubert     BN_free(two);
1352*e0c4386eSCy Schubert     BN_free(remainder);
1353*e0c4386eSCy Schubert 
1354*e0c4386eSCy Schubert     return st;
1355*e0c4386eSCy Schubert }
1356*e0c4386eSCy Schubert 
file_lshift(STANZA * s)1357*e0c4386eSCy Schubert static int file_lshift(STANZA *s)
1358*e0c4386eSCy Schubert {
1359*e0c4386eSCy Schubert     BIGNUM *a = NULL, *lshift = NULL, *ret = NULL;
1360*e0c4386eSCy Schubert     int n = 0, st = 0;
1361*e0c4386eSCy Schubert 
1362*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1363*e0c4386eSCy Schubert             || !TEST_ptr(lshift = getBN(s, "LShift"))
1364*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1365*e0c4386eSCy Schubert             || !getint(s, &n, "N"))
1366*e0c4386eSCy Schubert         goto err;
1367*e0c4386eSCy Schubert 
1368*e0c4386eSCy Schubert     if (!TEST_true(BN_lshift(ret, a, n))
1369*e0c4386eSCy Schubert             || !equalBN("A << N", lshift, ret)
1370*e0c4386eSCy Schubert             || !TEST_true(BN_rshift(ret, lshift, n))
1371*e0c4386eSCy Schubert             || !equalBN("A >> N", a, ret))
1372*e0c4386eSCy Schubert         goto err;
1373*e0c4386eSCy Schubert 
1374*e0c4386eSCy Schubert     st = 1;
1375*e0c4386eSCy Schubert  err:
1376*e0c4386eSCy Schubert     BN_free(a);
1377*e0c4386eSCy Schubert     BN_free(lshift);
1378*e0c4386eSCy Schubert     BN_free(ret);
1379*e0c4386eSCy Schubert     return st;
1380*e0c4386eSCy Schubert }
1381*e0c4386eSCy Schubert 
file_rshift(STANZA * s)1382*e0c4386eSCy Schubert static int file_rshift(STANZA *s)
1383*e0c4386eSCy Schubert {
1384*e0c4386eSCy Schubert     BIGNUM *a = NULL, *rshift = NULL, *ret = NULL;
1385*e0c4386eSCy Schubert     int n = 0, st = 0;
1386*e0c4386eSCy Schubert 
1387*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1388*e0c4386eSCy Schubert             || !TEST_ptr(rshift = getBN(s, "RShift"))
1389*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1390*e0c4386eSCy Schubert             || !getint(s, &n, "N"))
1391*e0c4386eSCy Schubert         goto err;
1392*e0c4386eSCy Schubert 
1393*e0c4386eSCy Schubert     if (!TEST_true(BN_rshift(ret, a, n))
1394*e0c4386eSCy Schubert             || !equalBN("A >> N", rshift, ret))
1395*e0c4386eSCy Schubert         goto err;
1396*e0c4386eSCy Schubert 
1397*e0c4386eSCy Schubert     /* If N == 1, try with rshift1 as well */
1398*e0c4386eSCy Schubert     if (n == 1) {
1399*e0c4386eSCy Schubert         if (!TEST_true(BN_rshift1(ret, a))
1400*e0c4386eSCy Schubert                 || !equalBN("A >> 1 (rshift1)", rshift, ret))
1401*e0c4386eSCy Schubert             goto err;
1402*e0c4386eSCy Schubert     }
1403*e0c4386eSCy Schubert     st = 1;
1404*e0c4386eSCy Schubert 
1405*e0c4386eSCy Schubert  err:
1406*e0c4386eSCy Schubert     BN_free(a);
1407*e0c4386eSCy Schubert     BN_free(rshift);
1408*e0c4386eSCy Schubert     BN_free(ret);
1409*e0c4386eSCy Schubert     return st;
1410*e0c4386eSCy Schubert }
1411*e0c4386eSCy Schubert 
file_square(STANZA * s)1412*e0c4386eSCy Schubert static int file_square(STANZA *s)
1413*e0c4386eSCy Schubert {
1414*e0c4386eSCy Schubert     BIGNUM *a = NULL, *square = NULL, *zero = NULL, *ret = NULL;
1415*e0c4386eSCy Schubert     BIGNUM *remainder = NULL, *tmp = NULL;
1416*e0c4386eSCy Schubert     int st = 0;
1417*e0c4386eSCy Schubert 
1418*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1419*e0c4386eSCy Schubert             || !TEST_ptr(square = getBN(s, "Square"))
1420*e0c4386eSCy Schubert             || !TEST_ptr(zero = BN_new())
1421*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1422*e0c4386eSCy Schubert             || !TEST_ptr(remainder = BN_new()))
1423*e0c4386eSCy Schubert         goto err;
1424*e0c4386eSCy Schubert 
1425*e0c4386eSCy Schubert     BN_zero(zero);
1426*e0c4386eSCy Schubert     if (!TEST_true(BN_sqr(ret, a, ctx))
1427*e0c4386eSCy Schubert             || !equalBN("A^2", square, ret)
1428*e0c4386eSCy Schubert             || !TEST_true(BN_mul(ret, a, a, ctx))
1429*e0c4386eSCy Schubert             || !equalBN("A * A", square, ret)
1430*e0c4386eSCy Schubert             || !TEST_true(BN_div(ret, remainder, square, a, ctx))
1431*e0c4386eSCy Schubert             || !equalBN("Square / A", a, ret)
1432*e0c4386eSCy Schubert             || !equalBN("Square % A", zero, remainder))
1433*e0c4386eSCy Schubert         goto err;
1434*e0c4386eSCy Schubert 
1435*e0c4386eSCy Schubert #if HAVE_BN_SQRT
1436*e0c4386eSCy Schubert     BN_set_negative(a, 0);
1437*e0c4386eSCy Schubert     if (!TEST_true(BN_sqrt(ret, square, ctx))
1438*e0c4386eSCy Schubert             || !equalBN("sqrt(Square)", a, ret))
1439*e0c4386eSCy Schubert         goto err;
1440*e0c4386eSCy Schubert 
1441*e0c4386eSCy Schubert     /* BN_sqrt should fail on non-squares and negative numbers. */
1442*e0c4386eSCy Schubert     if (!TEST_BN_eq_zero(square)) {
1443*e0c4386eSCy Schubert         if (!TEST_ptr(tmp = BN_new())
1444*e0c4386eSCy Schubert                 || !TEST_true(BN_copy(tmp, square)))
1445*e0c4386eSCy Schubert             goto err;
1446*e0c4386eSCy Schubert         BN_set_negative(tmp, 1);
1447*e0c4386eSCy Schubert 
1448*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_sqrt(ret, tmp, ctx), 0))
1449*e0c4386eSCy Schubert             goto err;
1450*e0c4386eSCy Schubert         ERR_clear_error();
1451*e0c4386eSCy Schubert 
1452*e0c4386eSCy Schubert         BN_set_negative(tmp, 0);
1453*e0c4386eSCy Schubert         if (BN_add(tmp, tmp, BN_value_one()))
1454*e0c4386eSCy Schubert             goto err;
1455*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_sqrt(ret, tmp, ctx)))
1456*e0c4386eSCy Schubert             goto err;
1457*e0c4386eSCy Schubert         ERR_clear_error();
1458*e0c4386eSCy Schubert     }
1459*e0c4386eSCy Schubert #endif
1460*e0c4386eSCy Schubert 
1461*e0c4386eSCy Schubert     st = 1;
1462*e0c4386eSCy Schubert  err:
1463*e0c4386eSCy Schubert     BN_free(a);
1464*e0c4386eSCy Schubert     BN_free(square);
1465*e0c4386eSCy Schubert     BN_free(zero);
1466*e0c4386eSCy Schubert     BN_free(ret);
1467*e0c4386eSCy Schubert     BN_free(remainder);
1468*e0c4386eSCy Schubert     BN_free(tmp);
1469*e0c4386eSCy Schubert     return st;
1470*e0c4386eSCy Schubert }
1471*e0c4386eSCy Schubert 
file_product(STANZA * s)1472*e0c4386eSCy Schubert static int file_product(STANZA *s)
1473*e0c4386eSCy Schubert {
1474*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *product = NULL, *ret = NULL;
1475*e0c4386eSCy Schubert     BIGNUM *remainder = NULL, *zero = NULL;
1476*e0c4386eSCy Schubert     int st = 0;
1477*e0c4386eSCy Schubert 
1478*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1479*e0c4386eSCy Schubert             || !TEST_ptr(b = getBN(s, "B"))
1480*e0c4386eSCy Schubert             || !TEST_ptr(product = getBN(s, "Product"))
1481*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1482*e0c4386eSCy Schubert             || !TEST_ptr(remainder = BN_new())
1483*e0c4386eSCy Schubert             || !TEST_ptr(zero = BN_new()))
1484*e0c4386eSCy Schubert         goto err;
1485*e0c4386eSCy Schubert 
1486*e0c4386eSCy Schubert     BN_zero(zero);
1487*e0c4386eSCy Schubert 
1488*e0c4386eSCy Schubert     if (!TEST_true(BN_mul(ret, a, b, ctx))
1489*e0c4386eSCy Schubert             || !equalBN("A * B", product, ret)
1490*e0c4386eSCy Schubert             || !TEST_true(BN_div(ret, remainder, product, a, ctx))
1491*e0c4386eSCy Schubert             || !equalBN("Product / A", b, ret)
1492*e0c4386eSCy Schubert             || !equalBN("Product % A", zero, remainder)
1493*e0c4386eSCy Schubert             || !TEST_true(BN_div(ret, remainder, product, b, ctx))
1494*e0c4386eSCy Schubert             || !equalBN("Product / B", a, ret)
1495*e0c4386eSCy Schubert             || !equalBN("Product % B", zero, remainder))
1496*e0c4386eSCy Schubert         goto err;
1497*e0c4386eSCy Schubert 
1498*e0c4386eSCy Schubert     st = 1;
1499*e0c4386eSCy Schubert  err:
1500*e0c4386eSCy Schubert     BN_free(a);
1501*e0c4386eSCy Schubert     BN_free(b);
1502*e0c4386eSCy Schubert     BN_free(product);
1503*e0c4386eSCy Schubert     BN_free(ret);
1504*e0c4386eSCy Schubert     BN_free(remainder);
1505*e0c4386eSCy Schubert     BN_free(zero);
1506*e0c4386eSCy Schubert     return st;
1507*e0c4386eSCy Schubert }
1508*e0c4386eSCy Schubert 
file_quotient(STANZA * s)1509*e0c4386eSCy Schubert static int file_quotient(STANZA *s)
1510*e0c4386eSCy Schubert {
1511*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *quotient = NULL, *remainder = NULL;
1512*e0c4386eSCy Schubert     BIGNUM *ret = NULL, *ret2 = NULL, *nnmod = NULL;
1513*e0c4386eSCy Schubert     BN_ULONG b_word, ret_word;
1514*e0c4386eSCy Schubert     int st = 0;
1515*e0c4386eSCy Schubert 
1516*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1517*e0c4386eSCy Schubert             || !TEST_ptr(b = getBN(s, "B"))
1518*e0c4386eSCy Schubert             || !TEST_ptr(quotient = getBN(s, "Quotient"))
1519*e0c4386eSCy Schubert             || !TEST_ptr(remainder = getBN(s, "Remainder"))
1520*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1521*e0c4386eSCy Schubert             || !TEST_ptr(ret2 = BN_new())
1522*e0c4386eSCy Schubert             || !TEST_ptr(nnmod = BN_new()))
1523*e0c4386eSCy Schubert         goto err;
1524*e0c4386eSCy Schubert 
1525*e0c4386eSCy Schubert     if (!TEST_true(BN_div(ret, ret2, a, b, ctx))
1526*e0c4386eSCy Schubert             || !equalBN("A / B", quotient, ret)
1527*e0c4386eSCy Schubert             || !equalBN("A % B", remainder, ret2)
1528*e0c4386eSCy Schubert             || !TEST_true(BN_mul(ret, quotient, b, ctx))
1529*e0c4386eSCy Schubert             || !TEST_true(BN_add(ret, ret, remainder))
1530*e0c4386eSCy Schubert             || !equalBN("Quotient * B + Remainder", a, ret))
1531*e0c4386eSCy Schubert         goto err;
1532*e0c4386eSCy Schubert 
1533*e0c4386eSCy Schubert     /*
1534*e0c4386eSCy Schubert      * Test with BN_mod_word() and BN_div_word() if the divisor is
1535*e0c4386eSCy Schubert      * small enough.
1536*e0c4386eSCy Schubert      */
1537*e0c4386eSCy Schubert     b_word = BN_get_word(b);
1538*e0c4386eSCy Schubert     if (!BN_is_negative(b) && b_word != (BN_ULONG)-1) {
1539*e0c4386eSCy Schubert         BN_ULONG remainder_word = BN_get_word(remainder);
1540*e0c4386eSCy Schubert 
1541*e0c4386eSCy Schubert         assert(remainder_word != (BN_ULONG)-1);
1542*e0c4386eSCy Schubert         if (!TEST_ptr(BN_copy(ret, a)))
1543*e0c4386eSCy Schubert             goto err;
1544*e0c4386eSCy Schubert         ret_word = BN_div_word(ret, b_word);
1545*e0c4386eSCy Schubert         if (ret_word != remainder_word) {
1546*e0c4386eSCy Schubert #ifdef BN_DEC_FMT1
1547*e0c4386eSCy Schubert             TEST_error(
1548*e0c4386eSCy Schubert                     "Got A %% B (word) = " BN_DEC_FMT1 ", wanted " BN_DEC_FMT1,
1549*e0c4386eSCy Schubert                     ret_word, remainder_word);
1550*e0c4386eSCy Schubert #else
1551*e0c4386eSCy Schubert             TEST_error("Got A %% B (word) mismatch");
1552*e0c4386eSCy Schubert #endif
1553*e0c4386eSCy Schubert             goto err;
1554*e0c4386eSCy Schubert         }
1555*e0c4386eSCy Schubert         if (!equalBN ("A / B (word)", quotient, ret))
1556*e0c4386eSCy Schubert             goto err;
1557*e0c4386eSCy Schubert 
1558*e0c4386eSCy Schubert         ret_word = BN_mod_word(a, b_word);
1559*e0c4386eSCy Schubert         if (ret_word != remainder_word) {
1560*e0c4386eSCy Schubert #ifdef BN_DEC_FMT1
1561*e0c4386eSCy Schubert             TEST_error(
1562*e0c4386eSCy Schubert                     "Got A %% B (word) = " BN_DEC_FMT1 ", wanted " BN_DEC_FMT1 "",
1563*e0c4386eSCy Schubert                     ret_word, remainder_word);
1564*e0c4386eSCy Schubert #else
1565*e0c4386eSCy Schubert             TEST_error("Got A %% B (word) mismatch");
1566*e0c4386eSCy Schubert #endif
1567*e0c4386eSCy Schubert             goto err;
1568*e0c4386eSCy Schubert         }
1569*e0c4386eSCy Schubert     }
1570*e0c4386eSCy Schubert 
1571*e0c4386eSCy Schubert     /* Test BN_nnmod. */
1572*e0c4386eSCy Schubert     if (!BN_is_negative(b)) {
1573*e0c4386eSCy Schubert         if (!TEST_true(BN_copy(nnmod, remainder))
1574*e0c4386eSCy Schubert                 || (BN_is_negative(nnmod)
1575*e0c4386eSCy Schubert                         && !TEST_true(BN_add(nnmod, nnmod, b)))
1576*e0c4386eSCy Schubert                 || !TEST_true(BN_nnmod(ret, a, b, ctx))
1577*e0c4386eSCy Schubert                 || !equalBN("A % B (non-negative)", nnmod, ret))
1578*e0c4386eSCy Schubert             goto err;
1579*e0c4386eSCy Schubert     }
1580*e0c4386eSCy Schubert 
1581*e0c4386eSCy Schubert     st = 1;
1582*e0c4386eSCy Schubert  err:
1583*e0c4386eSCy Schubert     BN_free(a);
1584*e0c4386eSCy Schubert     BN_free(b);
1585*e0c4386eSCy Schubert     BN_free(quotient);
1586*e0c4386eSCy Schubert     BN_free(remainder);
1587*e0c4386eSCy Schubert     BN_free(ret);
1588*e0c4386eSCy Schubert     BN_free(ret2);
1589*e0c4386eSCy Schubert     BN_free(nnmod);
1590*e0c4386eSCy Schubert     return st;
1591*e0c4386eSCy Schubert }
1592*e0c4386eSCy Schubert 
file_modmul(STANZA * s)1593*e0c4386eSCy Schubert static int file_modmul(STANZA *s)
1594*e0c4386eSCy Schubert {
1595*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *m = NULL, *mod_mul = NULL, *ret = NULL;
1596*e0c4386eSCy Schubert     int st = 0;
1597*e0c4386eSCy Schubert 
1598*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1599*e0c4386eSCy Schubert             || !TEST_ptr(b = getBN(s, "B"))
1600*e0c4386eSCy Schubert             || !TEST_ptr(m = getBN(s, "M"))
1601*e0c4386eSCy Schubert             || !TEST_ptr(mod_mul = getBN(s, "ModMul"))
1602*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new()))
1603*e0c4386eSCy Schubert         goto err;
1604*e0c4386eSCy Schubert 
1605*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_mul(ret, a, b, m, ctx))
1606*e0c4386eSCy Schubert             || !equalBN("A * B (mod M)", mod_mul, ret))
1607*e0c4386eSCy Schubert         goto err;
1608*e0c4386eSCy Schubert 
1609*e0c4386eSCy Schubert     if (BN_is_odd(m)) {
1610*e0c4386eSCy Schubert         /* Reduce |a| and |b| and test the Montgomery version. */
1611*e0c4386eSCy Schubert         BN_MONT_CTX *mont = BN_MONT_CTX_new();
1612*e0c4386eSCy Schubert         BIGNUM *a_tmp = BN_new();
1613*e0c4386eSCy Schubert         BIGNUM *b_tmp = BN_new();
1614*e0c4386eSCy Schubert 
1615*e0c4386eSCy Schubert         if (mont == NULL || a_tmp == NULL || b_tmp == NULL
1616*e0c4386eSCy Schubert                 || !TEST_true(BN_MONT_CTX_set(mont, m, ctx))
1617*e0c4386eSCy Schubert                 || !TEST_true(BN_nnmod(a_tmp, a, m, ctx))
1618*e0c4386eSCy Schubert                 || !TEST_true(BN_nnmod(b_tmp, b, m, ctx))
1619*e0c4386eSCy Schubert                 || !TEST_true(BN_to_montgomery(a_tmp, a_tmp, mont, ctx))
1620*e0c4386eSCy Schubert                 || !TEST_true(BN_to_montgomery(b_tmp, b_tmp, mont, ctx))
1621*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_mul_montgomery(ret, a_tmp, b_tmp,
1622*e0c4386eSCy Schubert                                                     mont, ctx))
1623*e0c4386eSCy Schubert                 || !TEST_true(BN_from_montgomery(ret, ret, mont, ctx))
1624*e0c4386eSCy Schubert                 || !equalBN("A * B (mod M) (mont)", mod_mul, ret))
1625*e0c4386eSCy Schubert             st = 0;
1626*e0c4386eSCy Schubert         else
1627*e0c4386eSCy Schubert             st = 1;
1628*e0c4386eSCy Schubert         BN_MONT_CTX_free(mont);
1629*e0c4386eSCy Schubert         BN_free(a_tmp);
1630*e0c4386eSCy Schubert         BN_free(b_tmp);
1631*e0c4386eSCy Schubert         if (st == 0)
1632*e0c4386eSCy Schubert             goto err;
1633*e0c4386eSCy Schubert     }
1634*e0c4386eSCy Schubert 
1635*e0c4386eSCy Schubert     st = 1;
1636*e0c4386eSCy Schubert  err:
1637*e0c4386eSCy Schubert     BN_free(a);
1638*e0c4386eSCy Schubert     BN_free(b);
1639*e0c4386eSCy Schubert     BN_free(m);
1640*e0c4386eSCy Schubert     BN_free(mod_mul);
1641*e0c4386eSCy Schubert     BN_free(ret);
1642*e0c4386eSCy Schubert     return st;
1643*e0c4386eSCy Schubert }
1644*e0c4386eSCy Schubert 
file_modexp(STANZA * s)1645*e0c4386eSCy Schubert static int file_modexp(STANZA *s)
1646*e0c4386eSCy Schubert {
1647*e0c4386eSCy Schubert     BIGNUM *a = NULL, *e = NULL, *m = NULL, *mod_exp = NULL, *ret = NULL;
1648*e0c4386eSCy Schubert     BIGNUM *b = NULL, *c = NULL, *d = NULL;
1649*e0c4386eSCy Schubert     int st = 0;
1650*e0c4386eSCy Schubert 
1651*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1652*e0c4386eSCy Schubert             || !TEST_ptr(e = getBN(s, "E"))
1653*e0c4386eSCy Schubert             || !TEST_ptr(m = getBN(s, "M"))
1654*e0c4386eSCy Schubert             || !TEST_ptr(mod_exp = getBN(s, "ModExp"))
1655*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1656*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new()))
1657*e0c4386eSCy Schubert         goto err;
1658*e0c4386eSCy Schubert 
1659*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_exp(ret, a, e, m, ctx))
1660*e0c4386eSCy Schubert             || !equalBN("A ^ E (mod M)", mod_exp, ret))
1661*e0c4386eSCy Schubert         goto err;
1662*e0c4386eSCy Schubert 
1663*e0c4386eSCy Schubert     if (BN_is_odd(m)) {
1664*e0c4386eSCy Schubert         if (!TEST_true(BN_mod_exp_mont(ret, a, e, m, ctx, NULL))
1665*e0c4386eSCy Schubert                 || !equalBN("A ^ E (mod M) (mont)", mod_exp, ret)
1666*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_mont_consttime(ret, a, e, m,
1667*e0c4386eSCy Schubert                                                         ctx, NULL))
1668*e0c4386eSCy Schubert                 || !equalBN("A ^ E (mod M) (mont const", mod_exp, ret))
1669*e0c4386eSCy Schubert             goto err;
1670*e0c4386eSCy Schubert     }
1671*e0c4386eSCy Schubert 
1672*e0c4386eSCy Schubert     /* Regression test for carry propagation bug in sqr8x_reduction */
1673*e0c4386eSCy Schubert     BN_hex2bn(&a, "050505050505");
1674*e0c4386eSCy Schubert     BN_hex2bn(&b, "02");
1675*e0c4386eSCy Schubert     BN_hex2bn(&c,
1676*e0c4386eSCy Schubert         "4141414141414141414141274141414141414141414141414141414141414141"
1677*e0c4386eSCy Schubert         "4141414141414141414141414141414141414141414141414141414141414141"
1678*e0c4386eSCy Schubert         "4141414141414141414141800000000000000000000000000000000000000000"
1679*e0c4386eSCy Schubert         "0000000000000000000000000000000000000000000000000000000000000000"
1680*e0c4386eSCy Schubert         "0000000000000000000000000000000000000000000000000000000000000000"
1681*e0c4386eSCy Schubert         "0000000000000000000000000000000000000000000000000000000001");
1682*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_exp(d, a, b, c, ctx))
1683*e0c4386eSCy Schubert         || !TEST_true(BN_mul(e, a, a, ctx))
1684*e0c4386eSCy Schubert         || !TEST_BN_eq(d, e))
1685*e0c4386eSCy Schubert         goto err;
1686*e0c4386eSCy Schubert 
1687*e0c4386eSCy Schubert     st = 1;
1688*e0c4386eSCy Schubert  err:
1689*e0c4386eSCy Schubert     BN_free(a);
1690*e0c4386eSCy Schubert     BN_free(b);
1691*e0c4386eSCy Schubert     BN_free(c);
1692*e0c4386eSCy Schubert     BN_free(d);
1693*e0c4386eSCy Schubert     BN_free(e);
1694*e0c4386eSCy Schubert     BN_free(m);
1695*e0c4386eSCy Schubert     BN_free(mod_exp);
1696*e0c4386eSCy Schubert     BN_free(ret);
1697*e0c4386eSCy Schubert     return st;
1698*e0c4386eSCy Schubert }
1699*e0c4386eSCy Schubert 
file_exp(STANZA * s)1700*e0c4386eSCy Schubert static int file_exp(STANZA *s)
1701*e0c4386eSCy Schubert {
1702*e0c4386eSCy Schubert     BIGNUM *a = NULL, *e = NULL, *exp = NULL, *ret = NULL;
1703*e0c4386eSCy Schubert     int st = 0;
1704*e0c4386eSCy Schubert 
1705*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1706*e0c4386eSCy Schubert             || !TEST_ptr(e = getBN(s, "E"))
1707*e0c4386eSCy Schubert             || !TEST_ptr(exp = getBN(s, "Exp"))
1708*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new()))
1709*e0c4386eSCy Schubert         goto err;
1710*e0c4386eSCy Schubert 
1711*e0c4386eSCy Schubert     if (!TEST_true(BN_exp(ret, a, e, ctx))
1712*e0c4386eSCy Schubert             || !equalBN("A ^ E", exp, ret))
1713*e0c4386eSCy Schubert         goto err;
1714*e0c4386eSCy Schubert 
1715*e0c4386eSCy Schubert     st = 1;
1716*e0c4386eSCy Schubert  err:
1717*e0c4386eSCy Schubert     BN_free(a);
1718*e0c4386eSCy Schubert     BN_free(e);
1719*e0c4386eSCy Schubert     BN_free(exp);
1720*e0c4386eSCy Schubert     BN_free(ret);
1721*e0c4386eSCy Schubert     return st;
1722*e0c4386eSCy Schubert }
1723*e0c4386eSCy Schubert 
file_modsqrt(STANZA * s)1724*e0c4386eSCy Schubert static int file_modsqrt(STANZA *s)
1725*e0c4386eSCy Schubert {
1726*e0c4386eSCy Schubert     BIGNUM *a = NULL, *p = NULL, *mod_sqrt = NULL, *ret = NULL, *ret2 = NULL;
1727*e0c4386eSCy Schubert     int st = 0;
1728*e0c4386eSCy Schubert 
1729*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1730*e0c4386eSCy Schubert             || !TEST_ptr(p = getBN(s, "P"))
1731*e0c4386eSCy Schubert             || !TEST_ptr(mod_sqrt = getBN(s, "ModSqrt"))
1732*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new())
1733*e0c4386eSCy Schubert             || !TEST_ptr(ret2 = BN_new()))
1734*e0c4386eSCy Schubert         goto err;
1735*e0c4386eSCy Schubert 
1736*e0c4386eSCy Schubert     if (BN_is_negative(mod_sqrt)) {
1737*e0c4386eSCy Schubert         /* A negative testcase */
1738*e0c4386eSCy Schubert         if (!TEST_ptr_null(BN_mod_sqrt(ret, a, p, ctx)))
1739*e0c4386eSCy Schubert             goto err;
1740*e0c4386eSCy Schubert 
1741*e0c4386eSCy Schubert         st = 1;
1742*e0c4386eSCy Schubert         goto err;
1743*e0c4386eSCy Schubert     }
1744*e0c4386eSCy Schubert 
1745*e0c4386eSCy Schubert     /* There are two possible answers. */
1746*e0c4386eSCy Schubert     if (!TEST_ptr(BN_mod_sqrt(ret, a, p, ctx))
1747*e0c4386eSCy Schubert             || !TEST_true(BN_sub(ret2, p, ret)))
1748*e0c4386eSCy Schubert         goto err;
1749*e0c4386eSCy Schubert 
1750*e0c4386eSCy Schubert     /* The first condition should NOT be a test. */
1751*e0c4386eSCy Schubert     if (BN_cmp(ret2, mod_sqrt) != 0
1752*e0c4386eSCy Schubert             && !equalBN("sqrt(A) (mod P)", mod_sqrt, ret))
1753*e0c4386eSCy Schubert         goto err;
1754*e0c4386eSCy Schubert 
1755*e0c4386eSCy Schubert     st = 1;
1756*e0c4386eSCy Schubert  err:
1757*e0c4386eSCy Schubert     BN_free(a);
1758*e0c4386eSCy Schubert     BN_free(p);
1759*e0c4386eSCy Schubert     BN_free(mod_sqrt);
1760*e0c4386eSCy Schubert     BN_free(ret);
1761*e0c4386eSCy Schubert     BN_free(ret2);
1762*e0c4386eSCy Schubert     return st;
1763*e0c4386eSCy Schubert }
1764*e0c4386eSCy Schubert 
file_gcd(STANZA * s)1765*e0c4386eSCy Schubert static int file_gcd(STANZA *s)
1766*e0c4386eSCy Schubert {
1767*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *gcd = NULL, *ret = NULL;
1768*e0c4386eSCy Schubert     int st = 0;
1769*e0c4386eSCy Schubert 
1770*e0c4386eSCy Schubert     if (!TEST_ptr(a = getBN(s, "A"))
1771*e0c4386eSCy Schubert             || !TEST_ptr(b = getBN(s, "B"))
1772*e0c4386eSCy Schubert             || !TEST_ptr(gcd = getBN(s, "GCD"))
1773*e0c4386eSCy Schubert             || !TEST_ptr(ret = BN_new()))
1774*e0c4386eSCy Schubert         goto err;
1775*e0c4386eSCy Schubert 
1776*e0c4386eSCy Schubert     if (!TEST_true(BN_gcd(ret, a, b, ctx))
1777*e0c4386eSCy Schubert             || !equalBN("gcd(A,B)", gcd, ret))
1778*e0c4386eSCy Schubert         goto err;
1779*e0c4386eSCy Schubert 
1780*e0c4386eSCy Schubert     st = 1;
1781*e0c4386eSCy Schubert  err:
1782*e0c4386eSCy Schubert     BN_free(a);
1783*e0c4386eSCy Schubert     BN_free(b);
1784*e0c4386eSCy Schubert     BN_free(gcd);
1785*e0c4386eSCy Schubert     BN_free(ret);
1786*e0c4386eSCy Schubert     return st;
1787*e0c4386eSCy Schubert }
1788*e0c4386eSCy Schubert 
test_bn2padded(void)1789*e0c4386eSCy Schubert static int test_bn2padded(void)
1790*e0c4386eSCy Schubert {
1791*e0c4386eSCy Schubert     uint8_t zeros[256], out[256], reference[128];
1792*e0c4386eSCy Schubert     size_t bytes;
1793*e0c4386eSCy Schubert     BIGNUM *n;
1794*e0c4386eSCy Schubert     int st = 0;
1795*e0c4386eSCy Schubert 
1796*e0c4386eSCy Schubert     /* Test edge case at 0. */
1797*e0c4386eSCy Schubert     if (!TEST_ptr((n = BN_new())))
1798*e0c4386eSCy Schubert         goto err;
1799*e0c4386eSCy Schubert     if (!TEST_int_eq(BN_bn2binpad(n, NULL, 0), 0))
1800*e0c4386eSCy Schubert         goto err;
1801*e0c4386eSCy Schubert     memset(out, -1, sizeof(out));
1802*e0c4386eSCy Schubert     if (!TEST_int_eq(BN_bn2binpad(n, out, sizeof(out)), sizeof(out)))
1803*e0c4386eSCy Schubert         goto err;
1804*e0c4386eSCy Schubert     memset(zeros, 0, sizeof(zeros));
1805*e0c4386eSCy Schubert     if (!TEST_mem_eq(zeros, sizeof(zeros), out, sizeof(out)))
1806*e0c4386eSCy Schubert         goto err;
1807*e0c4386eSCy Schubert 
1808*e0c4386eSCy Schubert     /* Test a random numbers at various byte lengths. */
1809*e0c4386eSCy Schubert     for (bytes = 128 - 7; bytes <= 128; bytes++) {
1810*e0c4386eSCy Schubert # define TOP_BIT_ON 0
1811*e0c4386eSCy Schubert # define BOTTOM_BIT_NOTOUCH 0
1812*e0c4386eSCy Schubert         if (!TEST_true(BN_rand(n, bytes * 8, TOP_BIT_ON, BOTTOM_BIT_NOTOUCH)))
1813*e0c4386eSCy Schubert             goto err;
1814*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_num_bytes(n), bytes)
1815*e0c4386eSCy Schubert                 || !TEST_int_eq(BN_bn2bin(n, reference), bytes))
1816*e0c4386eSCy Schubert             goto err;
1817*e0c4386eSCy Schubert         /* Empty buffer should fail. */
1818*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_bn2binpad(n, NULL, 0), -1))
1819*e0c4386eSCy Schubert             goto err;
1820*e0c4386eSCy Schubert         /* One byte short should fail. */
1821*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_bn2binpad(n, out, bytes - 1), -1))
1822*e0c4386eSCy Schubert             goto err;
1823*e0c4386eSCy Schubert         /* Exactly right size should encode. */
1824*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_bn2binpad(n, out, bytes), bytes)
1825*e0c4386eSCy Schubert                 || !TEST_mem_eq(out, bytes, reference, bytes))
1826*e0c4386eSCy Schubert             goto err;
1827*e0c4386eSCy Schubert         /* Pad up one byte extra. */
1828*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_bn2binpad(n, out, bytes + 1), bytes + 1)
1829*e0c4386eSCy Schubert                 || !TEST_mem_eq(out + 1, bytes, reference, bytes)
1830*e0c4386eSCy Schubert                 || !TEST_mem_eq(out, 1, zeros, 1))
1831*e0c4386eSCy Schubert             goto err;
1832*e0c4386eSCy Schubert         /* Pad up to 256. */
1833*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_bn2binpad(n, out, sizeof(out)), sizeof(out))
1834*e0c4386eSCy Schubert                 || !TEST_mem_eq(out + sizeof(out) - bytes, bytes,
1835*e0c4386eSCy Schubert                                 reference, bytes)
1836*e0c4386eSCy Schubert                 || !TEST_mem_eq(out, sizeof(out) - bytes,
1837*e0c4386eSCy Schubert                                 zeros, sizeof(out) - bytes))
1838*e0c4386eSCy Schubert             goto err;
1839*e0c4386eSCy Schubert     }
1840*e0c4386eSCy Schubert 
1841*e0c4386eSCy Schubert     st = 1;
1842*e0c4386eSCy Schubert  err:
1843*e0c4386eSCy Schubert     BN_free(n);
1844*e0c4386eSCy Schubert     return st;
1845*e0c4386eSCy Schubert }
1846*e0c4386eSCy Schubert 
test_dec2bn(void)1847*e0c4386eSCy Schubert static int test_dec2bn(void)
1848*e0c4386eSCy Schubert {
1849*e0c4386eSCy Schubert     BIGNUM *bn = NULL;
1850*e0c4386eSCy Schubert     int st = 0;
1851*e0c4386eSCy Schubert 
1852*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "0"), 1)
1853*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0)
1854*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
1855*e0c4386eSCy Schubert             || !TEST_BN_le_zero(bn)
1856*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1857*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1858*e0c4386eSCy Schubert         goto err;
1859*e0c4386eSCy Schubert     BN_free(bn);
1860*e0c4386eSCy Schubert     bn = NULL;
1861*e0c4386eSCy Schubert 
1862*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "256"), 3)
1863*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 256)
1864*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1865*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1866*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1867*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1868*e0c4386eSCy Schubert         goto err;
1869*e0c4386eSCy Schubert     BN_free(bn);
1870*e0c4386eSCy Schubert     bn = NULL;
1871*e0c4386eSCy Schubert 
1872*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "-42"), 3)
1873*e0c4386eSCy Schubert             || !TEST_BN_abs_eq_word(bn, 42)
1874*e0c4386eSCy Schubert             || !TEST_BN_lt_zero(bn)
1875*e0c4386eSCy Schubert             || !TEST_BN_le_zero(bn)
1876*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1877*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1878*e0c4386eSCy Schubert         goto err;
1879*e0c4386eSCy Schubert     BN_free(bn);
1880*e0c4386eSCy Schubert     bn = NULL;
1881*e0c4386eSCy Schubert 
1882*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "1"), 1)
1883*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 1)
1884*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1885*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1886*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1887*e0c4386eSCy Schubert             || !TEST_BN_eq_one(bn)
1888*e0c4386eSCy Schubert             || !TEST_BN_odd(bn))
1889*e0c4386eSCy Schubert         goto err;
1890*e0c4386eSCy Schubert     BN_free(bn);
1891*e0c4386eSCy Schubert     bn = NULL;
1892*e0c4386eSCy Schubert 
1893*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "-0"), 2)
1894*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
1895*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1896*e0c4386eSCy Schubert             || !TEST_BN_le_zero(bn)
1897*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1898*e0c4386eSCy Schubert         goto err;
1899*e0c4386eSCy Schubert     BN_free(bn);
1900*e0c4386eSCy Schubert     bn = NULL;
1901*e0c4386eSCy Schubert 
1902*e0c4386eSCy Schubert     if (!TEST_int_eq(parsedecBN(&bn, "42trailing garbage is ignored"), 2)
1903*e0c4386eSCy Schubert             || !TEST_BN_abs_eq_word(bn, 42)
1904*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1905*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1906*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1907*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1908*e0c4386eSCy Schubert         goto err;
1909*e0c4386eSCy Schubert 
1910*e0c4386eSCy Schubert     st = 1;
1911*e0c4386eSCy Schubert  err:
1912*e0c4386eSCy Schubert     BN_free(bn);
1913*e0c4386eSCy Schubert     return st;
1914*e0c4386eSCy Schubert }
1915*e0c4386eSCy Schubert 
test_hex2bn(void)1916*e0c4386eSCy Schubert static int test_hex2bn(void)
1917*e0c4386eSCy Schubert {
1918*e0c4386eSCy Schubert     BIGNUM *bn = NULL;
1919*e0c4386eSCy Schubert     int st = 0;
1920*e0c4386eSCy Schubert 
1921*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "0"), 1)
1922*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
1923*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1924*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1925*e0c4386eSCy Schubert         goto err;
1926*e0c4386eSCy Schubert     BN_free(bn);
1927*e0c4386eSCy Schubert     bn = NULL;
1928*e0c4386eSCy Schubert 
1929*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "256"), 3)
1930*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0x256)
1931*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1932*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1933*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1934*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1935*e0c4386eSCy Schubert         goto err;
1936*e0c4386eSCy Schubert     BN_free(bn);
1937*e0c4386eSCy Schubert     bn = NULL;
1938*e0c4386eSCy Schubert 
1939*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "-42"), 3)
1940*e0c4386eSCy Schubert             || !TEST_BN_abs_eq_word(bn, 0x42)
1941*e0c4386eSCy Schubert             || !TEST_BN_lt_zero(bn)
1942*e0c4386eSCy Schubert             || !TEST_BN_le_zero(bn)
1943*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1944*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1945*e0c4386eSCy Schubert         goto err;
1946*e0c4386eSCy Schubert     BN_free(bn);
1947*e0c4386eSCy Schubert     bn = NULL;
1948*e0c4386eSCy Schubert 
1949*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "cb"), 2)
1950*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0xCB)
1951*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1952*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1953*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1954*e0c4386eSCy Schubert             || !TEST_BN_odd(bn))
1955*e0c4386eSCy Schubert         goto err;
1956*e0c4386eSCy Schubert     BN_free(bn);
1957*e0c4386eSCy Schubert     bn = NULL;
1958*e0c4386eSCy Schubert 
1959*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "-0"), 2)
1960*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
1961*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1962*e0c4386eSCy Schubert             || !TEST_BN_le_zero(bn)
1963*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1964*e0c4386eSCy Schubert         goto err;
1965*e0c4386eSCy Schubert     BN_free(bn);
1966*e0c4386eSCy Schubert     bn = NULL;
1967*e0c4386eSCy Schubert 
1968*e0c4386eSCy Schubert     if (!TEST_int_eq(parseBN(&bn, "abctrailing garbage is ignored"), 3)
1969*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0xabc)
1970*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn)
1971*e0c4386eSCy Schubert             || !TEST_BN_gt_zero(bn)
1972*e0c4386eSCy Schubert             || !TEST_BN_ne_zero(bn)
1973*e0c4386eSCy Schubert             || !TEST_BN_even(bn))
1974*e0c4386eSCy Schubert         goto err;
1975*e0c4386eSCy Schubert     st = 1;
1976*e0c4386eSCy Schubert 
1977*e0c4386eSCy Schubert  err:
1978*e0c4386eSCy Schubert     BN_free(bn);
1979*e0c4386eSCy Schubert     return st;
1980*e0c4386eSCy Schubert }
1981*e0c4386eSCy Schubert 
test_asc2bn(void)1982*e0c4386eSCy Schubert static int test_asc2bn(void)
1983*e0c4386eSCy Schubert {
1984*e0c4386eSCy Schubert     BIGNUM *bn = NULL;
1985*e0c4386eSCy Schubert     int st = 0;
1986*e0c4386eSCy Schubert 
1987*e0c4386eSCy Schubert     if (!TEST_ptr(bn = BN_new()))
1988*e0c4386eSCy Schubert         goto err;
1989*e0c4386eSCy Schubert 
1990*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "0"))
1991*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
1992*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
1993*e0c4386eSCy Schubert         goto err;
1994*e0c4386eSCy Schubert 
1995*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "256"))
1996*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 256)
1997*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
1998*e0c4386eSCy Schubert         goto err;
1999*e0c4386eSCy Schubert 
2000*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "-42"))
2001*e0c4386eSCy Schubert             || !TEST_BN_abs_eq_word(bn, 42)
2002*e0c4386eSCy Schubert             || !TEST_BN_lt_zero(bn))
2003*e0c4386eSCy Schubert         goto err;
2004*e0c4386eSCy Schubert 
2005*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "0x1234"))
2006*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0x1234)
2007*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
2008*e0c4386eSCy Schubert         goto err;
2009*e0c4386eSCy Schubert 
2010*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "0X1234"))
2011*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 0x1234)
2012*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
2013*e0c4386eSCy Schubert         goto err;
2014*e0c4386eSCy Schubert 
2015*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "-0xabcd"))
2016*e0c4386eSCy Schubert             || !TEST_BN_abs_eq_word(bn, 0xabcd)
2017*e0c4386eSCy Schubert             || !TEST_BN_lt_zero(bn))
2018*e0c4386eSCy Schubert         goto err;
2019*e0c4386eSCy Schubert 
2020*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "-0"))
2021*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(bn)
2022*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
2023*e0c4386eSCy Schubert         goto err;
2024*e0c4386eSCy Schubert 
2025*e0c4386eSCy Schubert     if (!TEST_true(BN_asc2bn(&bn, "123trailing garbage is ignored"))
2026*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 123)
2027*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(bn))
2028*e0c4386eSCy Schubert         goto err;
2029*e0c4386eSCy Schubert 
2030*e0c4386eSCy Schubert     st = 1;
2031*e0c4386eSCy Schubert  err:
2032*e0c4386eSCy Schubert     BN_free(bn);
2033*e0c4386eSCy Schubert     return st;
2034*e0c4386eSCy Schubert }
2035*e0c4386eSCy Schubert 
2036*e0c4386eSCy Schubert static const MPITEST kMPITests[] = {
2037*e0c4386eSCy Schubert     {"0", "\x00\x00\x00\x00", 4},
2038*e0c4386eSCy Schubert     {"1", "\x00\x00\x00\x01\x01", 5},
2039*e0c4386eSCy Schubert     {"-1", "\x00\x00\x00\x01\x81", 5},
2040*e0c4386eSCy Schubert     {"128", "\x00\x00\x00\x02\x00\x80", 6},
2041*e0c4386eSCy Schubert     {"256", "\x00\x00\x00\x02\x01\x00", 6},
2042*e0c4386eSCy Schubert     {"-256", "\x00\x00\x00\x02\x81\x00", 6},
2043*e0c4386eSCy Schubert };
2044*e0c4386eSCy Schubert 
test_mpi(int i)2045*e0c4386eSCy Schubert static int test_mpi(int i)
2046*e0c4386eSCy Schubert {
2047*e0c4386eSCy Schubert     uint8_t scratch[8];
2048*e0c4386eSCy Schubert     const MPITEST *test = &kMPITests[i];
2049*e0c4386eSCy Schubert     size_t mpi_len, mpi_len2;
2050*e0c4386eSCy Schubert     BIGNUM *bn = NULL;
2051*e0c4386eSCy Schubert     BIGNUM *bn2 = NULL;
2052*e0c4386eSCy Schubert     int st = 0;
2053*e0c4386eSCy Schubert 
2054*e0c4386eSCy Schubert     if (!TEST_ptr(bn = BN_new())
2055*e0c4386eSCy Schubert             || !TEST_true(BN_asc2bn(&bn, test->base10)))
2056*e0c4386eSCy Schubert         goto err;
2057*e0c4386eSCy Schubert     mpi_len = BN_bn2mpi(bn, NULL);
2058*e0c4386eSCy Schubert     if (!TEST_size_t_le(mpi_len, sizeof(scratch)))
2059*e0c4386eSCy Schubert         goto err;
2060*e0c4386eSCy Schubert 
2061*e0c4386eSCy Schubert     if (!TEST_size_t_eq(mpi_len2 = BN_bn2mpi(bn, scratch), mpi_len)
2062*e0c4386eSCy Schubert             || !TEST_mem_eq(test->mpi, test->mpi_len, scratch, mpi_len))
2063*e0c4386eSCy Schubert         goto err;
2064*e0c4386eSCy Schubert 
2065*e0c4386eSCy Schubert     if (!TEST_ptr(bn2 = BN_mpi2bn(scratch, mpi_len, NULL)))
2066*e0c4386eSCy Schubert         goto err;
2067*e0c4386eSCy Schubert 
2068*e0c4386eSCy Schubert     if (!TEST_BN_eq(bn, bn2)) {
2069*e0c4386eSCy Schubert         BN_free(bn2);
2070*e0c4386eSCy Schubert         goto err;
2071*e0c4386eSCy Schubert     }
2072*e0c4386eSCy Schubert     BN_free(bn2);
2073*e0c4386eSCy Schubert 
2074*e0c4386eSCy Schubert     st = 1;
2075*e0c4386eSCy Schubert  err:
2076*e0c4386eSCy Schubert     BN_free(bn);
2077*e0c4386eSCy Schubert     return st;
2078*e0c4386eSCy Schubert }
2079*e0c4386eSCy Schubert 
test_rand(void)2080*e0c4386eSCy Schubert static int test_rand(void)
2081*e0c4386eSCy Schubert {
2082*e0c4386eSCy Schubert     BIGNUM *bn = NULL;
2083*e0c4386eSCy Schubert     int st = 0;
2084*e0c4386eSCy Schubert 
2085*e0c4386eSCy Schubert     if (!TEST_ptr(bn = BN_new()))
2086*e0c4386eSCy Schubert         return 0;
2087*e0c4386eSCy Schubert 
2088*e0c4386eSCy Schubert     /* Test BN_rand for degenerate cases with |top| and |bottom| parameters. */
2089*e0c4386eSCy Schubert     if (!TEST_false(BN_rand(bn, 0, 0 /* top */ , 0 /* bottom */ ))
2090*e0c4386eSCy Schubert             || !TEST_false(BN_rand(bn, 0, 1 /* top */ , 1 /* bottom */ ))
2091*e0c4386eSCy Schubert             || !TEST_true(BN_rand(bn, 1, 0 /* top */ , 0 /* bottom */ ))
2092*e0c4386eSCy Schubert             || !TEST_BN_eq_one(bn)
2093*e0c4386eSCy Schubert             || !TEST_false(BN_rand(bn, 1, 1 /* top */ , 0 /* bottom */ ))
2094*e0c4386eSCy Schubert             || !TEST_true(BN_rand(bn, 1, -1 /* top */ , 1 /* bottom */ ))
2095*e0c4386eSCy Schubert             || !TEST_BN_eq_one(bn)
2096*e0c4386eSCy Schubert             || !TEST_true(BN_rand(bn, 2, 1 /* top */ , 0 /* bottom */ ))
2097*e0c4386eSCy Schubert             || !TEST_BN_eq_word(bn, 3))
2098*e0c4386eSCy Schubert         goto err;
2099*e0c4386eSCy Schubert 
2100*e0c4386eSCy Schubert     st = 1;
2101*e0c4386eSCy Schubert  err:
2102*e0c4386eSCy Schubert     BN_free(bn);
2103*e0c4386eSCy Schubert     return st;
2104*e0c4386eSCy Schubert }
2105*e0c4386eSCy Schubert 
2106*e0c4386eSCy Schubert /*
2107*e0c4386eSCy Schubert  * Run some statistical tests to provide a degree confidence that the
2108*e0c4386eSCy Schubert  * BN_rand_range() function works as expected.  The test cases and
2109*e0c4386eSCy Schubert  * critical values are generated by the bn_rand_range script.
2110*e0c4386eSCy Schubert  *
2111*e0c4386eSCy Schubert  * Each individual test is a Chi^2 goodness of fit for a specified number
2112*e0c4386eSCy Schubert  * of samples and range.  The samples are assumed to be independent and
2113*e0c4386eSCy Schubert  * that they are from a discrete uniform distribution.
2114*e0c4386eSCy Schubert  *
2115*e0c4386eSCy Schubert  * Some of these individual tests are expected to fail, the success/failure
2116*e0c4386eSCy Schubert  * of each is an independent Bernoulli trial.  The number of such successes
2117*e0c4386eSCy Schubert  * will form a binomial distribution.  The count of the successes is compared
2118*e0c4386eSCy Schubert  * against a precomputed critical value to determine the overall outcome.
2119*e0c4386eSCy Schubert  */
2120*e0c4386eSCy Schubert struct rand_range_case {
2121*e0c4386eSCy Schubert     unsigned int range;
2122*e0c4386eSCy Schubert     unsigned int iterations;
2123*e0c4386eSCy Schubert     double critical;
2124*e0c4386eSCy Schubert };
2125*e0c4386eSCy Schubert 
2126*e0c4386eSCy Schubert #include "bn_rand_range.h"
2127*e0c4386eSCy Schubert 
test_rand_range_single(size_t n)2128*e0c4386eSCy Schubert static int test_rand_range_single(size_t n)
2129*e0c4386eSCy Schubert {
2130*e0c4386eSCy Schubert     const unsigned int range = rand_range_cases[n].range;
2131*e0c4386eSCy Schubert     const unsigned int iterations = rand_range_cases[n].iterations;
2132*e0c4386eSCy Schubert     const double critical = rand_range_cases[n].critical;
2133*e0c4386eSCy Schubert     const double expected = iterations / (double)range;
2134*e0c4386eSCy Schubert     double sum = 0;
2135*e0c4386eSCy Schubert     BIGNUM *rng = NULL, *val = NULL;
2136*e0c4386eSCy Schubert     size_t *counts;
2137*e0c4386eSCy Schubert     unsigned int i, v;
2138*e0c4386eSCy Schubert     int res = 0;
2139*e0c4386eSCy Schubert 
2140*e0c4386eSCy Schubert     if (!TEST_ptr(counts = OPENSSL_zalloc(sizeof(*counts) * range))
2141*e0c4386eSCy Schubert         || !TEST_ptr(rng = BN_new())
2142*e0c4386eSCy Schubert         || !TEST_ptr(val = BN_new())
2143*e0c4386eSCy Schubert         || !TEST_true(BN_set_word(rng, range)))
2144*e0c4386eSCy Schubert         goto err;
2145*e0c4386eSCy Schubert     for (i = 0; i < iterations; i++) {
2146*e0c4386eSCy Schubert         if (!TEST_true(BN_rand_range(val, rng))
2147*e0c4386eSCy Schubert             || !TEST_uint_lt(v = (unsigned int)BN_get_word(val), range))
2148*e0c4386eSCy Schubert             goto err;
2149*e0c4386eSCy Schubert         counts[v]++;
2150*e0c4386eSCy Schubert     }
2151*e0c4386eSCy Schubert 
2152*e0c4386eSCy Schubert     for (i = 0; i < range; i++) {
2153*e0c4386eSCy Schubert         const double delta = counts[i] - expected;
2154*e0c4386eSCy Schubert         sum += delta * delta;
2155*e0c4386eSCy Schubert     }
2156*e0c4386eSCy Schubert     sum /= expected;
2157*e0c4386eSCy Schubert 
2158*e0c4386eSCy Schubert     if (sum > critical) {
2159*e0c4386eSCy Schubert         TEST_info("Chi^2 test negative %.4f > %4.f", sum, critical);
2160*e0c4386eSCy Schubert         TEST_note("test case %zu  range %u  iterations %u", n + 1, range,
2161*e0c4386eSCy Schubert                   iterations);
2162*e0c4386eSCy Schubert         goto err;
2163*e0c4386eSCy Schubert     }
2164*e0c4386eSCy Schubert 
2165*e0c4386eSCy Schubert     res = 1;
2166*e0c4386eSCy Schubert err:
2167*e0c4386eSCy Schubert     BN_free(rng);
2168*e0c4386eSCy Schubert     BN_free(val);
2169*e0c4386eSCy Schubert     OPENSSL_free(counts);
2170*e0c4386eSCy Schubert     return res;
2171*e0c4386eSCy Schubert }
2172*e0c4386eSCy Schubert 
test_rand_range(void)2173*e0c4386eSCy Schubert static int test_rand_range(void)
2174*e0c4386eSCy Schubert {
2175*e0c4386eSCy Schubert     int n_success = 0;
2176*e0c4386eSCy Schubert     size_t i;
2177*e0c4386eSCy Schubert 
2178*e0c4386eSCy Schubert     for (i = 0; i < OSSL_NELEM(rand_range_cases); i++)
2179*e0c4386eSCy Schubert         n_success += test_rand_range_single(i);
2180*e0c4386eSCy Schubert     if (TEST_int_ge(n_success, binomial_critical))
2181*e0c4386eSCy Schubert         return 1;
2182*e0c4386eSCy Schubert     TEST_note("This test is expected to fail by chance 0.01%% of the time.");
2183*e0c4386eSCy Schubert     return 0;
2184*e0c4386eSCy Schubert }
2185*e0c4386eSCy Schubert 
test_negzero(void)2186*e0c4386eSCy Schubert static int test_negzero(void)
2187*e0c4386eSCy Schubert {
2188*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL;
2189*e0c4386eSCy Schubert     BIGNUM *numerator = NULL, *denominator = NULL;
2190*e0c4386eSCy Schubert     int consttime, st = 0;
2191*e0c4386eSCy Schubert 
2192*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
2193*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
2194*e0c4386eSCy Schubert             || !TEST_ptr(c = BN_new())
2195*e0c4386eSCy Schubert             || !TEST_ptr(d = BN_new()))
2196*e0c4386eSCy Schubert         goto err;
2197*e0c4386eSCy Schubert 
2198*e0c4386eSCy Schubert     /* Test that BN_mul never gives negative zero. */
2199*e0c4386eSCy Schubert     if (!TEST_true(BN_set_word(a, 1)))
2200*e0c4386eSCy Schubert         goto err;
2201*e0c4386eSCy Schubert     BN_set_negative(a, 1);
2202*e0c4386eSCy Schubert     BN_zero(b);
2203*e0c4386eSCy Schubert     if (!TEST_true(BN_mul(c, a, b, ctx)))
2204*e0c4386eSCy Schubert         goto err;
2205*e0c4386eSCy Schubert     if (!TEST_BN_eq_zero(c)
2206*e0c4386eSCy Schubert             || !TEST_BN_ge_zero(c))
2207*e0c4386eSCy Schubert         goto err;
2208*e0c4386eSCy Schubert 
2209*e0c4386eSCy Schubert     for (consttime = 0; consttime < 2; consttime++) {
2210*e0c4386eSCy Schubert         if (!TEST_ptr(numerator = BN_new())
2211*e0c4386eSCy Schubert                 || !TEST_ptr(denominator = BN_new()))
2212*e0c4386eSCy Schubert             goto err;
2213*e0c4386eSCy Schubert         if (consttime) {
2214*e0c4386eSCy Schubert             BN_set_flags(numerator, BN_FLG_CONSTTIME);
2215*e0c4386eSCy Schubert             BN_set_flags(denominator, BN_FLG_CONSTTIME);
2216*e0c4386eSCy Schubert         }
2217*e0c4386eSCy Schubert         /* Test that BN_div never gives negative zero in the quotient. */
2218*e0c4386eSCy Schubert         if (!TEST_true(BN_set_word(numerator, 1))
2219*e0c4386eSCy Schubert                 || !TEST_true(BN_set_word(denominator, 2)))
2220*e0c4386eSCy Schubert             goto err;
2221*e0c4386eSCy Schubert         BN_set_negative(numerator, 1);
2222*e0c4386eSCy Schubert         if (!TEST_true(BN_div(a, b, numerator, denominator, ctx))
2223*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(a)
2224*e0c4386eSCy Schubert                 || !TEST_BN_ge_zero(a))
2225*e0c4386eSCy Schubert             goto err;
2226*e0c4386eSCy Schubert 
2227*e0c4386eSCy Schubert         /* Test that BN_div never gives negative zero in the remainder. */
2228*e0c4386eSCy Schubert         if (!TEST_true(BN_set_word(denominator, 1))
2229*e0c4386eSCy Schubert                 || !TEST_true(BN_div(a, b, numerator, denominator, ctx))
2230*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(b)
2231*e0c4386eSCy Schubert                 || !TEST_BN_ge_zero(b))
2232*e0c4386eSCy Schubert             goto err;
2233*e0c4386eSCy Schubert         BN_free(numerator);
2234*e0c4386eSCy Schubert         BN_free(denominator);
2235*e0c4386eSCy Schubert         numerator = denominator = NULL;
2236*e0c4386eSCy Schubert     }
2237*e0c4386eSCy Schubert 
2238*e0c4386eSCy Schubert     /* Test that BN_set_negative will not produce a negative zero. */
2239*e0c4386eSCy Schubert     BN_zero(a);
2240*e0c4386eSCy Schubert     BN_set_negative(a, 1);
2241*e0c4386eSCy Schubert     if (BN_is_negative(a))
2242*e0c4386eSCy Schubert         goto err;
2243*e0c4386eSCy Schubert     st = 1;
2244*e0c4386eSCy Schubert 
2245*e0c4386eSCy Schubert  err:
2246*e0c4386eSCy Schubert     BN_free(a);
2247*e0c4386eSCy Schubert     BN_free(b);
2248*e0c4386eSCy Schubert     BN_free(c);
2249*e0c4386eSCy Schubert     BN_free(d);
2250*e0c4386eSCy Schubert     BN_free(numerator);
2251*e0c4386eSCy Schubert     BN_free(denominator);
2252*e0c4386eSCy Schubert     return st;
2253*e0c4386eSCy Schubert }
2254*e0c4386eSCy Schubert 
test_badmod(void)2255*e0c4386eSCy Schubert static int test_badmod(void)
2256*e0c4386eSCy Schubert {
2257*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *zero = NULL;
2258*e0c4386eSCy Schubert     BN_MONT_CTX *mont = NULL;
2259*e0c4386eSCy Schubert     int st = 0;
2260*e0c4386eSCy Schubert 
2261*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
2262*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
2263*e0c4386eSCy Schubert             || !TEST_ptr(zero = BN_new())
2264*e0c4386eSCy Schubert             || !TEST_ptr(mont = BN_MONT_CTX_new()))
2265*e0c4386eSCy Schubert         goto err;
2266*e0c4386eSCy Schubert     BN_zero(zero);
2267*e0c4386eSCy Schubert 
2268*e0c4386eSCy Schubert     if (!TEST_false(BN_div(a, b, BN_value_one(), zero, ctx)))
2269*e0c4386eSCy Schubert         goto err;
2270*e0c4386eSCy Schubert     ERR_clear_error();
2271*e0c4386eSCy Schubert 
2272*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_mul(a, BN_value_one(), BN_value_one(), zero, ctx)))
2273*e0c4386eSCy Schubert         goto err;
2274*e0c4386eSCy Schubert     ERR_clear_error();
2275*e0c4386eSCy Schubert 
2276*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_exp(a, BN_value_one(), BN_value_one(), zero, ctx)))
2277*e0c4386eSCy Schubert         goto err;
2278*e0c4386eSCy Schubert     ERR_clear_error();
2279*e0c4386eSCy Schubert 
2280*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_exp_mont(a, BN_value_one(), BN_value_one(),
2281*e0c4386eSCy Schubert                                     zero, ctx, NULL)))
2282*e0c4386eSCy Schubert         goto err;
2283*e0c4386eSCy Schubert     ERR_clear_error();
2284*e0c4386eSCy Schubert 
2285*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_exp_mont_consttime(a, BN_value_one(), BN_value_one(),
2286*e0c4386eSCy Schubert                                               zero, ctx, NULL)))
2287*e0c4386eSCy Schubert         goto err;
2288*e0c4386eSCy Schubert     ERR_clear_error();
2289*e0c4386eSCy Schubert 
2290*e0c4386eSCy Schubert     if (!TEST_false(BN_MONT_CTX_set(mont, zero, ctx)))
2291*e0c4386eSCy Schubert         goto err;
2292*e0c4386eSCy Schubert     ERR_clear_error();
2293*e0c4386eSCy Schubert 
2294*e0c4386eSCy Schubert     /* Some operations also may not be used with an even modulus. */
2295*e0c4386eSCy Schubert     if (!TEST_true(BN_set_word(b, 16)))
2296*e0c4386eSCy Schubert         goto err;
2297*e0c4386eSCy Schubert 
2298*e0c4386eSCy Schubert     if (!TEST_false(BN_MONT_CTX_set(mont, b, ctx)))
2299*e0c4386eSCy Schubert         goto err;
2300*e0c4386eSCy Schubert     ERR_clear_error();
2301*e0c4386eSCy Schubert 
2302*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_exp_mont(a, BN_value_one(), BN_value_one(),
2303*e0c4386eSCy Schubert                                     b, ctx, NULL)))
2304*e0c4386eSCy Schubert         goto err;
2305*e0c4386eSCy Schubert     ERR_clear_error();
2306*e0c4386eSCy Schubert 
2307*e0c4386eSCy Schubert     if (!TEST_false(BN_mod_exp_mont_consttime(a, BN_value_one(), BN_value_one(),
2308*e0c4386eSCy Schubert                                               b, ctx, NULL)))
2309*e0c4386eSCy Schubert         goto err;
2310*e0c4386eSCy Schubert     ERR_clear_error();
2311*e0c4386eSCy Schubert 
2312*e0c4386eSCy Schubert     st = 1;
2313*e0c4386eSCy Schubert  err:
2314*e0c4386eSCy Schubert     BN_free(a);
2315*e0c4386eSCy Schubert     BN_free(b);
2316*e0c4386eSCy Schubert     BN_free(zero);
2317*e0c4386eSCy Schubert     BN_MONT_CTX_free(mont);
2318*e0c4386eSCy Schubert     return st;
2319*e0c4386eSCy Schubert }
2320*e0c4386eSCy Schubert 
test_expmodzero(void)2321*e0c4386eSCy Schubert static int test_expmodzero(void)
2322*e0c4386eSCy Schubert {
2323*e0c4386eSCy Schubert     BIGNUM *a = NULL, *r = NULL, *zero = NULL;
2324*e0c4386eSCy Schubert     int st = 0;
2325*e0c4386eSCy Schubert 
2326*e0c4386eSCy Schubert     if (!TEST_ptr(zero = BN_new())
2327*e0c4386eSCy Schubert             || !TEST_ptr(a = BN_new())
2328*e0c4386eSCy Schubert             || !TEST_ptr(r = BN_new()))
2329*e0c4386eSCy Schubert         goto err;
2330*e0c4386eSCy Schubert     BN_zero(zero);
2331*e0c4386eSCy Schubert 
2332*e0c4386eSCy Schubert     if (!TEST_true(BN_mod_exp(r, a, zero, BN_value_one(), NULL))
2333*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(r)
2334*e0c4386eSCy Schubert             || !TEST_true(BN_mod_exp_mont(r, a, zero, BN_value_one(),
2335*e0c4386eSCy Schubert                                           NULL, NULL))
2336*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(r)
2337*e0c4386eSCy Schubert             || !TEST_true(BN_mod_exp_mont_consttime(r, a, zero,
2338*e0c4386eSCy Schubert                                                     BN_value_one(),
2339*e0c4386eSCy Schubert                                                     NULL, NULL))
2340*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(r)
2341*e0c4386eSCy Schubert             || !TEST_true(BN_mod_exp_mont_word(r, 42, zero,
2342*e0c4386eSCy Schubert                                                BN_value_one(), NULL, NULL))
2343*e0c4386eSCy Schubert             || !TEST_BN_eq_zero(r))
2344*e0c4386eSCy Schubert         goto err;
2345*e0c4386eSCy Schubert 
2346*e0c4386eSCy Schubert     st = 1;
2347*e0c4386eSCy Schubert  err:
2348*e0c4386eSCy Schubert     BN_free(zero);
2349*e0c4386eSCy Schubert     BN_free(a);
2350*e0c4386eSCy Schubert     BN_free(r);
2351*e0c4386eSCy Schubert     return st;
2352*e0c4386eSCy Schubert }
2353*e0c4386eSCy Schubert 
test_expmodone(void)2354*e0c4386eSCy Schubert static int test_expmodone(void)
2355*e0c4386eSCy Schubert {
2356*e0c4386eSCy Schubert     int ret = 0, i;
2357*e0c4386eSCy Schubert     BIGNUM *r = BN_new();
2358*e0c4386eSCy Schubert     BIGNUM *a = BN_new();
2359*e0c4386eSCy Schubert     BIGNUM *p = BN_new();
2360*e0c4386eSCy Schubert     BIGNUM *m = BN_new();
2361*e0c4386eSCy Schubert 
2362*e0c4386eSCy Schubert     if (!TEST_ptr(r)
2363*e0c4386eSCy Schubert             || !TEST_ptr(a)
2364*e0c4386eSCy Schubert             || !TEST_ptr(p)
2365*e0c4386eSCy Schubert             || !TEST_ptr(p)
2366*e0c4386eSCy Schubert             || !TEST_ptr(m)
2367*e0c4386eSCy Schubert             || !TEST_true(BN_set_word(a, 1))
2368*e0c4386eSCy Schubert             || !TEST_true(BN_set_word(p, 0))
2369*e0c4386eSCy Schubert             || !TEST_true(BN_set_word(m, 1)))
2370*e0c4386eSCy Schubert         goto err;
2371*e0c4386eSCy Schubert 
2372*e0c4386eSCy Schubert     /* Calculate r = 1 ^ 0 mod 1, and check the result is always 0 */
2373*e0c4386eSCy Schubert     for (i = 0; i < 2; i++) {
2374*e0c4386eSCy Schubert         if (!TEST_true(BN_mod_exp(r, a, p, m, NULL))
2375*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r)
2376*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_mont(r, a, p, m, NULL, NULL))
2377*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r)
2378*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_mont_consttime(r, a, p, m, NULL, NULL))
2379*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r)
2380*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_mont_word(r, 1, p, m, NULL, NULL))
2381*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r)
2382*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_simple(r, a, p, m, NULL))
2383*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r)
2384*e0c4386eSCy Schubert                 || !TEST_true(BN_mod_exp_recp(r, a, p, m, NULL))
2385*e0c4386eSCy Schubert                 || !TEST_BN_eq_zero(r))
2386*e0c4386eSCy Schubert             goto err;
2387*e0c4386eSCy Schubert         /* Repeat for r = 1 ^ 0 mod -1 */
2388*e0c4386eSCy Schubert         if (i == 0)
2389*e0c4386eSCy Schubert             BN_set_negative(m, 1);
2390*e0c4386eSCy Schubert     }
2391*e0c4386eSCy Schubert 
2392*e0c4386eSCy Schubert     ret = 1;
2393*e0c4386eSCy Schubert  err:
2394*e0c4386eSCy Schubert     BN_free(r);
2395*e0c4386eSCy Schubert     BN_free(a);
2396*e0c4386eSCy Schubert     BN_free(p);
2397*e0c4386eSCy Schubert     BN_free(m);
2398*e0c4386eSCy Schubert     return ret;
2399*e0c4386eSCy Schubert }
2400*e0c4386eSCy Schubert 
test_smallprime(int kBits)2401*e0c4386eSCy Schubert static int test_smallprime(int kBits)
2402*e0c4386eSCy Schubert {
2403*e0c4386eSCy Schubert     BIGNUM *r;
2404*e0c4386eSCy Schubert     int st = 0;
2405*e0c4386eSCy Schubert 
2406*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2407*e0c4386eSCy Schubert         goto err;
2408*e0c4386eSCy Schubert 
2409*e0c4386eSCy Schubert     if (kBits <= 1) {
2410*e0c4386eSCy Schubert         if (!TEST_false(BN_generate_prime_ex(r, kBits, 0,
2411*e0c4386eSCy Schubert                                              NULL, NULL, NULL)))
2412*e0c4386eSCy Schubert             goto err;
2413*e0c4386eSCy Schubert     } else {
2414*e0c4386eSCy Schubert         if (!TEST_true(BN_generate_prime_ex(r, kBits, 0,
2415*e0c4386eSCy Schubert                                             NULL, NULL, NULL))
2416*e0c4386eSCy Schubert                 || !TEST_int_eq(BN_num_bits(r), kBits))
2417*e0c4386eSCy Schubert             goto err;
2418*e0c4386eSCy Schubert     }
2419*e0c4386eSCy Schubert 
2420*e0c4386eSCy Schubert     st = 1;
2421*e0c4386eSCy Schubert  err:
2422*e0c4386eSCy Schubert     BN_free(r);
2423*e0c4386eSCy Schubert     return st;
2424*e0c4386eSCy Schubert }
2425*e0c4386eSCy Schubert 
test_smallsafeprime(int kBits)2426*e0c4386eSCy Schubert static int test_smallsafeprime(int kBits)
2427*e0c4386eSCy Schubert {
2428*e0c4386eSCy Schubert     BIGNUM *r;
2429*e0c4386eSCy Schubert     int st = 0;
2430*e0c4386eSCy Schubert 
2431*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2432*e0c4386eSCy Schubert         goto err;
2433*e0c4386eSCy Schubert 
2434*e0c4386eSCy Schubert     if (kBits <= 5 && kBits != 3) {
2435*e0c4386eSCy Schubert         if (!TEST_false(BN_generate_prime_ex(r, kBits, 1,
2436*e0c4386eSCy Schubert                                              NULL, NULL, NULL)))
2437*e0c4386eSCy Schubert             goto err;
2438*e0c4386eSCy Schubert     } else {
2439*e0c4386eSCy Schubert         if (!TEST_true(BN_generate_prime_ex(r, kBits, 1,
2440*e0c4386eSCy Schubert                                             NULL, NULL, NULL))
2441*e0c4386eSCy Schubert                 || !TEST_int_eq(BN_num_bits(r), kBits))
2442*e0c4386eSCy Schubert             goto err;
2443*e0c4386eSCy Schubert     }
2444*e0c4386eSCy Schubert 
2445*e0c4386eSCy Schubert     st = 1;
2446*e0c4386eSCy Schubert  err:
2447*e0c4386eSCy Schubert     BN_free(r);
2448*e0c4386eSCy Schubert     return st;
2449*e0c4386eSCy Schubert }
2450*e0c4386eSCy Schubert 
2451*e0c4386eSCy Schubert static int primes[] = { 2, 3, 5, 7, 17863 };
2452*e0c4386eSCy Schubert 
test_is_prime(int i)2453*e0c4386eSCy Schubert static int test_is_prime(int i)
2454*e0c4386eSCy Schubert {
2455*e0c4386eSCy Schubert     int ret = 0;
2456*e0c4386eSCy Schubert     BIGNUM *r = NULL;
2457*e0c4386eSCy Schubert     int trial;
2458*e0c4386eSCy Schubert 
2459*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2460*e0c4386eSCy Schubert         goto err;
2461*e0c4386eSCy Schubert 
2462*e0c4386eSCy Schubert     for (trial = 0; trial <= 1; ++trial) {
2463*e0c4386eSCy Schubert         if (!TEST_true(BN_set_word(r, primes[i]))
2464*e0c4386eSCy Schubert                 || !TEST_int_eq(BN_check_prime(r, ctx, NULL),
2465*e0c4386eSCy Schubert                                 1))
2466*e0c4386eSCy Schubert             goto err;
2467*e0c4386eSCy Schubert     }
2468*e0c4386eSCy Schubert 
2469*e0c4386eSCy Schubert     ret = 1;
2470*e0c4386eSCy Schubert  err:
2471*e0c4386eSCy Schubert     BN_free(r);
2472*e0c4386eSCy Schubert     return ret;
2473*e0c4386eSCy Schubert }
2474*e0c4386eSCy Schubert 
2475*e0c4386eSCy Schubert static int not_primes[] = { -1, 0, 1, 4 };
2476*e0c4386eSCy Schubert 
test_not_prime(int i)2477*e0c4386eSCy Schubert static int test_not_prime(int i)
2478*e0c4386eSCy Schubert {
2479*e0c4386eSCy Schubert     int ret = 0;
2480*e0c4386eSCy Schubert     BIGNUM *r = NULL;
2481*e0c4386eSCy Schubert     int trial;
2482*e0c4386eSCy Schubert 
2483*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2484*e0c4386eSCy Schubert         goto err;
2485*e0c4386eSCy Schubert 
2486*e0c4386eSCy Schubert     for (trial = 0; trial <= 1; ++trial) {
2487*e0c4386eSCy Schubert         if (!TEST_true(BN_set_word(r, not_primes[i]))
2488*e0c4386eSCy Schubert                 || !TEST_false(BN_check_prime(r, ctx, NULL)))
2489*e0c4386eSCy Schubert             goto err;
2490*e0c4386eSCy Schubert     }
2491*e0c4386eSCy Schubert 
2492*e0c4386eSCy Schubert     ret = 1;
2493*e0c4386eSCy Schubert  err:
2494*e0c4386eSCy Schubert     BN_free(r);
2495*e0c4386eSCy Schubert     return ret;
2496*e0c4386eSCy Schubert }
2497*e0c4386eSCy Schubert 
test_ctx_set_ct_flag(BN_CTX * c)2498*e0c4386eSCy Schubert static int test_ctx_set_ct_flag(BN_CTX *c)
2499*e0c4386eSCy Schubert {
2500*e0c4386eSCy Schubert     int st = 0;
2501*e0c4386eSCy Schubert     size_t i;
2502*e0c4386eSCy Schubert     BIGNUM *b[15];
2503*e0c4386eSCy Schubert 
2504*e0c4386eSCy Schubert     BN_CTX_start(c);
2505*e0c4386eSCy Schubert     for (i = 0; i < OSSL_NELEM(b); i++) {
2506*e0c4386eSCy Schubert         if (!TEST_ptr(b[i] = BN_CTX_get(c)))
2507*e0c4386eSCy Schubert             goto err;
2508*e0c4386eSCy Schubert         if (i % 2 == 1)
2509*e0c4386eSCy Schubert             BN_set_flags(b[i], BN_FLG_CONSTTIME);
2510*e0c4386eSCy Schubert     }
2511*e0c4386eSCy Schubert 
2512*e0c4386eSCy Schubert     st = 1;
2513*e0c4386eSCy Schubert  err:
2514*e0c4386eSCy Schubert     BN_CTX_end(c);
2515*e0c4386eSCy Schubert     return st;
2516*e0c4386eSCy Schubert }
2517*e0c4386eSCy Schubert 
test_ctx_check_ct_flag(BN_CTX * c)2518*e0c4386eSCy Schubert static int test_ctx_check_ct_flag(BN_CTX *c)
2519*e0c4386eSCy Schubert {
2520*e0c4386eSCy Schubert     int st = 0;
2521*e0c4386eSCy Schubert     size_t i;
2522*e0c4386eSCy Schubert     BIGNUM *b[30];
2523*e0c4386eSCy Schubert 
2524*e0c4386eSCy Schubert     BN_CTX_start(c);
2525*e0c4386eSCy Schubert     for (i = 0; i < OSSL_NELEM(b); i++) {
2526*e0c4386eSCy Schubert         if (!TEST_ptr(b[i] = BN_CTX_get(c)))
2527*e0c4386eSCy Schubert             goto err;
2528*e0c4386eSCy Schubert         if (!TEST_false(BN_get_flags(b[i], BN_FLG_CONSTTIME)))
2529*e0c4386eSCy Schubert             goto err;
2530*e0c4386eSCy Schubert     }
2531*e0c4386eSCy Schubert 
2532*e0c4386eSCy Schubert     st = 1;
2533*e0c4386eSCy Schubert  err:
2534*e0c4386eSCy Schubert     BN_CTX_end(c);
2535*e0c4386eSCy Schubert     return st;
2536*e0c4386eSCy Schubert }
2537*e0c4386eSCy Schubert 
test_ctx_consttime_flag(void)2538*e0c4386eSCy Schubert static int test_ctx_consttime_flag(void)
2539*e0c4386eSCy Schubert {
2540*e0c4386eSCy Schubert     /*-
2541*e0c4386eSCy Schubert      * The constant-time flag should not "leak" among BN_CTX frames:
2542*e0c4386eSCy Schubert      *
2543*e0c4386eSCy Schubert      * - test_ctx_set_ct_flag() starts a frame in the given BN_CTX and
2544*e0c4386eSCy Schubert      *   sets the BN_FLG_CONSTTIME flag on some of the BIGNUMs obtained
2545*e0c4386eSCy Schubert      *   from the frame before ending it.
2546*e0c4386eSCy Schubert      * - test_ctx_check_ct_flag() then starts a new frame and gets a
2547*e0c4386eSCy Schubert      *   number of BIGNUMs from it. In absence of leaks, none of the
2548*e0c4386eSCy Schubert      *   BIGNUMs in the new frame should have BN_FLG_CONSTTIME set.
2549*e0c4386eSCy Schubert      *
2550*e0c4386eSCy Schubert      * In actual BN_CTX usage inside libcrypto the leak could happen at
2551*e0c4386eSCy Schubert      * any depth level in the BN_CTX stack, with varying results
2552*e0c4386eSCy Schubert      * depending on the patterns of sibling trees of nested function
2553*e0c4386eSCy Schubert      * calls sharing the same BN_CTX object, and the effect of
2554*e0c4386eSCy Schubert      * unintended BN_FLG_CONSTTIME on the called BN_* functions.
2555*e0c4386eSCy Schubert      *
2556*e0c4386eSCy Schubert      * This simple unit test abstracts away this complexity and verifies
2557*e0c4386eSCy Schubert      * that the leak does not happen between two sibling functions
2558*e0c4386eSCy Schubert      * sharing the same BN_CTX object at the same level of nesting.
2559*e0c4386eSCy Schubert      *
2560*e0c4386eSCy Schubert      */
2561*e0c4386eSCy Schubert     BN_CTX *nctx = NULL;
2562*e0c4386eSCy Schubert     BN_CTX *sctx = NULL;
2563*e0c4386eSCy Schubert     size_t i = 0;
2564*e0c4386eSCy Schubert     int st = 0;
2565*e0c4386eSCy Schubert 
2566*e0c4386eSCy Schubert     if (!TEST_ptr(nctx = BN_CTX_new())
2567*e0c4386eSCy Schubert             || !TEST_ptr(sctx = BN_CTX_secure_new()))
2568*e0c4386eSCy Schubert         goto err;
2569*e0c4386eSCy Schubert 
2570*e0c4386eSCy Schubert     for (i = 0; i < 2; i++) {
2571*e0c4386eSCy Schubert         BN_CTX *c = i == 0 ? nctx : sctx;
2572*e0c4386eSCy Schubert         if (!TEST_true(test_ctx_set_ct_flag(c))
2573*e0c4386eSCy Schubert                 || !TEST_true(test_ctx_check_ct_flag(c)))
2574*e0c4386eSCy Schubert             goto err;
2575*e0c4386eSCy Schubert     }
2576*e0c4386eSCy Schubert 
2577*e0c4386eSCy Schubert     st = 1;
2578*e0c4386eSCy Schubert  err:
2579*e0c4386eSCy Schubert     BN_CTX_free(nctx);
2580*e0c4386eSCy Schubert     BN_CTX_free(sctx);
2581*e0c4386eSCy Schubert     return st;
2582*e0c4386eSCy Schubert }
2583*e0c4386eSCy Schubert 
test_gcd_prime(void)2584*e0c4386eSCy Schubert static int test_gcd_prime(void)
2585*e0c4386eSCy Schubert {
2586*e0c4386eSCy Schubert     BIGNUM *a = NULL, *b = NULL, *gcd = NULL;
2587*e0c4386eSCy Schubert     int i, st = 0;
2588*e0c4386eSCy Schubert 
2589*e0c4386eSCy Schubert     if (!TEST_ptr(a = BN_new())
2590*e0c4386eSCy Schubert             || !TEST_ptr(b = BN_new())
2591*e0c4386eSCy Schubert             || !TEST_ptr(gcd = BN_new()))
2592*e0c4386eSCy Schubert         goto err;
2593*e0c4386eSCy Schubert 
2594*e0c4386eSCy Schubert     if (!TEST_true(BN_generate_prime_ex(a, 1024, 0, NULL, NULL, NULL)))
2595*e0c4386eSCy Schubert             goto err;
2596*e0c4386eSCy Schubert     for (i = 0; i < NUM0; i++) {
2597*e0c4386eSCy Schubert         if (!TEST_true(BN_generate_prime_ex(b, 1024, 0,
2598*e0c4386eSCy Schubert                                             NULL, NULL, NULL))
2599*e0c4386eSCy Schubert                 || !TEST_true(BN_gcd(gcd, a, b, ctx))
2600*e0c4386eSCy Schubert                 || !TEST_true(BN_is_one(gcd)))
2601*e0c4386eSCy Schubert             goto err;
2602*e0c4386eSCy Schubert     }
2603*e0c4386eSCy Schubert 
2604*e0c4386eSCy Schubert     st = 1;
2605*e0c4386eSCy Schubert  err:
2606*e0c4386eSCy Schubert     BN_free(a);
2607*e0c4386eSCy Schubert     BN_free(b);
2608*e0c4386eSCy Schubert     BN_free(gcd);
2609*e0c4386eSCy Schubert     return st;
2610*e0c4386eSCy Schubert }
2611*e0c4386eSCy Schubert 
2612*e0c4386eSCy Schubert typedef struct mod_exp_test_st
2613*e0c4386eSCy Schubert {
2614*e0c4386eSCy Schubert   const char *base;
2615*e0c4386eSCy Schubert   const char *exp;
2616*e0c4386eSCy Schubert   const char *mod;
2617*e0c4386eSCy Schubert   const char *res;
2618*e0c4386eSCy Schubert } MOD_EXP_TEST;
2619*e0c4386eSCy Schubert 
2620*e0c4386eSCy Schubert static const MOD_EXP_TEST ModExpTests[] = {
2621*e0c4386eSCy Schubert    /* original test vectors for rsaz_512_sqr bug, by OSS-Fuzz */
2622*e0c4386eSCy Schubert    {
2623*e0c4386eSCy Schubert        "1166180238001879113042182292626169621106255558914000595999312084"
2624*e0c4386eSCy Schubert        "4627946820899490684928760491249738643524880720584249698100907201"
2625*e0c4386eSCy Schubert        "002086675047927600340800371",
2626*e0c4386eSCy Schubert        "8000000000000000000000000000000000000000000000000000000000000000"
2627*e0c4386eSCy Schubert        "0000000000000000000000000000000000000000000000000000000000000000"
2628*e0c4386eSCy Schubert        "00000000",
2629*e0c4386eSCy Schubert        "1340780792684523720980737645613191762604395855615117867483316354"
2630*e0c4386eSCy Schubert        "3294276330515137663421134775482798690129946803802212663956180562"
2631*e0c4386eSCy Schubert        "088664022929883876655300863",
2632*e0c4386eSCy Schubert        "8243904058268085430037326628480645845409758077568738532059032482"
2633*e0c4386eSCy Schubert        "8294114415890603594730158120426756266457928475330450251339773498"
2634*e0c4386eSCy Schubert        "26758407619521544102068438"
2635*e0c4386eSCy Schubert    },
2636*e0c4386eSCy Schubert    {
2637*e0c4386eSCy Schubert        "4974270041410803822078866696159586946995877618987010219312844726"
2638*e0c4386eSCy Schubert        "0284386121835740784990869050050504348861513337232530490826340663"
2639*e0c4386eSCy Schubert        "197278031692737429054",
2640*e0c4386eSCy Schubert        "4974270041410803822078866696159586946995877428188754995041148539"
2641*e0c4386eSCy Schubert        "1663243362592271353668158565195557417149981094324650322556843202"
2642*e0c4386eSCy Schubert        "946445882670777892608",
2643*e0c4386eSCy Schubert        "1340780716511420227215592830971452482815377482627251725537099028"
2644*e0c4386eSCy Schubert        "4429769497230131760206012644403029349547320953206103351725462999"
2645*e0c4386eSCy Schubert        "947509743623340557059752191",
2646*e0c4386eSCy Schubert        "5296244594780707015616522701706118082963369547253192207884519362"
2647*e0c4386eSCy Schubert        "1767869984947542695665420219028522815539559194793619684334900442"
2648*e0c4386eSCy Schubert        "49304558011362360473525933"
2649*e0c4386eSCy Schubert    },
2650*e0c4386eSCy Schubert    /* test vectors for rsaz_512_srq bug, with rcx/rbx=1 */
2651*e0c4386eSCy Schubert    {   /* between first and second iteration */
2652*e0c4386eSCy Schubert        "5148719036160389201525610950887605325980251964889646556085286545"
2653*e0c4386eSCy Schubert        "3931548809178823413169359635978762036512397113080988070677858033"
2654*e0c4386eSCy Schubert        "36463909753993540214027190",
2655*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2656*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2657*e0c4386eSCy Schubert        "05973284973216824503042158",
2658*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2659*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2660*e0c4386eSCy Schubert        "05973284973216824503042159",
2661*e0c4386eSCy Schubert        "1"
2662*e0c4386eSCy Schubert    },
2663*e0c4386eSCy Schubert    {   /* between second and third iteration */
2664*e0c4386eSCy Schubert        "8908340854353752577419678771330460827942371434853054158622636544"
2665*e0c4386eSCy Schubert        "8151360109722890949471912566649465436296659601091730745087014189"
2666*e0c4386eSCy Schubert        "2672764191218875181826063",
2667*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2668*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2669*e0c4386eSCy Schubert        "05973284973216824503042158",
2670*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2671*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2672*e0c4386eSCy Schubert        "05973284973216824503042159",
2673*e0c4386eSCy Schubert        "1"
2674*e0c4386eSCy Schubert    },
2675*e0c4386eSCy Schubert    {   /* between third and fourth iteration */
2676*e0c4386eSCy Schubert        "3427446396505596330634350984901719674479522569002785244080234738"
2677*e0c4386eSCy Schubert        "4288743635435746136297299366444548736533053717416735379073185344"
2678*e0c4386eSCy Schubert        "26985272974404612945608761",
2679*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2680*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2681*e0c4386eSCy Schubert        "05973284973216824503042158",
2682*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2683*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2684*e0c4386eSCy Schubert        "05973284973216824503042159",
2685*e0c4386eSCy Schubert        "1"
2686*e0c4386eSCy Schubert    },
2687*e0c4386eSCy Schubert    {   /* between fourth and fifth iteration */
2688*e0c4386eSCy Schubert        "3472743044917564564078857826111874560045331237315597383869652985"
2689*e0c4386eSCy Schubert        "6919870028890895988478351133601517365908445058405433832718206902"
2690*e0c4386eSCy Schubert        "4088133164805266956353542",
2691*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2692*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2693*e0c4386eSCy Schubert        "05973284973216824503042158",
2694*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2695*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2696*e0c4386eSCy Schubert        "05973284973216824503042159",
2697*e0c4386eSCy Schubert        "1"
2698*e0c4386eSCy Schubert    },
2699*e0c4386eSCy Schubert    {   /* between fifth and sixth iteration */
2700*e0c4386eSCy Schubert        "3608632990153469264412378349742339216742409743898601587274768025"
2701*e0c4386eSCy Schubert        "0110772032985643555192767717344946174122842255204082586753499651"
2702*e0c4386eSCy Schubert        "14483434992887431333675068",
2703*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2704*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2705*e0c4386eSCy Schubert        "05973284973216824503042158",
2706*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2707*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2708*e0c4386eSCy Schubert        "05973284973216824503042159",
2709*e0c4386eSCy Schubert        "1"
2710*e0c4386eSCy Schubert    },
2711*e0c4386eSCy Schubert    {   /* between sixth and seventh iteration */
2712*e0c4386eSCy Schubert        "8455374370234070242910508226941981520235709767260723212165264877"
2713*e0c4386eSCy Schubert        "8689064388017521524568434328264431772644802567028663962962025746"
2714*e0c4386eSCy Schubert        "9283458217850119569539086",
2715*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2716*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2717*e0c4386eSCy Schubert        "05973284973216824503042158",
2718*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2719*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2720*e0c4386eSCy Schubert        "05973284973216824503042159",
2721*e0c4386eSCy Schubert        "1"
2722*e0c4386eSCy Schubert    },
2723*e0c4386eSCy Schubert    {   /* between seventh and eighth iteration */
2724*e0c4386eSCy Schubert        "5155371529688532178421209781159131443543419764974688878527112131"
2725*e0c4386eSCy Schubert        "7446518205609427412336183157918981038066636807317733319323257603"
2726*e0c4386eSCy Schubert        "04416292040754017461076359",
2727*e0c4386eSCy Schubert        "1005585594745694782468051874865438459560952436544429503329267108"
2728*e0c4386eSCy Schubert        "2791323022555160232601405723625177570767523893639864538140315412"
2729*e0c4386eSCy Schubert        "108959927459825236754563832",
2730*e0c4386eSCy Schubert        "1005585594745694782468051874865438459560952436544429503329267108"
2731*e0c4386eSCy Schubert        "2791323022555160232601405723625177570767523893639864538140315412"
2732*e0c4386eSCy Schubert        "108959927459825236754563833",
2733*e0c4386eSCy Schubert        "1"
2734*e0c4386eSCy Schubert    },
2735*e0c4386eSCy Schubert    /* test vectors for rsaz_512_srq bug, with rcx/rbx=2 */
2736*e0c4386eSCy Schubert    {   /* between first and second iteration */
2737*e0c4386eSCy Schubert        "3155666506033786929967309937640790361084670559125912405342594979"
2738*e0c4386eSCy Schubert        "4345142818528956285490897841406338022378565972533508820577760065"
2739*e0c4386eSCy Schubert        "58494345853302083699912572",
2740*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2741*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2742*e0c4386eSCy Schubert        "05973284973216824503042158",
2743*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2744*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2745*e0c4386eSCy Schubert        "05973284973216824503042159",
2746*e0c4386eSCy Schubert        "1"
2747*e0c4386eSCy Schubert    },
2748*e0c4386eSCy Schubert    {   /* between second and third iteration */
2749*e0c4386eSCy Schubert        "3789819583801342198190405714582958759005991915505282362397087750"
2750*e0c4386eSCy Schubert        "4213544724644823098843135685133927198668818185338794377239590049"
2751*e0c4386eSCy Schubert        "41019388529192775771488319",
2752*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2753*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2754*e0c4386eSCy Schubert        "05973284973216824503042158",
2755*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2756*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2757*e0c4386eSCy Schubert        "05973284973216824503042159",
2758*e0c4386eSCy Schubert        "1"
2759*e0c4386eSCy Schubert    },
2760*e0c4386eSCy Schubert    {   /* between third and forth iteration */
2761*e0c4386eSCy Schubert        "4695752552040706867080542538786056470322165281761525158189220280"
2762*e0c4386eSCy Schubert        "4025547447667484759200742764246905647644662050122968912279199065"
2763*e0c4386eSCy Schubert        "48065034299166336940507214",
2764*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2765*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2766*e0c4386eSCy Schubert        "05973284973216824503042158",
2767*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2768*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2769*e0c4386eSCy Schubert        "05973284973216824503042159",
2770*e0c4386eSCy Schubert        "1"
2771*e0c4386eSCy Schubert    },
2772*e0c4386eSCy Schubert    {   /* between forth and fifth iteration */
2773*e0c4386eSCy Schubert        "2159140240970485794188159431017382878636879856244045329971239574"
2774*e0c4386eSCy Schubert        "8919691133560661162828034323196457386059819832804593989740268964"
2775*e0c4386eSCy Schubert        "74502911811812651475927076",
2776*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2777*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2778*e0c4386eSCy Schubert        "05973284973216824503042158",
2779*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2780*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2781*e0c4386eSCy Schubert        "05973284973216824503042159",
2782*e0c4386eSCy Schubert        "1"
2783*e0c4386eSCy Schubert    },
2784*e0c4386eSCy Schubert    {   /* between fifth and sixth iteration */
2785*e0c4386eSCy Schubert        "5239312332984325668414624633307915097111691815000872662334695514"
2786*e0c4386eSCy Schubert        "5436533521392362443557163429336808208137221322444780490437871903"
2787*e0c4386eSCy Schubert        "99972784701334569424519255",
2788*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2789*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2790*e0c4386eSCy Schubert        "05973284973216824503042158",
2791*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2792*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2793*e0c4386eSCy Schubert        "05973284973216824503042159",
2794*e0c4386eSCy Schubert        "1"
2795*e0c4386eSCy Schubert    },
2796*e0c4386eSCy Schubert    {   /* between sixth and seventh iteration */
2797*e0c4386eSCy Schubert        "1977953647322612860406858017869125467496941904523063466791308891"
2798*e0c4386eSCy Schubert        "1172796739058531929470539758361774569875505293428856181093904091"
2799*e0c4386eSCy Schubert        "33788264851714311303725089",
2800*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2801*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2802*e0c4386eSCy Schubert        "05973284973216824503042158",
2803*e0c4386eSCy Schubert        "6703903964971298549787012499102923063739682910296196688861780721"
2804*e0c4386eSCy Schubert        "8608820150367734884009371490834517138450159290932430254268769414"
2805*e0c4386eSCy Schubert        "05973284973216824503042159",
2806*e0c4386eSCy Schubert        "1"
2807*e0c4386eSCy Schubert    },
2808*e0c4386eSCy Schubert    {   /* between seventh and eighth iteration */
2809*e0c4386eSCy Schubert        "6456987954117763835533395796948878140715006860263624787492985786"
2810*e0c4386eSCy Schubert        "8514630216966738305923915688821526449499763719943997120302368211"
2811*e0c4386eSCy Schubert        "04813318117996225041943964",
2812*e0c4386eSCy Schubert        "1340780792994259709957402499820584612747936582059239337772356144"
2813*e0c4386eSCy Schubert        "3721764030073546976801874298166903427690031858186486050853753882"
2814*e0c4386eSCy Schubert        "811946551499689575296532556",
2815*e0c4386eSCy Schubert        "1340780792994259709957402499820584612747936582059239337772356144"
2816*e0c4386eSCy Schubert        "3721764030073546976801874298166903427690031858186486050853753882"
2817*e0c4386eSCy Schubert        "811946551499689575296532557",
2818*e0c4386eSCy Schubert        "1"
2819*e0c4386eSCy Schubert    }
2820*e0c4386eSCy Schubert };
2821*e0c4386eSCy Schubert 
test_mod_exp(int i)2822*e0c4386eSCy Schubert static int test_mod_exp(int i)
2823*e0c4386eSCy Schubert {
2824*e0c4386eSCy Schubert     const MOD_EXP_TEST *test = &ModExpTests[i];
2825*e0c4386eSCy Schubert     int res = 0;
2826*e0c4386eSCy Schubert     BIGNUM* result = NULL;
2827*e0c4386eSCy Schubert     BIGNUM *base = NULL, *exponent = NULL, *modulo = NULL;
2828*e0c4386eSCy Schubert     char *s = NULL;
2829*e0c4386eSCy Schubert 
2830*e0c4386eSCy Schubert     if (!TEST_ptr(result = BN_new())
2831*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&base, test->base))
2832*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&exponent, test->exp))
2833*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&modulo, test->mod)))
2834*e0c4386eSCy Schubert         goto err;
2835*e0c4386eSCy Schubert 
2836*e0c4386eSCy Schubert     if (!TEST_int_eq(BN_mod_exp(result, base, exponent, modulo, ctx), 1))
2837*e0c4386eSCy Schubert         goto err;
2838*e0c4386eSCy Schubert 
2839*e0c4386eSCy Schubert     if (!TEST_ptr(s = BN_bn2dec(result)))
2840*e0c4386eSCy Schubert         goto err;
2841*e0c4386eSCy Schubert 
2842*e0c4386eSCy Schubert     if (!TEST_mem_eq(s, strlen(s), test->res, strlen(test->res)))
2843*e0c4386eSCy Schubert         goto err;
2844*e0c4386eSCy Schubert 
2845*e0c4386eSCy Schubert     res = 1;
2846*e0c4386eSCy Schubert 
2847*e0c4386eSCy Schubert  err:
2848*e0c4386eSCy Schubert     OPENSSL_free(s);
2849*e0c4386eSCy Schubert     BN_free(result);
2850*e0c4386eSCy Schubert     BN_free(base);
2851*e0c4386eSCy Schubert     BN_free(exponent);
2852*e0c4386eSCy Schubert     BN_free(modulo);
2853*e0c4386eSCy Schubert     return res;
2854*e0c4386eSCy Schubert }
2855*e0c4386eSCy Schubert 
test_mod_exp_consttime(int i)2856*e0c4386eSCy Schubert static int test_mod_exp_consttime(int i)
2857*e0c4386eSCy Schubert {
2858*e0c4386eSCy Schubert     const MOD_EXP_TEST *test = &ModExpTests[i];
2859*e0c4386eSCy Schubert     int res = 0;
2860*e0c4386eSCy Schubert     BIGNUM* result = NULL;
2861*e0c4386eSCy Schubert     BIGNUM *base = NULL, *exponent = NULL, *modulo = NULL;
2862*e0c4386eSCy Schubert     char *s = NULL;
2863*e0c4386eSCy Schubert 
2864*e0c4386eSCy Schubert     if (!TEST_ptr(result = BN_new())
2865*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&base, test->base))
2866*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&exponent, test->exp))
2867*e0c4386eSCy Schubert             || !TEST_true(BN_dec2bn(&modulo, test->mod)))
2868*e0c4386eSCy Schubert         goto err;
2869*e0c4386eSCy Schubert 
2870*e0c4386eSCy Schubert     BN_set_flags(base, BN_FLG_CONSTTIME);
2871*e0c4386eSCy Schubert     BN_set_flags(exponent, BN_FLG_CONSTTIME);
2872*e0c4386eSCy Schubert     BN_set_flags(modulo, BN_FLG_CONSTTIME);
2873*e0c4386eSCy Schubert 
2874*e0c4386eSCy Schubert     if (!TEST_int_eq(BN_mod_exp(result, base, exponent, modulo, ctx), 1))
2875*e0c4386eSCy Schubert         goto err;
2876*e0c4386eSCy Schubert 
2877*e0c4386eSCy Schubert     if (!TEST_ptr(s = BN_bn2dec(result)))
2878*e0c4386eSCy Schubert         goto err;
2879*e0c4386eSCy Schubert 
2880*e0c4386eSCy Schubert     if (!TEST_mem_eq(s, strlen(s), test->res, strlen(test->res)))
2881*e0c4386eSCy Schubert         goto err;
2882*e0c4386eSCy Schubert 
2883*e0c4386eSCy Schubert     res = 1;
2884*e0c4386eSCy Schubert 
2885*e0c4386eSCy Schubert  err:
2886*e0c4386eSCy Schubert     OPENSSL_free(s);
2887*e0c4386eSCy Schubert     BN_free(result);
2888*e0c4386eSCy Schubert     BN_free(base);
2889*e0c4386eSCy Schubert     BN_free(exponent);
2890*e0c4386eSCy Schubert     BN_free(modulo);
2891*e0c4386eSCy Schubert     return res;
2892*e0c4386eSCy Schubert }
2893*e0c4386eSCy Schubert 
2894*e0c4386eSCy Schubert /*
2895*e0c4386eSCy Schubert  * Regression test to ensure BN_mod_exp2_mont fails safely if argument m is
2896*e0c4386eSCy Schubert  * zero.
2897*e0c4386eSCy Schubert  */
test_mod_exp2_mont(void)2898*e0c4386eSCy Schubert static int test_mod_exp2_mont(void)
2899*e0c4386eSCy Schubert {
2900*e0c4386eSCy Schubert     int res = 0;
2901*e0c4386eSCy Schubert     BIGNUM *exp_result = NULL;
2902*e0c4386eSCy Schubert     BIGNUM *exp_a1 = NULL, *exp_p1 = NULL, *exp_a2 = NULL, *exp_p2 = NULL,
2903*e0c4386eSCy Schubert            *exp_m = NULL;
2904*e0c4386eSCy Schubert 
2905*e0c4386eSCy Schubert     if (!TEST_ptr(exp_result = BN_new())
2906*e0c4386eSCy Schubert             || !TEST_ptr(exp_a1 = BN_new())
2907*e0c4386eSCy Schubert             || !TEST_ptr(exp_p1 = BN_new())
2908*e0c4386eSCy Schubert             || !TEST_ptr(exp_a2 = BN_new())
2909*e0c4386eSCy Schubert             || !TEST_ptr(exp_p2 = BN_new())
2910*e0c4386eSCy Schubert             || !TEST_ptr(exp_m = BN_new()))
2911*e0c4386eSCy Schubert         goto err;
2912*e0c4386eSCy Schubert 
2913*e0c4386eSCy Schubert     if (!TEST_true(BN_one(exp_a1))
2914*e0c4386eSCy Schubert             || !TEST_true(BN_one(exp_p1))
2915*e0c4386eSCy Schubert             || !TEST_true(BN_one(exp_a2))
2916*e0c4386eSCy Schubert             || !TEST_true(BN_one(exp_p2)))
2917*e0c4386eSCy Schubert         goto err;
2918*e0c4386eSCy Schubert 
2919*e0c4386eSCy Schubert     BN_zero(exp_m);
2920*e0c4386eSCy Schubert 
2921*e0c4386eSCy Schubert     /* input of 0 is even, so must fail */
2922*e0c4386eSCy Schubert     if (!TEST_int_eq(BN_mod_exp2_mont(exp_result, exp_a1, exp_p1, exp_a2,
2923*e0c4386eSCy Schubert                 exp_p2, exp_m, ctx, NULL), 0))
2924*e0c4386eSCy Schubert         goto err;
2925*e0c4386eSCy Schubert 
2926*e0c4386eSCy Schubert     res = 1;
2927*e0c4386eSCy Schubert 
2928*e0c4386eSCy Schubert err:
2929*e0c4386eSCy Schubert     BN_free(exp_result);
2930*e0c4386eSCy Schubert     BN_free(exp_a1);
2931*e0c4386eSCy Schubert     BN_free(exp_p1);
2932*e0c4386eSCy Schubert     BN_free(exp_a2);
2933*e0c4386eSCy Schubert     BN_free(exp_p2);
2934*e0c4386eSCy Schubert     BN_free(exp_m);
2935*e0c4386eSCy Schubert     return res;
2936*e0c4386eSCy Schubert }
2937*e0c4386eSCy Schubert 
test_mod_inverse(void)2938*e0c4386eSCy Schubert static int test_mod_inverse(void)
2939*e0c4386eSCy Schubert {
2940*e0c4386eSCy Schubert     int res = 0;
2941*e0c4386eSCy Schubert     char *str = NULL;
2942*e0c4386eSCy Schubert     BIGNUM *a = NULL;
2943*e0c4386eSCy Schubert     BIGNUM *b = NULL;
2944*e0c4386eSCy Schubert     BIGNUM *r = NULL;
2945*e0c4386eSCy Schubert 
2946*e0c4386eSCy Schubert     if (!TEST_true(BN_dec2bn(&a, "5193817943")))
2947*e0c4386eSCy Schubert         goto err;
2948*e0c4386eSCy Schubert     if (!TEST_true(BN_dec2bn(&b, "3259122431")))
2949*e0c4386eSCy Schubert         goto err;
2950*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2951*e0c4386eSCy Schubert         goto err;
2952*e0c4386eSCy Schubert     if (!TEST_ptr_eq(BN_mod_inverse(r, a, b, ctx), r))
2953*e0c4386eSCy Schubert         goto err;
2954*e0c4386eSCy Schubert     if (!TEST_ptr_ne(str = BN_bn2dec(r), NULL))
2955*e0c4386eSCy Schubert         goto err;
2956*e0c4386eSCy Schubert     if (!TEST_int_eq(strcmp(str, "2609653924"), 0))
2957*e0c4386eSCy Schubert         goto err;
2958*e0c4386eSCy Schubert 
2959*e0c4386eSCy Schubert     /* Note that this aliases the result with the modulus. */
2960*e0c4386eSCy Schubert     if (!TEST_ptr_null(BN_mod_inverse(b, a, b, ctx)))
2961*e0c4386eSCy Schubert         goto err;
2962*e0c4386eSCy Schubert 
2963*e0c4386eSCy Schubert     res = 1;
2964*e0c4386eSCy Schubert 
2965*e0c4386eSCy Schubert err:
2966*e0c4386eSCy Schubert     BN_free(a);
2967*e0c4386eSCy Schubert     BN_free(b);
2968*e0c4386eSCy Schubert     BN_free(r);
2969*e0c4386eSCy Schubert     OPENSSL_free(str);
2970*e0c4386eSCy Schubert     return res;
2971*e0c4386eSCy Schubert }
2972*e0c4386eSCy Schubert 
test_mod_exp_alias(int idx)2973*e0c4386eSCy Schubert static int test_mod_exp_alias(int idx)
2974*e0c4386eSCy Schubert {
2975*e0c4386eSCy Schubert     int res = 0;
2976*e0c4386eSCy Schubert     char *str = NULL;
2977*e0c4386eSCy Schubert     BIGNUM *a = NULL;
2978*e0c4386eSCy Schubert     BIGNUM *b = NULL;
2979*e0c4386eSCy Schubert     BIGNUM *c = NULL;
2980*e0c4386eSCy Schubert     BIGNUM *r = NULL;
2981*e0c4386eSCy Schubert 
2982*e0c4386eSCy Schubert     if (!TEST_true(BN_dec2bn(&a, "15")))
2983*e0c4386eSCy Schubert         goto err;
2984*e0c4386eSCy Schubert     if (!TEST_true(BN_dec2bn(&b, "10")))
2985*e0c4386eSCy Schubert         goto err;
2986*e0c4386eSCy Schubert     if (!TEST_true(BN_dec2bn(&c, "39")))
2987*e0c4386eSCy Schubert         goto err;
2988*e0c4386eSCy Schubert     if (!TEST_ptr(r = BN_new()))
2989*e0c4386eSCy Schubert         goto err;
2990*e0c4386eSCy Schubert 
2991*e0c4386eSCy Schubert     if (!TEST_int_eq((idx == 0 ? BN_mod_exp_simple
2992*e0c4386eSCy Schubert                                : BN_mod_exp_recp)(r, a, b, c, ctx), 1))
2993*e0c4386eSCy Schubert         goto err;
2994*e0c4386eSCy Schubert     if (!TEST_ptr_ne(str = BN_bn2dec(r), NULL))
2995*e0c4386eSCy Schubert         goto err;
2996*e0c4386eSCy Schubert     if (!TEST_str_eq(str, "36"))
2997*e0c4386eSCy Schubert         goto err;
2998*e0c4386eSCy Schubert 
2999*e0c4386eSCy Schubert     OPENSSL_free(str);
3000*e0c4386eSCy Schubert     str = NULL;
3001*e0c4386eSCy Schubert 
3002*e0c4386eSCy Schubert     BN_copy(r, b);
3003*e0c4386eSCy Schubert 
3004*e0c4386eSCy Schubert     /* Aliasing with exponent must work. */
3005*e0c4386eSCy Schubert     if (!TEST_int_eq((idx == 0 ? BN_mod_exp_simple
3006*e0c4386eSCy Schubert                                : BN_mod_exp_recp)(r, a, r, c, ctx), 1))
3007*e0c4386eSCy Schubert         goto err;
3008*e0c4386eSCy Schubert     if (!TEST_ptr_ne(str = BN_bn2dec(r), NULL))
3009*e0c4386eSCy Schubert         goto err;
3010*e0c4386eSCy Schubert     if (!TEST_str_eq(str, "36"))
3011*e0c4386eSCy Schubert         goto err;
3012*e0c4386eSCy Schubert 
3013*e0c4386eSCy Schubert     OPENSSL_free(str);
3014*e0c4386eSCy Schubert     str = NULL;
3015*e0c4386eSCy Schubert 
3016*e0c4386eSCy Schubert     /* Aliasing with modulus should return failure for the simple call. */
3017*e0c4386eSCy Schubert     if (idx == 0) {
3018*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_mod_exp_simple(c, a, b, c, ctx), 0))
3019*e0c4386eSCy Schubert             goto err;
3020*e0c4386eSCy Schubert     } else {
3021*e0c4386eSCy Schubert         if (!TEST_int_eq(BN_mod_exp_recp(c, a, b, c, ctx), 1))
3022*e0c4386eSCy Schubert             goto err;
3023*e0c4386eSCy Schubert         if (!TEST_ptr_ne(str = BN_bn2dec(c), NULL))
3024*e0c4386eSCy Schubert             goto err;
3025*e0c4386eSCy Schubert         if (!TEST_str_eq(str, "36"))
3026*e0c4386eSCy Schubert             goto err;
3027*e0c4386eSCy Schubert     }
3028*e0c4386eSCy Schubert 
3029*e0c4386eSCy Schubert     res = 1;
3030*e0c4386eSCy Schubert 
3031*e0c4386eSCy Schubert err:
3032*e0c4386eSCy Schubert     BN_free(a);
3033*e0c4386eSCy Schubert     BN_free(b);
3034*e0c4386eSCy Schubert     BN_free(c);
3035*e0c4386eSCy Schubert     BN_free(r);
3036*e0c4386eSCy Schubert     OPENSSL_free(str);
3037*e0c4386eSCy Schubert     return res;
3038*e0c4386eSCy Schubert }
3039*e0c4386eSCy Schubert 
file_test_run(STANZA * s)3040*e0c4386eSCy Schubert static int file_test_run(STANZA *s)
3041*e0c4386eSCy Schubert {
3042*e0c4386eSCy Schubert     static const FILETEST filetests[] = {
3043*e0c4386eSCy Schubert         {"Sum", file_sum},
3044*e0c4386eSCy Schubert         {"LShift1", file_lshift1},
3045*e0c4386eSCy Schubert         {"LShift", file_lshift},
3046*e0c4386eSCy Schubert         {"RShift", file_rshift},
3047*e0c4386eSCy Schubert         {"Square", file_square},
3048*e0c4386eSCy Schubert         {"Product", file_product},
3049*e0c4386eSCy Schubert         {"Quotient", file_quotient},
3050*e0c4386eSCy Schubert         {"ModMul", file_modmul},
3051*e0c4386eSCy Schubert         {"ModExp", file_modexp},
3052*e0c4386eSCy Schubert         {"Exp", file_exp},
3053*e0c4386eSCy Schubert         {"ModSqrt", file_modsqrt},
3054*e0c4386eSCy Schubert         {"GCD", file_gcd},
3055*e0c4386eSCy Schubert     };
3056*e0c4386eSCy Schubert     int numtests = OSSL_NELEM(filetests);
3057*e0c4386eSCy Schubert     const FILETEST *tp = filetests;
3058*e0c4386eSCy Schubert 
3059*e0c4386eSCy Schubert     for ( ; --numtests >= 0; tp++) {
3060*e0c4386eSCy Schubert         if (findattr(s, tp->name) != NULL) {
3061*e0c4386eSCy Schubert             if (!tp->func(s)) {
3062*e0c4386eSCy Schubert                 TEST_info("%s:%d: Failed %s test",
3063*e0c4386eSCy Schubert                           s->test_file, s->start, tp->name);
3064*e0c4386eSCy Schubert                 return 0;
3065*e0c4386eSCy Schubert             }
3066*e0c4386eSCy Schubert             return 1;
3067*e0c4386eSCy Schubert         }
3068*e0c4386eSCy Schubert     }
3069*e0c4386eSCy Schubert     TEST_info("%s:%d: Unknown test", s->test_file, s->start);
3070*e0c4386eSCy Schubert     return 0;
3071*e0c4386eSCy Schubert }
3072*e0c4386eSCy Schubert 
run_file_tests(int i)3073*e0c4386eSCy Schubert static int run_file_tests(int i)
3074*e0c4386eSCy Schubert {
3075*e0c4386eSCy Schubert     STANZA *s = NULL;
3076*e0c4386eSCy Schubert     char *testfile = test_get_argument(i);
3077*e0c4386eSCy Schubert     int c;
3078*e0c4386eSCy Schubert 
3079*e0c4386eSCy Schubert     if (!TEST_ptr(s = OPENSSL_zalloc(sizeof(*s))))
3080*e0c4386eSCy Schubert         return 0;
3081*e0c4386eSCy Schubert     if (!test_start_file(s, testfile)) {
3082*e0c4386eSCy Schubert         OPENSSL_free(s);
3083*e0c4386eSCy Schubert         return 0;
3084*e0c4386eSCy Schubert     }
3085*e0c4386eSCy Schubert 
3086*e0c4386eSCy Schubert     /* Read test file. */
3087*e0c4386eSCy Schubert     while (!BIO_eof(s->fp) && test_readstanza(s)) {
3088*e0c4386eSCy Schubert         if (s->numpairs == 0)
3089*e0c4386eSCy Schubert             continue;
3090*e0c4386eSCy Schubert         if (!file_test_run(s))
3091*e0c4386eSCy Schubert             s->errors++;
3092*e0c4386eSCy Schubert         s->numtests++;
3093*e0c4386eSCy Schubert         test_clearstanza(s);
3094*e0c4386eSCy Schubert     }
3095*e0c4386eSCy Schubert     test_end_file(s);
3096*e0c4386eSCy Schubert     c = s->errors;
3097*e0c4386eSCy Schubert     OPENSSL_free(s);
3098*e0c4386eSCy Schubert 
3099*e0c4386eSCy Schubert     return c == 0;
3100*e0c4386eSCy Schubert }
3101*e0c4386eSCy Schubert 
3102*e0c4386eSCy Schubert typedef enum OPTION_choice {
3103*e0c4386eSCy Schubert     OPT_ERR = -1,
3104*e0c4386eSCy Schubert     OPT_EOF = 0,
3105*e0c4386eSCy Schubert     OPT_STOCHASTIC_TESTS,
3106*e0c4386eSCy Schubert     OPT_TEST_ENUM
3107*e0c4386eSCy Schubert } OPTION_CHOICE;
3108*e0c4386eSCy Schubert 
test_get_options(void)3109*e0c4386eSCy Schubert const OPTIONS *test_get_options(void)
3110*e0c4386eSCy Schubert {
3111*e0c4386eSCy Schubert     static const OPTIONS test_options[] = {
3112*e0c4386eSCy Schubert         OPT_TEST_OPTIONS_WITH_EXTRA_USAGE("[file...]\n"),
3113*e0c4386eSCy Schubert         { "stochastic", OPT_STOCHASTIC_TESTS, '-', "Run stochastic tests" },
3114*e0c4386eSCy Schubert         { OPT_HELP_STR, 1, '-',
3115*e0c4386eSCy Schubert           "file\tFile to run tests on. Normal tests are not run\n" },
3116*e0c4386eSCy Schubert         { NULL }
3117*e0c4386eSCy Schubert     };
3118*e0c4386eSCy Schubert     return test_options;
3119*e0c4386eSCy Schubert }
3120*e0c4386eSCy Schubert 
setup_tests(void)3121*e0c4386eSCy Schubert int setup_tests(void)
3122*e0c4386eSCy Schubert {
3123*e0c4386eSCy Schubert     OPTION_CHOICE o;
3124*e0c4386eSCy Schubert     int n, stochastic = 0;
3125*e0c4386eSCy Schubert 
3126*e0c4386eSCy Schubert     while ((o = opt_next()) != OPT_EOF) {
3127*e0c4386eSCy Schubert         switch (o) {
3128*e0c4386eSCy Schubert         case OPT_STOCHASTIC_TESTS:
3129*e0c4386eSCy Schubert             stochastic = 1;
3130*e0c4386eSCy Schubert             break;
3131*e0c4386eSCy Schubert         case OPT_TEST_CASES:
3132*e0c4386eSCy Schubert            break;
3133*e0c4386eSCy Schubert         default:
3134*e0c4386eSCy Schubert         case OPT_ERR:
3135*e0c4386eSCy Schubert             return 0;
3136*e0c4386eSCy Schubert         }
3137*e0c4386eSCy Schubert     }
3138*e0c4386eSCy Schubert     n  = test_get_argument_count();
3139*e0c4386eSCy Schubert 
3140*e0c4386eSCy Schubert     if (!TEST_ptr(ctx = BN_CTX_new()))
3141*e0c4386eSCy Schubert         return 0;
3142*e0c4386eSCy Schubert 
3143*e0c4386eSCy Schubert     if (n == 0) {
3144*e0c4386eSCy Schubert         ADD_TEST(test_sub);
3145*e0c4386eSCy Schubert         ADD_TEST(test_div_recip);
3146*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_signed_mod_replace_ab, OSSL_NELEM(signed_mod_tests));
3147*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_signed_mod_replace_ba, OSSL_NELEM(signed_mod_tests));
3148*e0c4386eSCy Schubert         ADD_TEST(test_mod);
3149*e0c4386eSCy Schubert         ADD_TEST(test_mod_inverse);
3150*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_mod_exp_alias, 2);
3151*e0c4386eSCy Schubert         ADD_TEST(test_modexp_mont5);
3152*e0c4386eSCy Schubert         ADD_TEST(test_kronecker);
3153*e0c4386eSCy Schubert         ADD_TEST(test_rand);
3154*e0c4386eSCy Schubert         ADD_TEST(test_bn2padded);
3155*e0c4386eSCy Schubert         ADD_TEST(test_dec2bn);
3156*e0c4386eSCy Schubert         ADD_TEST(test_hex2bn);
3157*e0c4386eSCy Schubert         ADD_TEST(test_asc2bn);
3158*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_mpi, (int)OSSL_NELEM(kMPITests));
3159*e0c4386eSCy Schubert         ADD_TEST(test_negzero);
3160*e0c4386eSCy Schubert         ADD_TEST(test_badmod);
3161*e0c4386eSCy Schubert         ADD_TEST(test_expmodzero);
3162*e0c4386eSCy Schubert         ADD_TEST(test_expmodone);
3163*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_smallprime, 16);
3164*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_smallsafeprime, 16);
3165*e0c4386eSCy Schubert         ADD_TEST(test_swap);
3166*e0c4386eSCy Schubert         ADD_TEST(test_ctx_consttime_flag);
3167*e0c4386eSCy Schubert #ifndef OPENSSL_NO_EC2M
3168*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_add);
3169*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_mod);
3170*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_mul);
3171*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_sqr);
3172*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_modinv);
3173*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_moddiv);
3174*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_modexp);
3175*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_modsqrt);
3176*e0c4386eSCy Schubert         ADD_TEST(test_gf2m_modsolvequad);
3177*e0c4386eSCy Schubert #endif
3178*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_is_prime, (int)OSSL_NELEM(primes));
3179*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_not_prime, (int)OSSL_NELEM(not_primes));
3180*e0c4386eSCy Schubert         ADD_TEST(test_gcd_prime);
3181*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_mod_exp, (int)OSSL_NELEM(ModExpTests));
3182*e0c4386eSCy Schubert         ADD_ALL_TESTS(test_mod_exp_consttime, (int)OSSL_NELEM(ModExpTests));
3183*e0c4386eSCy Schubert         ADD_TEST(test_mod_exp2_mont);
3184*e0c4386eSCy Schubert         if (stochastic)
3185*e0c4386eSCy Schubert             ADD_TEST(test_rand_range);
3186*e0c4386eSCy Schubert     } else {
3187*e0c4386eSCy Schubert         ADD_ALL_TESTS(run_file_tests, n);
3188*e0c4386eSCy Schubert     }
3189*e0c4386eSCy Schubert     return 1;
3190*e0c4386eSCy Schubert }
3191*e0c4386eSCy Schubert 
cleanup_tests(void)3192*e0c4386eSCy Schubert void cleanup_tests(void)
3193*e0c4386eSCy Schubert {
3194*e0c4386eSCy Schubert     BN_CTX_free(ctx);
3195*e0c4386eSCy Schubert }
3196