xref: /openbsd-src/regress/lib/libm/msun/fma_test.c (revision 498c7b5e98c82ca5a0055f676f2a6e4214e2d9a8)
1*498c7b5eSderaadt /*	$OpenBSD: fma_test.c,v 1.3 2021/12/13 18:04:28 deraadt Exp $	*/
2c36e572eSmbuhl /*-
3c36e572eSmbuhl  * Copyright (c) 2008 David Schultz <das@FreeBSD.org>
4c36e572eSmbuhl  * All rights reserved.
5c36e572eSmbuhl  *
6c36e572eSmbuhl  * Redistribution and use in source and binary forms, with or without
7c36e572eSmbuhl  * modification, are permitted provided that the following conditions
8c36e572eSmbuhl  * are met:
9c36e572eSmbuhl  * 1. Redistributions of source code must retain the above copyright
10c36e572eSmbuhl  *    notice, this list of conditions and the following disclaimer.
11c36e572eSmbuhl  * 2. Redistributions in binary form must reproduce the above copyright
12c36e572eSmbuhl  *    notice, this list of conditions and the following disclaimer in the
13c36e572eSmbuhl  *    documentation and/or other materials provided with the distribution.
14c36e572eSmbuhl  *
15c36e572eSmbuhl  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
16c36e572eSmbuhl  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
17c36e572eSmbuhl  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
18c36e572eSmbuhl  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
19c36e572eSmbuhl  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
20c36e572eSmbuhl  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
21c36e572eSmbuhl  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
22c36e572eSmbuhl  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
23c36e572eSmbuhl  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
24c36e572eSmbuhl  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
25c36e572eSmbuhl  * SUCH DAMAGE.
26c36e572eSmbuhl  */
27c36e572eSmbuhl 
28c36e572eSmbuhl #include "macros.h"
29c36e572eSmbuhl 
30c36e572eSmbuhl /*
31c36e572eSmbuhl  * Tests for fma{,f,l}().
32c36e572eSmbuhl  */
33c36e572eSmbuhl 
3449a6e16fSderaadt #include <sys/types.h>
35c36e572eSmbuhl #include <fenv.h>
36c36e572eSmbuhl #include <float.h>
37c36e572eSmbuhl #include <math.h>
38c36e572eSmbuhl #include <stdio.h>
39c36e572eSmbuhl #include <stdlib.h>
40c36e572eSmbuhl 
41c36e572eSmbuhl #include "test-utils.h"
42c36e572eSmbuhl 
43c36e572eSmbuhl #pragma STDC FENV_ACCESS ON
44c36e572eSmbuhl 
45c36e572eSmbuhl /*
46c36e572eSmbuhl  * Test that a function returns the correct value and sets the
47c36e572eSmbuhl  * exception flags correctly. The exceptmask specifies which
48c36e572eSmbuhl  * exceptions we should check. We need to be lenient for several
49c36e572eSmbuhl  * reasons, but mainly because on some architectures it's impossible
50c36e572eSmbuhl  * to raise FE_OVERFLOW without raising FE_INEXACT.
51c36e572eSmbuhl  *
52c36e572eSmbuhl  * These are macros instead of functions so that assert provides more
53c36e572eSmbuhl  * meaningful error messages.
54c36e572eSmbuhl  */
55c36e572eSmbuhl #define	test(func, x, y, z, result, exceptmask, excepts) do {		\
56c36e572eSmbuhl 	volatile long double _vx = (x), _vy = (y), _vz = (z);		\
57c36e572eSmbuhl 	ATF_CHECK(feclearexcept(FE_ALL_EXCEPT) == 0);			\
58c36e572eSmbuhl 	CHECK_FPEQUAL((func)(_vx, _vy, _vz), (result));		\
59c36e572eSmbuhl 	CHECK_FP_EXCEPTIONS_MSG(excepts, exceptmask, "for %s(%s)",	\
60c36e572eSmbuhl 	    #func, #x);							\
61c36e572eSmbuhl } while (0)
62c36e572eSmbuhl 
63c36e572eSmbuhl #define	testall(x, y, z, result, exceptmask, excepts)	do {		\
64c36e572eSmbuhl 	test(fma, (double)(x), (double)(y), (double)(z),		\
65c36e572eSmbuhl 		(double)(result), (exceptmask), (excepts));		\
66c36e572eSmbuhl 	test(fmaf, (float)(x), (float)(y), (float)(z),			\
67c36e572eSmbuhl 		(float)(result), (exceptmask), (excepts));		\
68c36e572eSmbuhl 	test(fmal, (x), (y), (z), (result), (exceptmask), (excepts));	\
69c36e572eSmbuhl } while (0)
70c36e572eSmbuhl 
71c36e572eSmbuhl /* Test in all rounding modes. */
72c36e572eSmbuhl #define	testrnd(func, x, y, z, rn, ru, rd, rz, exceptmask, excepts)	do { \
73c36e572eSmbuhl 	fesetround(FE_TONEAREST);					\
74c36e572eSmbuhl 	test((func), (x), (y), (z), (rn), (exceptmask), (excepts));	\
75c36e572eSmbuhl 	fesetround(FE_UPWARD);						\
76c36e572eSmbuhl 	test((func), (x), (y), (z), (ru), (exceptmask), (excepts));	\
77c36e572eSmbuhl 	fesetround(FE_DOWNWARD);					\
78c36e572eSmbuhl 	test((func), (x), (y), (z), (rd), (exceptmask), (excepts));	\
79c36e572eSmbuhl 	fesetround(FE_TOWARDZERO);					\
80c36e572eSmbuhl 	test((func), (x), (y), (z), (rz), (exceptmask), (excepts));	\
81c36e572eSmbuhl } while (0)
82c36e572eSmbuhl 
83c36e572eSmbuhl /*
84c36e572eSmbuhl  * This is needed because clang constant-folds fma in ways that are incorrect
85c36e572eSmbuhl  * in rounding modes other than FE_TONEAREST.
86c36e572eSmbuhl  */
87c36e572eSmbuhl static volatile double one = 1.0;
88c36e572eSmbuhl 
89c36e572eSmbuhl static void
test_zeroes(void)90c36e572eSmbuhl test_zeroes(void)
91c36e572eSmbuhl {
92c36e572eSmbuhl 	const int rd = (fegetround() == FE_DOWNWARD);
93c36e572eSmbuhl 
94c36e572eSmbuhl 	testall(0.0, 0.0, 0.0, 0.0, ALL_STD_EXCEPT, 0);
95c36e572eSmbuhl 	testall(1.0, 0.0, 0.0, 0.0, ALL_STD_EXCEPT, 0);
96c36e572eSmbuhl 	testall(0.0, 1.0, 0.0, 0.0, ALL_STD_EXCEPT, 0);
97c36e572eSmbuhl 	testall(0.0, 0.0, 1.0, 1.0, ALL_STD_EXCEPT, 0);
98c36e572eSmbuhl 
99c36e572eSmbuhl 	testall(-0.0, 0.0, 0.0, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
100c36e572eSmbuhl 	testall(0.0, -0.0, 0.0, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
101c36e572eSmbuhl 	testall(-0.0, -0.0, 0.0, 0.0, ALL_STD_EXCEPT, 0);
102c36e572eSmbuhl 	testall(0.0, 0.0, -0.0, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
103c36e572eSmbuhl 	testall(-0.0, -0.0, -0.0, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
104c36e572eSmbuhl 
105c36e572eSmbuhl 	testall(-0.0, 0.0, -0.0, -0.0, ALL_STD_EXCEPT, 0);
106c36e572eSmbuhl 	testall(0.0, -0.0, -0.0, -0.0, ALL_STD_EXCEPT, 0);
107c36e572eSmbuhl 
108c36e572eSmbuhl 	testall(-one, one, one, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
109c36e572eSmbuhl 	testall(one, -one, one, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
110c36e572eSmbuhl 	testall(-one, -one, -one, rd ? -0.0 : 0.0, ALL_STD_EXCEPT, 0);
111c36e572eSmbuhl 
112c36e572eSmbuhl 	switch (fegetround()) {
113c36e572eSmbuhl 	case FE_TONEAREST:
114c36e572eSmbuhl 	case FE_TOWARDZERO:
115c36e572eSmbuhl 		test(fmaf, -FLT_MIN, FLT_MIN, 0.0, -0.0,
116c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT | FE_UNDERFLOW);
117c36e572eSmbuhl 		test(fma, -DBL_MIN, DBL_MIN, 0.0, -0.0,
118c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT | FE_UNDERFLOW);
119c36e572eSmbuhl 		test(fmal, -LDBL_MIN, LDBL_MIN, 0.0, -0.0,
120c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT | FE_UNDERFLOW);
121c36e572eSmbuhl 	}
122c36e572eSmbuhl }
123c36e572eSmbuhl 
124c36e572eSmbuhl static void
test_infinities(void)125c36e572eSmbuhl test_infinities(void)
126c36e572eSmbuhl {
127c36e572eSmbuhl 	testall(INFINITY, 1.0, -1.0, INFINITY, ALL_STD_EXCEPT, 0);
128c36e572eSmbuhl 	testall(-1.0, INFINITY, 0.0, -INFINITY, ALL_STD_EXCEPT, 0);
129c36e572eSmbuhl 	testall(0.0, 0.0, INFINITY, INFINITY, ALL_STD_EXCEPT, 0);
130c36e572eSmbuhl 	testall(1.0, 1.0, INFINITY, INFINITY, ALL_STD_EXCEPT, 0);
131c36e572eSmbuhl 	testall(1.0, 1.0, -INFINITY, -INFINITY, ALL_STD_EXCEPT, 0);
132c36e572eSmbuhl 
133c36e572eSmbuhl 	testall(INFINITY, -INFINITY, 1.0, -INFINITY, ALL_STD_EXCEPT, 0);
134c36e572eSmbuhl 	testall(INFINITY, INFINITY, 1.0, INFINITY, ALL_STD_EXCEPT, 0);
135c36e572eSmbuhl 	testall(-INFINITY, -INFINITY, INFINITY, INFINITY, ALL_STD_EXCEPT, 0);
136c36e572eSmbuhl 
137c36e572eSmbuhl 	testall(0.0, INFINITY, 1.0, NAN, ALL_STD_EXCEPT, FE_INVALID);
138c36e572eSmbuhl 	testall(INFINITY, 0.0, -0.0, NAN, ALL_STD_EXCEPT, FE_INVALID);
139c36e572eSmbuhl 
140c36e572eSmbuhl 	/* The invalid exception is optional in this case. */
141c36e572eSmbuhl 	testall(INFINITY, 0.0, NAN, NAN, ALL_STD_EXCEPT & ~FE_INVALID, 0);
142c36e572eSmbuhl 
143c36e572eSmbuhl 	testall(INFINITY, INFINITY, -INFINITY, NAN,
144c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INVALID);
145c36e572eSmbuhl 	testall(-INFINITY, INFINITY, INFINITY, NAN,
146c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INVALID);
147c36e572eSmbuhl 	testall(INFINITY, -1.0, INFINITY, NAN,
148c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INVALID);
149c36e572eSmbuhl 
150c36e572eSmbuhl 	test(fmaf, FLT_MAX, FLT_MAX, -INFINITY, -INFINITY, ALL_STD_EXCEPT, 0);
151c36e572eSmbuhl 	test(fma, DBL_MAX, DBL_MAX, -INFINITY, -INFINITY, ALL_STD_EXCEPT, 0);
152c36e572eSmbuhl 	test(fmal, LDBL_MAX, LDBL_MAX, -INFINITY, -INFINITY,
153c36e572eSmbuhl 	     ALL_STD_EXCEPT, 0);
154c36e572eSmbuhl 	test(fmaf, FLT_MAX, -FLT_MAX, INFINITY, INFINITY, ALL_STD_EXCEPT, 0);
155c36e572eSmbuhl 	test(fma, DBL_MAX, -DBL_MAX, INFINITY, INFINITY, ALL_STD_EXCEPT, 0);
156c36e572eSmbuhl 	test(fmal, LDBL_MAX, -LDBL_MAX, INFINITY, INFINITY,
157c36e572eSmbuhl 	     ALL_STD_EXCEPT, 0);
158c36e572eSmbuhl }
159c36e572eSmbuhl 
160c36e572eSmbuhl static void
test_nans(void)161c36e572eSmbuhl test_nans(void)
162c36e572eSmbuhl {
163c36e572eSmbuhl 	testall(NAN, 0.0, 0.0, NAN, ALL_STD_EXCEPT, 0);
164c36e572eSmbuhl 	testall(1.0, NAN, 1.0, NAN, ALL_STD_EXCEPT, 0);
165c36e572eSmbuhl 	testall(1.0, -1.0, NAN, NAN, ALL_STD_EXCEPT, 0);
166c36e572eSmbuhl 	testall(0.0, 0.0, NAN, NAN, ALL_STD_EXCEPT, 0);
167c36e572eSmbuhl 	testall(NAN, NAN, NAN, NAN, ALL_STD_EXCEPT, 0);
168c36e572eSmbuhl 
169c36e572eSmbuhl 	/* x*y should not raise an inexact/overflow/underflow if z is NaN. */
170c36e572eSmbuhl 	testall(M_PI, M_PI, NAN, NAN, ALL_STD_EXCEPT, 0);
171c36e572eSmbuhl 	test(fmaf, FLT_MIN, FLT_MIN, NAN, NAN, ALL_STD_EXCEPT, 0);
172c36e572eSmbuhl 	test(fma, DBL_MIN, DBL_MIN, NAN, NAN, ALL_STD_EXCEPT, 0);
173c36e572eSmbuhl 	test(fmal, LDBL_MIN, LDBL_MIN, NAN, NAN, ALL_STD_EXCEPT, 0);
174c36e572eSmbuhl 	test(fmaf, FLT_MAX, FLT_MAX, NAN, NAN, ALL_STD_EXCEPT, 0);
175c36e572eSmbuhl 	test(fma, DBL_MAX, DBL_MAX, NAN, NAN, ALL_STD_EXCEPT, 0);
176c36e572eSmbuhl 	test(fmal, LDBL_MAX, LDBL_MAX, NAN, NAN, ALL_STD_EXCEPT, 0);
177c36e572eSmbuhl }
178c36e572eSmbuhl 
179c36e572eSmbuhl /*
180c36e572eSmbuhl  * Tests for cases where z is very small compared to x*y.
181c36e572eSmbuhl  */
182c36e572eSmbuhl static void
test_small_z(void)183c36e572eSmbuhl test_small_z(void)
184c36e572eSmbuhl {
185c36e572eSmbuhl 	/* x*y positive, z positive */
186c36e572eSmbuhl 	if (fegetround() == FE_UPWARD) {
187c36e572eSmbuhl 		test(fmaf, one, one, 0x1.0p-100, 1.0 + FLT_EPSILON,
188c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
189c36e572eSmbuhl 		test(fma, one, one, 0x1.0p-200, 1.0 + DBL_EPSILON,
190c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
191c36e572eSmbuhl 		test(fmal, one, one, 0x1.0p-200, 1.0 + LDBL_EPSILON,
192c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
193c36e572eSmbuhl 	} else {
194c36e572eSmbuhl 		testall(0x1.0p100, one, 0x1.0p-100, 0x1.0p100,
195c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
196c36e572eSmbuhl 	}
197c36e572eSmbuhl 
198c36e572eSmbuhl 	/* x*y negative, z negative */
199c36e572eSmbuhl 	if (fegetround() == FE_DOWNWARD) {
200c36e572eSmbuhl 		test(fmaf, -one, one, -0x1.0p-100, -(1.0 + FLT_EPSILON),
201c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
202c36e572eSmbuhl 		test(fma, -one, one, -0x1.0p-200, -(1.0 + DBL_EPSILON),
203c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
204c36e572eSmbuhl 		test(fmal, -one, one, -0x1.0p-200, -(1.0 + LDBL_EPSILON),
205c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
206c36e572eSmbuhl 	} else {
207c36e572eSmbuhl 		testall(0x1.0p100, -one, -0x1.0p-100, -0x1.0p100,
208c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
209c36e572eSmbuhl 	}
210c36e572eSmbuhl 
211c36e572eSmbuhl 	/* x*y positive, z negative */
212c36e572eSmbuhl 	if (fegetround() == FE_DOWNWARD || fegetround() == FE_TOWARDZERO) {
213c36e572eSmbuhl 		test(fmaf, one, one, -0x1.0p-100, 1.0 - FLT_EPSILON / 2,
214c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
215c36e572eSmbuhl 		test(fma, one, one, -0x1.0p-200, 1.0 - DBL_EPSILON / 2,
216c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
217c36e572eSmbuhl 		test(fmal, one, one, -0x1.0p-200, 1.0 - LDBL_EPSILON / 2,
218c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
219c36e572eSmbuhl 	} else {
220c36e572eSmbuhl 		testall(0x1.0p100, one, -0x1.0p-100, 0x1.0p100,
221c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
222c36e572eSmbuhl 	}
223c36e572eSmbuhl 
224c36e572eSmbuhl 	/* x*y negative, z positive */
225c36e572eSmbuhl 	if (fegetround() == FE_UPWARD || fegetround() == FE_TOWARDZERO) {
226c36e572eSmbuhl 		test(fmaf, -one, one, 0x1.0p-100, -1.0 + FLT_EPSILON / 2,
227c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
228c36e572eSmbuhl 		test(fma, -one, one, 0x1.0p-200, -1.0 + DBL_EPSILON / 2,
229c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
230c36e572eSmbuhl 		test(fmal, -one, one, 0x1.0p-200, -1.0 + LDBL_EPSILON / 2,
231c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
232c36e572eSmbuhl 	} else {
233c36e572eSmbuhl 		testall(-0x1.0p100, one, 0x1.0p-100, -0x1.0p100,
234c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
235c36e572eSmbuhl 	}
236c36e572eSmbuhl }
237c36e572eSmbuhl 
238c36e572eSmbuhl /*
239c36e572eSmbuhl  * Tests for cases where z is very large compared to x*y.
240c36e572eSmbuhl  */
241c36e572eSmbuhl static void
test_big_z(void)242c36e572eSmbuhl test_big_z(void)
243c36e572eSmbuhl {
244c36e572eSmbuhl 	/* z positive, x*y positive */
245c36e572eSmbuhl 	if (fegetround() == FE_UPWARD) {
246c36e572eSmbuhl 		test(fmaf, 0x1.0p-50, 0x1.0p-50, 1.0, 1.0 + FLT_EPSILON,
247c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
248c36e572eSmbuhl 		test(fma, 0x1.0p-100, 0x1.0p-100, 1.0, 1.0 + DBL_EPSILON,
249c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
250c36e572eSmbuhl 		test(fmal, 0x1.0p-100, 0x1.0p-100, 1.0, 1.0 + LDBL_EPSILON,
251c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
252c36e572eSmbuhl 	} else {
253c36e572eSmbuhl 		testall(-0x1.0p-50, -0x1.0p-50, 0x1.0p100, 0x1.0p100,
254c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
255c36e572eSmbuhl 	}
256c36e572eSmbuhl 
257c36e572eSmbuhl 	/* z negative, x*y negative */
258c36e572eSmbuhl 	if (fegetround() == FE_DOWNWARD) {
259c36e572eSmbuhl 		test(fmaf, -0x1.0p-50, 0x1.0p-50, -1.0, -(1.0 + FLT_EPSILON),
260c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
261c36e572eSmbuhl 		test(fma, -0x1.0p-100, 0x1.0p-100, -1.0, -(1.0 + DBL_EPSILON),
262c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
263c36e572eSmbuhl 		test(fmal, -0x1.0p-100, 0x1.0p-100, -1.0, -(1.0 + LDBL_EPSILON),
264c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
265c36e572eSmbuhl 	} else {
266c36e572eSmbuhl 		testall(0x1.0p-50, -0x1.0p-50, -0x1.0p100, -0x1.0p100,
267c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
268c36e572eSmbuhl 	}
269c36e572eSmbuhl 
270c36e572eSmbuhl 	/* z negative, x*y positive */
271c36e572eSmbuhl 	if (fegetround() == FE_UPWARD || fegetround() == FE_TOWARDZERO) {
272c36e572eSmbuhl 		test(fmaf, -0x1.0p-50, -0x1.0p-50, -1.0,
273c36e572eSmbuhl 		     -1.0 + FLT_EPSILON / 2, ALL_STD_EXCEPT, FE_INEXACT);
274c36e572eSmbuhl 		test(fma, -0x1.0p-100, -0x1.0p-100, -1.0,
275c36e572eSmbuhl 		     -1.0 + DBL_EPSILON / 2, ALL_STD_EXCEPT, FE_INEXACT);
276c36e572eSmbuhl 		test(fmal, -0x1.0p-100, -0x1.0p-100, -1.0,
277c36e572eSmbuhl 		     -1.0 + LDBL_EPSILON / 2, ALL_STD_EXCEPT, FE_INEXACT);
278c36e572eSmbuhl 	} else {
279c36e572eSmbuhl 		testall(0x1.0p-50, 0x1.0p-50, -0x1.0p100, -0x1.0p100,
280c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
281c36e572eSmbuhl 	}
282c36e572eSmbuhl 
283c36e572eSmbuhl 	/* z positive, x*y negative */
284c36e572eSmbuhl 	if (fegetround() == FE_DOWNWARD || fegetround() == FE_TOWARDZERO) {
285c36e572eSmbuhl 		test(fmaf, 0x1.0p-50, -0x1.0p-50, 1.0, 1.0 - FLT_EPSILON / 2,
286c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
287c36e572eSmbuhl 		test(fma, 0x1.0p-100, -0x1.0p-100, 1.0, 1.0 - DBL_EPSILON / 2,
288c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
289c36e572eSmbuhl 		test(fmal, 0x1.0p-100, -0x1.0p-100, 1.0, 1.0 - LDBL_EPSILON / 2,
290c36e572eSmbuhl 		     ALL_STD_EXCEPT, FE_INEXACT);
291c36e572eSmbuhl 	} else {
292c36e572eSmbuhl 		testall(-0x1.0p-50, 0x1.0p-50, 0x1.0p100, 0x1.0p100,
293c36e572eSmbuhl 			ALL_STD_EXCEPT, FE_INEXACT);
294c36e572eSmbuhl 	}
295c36e572eSmbuhl }
296c36e572eSmbuhl 
297c36e572eSmbuhl static void
test_accuracy(void)298c36e572eSmbuhl test_accuracy(void)
299c36e572eSmbuhl {
300c36e572eSmbuhl 
301c36e572eSmbuhl 	/* ilogb(x*y) - ilogb(z) = 20 */
302c36e572eSmbuhl 	testrnd(fmaf, -0x1.c139d8p-51, -0x1.600e7ap32, 0x1.26558cp-38,
303c36e572eSmbuhl 		0x1.34e48ap-18, 0x1.34e48cp-18, 0x1.34e48ap-18, 0x1.34e48ap-18,
304c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INEXACT);
305c36e572eSmbuhl 	testrnd(fma, -0x1.c139d7b84f1a3p-51, -0x1.600e7a2a16484p32,
306c36e572eSmbuhl 		0x1.26558cac31580p-38, 0x1.34e48a78aae97p-18,
307c36e572eSmbuhl 		0x1.34e48a78aae97p-18, 0x1.34e48a78aae96p-18,
308c36e572eSmbuhl 		0x1.34e48a78aae96p-18, ALL_STD_EXCEPT, FE_INEXACT);
309c36e572eSmbuhl #if LDBL_MANT_DIG == 113
310c36e572eSmbuhl 	testrnd(fmal, -0x1.c139d7b84f1a3079263afcc5bae3p-51L,
311c36e572eSmbuhl 		-0x1.600e7a2a164840edbe2e7d301a72p32L,
312c36e572eSmbuhl 		0x1.26558cac315807eb07e448042101p-38L,
313c36e572eSmbuhl 		0x1.34e48a78aae96c76ed36077dd387p-18L,
314c36e572eSmbuhl 		0x1.34e48a78aae96c76ed36077dd388p-18L,
315c36e572eSmbuhl 		0x1.34e48a78aae96c76ed36077dd387p-18L,
316c36e572eSmbuhl 		0x1.34e48a78aae96c76ed36077dd387p-18L,
317c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INEXACT);
318c36e572eSmbuhl #elif LDBL_MANT_DIG == 64
319c36e572eSmbuhl 	testrnd(fmal, -0x1.c139d7b84f1a307ap-51L, -0x1.600e7a2a164840eep32L,
320c36e572eSmbuhl 		0x1.26558cac315807ecp-38L, 0x1.34e48a78aae96c78p-18L,
321c36e572eSmbuhl 		0x1.34e48a78aae96c78p-18L, 0x1.34e48a78aae96c76p-18L,
322c36e572eSmbuhl 		0x1.34e48a78aae96c76p-18L, ALL_STD_EXCEPT, FE_INEXACT);
323c36e572eSmbuhl #elif LDBL_MANT_DIG == 53
324c36e572eSmbuhl 	testrnd(fmal, -0x1.c139d7b84f1a3p-51L, -0x1.600e7a2a16484p32L,
325c36e572eSmbuhl 		0x1.26558cac31580p-38L, 0x1.34e48a78aae97p-18L,
326c36e572eSmbuhl 		0x1.34e48a78aae97p-18L, 0x1.34e48a78aae96p-18L,
327c36e572eSmbuhl 		0x1.34e48a78aae96p-18L, ALL_STD_EXCEPT, FE_INEXACT);
328c36e572eSmbuhl #endif
329c36e572eSmbuhl 
330c36e572eSmbuhl 	/* ilogb(x*y) - ilogb(z) = -40 */
331c36e572eSmbuhl 	testrnd(fmaf, 0x1.98210ap53, 0x1.9556acp-24, 0x1.d87da4p70,
332c36e572eSmbuhl 		0x1.d87da4p70, 0x1.d87da6p70, 0x1.d87da4p70, 0x1.d87da4p70,
333c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INEXACT);
334c36e572eSmbuhl 	testrnd(fma, 0x1.98210ac83fe2bp53, 0x1.9556ac1475f0fp-24,
335c36e572eSmbuhl 		0x1.d87da3aafc60ep70, 0x1.d87da3aafda40p70,
336c36e572eSmbuhl 		0x1.d87da3aafda40p70, 0x1.d87da3aafda3fp70,
337c36e572eSmbuhl 		0x1.d87da3aafda3fp70, ALL_STD_EXCEPT, FE_INEXACT);
338c36e572eSmbuhl #if LDBL_MANT_DIG == 113
339c36e572eSmbuhl 	testrnd(fmal, 0x1.98210ac83fe2a8f65b6278b74cebp53L,
340c36e572eSmbuhl 		0x1.9556ac1475f0f28968b61d0de65ap-24L,
341c36e572eSmbuhl 		0x1.d87da3aafc60d830aa4c6d73b749p70L,
342c36e572eSmbuhl 		0x1.d87da3aafda3f36a69eb86488224p70L,
343c36e572eSmbuhl 		0x1.d87da3aafda3f36a69eb86488225p70L,
344c36e572eSmbuhl 		0x1.d87da3aafda3f36a69eb86488224p70L,
345c36e572eSmbuhl 		0x1.d87da3aafda3f36a69eb86488224p70L,
346c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INEXACT);
347c36e572eSmbuhl #elif LDBL_MANT_DIG == 64
348c36e572eSmbuhl 	testrnd(fmal, 0x1.98210ac83fe2a8f6p53L, 0x1.9556ac1475f0f28ap-24L,
349c36e572eSmbuhl 		0x1.d87da3aafc60d83p70L, 0x1.d87da3aafda3f36ap70L,
350c36e572eSmbuhl 		0x1.d87da3aafda3f36ap70L, 0x1.d87da3aafda3f368p70L,
351c36e572eSmbuhl 		0x1.d87da3aafda3f368p70L, ALL_STD_EXCEPT, FE_INEXACT);
352c36e572eSmbuhl #elif LDBL_MANT_DIG == 53
353c36e572eSmbuhl 	testrnd(fmal, 0x1.98210ac83fe2bp53L, 0x1.9556ac1475f0fp-24L,
354c36e572eSmbuhl 		0x1.d87da3aafc60ep70L, 0x1.d87da3aafda40p70L,
355c36e572eSmbuhl 		0x1.d87da3aafda40p70L, 0x1.d87da3aafda3fp70L,
356c36e572eSmbuhl 		0x1.d87da3aafda3fp70L, ALL_STD_EXCEPT, FE_INEXACT);
357c36e572eSmbuhl #endif
358c36e572eSmbuhl 
359c36e572eSmbuhl 	/* ilogb(x*y) - ilogb(z) = 0 */
360c36e572eSmbuhl 	testrnd(fmaf, 0x1.31ad02p+100, 0x1.2fbf7ap-42, -0x1.c3e106p+58,
361c36e572eSmbuhl 		-0x1.64c27cp+56, -0x1.64c27ap+56, -0x1.64c27cp+56,
362c36e572eSmbuhl 		-0x1.64c27ap+56, ALL_STD_EXCEPT, FE_INEXACT);
363c36e572eSmbuhl 	testrnd(fma, 0x1.31ad012ede8aap+100, 0x1.2fbf79c839067p-42,
364c36e572eSmbuhl 		-0x1.c3e106929056ep+58, -0x1.64c282b970a5fp+56,
365c36e572eSmbuhl 		-0x1.64c282b970a5ep+56, -0x1.64c282b970a5fp+56,
366c36e572eSmbuhl 		-0x1.64c282b970a5ep+56, ALL_STD_EXCEPT, FE_INEXACT);
367c36e572eSmbuhl #if LDBL_MANT_DIG == 113
368c36e572eSmbuhl 	testrnd(fmal, 0x1.31ad012ede8aa282fa1c19376d16p+100L,
369c36e572eSmbuhl 		 0x1.2fbf79c839066f0f5c68f6d2e814p-42L,
370c36e572eSmbuhl 		-0x1.c3e106929056ec19de72bfe64215p+58L,
371c36e572eSmbuhl 		-0x1.64c282b970a612598fc025ca8cddp+56L,
372c36e572eSmbuhl 		-0x1.64c282b970a612598fc025ca8cddp+56L,
373c36e572eSmbuhl 		-0x1.64c282b970a612598fc025ca8cdep+56L,
374c36e572eSmbuhl 		-0x1.64c282b970a612598fc025ca8cddp+56L,
375c36e572eSmbuhl 		ALL_STD_EXCEPT, FE_INEXACT);
376c36e572eSmbuhl #elif LDBL_MANT_DIG == 64
377c36e572eSmbuhl 	testrnd(fmal, 0x1.31ad012ede8aa4eap+100L, 0x1.2fbf79c839066aeap-42L,
378c36e572eSmbuhl 		-0x1.c3e106929056e61p+58L, -0x1.64c282b970a60298p+56L,
379c36e572eSmbuhl 		-0x1.64c282b970a60298p+56L, -0x1.64c282b970a6029ap+56L,
380c36e572eSmbuhl 		-0x1.64c282b970a60298p+56L, ALL_STD_EXCEPT, FE_INEXACT);
381c36e572eSmbuhl #elif LDBL_MANT_DIG == 53
382c36e572eSmbuhl 	testrnd(fmal, 0x1.31ad012ede8aap+100L, 0x1.2fbf79c839067p-42L,
383c36e572eSmbuhl 		-0x1.c3e106929056ep+58L, -0x1.64c282b970a5fp+56L,
384c36e572eSmbuhl 		-0x1.64c282b970a5ep+56L, -0x1.64c282b970a5fp+56L,
385c36e572eSmbuhl 		-0x1.64c282b970a5ep+56L, ALL_STD_EXCEPT, FE_INEXACT);
386c36e572eSmbuhl #endif
387c36e572eSmbuhl 
388c36e572eSmbuhl 	/* x*y (rounded) ~= -z */
389c36e572eSmbuhl 	/* XXX spurious inexact exceptions */
390c36e572eSmbuhl 	testrnd(fmaf, 0x1.bbffeep-30, -0x1.1d164cp-74, 0x1.ee7296p-104,
391c36e572eSmbuhl 		-0x1.c46ea8p-128, -0x1.c46ea8p-128, -0x1.c46ea8p-128,
392c36e572eSmbuhl 		-0x1.c46ea8p-128, ALL_STD_EXCEPT & ~FE_INEXACT, 0);
393c36e572eSmbuhl 	testrnd(fma, 0x1.bbffeea6fc7d6p-30, 0x1.1d164c6cbf078p-74,
394c36e572eSmbuhl 		-0x1.ee72993aff948p-104, -0x1.71f72ac7d9d8p-159,
395c36e572eSmbuhl 		-0x1.71f72ac7d9d8p-159, -0x1.71f72ac7d9d8p-159,
396c36e572eSmbuhl 		-0x1.71f72ac7d9d8p-159, ALL_STD_EXCEPT & ~FE_INEXACT, 0);
397c36e572eSmbuhl #if LDBL_MANT_DIG == 113
398c36e572eSmbuhl 	testrnd(fmal, 0x1.bbffeea6fc7d65927d147f437675p-30L,
399c36e572eSmbuhl 		0x1.1d164c6cbf078b7a22607d1cd6a2p-74L,
400c36e572eSmbuhl 		-0x1.ee72993aff94973876031bec0944p-104L,
401c36e572eSmbuhl 		0x1.64e086175b3a2adc36e607058814p-217L,
402c36e572eSmbuhl 		0x1.64e086175b3a2adc36e607058814p-217L,
403c36e572eSmbuhl 		0x1.64e086175b3a2adc36e607058814p-217L,
404c36e572eSmbuhl 		0x1.64e086175b3a2adc36e607058814p-217L,
405c36e572eSmbuhl 		ALL_STD_EXCEPT & ~FE_INEXACT, 0);
406c36e572eSmbuhl #elif LDBL_MANT_DIG == 64
407c36e572eSmbuhl 	testrnd(fmal, 0x1.bbffeea6fc7d6592p-30L, 0x1.1d164c6cbf078b7ap-74L,
408c36e572eSmbuhl 		-0x1.ee72993aff949736p-104L, 0x1.af190e7a1ee6ad94p-168L,
409c36e572eSmbuhl 		0x1.af190e7a1ee6ad94p-168L, 0x1.af190e7a1ee6ad94p-168L,
410c36e572eSmbuhl 		0x1.af190e7a1ee6ad94p-168L, ALL_STD_EXCEPT & ~FE_INEXACT, 0);
411c36e572eSmbuhl #elif LDBL_MANT_DIG == 53
412c36e572eSmbuhl 	testrnd(fmal, 0x1.bbffeea6fc7d6p-30L, 0x1.1d164c6cbf078p-74L,
413c36e572eSmbuhl 		-0x1.ee72993aff948p-104L, -0x1.71f72ac7d9d8p-159L,
414c36e572eSmbuhl 		-0x1.71f72ac7d9d8p-159L, -0x1.71f72ac7d9d8p-159L,
415c36e572eSmbuhl 		-0x1.71f72ac7d9d8p-159L, ALL_STD_EXCEPT & ~FE_INEXACT, 0);
416c36e572eSmbuhl #endif
417c36e572eSmbuhl }
418c36e572eSmbuhl 
419c36e572eSmbuhl static void
test_double_rounding(void)420c36e572eSmbuhl test_double_rounding(void)
421c36e572eSmbuhl {
422c36e572eSmbuhl 
423c36e572eSmbuhl 	/*
424c36e572eSmbuhl 	 *     a =  0x1.8000000000001p0
425c36e572eSmbuhl 	 *     b =  0x1.8000000000001p0
426c36e572eSmbuhl 	 *     c = -0x0.0000000000000000000000000080...1p+1
427c36e572eSmbuhl 	 * a * b =  0x1.2000000000001800000000000080p+1
428c36e572eSmbuhl 	 *
429c36e572eSmbuhl 	 * The correct behavior is to round DOWN to 0x1.2000000000001p+1 in
430c36e572eSmbuhl 	 * round-to-nearest mode.  An implementation that computes a*b+c in
431c36e572eSmbuhl 	 * double+double precision, however, will get 0x1.20000000000018p+1,
432c36e572eSmbuhl 	 * and then round UP.
433c36e572eSmbuhl 	 */
434c36e572eSmbuhl 	fesetround(FE_TONEAREST);
435c36e572eSmbuhl 	test(fma, 0x1.8000000000001p0, 0x1.8000000000001p0,
436c36e572eSmbuhl 	     -0x1.0000000000001p-104, 0x1.2000000000001p+1,
437c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
438c36e572eSmbuhl 	fesetround(FE_DOWNWARD);
439c36e572eSmbuhl 	test(fma, 0x1.8000000000001p0, 0x1.8000000000001p0,
440c36e572eSmbuhl 	     -0x1.0000000000001p-104, 0x1.2000000000001p+1,
441c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
442c36e572eSmbuhl 	fesetround(FE_UPWARD);
443c36e572eSmbuhl 	test(fma, 0x1.8000000000001p0, 0x1.8000000000001p0,
444c36e572eSmbuhl 	     -0x1.0000000000001p-104, 0x1.2000000000002p+1,
445c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
446c36e572eSmbuhl 
447c36e572eSmbuhl 	fesetround(FE_TONEAREST);
448c36e572eSmbuhl 	test(fmaf, 0x1.800002p+0, 0x1.800002p+0, -0x1.000002p-46, 0x1.200002p+1,
449c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
450c36e572eSmbuhl 	fesetround(FE_DOWNWARD);
451c36e572eSmbuhl 	test(fmaf, 0x1.800002p+0, 0x1.800002p+0, -0x1.000002p-46, 0x1.200002p+1,
452c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
453c36e572eSmbuhl 	fesetround(FE_UPWARD);
454c36e572eSmbuhl 	test(fmaf, 0x1.800002p+0, 0x1.800002p+0, -0x1.000002p-46, 0x1.200004p+1,
455c36e572eSmbuhl 	     ALL_STD_EXCEPT, FE_INEXACT);
456c36e572eSmbuhl 
457c36e572eSmbuhl 	fesetround(FE_TONEAREST);
458c36e572eSmbuhl #if LDBL_MANT_DIG == 64
459c36e572eSmbuhl 	test(fmal, 0x1.4p+0L, 0x1.0000000000000004p+0L, 0x1p-128L,
460c36e572eSmbuhl 	     0x1.4000000000000006p+0L, ALL_STD_EXCEPT, FE_INEXACT);
461c36e572eSmbuhl #elif LDBL_MANT_DIG == 113
462c36e572eSmbuhl 	test(fmal, 0x1.8000000000000000000000000001p+0L,
463c36e572eSmbuhl 	     0x1.8000000000000000000000000001p+0L,
464c36e572eSmbuhl 	     -0x1.0000000000000000000000000001p-224L,
465c36e572eSmbuhl 	     0x1.2000000000000000000000000001p+1L, ALL_STD_EXCEPT, FE_INEXACT);
466c36e572eSmbuhl #endif
467c36e572eSmbuhl 
468c36e572eSmbuhl }
469c36e572eSmbuhl 
470c36e572eSmbuhl static const int rmodes[] = {
471c36e572eSmbuhl 	FE_TONEAREST, FE_UPWARD, FE_DOWNWARD, FE_TOWARDZERO
472c36e572eSmbuhl };
473c36e572eSmbuhl 
474c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(zeroes);
ATF_TC_BODY(zeroes,tc)475c36e572eSmbuhl ATF_TC_BODY(zeroes, tc)
476c36e572eSmbuhl {
477c36e572eSmbuhl 	size_t i;
478c36e572eSmbuhl 	for (i = 0; i < nitems(rmodes); i++) {
479c36e572eSmbuhl 		printf("rmode = %d\n", rmodes[i]);
480c36e572eSmbuhl 		fesetround(rmodes[i]);
481c36e572eSmbuhl 		test_zeroes();
482c36e572eSmbuhl 	}
483c36e572eSmbuhl }
484c36e572eSmbuhl 
485c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(infinities);
ATF_TC_BODY(infinities,tc)486c36e572eSmbuhl ATF_TC_BODY(infinities, tc)
487c36e572eSmbuhl {
488c36e572eSmbuhl 	size_t i;
489c36e572eSmbuhl 	for (i = 0; i < nitems(rmodes); i++) {
490c36e572eSmbuhl 		printf("rmode = %d\n", rmodes[i]);
491c36e572eSmbuhl 		fesetround(rmodes[i]);
492c36e572eSmbuhl 		test_infinities();
493c36e572eSmbuhl 	}
494c36e572eSmbuhl }
495c36e572eSmbuhl 
496c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(nans);
ATF_TC_BODY(nans,tc)497c36e572eSmbuhl ATF_TC_BODY(nans, tc)
498c36e572eSmbuhl {
499c36e572eSmbuhl 	fesetround(FE_TONEAREST);
500c36e572eSmbuhl 	test_nans();
501c36e572eSmbuhl }
502c36e572eSmbuhl 
503c36e572eSmbuhl 
504c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(small_z);
ATF_TC_BODY(small_z,tc)505c36e572eSmbuhl ATF_TC_BODY(small_z, tc)
506c36e572eSmbuhl {
507c36e572eSmbuhl 	size_t i;
508c36e572eSmbuhl 	for (i = 0; i < nitems(rmodes); i++) {
509c36e572eSmbuhl 		printf("rmode = %d\n", rmodes[i]);
510c36e572eSmbuhl 		fesetround(rmodes[i]);
511c36e572eSmbuhl 		test_small_z();
512c36e572eSmbuhl 	}
513c36e572eSmbuhl }
514c36e572eSmbuhl 
515c36e572eSmbuhl 
516c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(big_z);
ATF_TC_BODY(big_z,tc)517c36e572eSmbuhl ATF_TC_BODY(big_z, tc)
518c36e572eSmbuhl {
519c36e572eSmbuhl 	size_t i;
520c36e572eSmbuhl 	for (i = 0; i < nitems(rmodes); i++) {
521c36e572eSmbuhl 		printf("rmode = %d\n", rmodes[i]);
522c36e572eSmbuhl 		fesetround(rmodes[i]);
523c36e572eSmbuhl 		test_big_z();
524c36e572eSmbuhl 	}
525c36e572eSmbuhl }
526c36e572eSmbuhl 
527c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(accuracy);
ATF_TC_BODY(accuracy,tc)528c36e572eSmbuhl ATF_TC_BODY(accuracy, tc)
529c36e572eSmbuhl {
530c36e572eSmbuhl 	fesetround(FE_TONEAREST);
531c36e572eSmbuhl 	test_accuracy();
532c36e572eSmbuhl }
533c36e572eSmbuhl 
534c36e572eSmbuhl ATF_TC_WITHOUT_HEAD(double_rounding);
ATF_TC_BODY(double_rounding,tc)535c36e572eSmbuhl ATF_TC_BODY(double_rounding, tc) {
536c36e572eSmbuhl 	test_double_rounding();
537c36e572eSmbuhl }
538c36e572eSmbuhl 
ATF_TP_ADD_TCS(tp)539c36e572eSmbuhl ATF_TP_ADD_TCS(tp)
540c36e572eSmbuhl {
541c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, zeroes);
542c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, infinities);
543c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, nans);
544c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, small_z);
545c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, big_z);
546c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, accuracy);
547c36e572eSmbuhl 	ATF_TP_ADD_TC(tp, double_rounding);
548c36e572eSmbuhl 	/*
549c36e572eSmbuhl 	 * TODO:
550c36e572eSmbuhl 	 * - Tests for subnormals
551c36e572eSmbuhl 	 * - Cancellation tests (e.g., z = (double)x*y, but x*y is inexact)
552c36e572eSmbuhl 	 */
553c36e572eSmbuhl 	return (atf_no_error());
554c36e572eSmbuhl }
555