xref: /openbsd-src/regress/lib/libc/printf/fp.c (revision 5fa1580916d2d3b9f48baf23f279d01ab6b56631)
1*5fa15809Smortimer /*	$OpenBSD: fp.c,v 1.2 2020/05/31 12:27:19 mortimer Exp $	*/
27b36286aSmartynas /*-
37b36286aSmartynas  * Copyright (c) 2002, 2005 David Schultz <das@FreeBSD.org>
47b36286aSmartynas  * All rights reserved.
57b36286aSmartynas  *
67b36286aSmartynas  * Redistribution and use in source and binary forms, with or without
77b36286aSmartynas  * modification, are permitted provided that the following conditions
87b36286aSmartynas  * are met:
97b36286aSmartynas  * 1. Redistributions of source code must retain the above copyright
107b36286aSmartynas  *    notice, this list of conditions and the following disclaimer.
117b36286aSmartynas  * 2. Redistributions in binary form must reproduce the above copyright
127b36286aSmartynas  *    notice, this list of conditions and the following disclaimer in the
137b36286aSmartynas  *    documentation and/or other materials provided with the distribution.
147b36286aSmartynas  *
157b36286aSmartynas  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
167b36286aSmartynas  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
177b36286aSmartynas  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
187b36286aSmartynas  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
197b36286aSmartynas  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
207b36286aSmartynas  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
217b36286aSmartynas  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
227b36286aSmartynas  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
237b36286aSmartynas  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
247b36286aSmartynas  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
257b36286aSmartynas  * SUCH DAMAGE.
267b36286aSmartynas  */
277b36286aSmartynas 
287b36286aSmartynas /*
297b36286aSmartynas  * Test for printf() floating point formats.
307b36286aSmartynas  */
317b36286aSmartynas 
327b36286aSmartynas #include <assert.h>
337b36286aSmartynas #include <err.h>
347b36286aSmartynas #include <float.h>
357b36286aSmartynas #include <math.h>
367b36286aSmartynas #include <stdio.h>
377b36286aSmartynas #include <stdarg.h>
387b36286aSmartynas #include <stdint.h>
397b36286aSmartynas #include <stdlib.h>
407b36286aSmartynas #include <string.h>
417b36286aSmartynas 
427b36286aSmartynas #define	testfmt(result, fmt, ...)	\
437b36286aSmartynas 	_testfmt((result), __LINE__, #__VA_ARGS__, fmt, __VA_ARGS__)
447b36286aSmartynas void _testfmt(const char *, int, const char *, const char *, ...);
457b36286aSmartynas void smash_stack(void);
467b36286aSmartynas 
477b36286aSmartynas int
main(int argc,char * argv[])487b36286aSmartynas main(int argc, char *argv[])
497b36286aSmartynas {
507b36286aSmartynas 	/*
517b36286aSmartynas 	 * Basic tests of decimal output functionality.
527b36286aSmartynas 	 */
537b36286aSmartynas 	testfmt(" 1.000000E+00", "%13E", 1.0);
547b36286aSmartynas 	testfmt("     1.000000", "%13f", 1.0);
557b36286aSmartynas 	testfmt("            1", "%13G", 1.0);
567b36286aSmartynas 	testfmt(" 1.000000E+00", "%13LE", 1.0L);
577b36286aSmartynas 	testfmt("     1.000000", "%13Lf", 1.0L);
587b36286aSmartynas 	testfmt("            1", "%13LG", 1.0L);
597b36286aSmartynas 
607b36286aSmartynas 	testfmt("2.718282", "%.*f", -2, 2.7182818);
617b36286aSmartynas 
627b36286aSmartynas 	testfmt("1.234568e+06", "%e", 1234567.8);
637b36286aSmartynas 	testfmt("1234567.800000", "%f", 1234567.8);
647b36286aSmartynas 	testfmt("1.23457E+06", "%G", 1234567.8);
657b36286aSmartynas 	testfmt("1.234568e+06", "%Le", 1234567.8L);
667b36286aSmartynas 	testfmt("1234567.800000", "%Lf", 1234567.8L);
677b36286aSmartynas 	testfmt("1.23457E+06", "%LG", 1234567.8L);
687b36286aSmartynas 
697b36286aSmartynas #if (LDBL_MANT_DIG > DBL_MANT_DIG) && !defined(__i386__)
707b36286aSmartynas 	testfmt("123456789.864210", "%Lf", 123456789.8642097531L);
717b36286aSmartynas 	testfmt("-1.23457E+08", "%LG", -123456789.8642097531L);
727b36286aSmartynas 	testfmt("123456789.8642097531", "%.10Lf", 123456789.8642097531L);
737b36286aSmartynas 	testfmt(" 3.141592653589793238e-4000", "%L27.18Le",
747b36286aSmartynas 	    3.14159265358979323846e-4000L);
757b36286aSmartynas #endif /* (LDBL_MANT_DIG > DBL_MANT_DIG) && !defined(__i386__) */
767b36286aSmartynas 
777b36286aSmartynas 	/*
787b36286aSmartynas 	 * Infinities and NaNs
797b36286aSmartynas 	 */
807b36286aSmartynas #ifdef NAN
817b36286aSmartynas 	testfmt("nan", "%e", NAN);
827b36286aSmartynas 	testfmt("NAN", "%F", NAN);
837b36286aSmartynas 	testfmt("nan", "%g", NAN);
847b36286aSmartynas 	testfmt("NAN", "%LE", (long double)NAN);
857b36286aSmartynas 	testfmt("  nan", "%05e", NAN);
867b36286aSmartynas #endif /* NAN */
877b36286aSmartynas 
887b36286aSmartynas 	testfmt("INF", "%E", HUGE_VAL);
897b36286aSmartynas 	testfmt("-inf", "%f", -HUGE_VAL);
907b36286aSmartynas 	testfmt("+inf", "%+g", HUGE_VAL);
917b36286aSmartynas 	testfmt(" inf", "%4.2Le", HUGE_VALL);
927b36286aSmartynas 	testfmt("-inf", "%Lf", -HUGE_VALL);
937b36286aSmartynas 	testfmt("  inf", "%05e", HUGE_VAL);
947b36286aSmartynas 	testfmt(" -inf", "%05e", -HUGE_VAL);
957b36286aSmartynas 
967b36286aSmartynas 	/*
977b36286aSmartynas 	 * Padding
987b36286aSmartynas 	 */
997b36286aSmartynas 	testfmt("0.000000e+00", "%e", 0.0);
1007b36286aSmartynas 	testfmt("0.000000", "%F", (double)0.0);
1017b36286aSmartynas 	testfmt("0", "%G", 0.0);
1027b36286aSmartynas 	testfmt("  0", "%3.0Lg", 0.0L);
1037b36286aSmartynas 	testfmt("    0", "%5.0f", 0.001);
1047b36286aSmartynas 
1057b36286aSmartynas 	/*
1067b36286aSmartynas 	 * Precision specifiers
1077b36286aSmartynas 	 */
1087b36286aSmartynas 	testfmt("1.0123e+00", "%.4e", 1.0123456789);
1097b36286aSmartynas 	testfmt("1.0123", "%.4f", 1.0123456789);
1107b36286aSmartynas 	testfmt("1.012", "%.4g", 1.0123456789);
1117b36286aSmartynas 	testfmt("1.2346e-02", "%.4e", 0.0123456789);
1127b36286aSmartynas 	testfmt("0.0123", "%.4f", 0.0123456789);
1137b36286aSmartynas 	testfmt("0.01235", "%.4g", 0.0123456789);
1147b36286aSmartynas 
1157b36286aSmartynas 	/*
1167b36286aSmartynas 	 * Signed conversions
1177b36286aSmartynas 	 */
1187b36286aSmartynas 	testfmt("+2.500000e-01", "%+e", 0.25);
1197b36286aSmartynas 	testfmt("+0.000000", "%+F", 0.0);
1207b36286aSmartynas 	testfmt("-1", "%+g", -1.0);
1217b36286aSmartynas 
1227b36286aSmartynas 	testfmt("-1.000000e+00", "% e", -1.0);
1237b36286aSmartynas 	testfmt("+1.000000", "% +f", 1.0);
1247b36286aSmartynas 	testfmt(" 1", "% g", 1.0);
1257b36286aSmartynas 	testfmt(" 0", "% g", 0.0);
1267b36286aSmartynas 
1277b36286aSmartynas 	/*
1287b36286aSmartynas 	 * ``Alternate form''
1297b36286aSmartynas 	 */
1307b36286aSmartynas 	testfmt("1.250e+00", "%#.3e", 1.25);
1317b36286aSmartynas 	testfmt("123.000000", "%#f", 123.0);
1327b36286aSmartynas 	testfmt(" 12345.", "%#7.5g", 12345.0);
1337b36286aSmartynas 	testfmt(" 1.00000", "%#8g", 1.0);
1347b36286aSmartynas 	testfmt("0.0", "%#.2g", 0.0);
1357b36286aSmartynas 
1367b36286aSmartynas 	/*
1377b36286aSmartynas 	 * Padding and decimal point placement
1387b36286aSmartynas 	 */
1397b36286aSmartynas 	testfmt("03.2E+00", "%08.1E", 3.25);
1407b36286aSmartynas 	testfmt("003.25", "%06.2F", 3.25);
1417b36286aSmartynas 	testfmt("0003.25", "%07.4G", 3.25);
1427b36286aSmartynas 
1437b36286aSmartynas 	testfmt("3.14159e-05", "%g", 3.14159e-5);
1447b36286aSmartynas 	testfmt("0.000314159", "%g", 3.14159e-4);
1457b36286aSmartynas 	testfmt("3.14159e+06", "%g", 3.14159e6);
1467b36286aSmartynas 	testfmt("314159", "%g", 3.14159e5);
1477b36286aSmartynas 	testfmt("314159.", "%#g", 3.14159e5);
1487b36286aSmartynas 
1497b36286aSmartynas 	testfmt(" 9.000000e+03", "%13e", 9000.0);
1507b36286aSmartynas 	testfmt(" 9000.000000", "%12f", 9000.0);
1517b36286aSmartynas 	testfmt(" 9000", "%5g", 9000.0);
1527b36286aSmartynas 	testfmt(" 900000.", "%#8g", 900000.0);
1537b36286aSmartynas 	testfmt(" 9e+06", "%6g", 9000000.0);
1547b36286aSmartynas 	testfmt(" 9.000000e-04", "%13e", 0.0009);
1557b36286aSmartynas 	testfmt(" 0.000900", "%9f", 0.0009);
1567b36286aSmartynas 	testfmt(" 0.0009", "%7g", 0.0009);
1577b36286aSmartynas 	testfmt(" 9e-05", "%6g", 0.00009);
1587b36286aSmartynas 	testfmt(" 9.00000e-05", "%#12g", 0.00009);
1597b36286aSmartynas 	testfmt(" 9.e-05", "%#7.1g", 0.00009);
1607b36286aSmartynas 
1617b36286aSmartynas 	testfmt(" 0.0", "%4.1f", 0.0);
1627b36286aSmartynas 	testfmt("90.0", "%4.1f", 90.0);
1637b36286aSmartynas 	testfmt(" 100", "%4.0f", 100.0);
1647b36286aSmartynas 	testfmt("9.0e+01", "%4.1e", 90.0);
1657b36286aSmartynas 	testfmt("1e+02", "%4.0e", 100.0);
1667b36286aSmartynas 
1677b36286aSmartynas 	/*
1687b36286aSmartynas 	 * Hexadecimal floating point (%a, %A) tests.  Some of these
1697b36286aSmartynas 	 * are only valid if the implementation converts to hex digits
1707b36286aSmartynas 	 * on nibble boundaries.
1717b36286aSmartynas 	 */
1727b36286aSmartynas 	testfmt("0x0p+0", "%a", 0x0.0p0);
1737b36286aSmartynas 	testfmt("0X0.P+0", "%#LA", 0x0.0p0L);
1747b36286aSmartynas #ifdef NAN
1757b36286aSmartynas 	testfmt("inf", "%La", (long double)INFINITY);
1767b36286aSmartynas 	testfmt("+INF", "%+A", INFINITY);
1777b36286aSmartynas 	testfmt("nan", "%La", (long double)NAN);
1787b36286aSmartynas 	testfmt("NAN", "%A", NAN);
1797b36286aSmartynas #endif /* NAN */
1807b36286aSmartynas 
1817b36286aSmartynas 	testfmt(" 0x1.23p+0", "%10a", 0x1.23p0);
1827b36286aSmartynas 	testfmt(" 0x1.23p-500", "%12a", 0x1.23p-500);
1837b36286aSmartynas 	testfmt(" 0x1.2p+40", "%10.1a", 0x1.23p40);
1847b36286aSmartynas 	testfmt(" 0X1.230000000000000000000000P-4", "%32.24A", 0x1.23p-4);
1857b36286aSmartynas 	testfmt("0x1p-1074", "%a", 0x1p-1074);
1867b36286aSmartynas 	testfmt("0x1.2345p-1024", "%a", 0x1.2345p-1024);
1877b36286aSmartynas 
188*5fa15809Smortimer #if LDBL_MANT_DIG == 113
189*5fa15809Smortimer 	testfmt("-0x1.e7d7c7b7a7978777675747372717p-14344", "%La",
190*5fa15809Smortimer 			-0x1.e7d7c7b7a7978777675747372717p-14344L);
191*5fa15809Smortimer #elif LDBL_MANT_DIG == 64
192*5fa15809Smortimer 	testfmt("-0x8.777675747372717p-16248", "%La",
193*5fa15809Smortimer 			-0x8.777675747372717p-16248L);
194*5fa15809Smortimer #endif
195*5fa15809Smortimer 
1967b36286aSmartynas 	return (0);
1977b36286aSmartynas }
1987b36286aSmartynas 
1997b36286aSmartynas void
smash_stack(void)2007b36286aSmartynas smash_stack(void)
2017b36286aSmartynas {
2027b36286aSmartynas 	static uint32_t junk = 0xdeadbeef;
2037b36286aSmartynas 	uint32_t buf[512];
2047b36286aSmartynas 	int i;
2057b36286aSmartynas 
2067b36286aSmartynas 	for (i = 0; i < sizeof(buf) / sizeof(buf[0]); i++)
2077b36286aSmartynas 		buf[i] = junk;
2087b36286aSmartynas }
2097b36286aSmartynas 
2107b36286aSmartynas void
_testfmt(const char * result,int line,const char * argstr,const char * fmt,...)2117b36286aSmartynas _testfmt(const char *result, int line, const char *argstr, const char *fmt,...)
2127b36286aSmartynas {
2137b36286aSmartynas 	char s[100];
2147b36286aSmartynas 	va_list ap;
2157b36286aSmartynas 
2167b36286aSmartynas 	va_start(ap, fmt);
2177b36286aSmartynas 	smash_stack();
2187b36286aSmartynas 	vsnprintf(s, sizeof(s), fmt, ap);
2197b36286aSmartynas 	if (strcmp(result, s) != 0) {
2207b36286aSmartynas 		fprintf(stderr,
2217b36286aSmartynas 		    "%d: printf(\"%s\", %s) ==> [%s], expected [%s]\n",
2227b36286aSmartynas 		    line, fmt, argstr, s, result);
2237b36286aSmartynas 		abort();
2247b36286aSmartynas 	}
2257b36286aSmartynas }
226