Searched refs:estimate_decimal_digits (Results 1 – 25 of 42) sorted by relevance
12
122 scale_ca = estimate_decimal_digits[bin_expon_ca]; in get_add64()284 scale_ca = estimate_decimal_digits[bin_expon_ca]; in get_add64()783 digits_x = estimate_decimal_digits[bin_expon_cx]; in __get_dec_digits64()791 digits_x = estimate_decimal_digits[bin_expon_cx + 64]; in __get_dec_digits64()832 digits_x = estimate_decimal_digits[bin_expon_cx]; in get_add128()1174 digits_z = estimate_decimal_digits[bin_expon]; in BID_normalize()1241 scale_cz = estimate_decimal_digits[bin_expon]; in add_zero64()
61 digits = estimate_decimal_digits[bin_expon_cx];
47 digits = estimate_decimal_digits[bin_expon_cx];
103 digits_x = estimate_decimal_digits[bin_expon_cx];211 digits_x = estimate_decimal_digits[bin_expon_cx];
213 ed2 = estimate_decimal_digits[bin_index] + ed1; in bid64_div()264 ed2 = 16 - estimate_decimal_digits[bin_expon_cx] - (int) DU; in bid64_div()655 ed2 += estimate_decimal_digits[bin_index]; in bid64_div()670 digits_q = estimate_decimal_digits[bin_expon]; in bid64_div()1078 ed2 += estimate_decimal_digits[bin_index];1093 digits_q = estimate_decimal_digits[bin_expon];1511 ed2 += estimate_decimal_digits[bin_index];1526 digits_q = estimate_decimal_digits[bin_expon];
175 ed2 += estimate_decimal_digits[bin_index];198 digits_q = estimate_decimal_digits[bin_expon];636 ed2 += estimate_decimal_digits[bin_index];659 digits_q = estimate_decimal_digits[bin_expon];1090 ed2 += estimate_decimal_digits[bin_index];1113 digits_q = estimate_decimal_digits[bin_expon];1542 ed2 += estimate_decimal_digits[bin_index];1565 digits_q = estimate_decimal_digits[bin_expon];
334 digits_p = estimate_decimal_digits[bp];350 digits_z = estimate_decimal_digits[bin_expon_cx];
263 scale_ca = estimate_decimal_digits[bin_expon_ca];427 scale_ca = estimate_decimal_digits[bin_expon_ca];
851 int estimate_decimal_digits[129] = { variable
122 extra_digits = estimate_decimal_digits[bin_expon_cx] - 7;
191 digits_x = estimate_decimal_digits[bin_expon];
124 digits_x = estimate_decimal_digits[bin_expon_cx]; in bid64_sqrt()286 digits = estimate_decimal_digits[bin_expon_cx]; in bid64_sqrt()
118 digits_x = estimate_decimal_digits[bin_expon_cx];