728x90
반응형
1. float 값 비교 시 오차 없애는 법
package math
func Nextafter(x, y float64) (r float64)
Nextafter()함수는 x에서 y를 향하여 1비트만 조정한 값을 반환
2. 더 정확한 float 비교 - math/big 패키지 이용
import "math/big"
a, _ := new(big.Float).SetString("0.3")
b, _ := new(big.Float).SetString("0.1")
c, _ := new(big.Float).SetString("0.2")
d, _ := new(big.Float).Add(b, c)
fmt.Println(c.Cmp(d))//c == d일 시 0리턴, c > d일 시 1리턴, c < d일 시 -1리턴
728x90
반응형
'Golang' 카테고리의 다른 글
[Golang] 상수 (0) | 2022.02.10 |
---|---|
[Golang] 함수 (0) | 2022.02.09 |
[Golang] fmt 패키지 (0) | 2022.02.04 |
[Golang] 변수 (0) | 2022.02.03 |
[Golang] VSCode에서 github import Error (0) | 2022.01.30 |