부동소수점 오류와 돈: 컴퓨터가 0.1+0.2를 0.3으로 못 만드는 이유
2000년대 초 금융 시스템을 흔든 미세한 반올림 오차의 정체를 짚고, 컴퓨터가 이진법으로 수를 저장하기 때문에 0.1+0.2가 0.3이 되지 않는 원리와 화폐를 정수(센트)로 다루는 해법을 설명한다.
핵심 내용 읽기 →
AI TOPIC
부동소수점 최신 뉴스와 핵심 해설
부동소수점 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
Float32 Float16 BFloat16 차이: 딥러닝 부동소수점 정밀도 쉽게 이해하기
딥러닝에서 쓰이는 부동소수점 데이터 타입 Float32, Float16, BFloat16의 비트 구조와 범위·정밀도 차이, 그리고 역전파에서 변환이 왜 중요한지를 자막 내용을 바탕으로 정리했다.
핵심 내용 읽기 →