Gnuradio
16 bit floating point의 표현 범위는 어떻게 되는것인가?
망고토마토
2024. 10. 15. 13:36
반응형
16bit를 실수값으로 표현할 때 값의 표현 범위에 대해 작성한 자료입니다. 참고자료는 다음과 같습니다.
https://en.wikipedia.org/wiki/Half-precision_floating-point_format
Half-precision floating-point format - Wikipedia
From Wikipedia, the free encyclopedia 16-bit computer number format Not to be confused with bfloat16, a different 16-bit floating-point format. In computing, half precision (sometimes called FP16 or float16) is a binary floating-point computer number forma
en.wikipedia.org
