Gnuradio

16 bit floating point의 표현 범위는 어떻게 되는것인가?

망고토마토 2024. 10. 15. 13:36
반응형

16bit를 실수값으로 표현할 때 값의 표현 범위에 대해 작성한 자료입니다. 참고자료는 다음과 같습니다.

https://en.wikipedia.org/wiki/Half-precision_floating-point_format

 

Half-precision floating-point format - Wikipedia

From Wikipedia, the free encyclopedia 16-bit computer number format Not to be confused with bfloat16, a different 16-bit floating-point format. In computing, half precision (sometimes called FP16 or float16) is a binary floating-point computer number forma

en.wikipedia.org

 

 

 

 

 

반응형