반응형
16bit를 실수값으로 표현할 때 값의 표현 범위에 대해 작성한 자료입니다. 참고자료는 다음과 같습니다.
https://en.wikipedia.org/wiki/Half-precision_floating-point_format
Half-precision floating-point format - Wikipedia
From Wikipedia, the free encyclopedia 16-bit computer number format Not to be confused with bfloat16, a different 16-bit floating-point format. In computing, half precision (sometimes called FP16 or float16) is a binary floating-point computer number forma
en.wikipedia.org
'Gnuradio' 카테고리의 다른 글
DLL에 구현된 함수를 프로젝트에 import하는 방법과 구조 (0) | 2024.10.09 |
---|---|
DDS, NCO의 phase increment 개념 (0) | 2023.04.21 |
필터와 관련 된 용어의 이해 - window함수, pulse shaping filter, square root raised cosine (1) | 2023.04.16 |
FIR filter - Moving average filter (0) | 2023.04.09 |
FIR filter - window 함수 그리고 실제로 구현가능한 Low pass filter (0) | 2023.04.09 |