기술 성공, 실패 기록소

underflow, overflow 본문

machine learning

underflow, overflow

sunlab 2020. 4. 7. 01:45
728x90

https://m.blog.naver.com/PostView.nhn?blogId=dae0park&logNo=140199615748&proxyReferer=https%3A%2F%2Fwww.google.com%2F

 

언더플로우(Underflow)와 오버플로우(Overflow)

1byte에서 표현 가능한 정수의 범위는 -128~127까지입니다. 만약, -128 + (-1) 이라는 연산이 이뤄진다면, ...

blog.naver.com

 

'machine learning' 카테고리의 다른 글

방향도함수  (0) 2020.04.28
테일러 급수  (0) 2020.04.11
벡터곱  (0) 2020.03.29
여인수와 역행렬  (0) 2020.03.11
Singular Value Decompostion  (0) 2020.03.03