numeric 계산 질문입니다.

수봉 2013.08.14 18:52 Views : 7931

Declare @a numeric(25, 10)
Declare @b numeric(25, 10)
Declare @c numeric(25, 10)

Declare @Result numeric(25, 10)

Set @a = 12.34
Set @b = 5.0
Set @c = 0.0000124

Set @Result = @a * @b * @c
Select @Result as Result

 

위의 쿼리를 돌렸을때 값은 0.0007650000 이렇게 나옵니다

 

근데 실제로 윈도우 계산기로 계산을 해보면 0.00076508 나옵니다.

 

이게 왜 틀린지 잘 모르겠네요 분명 소수점 10자리 까지 라고 선언을 했는데 말이지요

 

도움 부탁 드리겠습니다. ㅜㅡ

No. Subject Author Date Views
Notice SQL강좌: 챗GPT와 함께 배우는 SQL Server 무료 강좌 목차와 소개 (2023년 9월 업데이트) 코난(김대우) 2023.08.18 36189
Notice Python 무료 강좌 - 기초, 중급, 머신러닝(2023년 6월 업데이트) 코난(김대우) 2021.01.01 18743
7083 SQL server 2008 R2 Character Set 변환 질문드립니다^^ [2] 내인생에GG란없다 2013.08.16 21861
7082 sql 쿼리 문의 드립니다. [1] seyo 2013.08.16 4012
7081 페이징 처리를 할수있게 sql에서 데이터를 뽑을려고하는데요.. [8] 뽀구 2013.08.16 5788
7080 클러스터 인덱스 질문입니다. [1] 깽즈야 2013.08.16 4189
» numeric 계산 질문입니다. [8] 수봉 2013.08.14 7931
7078 insert문 질문있습니다. [1] 뽀챙 2013.08.13 4370
7077 쿼리문 질문요. [2] 김근웅 2013.08.12 4609
7076 asp 파일에서 연동해서 쓰는데 [3] aodwlsghd 2013.08.12 4666
7075 생성된 스케줄러를 백업할수 있나요? [2] 냠냠10 2013.08.09 4709
7074 프로시져내에서 파일로 떨굴려면? [3] 후룩후룩 2013.08.07 4611
7073 바이너리 타입에 대한 기초 질문드립니다. [3] 이진성이 2013.08.07 6694
7072 mysql 사용자계정 lock 거는 방법 질문입니다. memento 2013.08.07 5356
7071 테이블에서 테이블로 데이터를 옮길때 문의좀 드릴께요 [2] alima 2013.08.07 20696
7070 LIKE문 관련 질문입니다. [7] 치맥 2013.08.07 41838
7069 셀렉트한 A와 셀렉트한 B 가 서로 다른 값을 가지고 있는 지 확인할려고하는데 시간이 너무 걸리네요... [10] 뽀구 2013.08.07 4894
7068 같이 산 제품 통계 [1] 냥냥 2013.08.06 5062
7067 insert ~ select 구문 성능 관련 [5] 냥냥 2013.08.06 24524
7066 트리거 질문입니다. [3] memento 2013.08.06 36461
7065 서버 부하체크할수 있는 방법을 알고 싶어요 [4] 비홍 2013.08.06 28922
7064 다른 세션에서 트랜잭션 컨텍스트를 사용 중입니다. [2] 박찬용_290198 2013.08.06 28923





XE Login