VFP 愛用者社區 首頁 VFP 愛用者社區
本討論區為 Visual Foxpro 愛用者經驗交流的地方, 請多多利用"搜尋"的功能, 先查看看有無前例可循, 如果還有不懂的再發問. 部份主題有附加檔案, 須先註冊成為社區居民才可以下載.
 
 常見問題常見問題   搜尋搜尋   會員列表會員列表   會員群組會員群組   會員註冊會員註冊 
 個人資料個人資料   登入檢查您的私人訊息登入檢查您的私人訊息   登入登入 

MSSQL小數點怪事?

 
發表新主題   回覆主題    VFP 愛用者社區 首頁 -> SQL 討論區
上一篇主題 :: 下一篇主題  
發表人 內容
green



註冊時間: 2003-09-19
文章: 125


第 1 樓

發表發表於: 星期一 六月 21, 2010 1:48 pm    文章主題: MSSQL小數點怪事? 引言回覆

Declare @RateToNT NUMERIC(12,5)

Select @RateToNT=CAST(RateToNT as NUMERIC(12,5)) From SpInvcBas Where SpInvcNum=@SpInvcNum

print @RateToNT (結果:32.24500)
--
SELECT @RateToNT as QQ2 ,0 as snnum, InvoiceNum = @InvoiceNum,t1.SpInvcNum, t1.PkgTitle, t1.OutStkDate,t1.OutStkTime, t1.OutAddr, t1.NonStock,t2.CustPONum, t2.PartNum, t2.Revision,t2.OutDateCode, t4.CustomerPartNum, t2.IsLLPiece, @RateToNT as QQ , t2.Quantity, t2.Cost,TaxRate = convert(real, t6.ParamsOne) * 100,Tax = t2.UnitPrice * @RateToNT * t2.Quantity * convert(real, t6.ParamsOne),t3.ShortName,@RateToNT as RateToNT,
t1.Taxed,t2.ponum,t2.notes, t7.MoneyName
...................................

結果QQ2 與 QQ的結果竟然不同(紅字部分)
QQ2 = 32.24500
QQ = 32.244999

怎麼會這樣...

補充一下:
它後面有UNION另外一個Select ,看來是受了它的影響

補充一下:
確定是union的關係
union的相對欄位型態不一致所以導致同一計算式,結果不同
但還沒測試其型態不同時,是以何者為準?
回頂端
檢視會員個人資料 發送私人訊息
從之前的文章開始顯示:   
發表新主題   回覆主題    VFP 愛用者社區 首頁 -> SQL 討論區 所有的時間均為 台北時間 (GMT + 8 小時)
1頁(共1頁)

 
前往:  
無法 在這個版面發表文章
無法 在這個版面回覆文章
無法 在這個版面編輯文章
無法 在這個版面刪除文章
無法 在這個版面進行投票
無法 在這個版面附加檔案
無法 在這個版面下載檔案


Powered by phpBB © 2001, 2005 phpBB Group
正體中文語系由 phpbb-tw 維護製作