Floorの謎 - DOBON.NETお気楽掲示板

DOBON.NETお気楽掲示板

HOME HELP 新規作成新着記事ツリー表示スレッド表示トピック表示検索

[ スレッド内全2レス(親記事-2 表示) ]　 << 0 >>

■1527 / 親記事)

　Floorの謎

▼■

□投稿者/ ぴち -(2013/08/21(Wed) 14:42:32)

環境/言語:[Windows7, VB.NET（2010 Express）]　
分類:[.NET]

つまらない疑問でごめんなさい。

以下の様なコードを記述した場合

Dim w_int As Integer
w_int = Math.Floor(10 / 3)

Debug.Print(w_int.ToString)

w_int = Math.Floor(10 / 3)の部分で
以下の警告が表示されます。

'Double' から 'Integer' への暗黙の型変換です。

Floorの説明を見ると

指定した10進数以下の数のうち、最大の整数を返します。

とあります。整数を返すのに何故戻り値がDoubleなんでしょう？

■1529 / ResNo.1)

　Re[1]: Floorの謎

▲▼■

□投稿者/ もりお -(2013/09/04(Wed) 20:41:00)

■No1527に返信(ぴちさんの記事)

Double型で扱える範囲はIntegerで扱える範囲やLongで扱える範囲よりも大きいものです。
Floor関数はDouble型の値の整数部を返すものなので、その戻り値はIntegerやLongでは収まりきらないことがあります。
なのでFloor関数の戻り値はDouble型なのだと思います。はい。

■1530 / ResNo.2)

　Re[2]: Floorの謎

▲▼■

□投稿者/ ぴち -(2013/09/18(Wed) 13:17:20)

■No1529に返信(もりおさんの記事)
> ■No1527に返信(ぴちさんの記事)

ふおぉぉぉぉぉ！そりゃそうですよね。

2147483648.1を切り捨ててInteger型に代入しようとすると
2147483647を超えちゃいますもんね。

ちょっと考えりゃ判ることなのに、全然気づきませんでした。
目から鱗が落ちました。ありがとうございます。

解決済み!

このスレッドをツリーで一括表示

スレッド内ページ移動 / << 0 >>

このスレッドに書きこむ

入力内容にタグは利用できません。
引用部分（行頭に「>」や「■」が付いている部分）が全体の 80% 以上のコメントは投稿できません。

管理人はこの掲示板をまともにチェックしていないかもしれませんし、返事も出さないかもしれません。
ちゃんとした(?)投稿はマナーを守って別の掲示板へ。
管理人の独断で不適切と判断した投稿は予告なく削除されます。
投稿は、明記のない限り、パブリックドメインになります。
本文と題名には必ずひらがなを入れてください。
半角カナは使用しないでください。文字化けの原因になります。
名前、コメントは必須記入項目です。記入漏れはエラーになります。
入力内容の一部は、次回投稿時の手間を省くためブラウザに記録されます。
削除キーを覚えておくと、自分の記事の編集・削除ができます。
URLは自動的にリンクされます。
記事中に No*** のように書くとその記事にリンクされます(No は半角英字/*** は半角数字)。
- 使用例)
- No123 → 記事No123の記事リンクになります(指定表示)。
- No123,130,134 → 記事No123/130/134 の記事リンクになります(複数表示)。
- No123-130 → 記事No123～130 の記事リンクになります(連続表示)。

Name	/
E-Mail	/
Title	/
URL	/
Comment/ 通常モード->　図表モード-> (適当に改行して下さい/半角10000文字以内)
Icon	/ (画像を選択/サンプル一覧)
削除キー	/ (半角8文字以内)
解決済み! BOX/ 解決したらチェックしてください!（スレッドを閉じる目的ではチェックしないでください!）
プレビュー/　クッキーに保存しない/