Type of Number (C.Basic)

 Type of Number
<C.Basic>

This content is checked by fx-9860GII (OS 2.04).
This is on-going project, any changes may be made.


Model

fx-9860G Series


Description

i. An Available types of number are doulbe-precision real number (64bit) and integer (32bit) which depends on Casio SDK.
    - A range of the available double-recision real number is
        ±9.88131291682493x10-323 to ±1.7976931348623151x10
308
    - A range of the available integert is
        -2,147,483,648 to 2,147,438,647

ii. C.Basic may result in deferent calculation error.
    - Casio Basic uses BCD (Binary Coded Decimal) with internal 15 digit and 10 digit + 2 digit exponent for display. 


iii. The type of number is controlled by an executing mode, a feature of C.Basic.
      - C.Basic has two (2) deferent executing modes; a doulbe-precision real number mode and an integer mode.
      - User can select the executing mode


Syntax

1. <number> with no prefix (decimal)
2. 0x<number> or 0X<number> (hexadecimal>
3. 0b<number> or 0B<number> (binary)


Function
  1. A default <number> with no prefix is decimal number.
  2. With prefix 0x or 0X, the number is hexadecimal.
  3. With prefix 0b or 0B, the number is binary. 
  4. Initializes a matrix by filling all elements with <number>, it's same as Fill comamnd.

Note

Example 1

    0xFF→A
    Locate 1,1,A
    0b1010011→B
    Locate 1,2,B 

This code display as follows;

    255
    83

where 0xFF=255 and 0b1010011=83.


Example 2

    '#CBdbl
    1.23→N
    Locate 1,1,N
    '#CBint
    Locate 1,2,N


This code display as follows;

    0.23
    0

'#CBdbl sets Executing Mode in double-precision real (64bit) mode, then all the processes are carried out with 64bit numbers. C.Basic provides two (2) types of variable set; a double-precision real (64bit) and an integer (32bit) variable set. In the 'doulbe (64bit)' mode the variable N is 'double (64bit)' variable. That's why Locate 1,1,N dislays 0.23

'#CBint sets in integer (32bit) mode and C.Basic proceses with 32bit numbers. In the 'integer (32bit)' mode the variable N is 'integer (32bit)' variable. That's why Locate 1,2,N displays 0.

Opening Variable Review screen by key press [SHIFT][F1](Var) to press [F3](D<>I) to swap lost of 'double (64bit)' variables and 'integer (32bit)" variables. it shows 'double N' is 0.23 and 'integer N' is 0




See also: Executing Mode, Variable Review Screen

Copyright (C) 2013 - 2016 Krtyski / egadget.blog.fc2.com  All Rights Reserved.


関連記事

テーマ : プログラム関数電卓
ジャンル : コンピュータ

コメントの投稿

非公開コメント

最新記事
最新コメント
カテゴリ
C# (3)
検索フォーム
Visitors
Online Counter
現在の閲覧者数:
プロフィール

やす (Krtyski)

Author:やす (Krtyski)
since Oct 30, 2013


プログラム電卓は、プログラムを使ってナンボ!

実際に触って気づいたこと、自作プログラム、電卓プログラミングについて書いています

おもしろい・役に立つならクリックしてください。励みになります。
にほんブログ村 IT技術ブログ 開発言語へ
にほんブログ村


人気ブログランキングへ


FC2ブログランキングへ


写真: 「4駆で泥んこ遊び@オックスフォード郊外」

リンク
月別アーカイブ
Sitemap

全ての記事を表示する

RSSリンクの表示
最新トラックバック
ブロとも申請フォーム

この人とブロともになる

QRコード
QR