【独習】情報理論の概念【コンピュータ基礎】

情報理論の概念

今回は、情報理論の概念を書き溜め、
新しく計算機科学を学ぶ人のためのマイルストーンを残していく。

情報理論は、とても面白い。
興味をもった人は是非書籍などからより深い知識をつけてほしい。

広告

情報理論とは?

物理学を超えた「情報」

情報理論とは、世界に存在する様々な情報を
数学的にあつかう学問である。
情報理論の登場と発展により、
コンピューター(電子計算機)が単なる数値計算だけでなく
様々な用途に利用できるようになった。

Wikipediaを参照すると下記のように記述されている。

情報理論は、情報・通信を数学的に論じる学問である。
応用数学の中でもデータの定量化に関する分野であり、可能な限り多くのデータを媒体に格納したり通信路で送ったりすることを目的としている。
(Wikipediaより)

高速電子ソロバンをコンピューターに変えた男

クロード・シャノンと、Mathematical Theory of Communication

情報理論が、コンピュータを汎用的で世界的な機械にしたことはわかったと思う。
この情報理論を学問として確立した人物を、クロード・シャノンという。

彼は、1948年6月と10月に”A Mathematical Theory of Communication”
という論文を発表し情報理論を学問分野として確立した。

Bit ビット

全ての情報はビットに置き換えられる 〜情報の原子 ビット〜

クロード・シャノンは、物理学における原子のように、
情報の基本単位を、「ビット」と定義した。

ビットは、「0」と「1」から成る情報における最小単位である。

クロード・シャノンは数字をビットに置き換えるだけでなく、
文字、音、画像、映像といった情報までもビット化できることを明らかにした。

情報のデジタル化

情報を「コード化」することで、効率的に短縮できる

デジタル化とは、現実世界の情報をビット化することである。
デジタル化にあたっては、大きく2つのステップを踏む

  • 標本化
  • 量子化
  • 符号化

標本化

標本化とは、現実世界の連続した空間を、特定の間隔で細切れにすることである。
つまり、デジタルには連続性はなく、ぶつ切りで不連続な状態であるのだ。
人間が気づかないレベルまで間隔を短くすることで、連続した情報に感じるだけなのである。

量子化

量子化とは、標本化された情報の各区切りを整数に変換することである。
量子子化は標本化したデータによって様々な手法がある。

符号化

符号化とは、量子化された数値情報を2進数データに変換することである。
例えば音源の場合、PCMやADPCMなどといったコード化手法がある。我々が普段使っている10進数の数字を、「0」「1」の2進数に変換することもコード化の一種である。

今、あなたが見ているこの記事も、標本化+量子化+符号化された情報なのである。
人間がコンピューター通して見聞きする情報は全て、このステップ(コード化)を踏んだ情報なのである。

情報理論の概念を説明してください。

さて、先程の説明を読んだ人は、情報理論の概念を説明できますね。

ノートやメモに書くでも、Twitterに呟くでもYoutubeにアップロードするでも構いません。
今日知った情報をアウトプットしてみましょう。


じゃあね〜〜〜。