ITの基礎知識|ITパスポート・基本情報

【基礎理論】の記事一覧

符号理論

2017.09.14

この記事での学習内容 ITパスポート 基本情報 応用情報

アナログとデジタルの特徴、量子化、標本化、A/D変換などの符号化、符号化の目的、情報伝送における信頼性、効率性、安全性の向上などの効果を理解する。

用語例:通信路符号化、ハフマン符号、データ圧縮

符号化理論

符号化とは、データを数値に変換し、情報量として表現することで、コード化ともいいます。

符号化理論とは、情報を符号化し、伝送を行う場合の正確性や高速性に関する理論です。

符号化理論には大きく分けて下記の2つがあります。

  • 情報源符号化
  • 通信路符号化

情報源符号化

元のデータに適した形で符号化を行う方法です。

特性として、圧縮率を高めるほど、データサイズは小さくなりますが、負荷が大きくなります。逆に、圧縮率を低くすれば、データサイズは大きくなりますが、負荷は小さくなります。

通信路符号化

符号化されたデータを伝送する際に、伝送路の帯域や雑音、妨害などによって、正しく届かない可能性もあります。
そこで、既に符号化されたデータに冗長なデータを付け加えて再度符号化します。これを通信路符号化と言います。

例えば、データの信頼性を高めるための誤り検出や誤り訂正機能を付け加えます。

ハフマン符号化

データを圧縮する方法の1つで、出現頻度の高いデータには短いビット列を、頻度の低いデータには長いビット列を割り当てて、全体としてデータの圧縮を行う方法です。

例えば、元データが以下の34バイト(1文字1バイト)からなる文字列だったとします。これをハフマン符号化を用いて圧縮してみます。

元データ:AAJABBDBDBFAAAABAABABAFADAAJLAFBAD

・出現する文字は、A, B, D, F, J, L の6文字なので、この6文字に出現頻度に合わせて各文字にハフマン符号を割り当てます。

各文字の登場頻度ハフマン符号データ長
A:16回01ビット
B:8回102ビット
D:4回1103ビット
F:3回11104ビット
J:2回111105ビット
L:1回1111106ビット

表のように出現頻度の高い文字に少ないビットを割り当てるため、ビット列の容量を減らすことが出来ます。
表のハフマン記号に基づいて元データを変換すると、以下のようなビットの並びになります。(便宜上、元の文字の区切りにスペースを入れていますが、実際には空白はありません)

0 0 11110 0 10 10 110 10 110 10 1110 0 0 0 0 10 0 0 10 0 10 0 1110 0 110 0 0 11110 111110 0 1110 10 0 110 

上記のビットの並びで、72ビットになります。元データの34バイトは272ビットになりますので、おおよそ4分の1のデータ量に圧縮できたことになります。

このように元のデータ量を縮小することを「データ圧縮」と呼びます。
その手法には大きく分けると2種類あり、圧縮後のデータから元データが復元できる「可逆圧縮」と、復元不可能な「不可逆圧縮」があります。

 

情報理論

2017.09.14
この記事での学習内容 ITパスポート 基本情報 応用情報情報量の概念、事象の生起確率と情報量との関係を理解する。情報理論情報理論とは、ある事象における確率や統計を元に、情報の量を数学的に定義する理論です。 生起確率: ある事象 E が起こる確率。 P(E) 情報量:  事象が起こる確率を P(E) とする時、事象が起こったことを知らされた時に得られる(選択できる)情報の量。...

Read more...

情報処理技術者試験での学習内容【基本情報・応用情報】 情報理論、符号理論の考え方、仕組みを習得し、応用する。 コードによる文字の表現を習得し、応用する。 述語論理、形式言語、オートマトンなど、情報に関する理論の考え方、仕組みを習得し、応用する。 正当性理論の考え方、仕組みを習得し、応用する。【応用情報】 AI(人工知能)の考え方、仕組みを習得し、応用する。 コンパイ...

Read more...

最適化問題

2017.09.12
この記事での学習内容 基本情報 応用情報最適化問題とは何か、線形計画法、PERT、最短経路問題などの考え方を理解する。用語例: 動的計画法最適化問題制約のある中で、目的とする関数(目的関数)の解が最大(あるいは最小)となる値を求める問題を最適化問題といいます。目的関数や制約関数によって幾つかの種類にわけられます。線形計画法(LP法)目的関数と制約関数が一次式(直線)で表...

Read more...

待ち行列理論

2017.09.12
この記事での学習内容 ITパスポート 基本情報 応用情報待ち行列理論の構成要素、考え方、M/M/1モデルにおける計算、乱数を利用したシミュレーションを理解する。用語例: サービス時間、到着間隔、平均到着率、平均サービス率待ち行列モデル我々の生活の中では、銀行のATMや行政の窓口、商店のレジなど色々なところで行列が作られています。この待たされる行列のことを待ち行列と呼びます。この顧客...

Read more...

グラフ理論

2017.09.12
この記事での学習内容 基本情報 応用情報グラフ理論の基本的な概念とその応用を理解する。用語例: 無向グラフ、有向グラフ、完全グラフ、重み付きグラフグラフ理論点と点を結ぶ集合であるグラフの性質についての理論をグラフ理論といいます。(ここでいうグラフは、一般的な「グラフ」とは別物)グラフとは、いくつかの接点(ノード)と呼ばれる点があり、それをある規則に基づいて結んだ線(枝:ブランチ...

Read more...

数式処理

2017.09.11
この記事での学習内容 基本情報 応用情報コンピュータを用いて、数式を記号的に代数処理する数式処理システムとそのアルゴリズムを理解する。用語例: 因数分解、微分、積分「数式処理」とは、数値の代わりに文字列を用いて計算式を記号的に処理することです。数値の代わりに用いる文字列を「代数」と呼びます。具体的な例としては、計算式を分解して積の形に変換する「因数分解」、時間とともに変化する関...

Read more...

数値解析

2017.09.11
この記事での学習内容 基本情報 応用情報二分法、補間法、オイラー法など、近似解を数値的に求める考え方や計算過程で生じる誤差を理解する。用語例: 数値積分、シンプソン法、ニュートン法、絶対誤差、相対誤差、丸め誤差、打切り誤差数値解析とは、物理学、数学、工学などの科学分野の問題を、方程式を解くのではなく、数値計算を行なって解の近似値を求める手法のことです。数値解析は、コンピュータを...

Read more...

数値計算

2017.09.08
この記事での学習内容 基本情報 応用情報連立一次方程式の解法など、数値計算に関する基本的な内容を理解する。用語例:行列、対数、掃出法、近似解法、収束、誤差単項式、多項式、次数単項式は、数値や文字の「掛け算」だけで造られた式のことです。2x や 3b などは単項式です。多項式は単項式の足し算、引き算の形式で造られた式です。3x-2b と言った式が多項式の例です。多項式の中にある単...

Read more...

この記事での学習内容 ITパスポート 基本情報 応用情報度数分布表、ヒストグラム、代表値、ばらつき、相関関係、回帰直線、分散分析、検定など統計分析の手法を理解する。用語例:中央値(メジアン)、最頻値(モード)、平均値、標準偏差、分散、相関係数、推定、回帰分析、帰無仮説、有意水準、カイ二乗検定統計ある集団に関するデータを集めてその分布を調べ、数値化して集計することを統計といいます。...

Read more...