「情報に関する理論」における目標
情報に関する理論における目標は、次の６つになっています。
- 情報理論，符号理論の考え方，仕組みを修得し，応用する。
- コードによる文字の表現を修得し，応用する。
- 述語論理，形式言語，オートマトンなど，情報に関する理論の考え方，仕組みを修得し，応用する。
- 正当性理論の考え方，仕組みを修得し，応用する。
- AI（人工知能）の考え方，仕組み，代表的なモデルを修得し，応用する。
- コンパイラ理論，プログラム言語論や意味論の考え方，仕組みを修得し，応用する。
それぞれの基礎を習得した上で、応用できるよう学習をすすめていきます。
3.1. 情報理論
情報量の概念，事象の生起確率と情報量との関係を理解する。
3.2. 符号理論
アナログとデジタルの特徴，量子化，標本化，A/D 変換などの符号化，符号化の目的，情報伝送における信頼性，効率性，安全性の向上などの効果を理解する。
通信路符号化，ハフマン符号，データ圧縮
3.3. 文字の表現
代表的な文字コードを理解する。
ASCII コード，EUC（Extended UNIX Code：拡張UNIX コード），JIS コード，シフトJIS コード，Unicode，UCS
3.4. 述語論理
述語論理の考え方，演繹推論と帰納推論の違いを理解する。
関係データベース
3.5. 形式言語
形式言語とは何か，言語の定義，演算，種類，文法を理解する。また，BNF，構文図式などの表記法，正規表現，文脈自由文法を理解する。
逆ポーランド表記法
3.6. オートマトン
有限オートマトンの概念，形式言語との関係，チューリング機械との関係，状態遷移表，状態遷移図を理解する。
プッシュダウンオートマトン
3.7. 正当性理論
プログラムの正当性理論とは何か，部分正当性，全正当性の基本的な考え方，仕組みを理解する。
停止問題
3.8. 計算量
計算量の理論の考え方を理解する。
時間計算量，領域計算量，オーダー記号，P（Polynomial）問題，NP（Nondeterministic Polynomial）問題，NP 完全問題
3.9. 人工知能（AI）
人工知能の基本的な考え方，仕組み，代表的なモデルを理解する。
知識工学，学習理論，機械学習（教師あり学習，教師なし学習，強化学習ほか），汎化，ニューラルネットワーク（CNN，RNN ほか），ディープラーニング（深層学習），エキスパートシステム，解析型問題，合成型問題，知識ベース，推論エンジン
3.10. コンパイラ理論
コンパイラの役割，コンパイルの過程，字句解析，構文解析，意味解析，コード生成，最適化の基本的な考え方，仕組みを理解する。
文脈自由文法，中間言語，目的プログラム，形式言語，オートマトン
3.11. プログラミング言語論・意味論
プログラム言語は，処理対象を表現するために構文と意味があること，各言語で構文と意味がどのように定義されるか，データ構造とアルゴリズムがどのように表現されるか，構造化と抽象化がどのように定義されるかなど，基本的な考え方，仕組みを理解する。
手続型言語，関数型言語，論理型言語，オブジェクト指向言語
3.12. 知識工学
3.13. 学習理論