3. 情報に関する理論

通信路符号化（誤り検出訂正），ハフマン符号，情報源符号化（データ圧縮）

ASCII コード，EUC（Extended UNIX Code：拡張UNIX コード），JIS コード，シフトJIS コード，Unicode，UCS

関係データベース

逆ポーランド表記法

プッシュダウンオートマトン

停止問題

時間計算量，領域計算量，オーダー記号，P（Polynomial）問題，NP（Nondeterministic Polynomial）問題，NP 完全問題

知識工学，学習理論，機械学習（教師あり学習，教師なし学習，強化学習ほか），汎化，ニューラルネットワーク（CNN，RNN ほか），ディープラーニング（深層学習），エキスパートシステム，解析型問題，合成型問題，知識ベース，推論エンジン ※Ver.6.3

知識工学，学習理論，汎化，エキスパートシステム，解析型問題，合成型問題，知識ベース，推論エンジン

教師あり学習（回帰，分類など），教師なし学習（クラスタリング，次元削減など），半教師あり学習，強化学習，線形回帰，ロジスティック回帰，決定木，ランダムフォレスト，サポートベクトルマシン（SVM），主成分分析，k-means 法，Q学習，方策勾配法，価値反復法，ハイパーパラメータ，ランダムサーチ，グリッドサーチ，学習率，学習（訓練）データ，検証データ，テストデータ，凡化性能，凡化誤差，訓練誤差，過学習，バイアスとバリアンスのトレードオフ，AI のロバ
スト性，正則化，アンサンブル学習，交差検証，ホールドアウト検証，正解率（Accuracy），適合率（Precision），再現率（Recall），F 値，ROC 曲線，PR 曲線，AUC（Area Under the Curve）

ニューラルネットワーク，多層パーセプトロン，バックプロパゲーション（誤差逆伝播法），勾配消失問題，活性化関数（ReLU 関数，ソフトマックス関数，tanh関数など），ドロップアウト，事前学習，ファインチューニング，転移学習，バッチ学習，ミニバッチ学習，オンライン学習

畳み込みニューラルネットワーク（CNN），リカレントニューラルネットワーク（RNN），LSTM（Long Short Term Memory），生成モデル，オートエンコーダ，敵対的生成ネットワーク（GAN），深層強化学習，基盤モデル，拡散モデル，言語モデル，大規模言語モデル（LLM），Transformer，自己注意（Self-Attention）機構，自己教師あり学習，アラインメント，人間のフィードバックによる強化学習（RLHF），ゼロショット学習，フューショット学習，インストラクションチューニング，プロンプトエンジニアリング，モデル圧縮（蒸留，量子化，プルーニング）

文脈自由文法，中間言語，目的プログラム，形式言語，オートマトン

手続型言語，関数型言語，論理型言語，オブジェクト指向言語