nomulog

ソフトマックス（Softmax）関数とは：定義、特性、実装方法まで徹底解説

本記事は、Softmax関数に関する理解を深めたい方々を対象にしています。必要な前提知識は以下の通りです。基本的な数学知識（特に確率論と指数関数）ニューラルネットワークの基本概念 Pythonプログラミングの基礎機械学習における一般的な用語の理解この記事では、Softmax関数の定義からその性質、応用例、そして実際のコーディング方法に至るまでを段階的に解説しています。機械学習の分野における多クラス分類問題への理解を深めるための基礎的なガイドとして、本記事を活用いただければと思います。 &nbsp ...

コサイン類似度とは？ベクトルの内積から見る類似度

データ分析や機械学習の分野で広く用いられるコサイン類似度は、ベクトル間の類似性を測定する強力なツールである。この記事では、コサイン類似度の基本原理から、高次元データでの振る舞い、そして次元の呪いに対処する方法までを詳細に解説する。データサイエンティストや機械学習エンジニアにとって重要なこの問題を、わかりやすく、段階的に理解し、実践的な解決策を身につけるための一助となることを目指す。【定義】コサイン類似度とは何かコサイン類似度は、特に二つのベクトル間の角度を利用して、それらがどれだけ似 ...

初心者でも理解できる！行列とベクトルの積の基礎と実践的応用

数学の世界において、行列とベクトルの積は基本的かつ強力な概念である。この記事では、行列とベクトルの積がどのように計算され、どのような幾何学的意味を持つのかを段階的に解説する。さらに、コンピュータグラフィックスから経済学に至るまで、実世界での多様な応用例を紹介し、この重要な数学的ツールの理解を深める。数学の基礎から応用までを網羅するこの記事は、高校生から数学に興味を持つ全ての読者にとって、行列とベクトルの積の理解を深めるための貴重なリソースとなるだろう。はじめに：行列とベクトルの積とは ...

ベイジアンニューラルネットワーク

ニューラルネットワークにベイズ推定の考え方を導入し応用したものに、ベイジアンニューラルネットワークがある。通常のニューラルネットワークとの違いやその理論についてイメージをつかむべく整理していく。ベイジアンニューラルネットワーク（BNN）とはベイジアンニューラルネットワーク(Bayesian Neural Network)は、近年注目を集めている一つの研究テーマである。この技術は、従来のニューラルネットワークにベイジアン理論を組み合わせることで、予測の不確実性 ...

混合密度ネットワーク

混合密度ネットワークとは混合密度ネットワーク（MDN）は、複数の確率分布を組み合わせて出力するニューラルネットワークの一種である。与えられたどんな\(\mathbf{x}\)の値に対しても、混合モデルは任意の条件付き密度関数\(p(\mathbf{t} \mid \mathbf{x})\)をモデル化するための一般的な枠組みを提供する。そもそも教師あり学習の目標とは、条件付き分布\(p(\mathbf{t} ...

ADF検定とはなにか？時系列データの定常性を正確に評価する方法

時系列データを分析・予測する際にとても大事な概念に「定常性」の確認がある。その確認に使われるADF検定が一体どういう仕組みで、どういう手順で検定するのかこの記事では分かりやすく解説してみる。 ADF検定とは？− 時系列データの安定性をチェックするツール時系列データとは、時間の経過に伴って得られる一連のデータ点のことである。株価の推移や気温の変動など、日常生活でよく見かけるものだ。これらのデータが「定常」であるかどうかを調べるのがADF検定（Augmented Dickey- ...

PRML解説記事まとめ

この記事ではPRMLと呼ばれる機械学習の理論について書かれたバイブルとも言える参考書を僕が理解できるまでかみ砕いた記事を全てまとめたものである。それぞれの記事では、書籍ではできない過度に冗長ともいえる文章で数学的な証明などもでき得る限り省かずに書いている。この記事群は上から順に読んでいく必要はなく、気になったところから読んでもらえればいい。 PRMLとは？ PRML（Pattern Recognition and Machine Learning）とは、マイクロソフト社の研究者であるCh ...

ラグランジュの未定乗数法（KKT条件）の証明と直感的理解、そしてその幾何的解釈

この記事ではラグランジュの未定乗数法について徹底的に解説していく。なぜラグランジュの未定乗数法はあれで導出することができるのか、厳密な証明、直感的な理解、幾何的な解釈をすべて取り扱う渾身の記事である。この記事を読めばラグランジュの未定乗数法の理解が深淵に達すること請け合い。ラグランジュの未定乗数法とはラグランジュの未定乗数法とは、多変数関数がある制約条件を満たすときの最大値または最小値を求めるための手法である。経済学や物理学、工学、機械学習など、様々な場面で活用される。まず、僕たち ...

ニューラルネットワーク１

ニューラルネットワークとはニューラルネットワークは脳の神経細胞（ニューロン）のネットワークを参考に作られた数理モデルである。ニューラルネットワークに入力を与えると、内部で計算が行われ、何らかの出力が行われる。入力を\(x\),出力を\(y\)とするとニューラルネットワーク全体を一つの関数\(f\)と捉えて、ニューラルネットワークは\(y=f(x)\)を計算する関数であると捉え ...

【線形分類モデル】識別関数によって線形的に多クラス分類！！最小二乗法とその弱点とは…

ここでは線形的にクラス分類することを考える。前提知識最初に分類問題の前提知識をまとめておこう。まず、「決定領域」について。分類問題とは、一言で言えば、与えられたデータがどのカテゴリに属するかを決定する問題だ。例えば、果物の重さと色から、それがリンゴかオレンジかを判断する、といった具体的な状況を思い浮かべると良い。各果物（つまりデータ）がどの果物のカテゴリに属するかを示す空間（例えば、重さと色で構成される二次元平面）を考える。この空間を、カテゴリごとに区切ると、それぞれのカ ...

本気で結果を出したい人のための「暗記法」完全マニュアル

※この記事はnoteに公開している「本気で結果を出したい人のための暗記法完全マニュアル」とほぼ同じものです。すでに購入されたことがある方はご注意ください。まず最初に暗記、すなわちインプットを正確に行うことの爆発力についてご紹介したいと思います。暗記というと「暗」という字があるだけあって「めんどくさい」などの暗いネガティブなイメージを持ちがちですが暗記によって得られる効果は絶大です。それは圧倒的な時間の短縮です。皆さん経験があると思いますが、「知っている」のと「知らない」のとでは成果とその時間に差 ...

サポート（投げ銭）