Rényi Entropy and Free Energy https://arxiv.org/pdf/1102.2098.pdf Rényi Entropyの定義 これはシャノンエントロピーを含む一般的な表現になっている（ユニークという意味ではない）。 の極限でシャノンエントロピーに対応する。すなわち以下。 Rényi ent…

行列の行（列）方向の正規化は機械学習のアルゴリズムでよく使う操作である。 実装方法はいろいろあると思うが、私が良く使うやり方は以下。以下は行方向について。 numpy だけでやる方法 import numpy as np A = np.random.rand(N, N).astype('float64') # …

引き続き、須山さんのベイズ本を読む。 機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)作者: 須山敦志,杉山将出版社/メーカー: 講談社発売日: 2017/10/21メディア: 単行本（ソフトカバー）この商品を含むブログ (1件) を…

須山さんのベイズ推論の本を読んでいる。 機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)作者: 須山敦志,杉山将出版社/メーカー: 講談社発売日: 2017/10/21メディア: 単行本（ソフトカバー）この商品を含むブログ (1件) …