☆機械学習の参考書(2021年版) とりあえず機械学習を使いたい！用の本 ・フリーソフトで始める機械学習入門 遊び向け。 フリーソフトではじめる機械学習入門(第2版):Python/Wekaで実践する理論とアルゴリズム 作者: 荒木雅弘 出版社/メーカー: 森北出版 発売…

名前はよく聞くグレブナー基底、一体何に使えるんだ？ということで、具体的な応用先を並べてみた。グレブナー基底をわかりやく言うと「多項式の集合を、シンプルで性質の良いものに変えた多項式の集合」である。例えば連立方程式を解くときに1文字ずつ変数消…

kerasでは、直列でどんどん中間層をつなげていく例はよくあるが、並列で異なるネットワークあるいは中間層をつなげる例はあまり少ないので紹介する。まずは必要なライブラリのインポートと学習データの構築。0~1の乱数5個でできた入力ベクトルを500回分生成…

kerasでニューラルネットの入力層から中間層までのネットワークを取り出すのはよくあるけど、中間層から最終層(出力層)までのネットワークを取り出してる例はあまり少ないので紹介する。例として、MNISTの数字画像のデータに対するオートエンコーダーのネッ…

FM(Factorization Machines)はRendleが2010年に提案したレコメンダ向けアルゴリズムである(https://www.csie.ntu.edu.tw/~b97053/paper/Rendle2010FM.pdf)。 これの表現力をさらに向上させたFFM(Field-aware Factorization Machines)が2017年にYuchin Juanら…

EIT（electrical impedance tomography，電気化学インピーダンストモグラフィ）は，印加した電流に対する電圧のパターンを計測することで各位置のインピーダンスを推定し，内部構造を可視化するトモグラフィである。EITのシミュレーションには主に2つあり，M…

FM(Factorization Machines)はRendleが2010年に提案したレコメンダ向けアルゴリズムである。 https://www.csie.ntu.edu.tw/~b97053/paper/Rendle2010FM.pdf レコメンダ向けといえど、より一般的な回帰や分類問題にも使用することができ，その汎用性の高さや…

2018年下期の統計検定一級、統計数理と統計応用(理工学)の両方とも無事合格しました！特に統計応用はS評価でした。問題の傾向はいつも通りという感じ。いずれにせよ、一級の対策を自分なりにまとめようと思います。 ① 問題分析 統計数理 ・昔から一貫して確…

世の中には多くの分散がある。標本分散、不偏分散、母分散、共分散...。数学的な定義の違い、文脈による呼称の違いなど、統計学の用語はとかく混乱を招きやすい。なまじ身近な数学のため多くの人が多少の知識を持ってしまっているからこそ、逆に言葉の氾濫が…

ベイズ推定と最尤推定を比較してみよう。 確率分布が、ある母数パラメータによって記述できるとする。このパラメータを用いて表現された確率分布を、確率モデル(本記事では尤度関数でも差し支えない)と呼ぶ。 最尤推定では、この確率モデルを母数の関数とみ…

2018年上期の統計検定準一級、無事合格しました！傾向がガラリと変わってきているので、その対策を自分なりにまとめようと思います。 ① 問題分析 ・機械学習分野の割合増加 統計検定準一級の本来の試験範囲は、機械学習関連はサポートベクターマシンやk-近傍…

ベイズ推定を用いて、データ (n個の測定データ) から、 の従う確率分布を求めることを考える。 真の分布を とし、用いる確率モデルを としよう。ここで はモデルのパラメータである。ベイズ理論により、 に対する事後分布は以下のように書ける。 ここで は事…

強化学習の考えを数式なしでまとめる。 目的 「複数ステップの行動からなるタスクにおいて、1エピソード(試合)で獲得される報酬の和を、最大化するような最適行動を求める」 設定と定義 強化学習で必要となってくる各種設定の定義を列挙する。 ①エージェント…

カーネル法の考えを数式なしでまとめてみる。 Perspective 1：データ数個のカーネル関数の足し合わせ まず1つの見方としては、カーネル法は、カーネル関数を”基底”とし、学習に使用するデータ数個分のカーネル関数の線形和で、識別/回帰線を表してやろうとい…

昨今、代数幾何の手法をベイズ推定などの統計的学習理論に応用する取り組みがさかんになっている。 その中でも、日本人フィールズ受賞者の広中平祐が証明した特異点解消定理は、最も中心的な橋渡しをしていると言える。 今回は数式なしに、特異点解消定理が…

イジング模型は磁性体のスピンの状態(↑、↓)を記述することができる模型である。 特に、隣り合うスピンの相互作用が負になる強磁性体のイジング模型の場合は、スピンが揃い合いたがる性質がある。 この性質を利用したベイズ推定による画像処理法がある。 ベイ…

友人に「強化学習って何なん？」と尋ねられたので、手法の本質を簡潔に説明できるか考えてみた。 強化学習は、めっちゃ簡単に言うと、 「制御理論の一種で、環境の情報(ハミルトニアンなど)を知らなくても、経験的にそれを獲得し、最適な制御方法を学習する…

☆機械学習の参考書(2018年版) とりあえず機械学習を使いたい！用の本 ・フリーソフトで始める機械学習入門 遊び向け。 フリーソフトではじめる機械学習入門 作者: 荒木雅弘 出版社/メーカー: 森北出版 発売日: 2014/03/29 メディア: 単行本（ソフトカバー） …