概要

機械学習勉強会で輪読してる言語処理のための機械学習入門の学習メモです。 勉強会用の資料があるのでこちらでは資料に載らなかったメモ等を。

範囲

• 1. 必要な数学的知識
  • 1.1 準備と本書における約束事
  • 1.2 最適化問題

資料

https://nownabe.github.io/slides/20180222-ml4nlp-01/index.html#/

1. 必要な数学的知識

ラグランジュ乗数法は、言語処理において確率モデルや機械学習を用いるうえで必要不可欠なテクニックである。

やべぇまったく覚えてない 😱

1.1 準備と本書における約束事

1.2 最適化問題

1.2.1 凸集合と凸関数

1.2.2 凸計画問題

1.2.3 等式制約付き凸計画問題

法線ベクトルの求め方:

f(x, y) = 0

で表される曲線の$(x, y)$における法線ベクトルは$(f_x, f_y)$

法線ベクトルの求め方と応用 | 高校数学の美しい物語

$\nabla_x f(x)$が等高線の法線ベクトルってのはどういうことなんだ。と思ったけど、普通に勾配って考えると理解した。

1.2.4 不等式制約付き凸計画問題

言語処理のための機械学習入門

機械学習勉強会について

社内で毎週開催している。本書は輪読形式でまわしているが、題材によって形式は柔軟に変えている。 毎週読む範囲を決めて資料にまとめて発表するという感じでやっている。

また、勉強会で書いたコードや疑問点などをまとめるためにGitHubのレポジトリを活用している。 Wondershake/machine-learning-study: 機械学習勉強会