2023-01-02

PyTorch Lightningでcross validationを書こうと思ったら失敗した話

前にこんな感じのことをつぶやいていました。

pytorch lightningでcross validation書くときって、こんな感じに書かなきゃダメなの？もっとシンプルに書けるもんなのか？（全然わかってない顔）https://t.co/R3OzpZC0lq
— 野川の側 (@nogawanogawa) 2022年11月13日

なんかいいやり方はないものかと考えつつ、一旦ここで書いてあるやり方で書いてみようと思いました。やってみたらなんかうまく行かなかったので、多分なんかおかしいですが、自分の備忘録として残しておきます。

2022-12-20

ランク学習の推薦モデルについて解釈してみる

Python 推薦システム

この記事は（1人で）基礎から学ぶ推薦システム Advent Calendar 2022の20日目の記事です。

機械学習の解釈性・説明性が注目され始めてから久しく現在では、回帰や分類タスクに関するXAIへの取り組み方は調べれば文献が得られるようになってきたなと思っています。（XAIって単語も浸透しつつある気もしますしね）

推薦システムにおいても解釈性・説明性は大事な要素であり、精度改善のためだけではなくサービスそのものの指針にあった推薦の振る舞いになっているかを評価・確認する上で使用されたりするかもしれません。

今回は推薦システムのモデルに関する解釈性・説明性を考えるために、推薦の業界でよく使用されるLearning to Rankで考えていきます。 Learning to Rankで機械学習の解釈性や説明性に関して取り扱った文献は、あまり見かけない気がします。「これだけ手法や他分野の文献が揃ってれば頑張ればなんとかできるやろ？」という気持ちになるので、今回はランク学習で解釈性・説明性についてやってみようと思います。

2022-12-13

EASEを使ってみる

推薦システム Python

この記事は（1人で）基礎から学ぶ推薦システム Advent Calendar 2022の13日目の記事です。

今回は、EASEというアルゴリズムを試してみようと思います。

※見様見真似で書いてみたものの、スコアが低すぎてなんかおかしいので多分後で実装し直します。

2022-12-12

iALSを使ってみる

Python 推薦システム

この記事は（1人で）基礎から学ぶ推薦システム Advent Calendar 2022の12日目の記事です。

最近iALSという、暗黙的FBを使った協調フィルタリングのアルゴリズムに関する記事を見かけました。

engineering.visional.inc

このアルゴリズムは結構昔からあるのに、未だに高い性能を達成するので今でも使用されていたりします。また、最近はこの手法はハイパーパラメータのチューニングによって、非常に高い性能を達成できることを示した論文なども出ています。

arxiv.org

そんなわけで、今回はこのiALSを使ってみたいと思います。

2022-12-11

基本的な推薦アルゴリズムを書いて眺める

推薦システム Python

この記事は（1人で）基礎から学ぶ推薦システム Advent Calendar 2022の11日目の記事です。

推薦関係のアルゴリズムは現在でも新しいアルゴリズムがありますが、古典的なアルゴリズムとして協調フィルタリング〜Factorization Machineが挙げられると思います。今回はこれらのクラシカル（？）な推薦アルゴリズムを書いて眺めてみたいと思います。

2022-12-10

BigQueryでサッと試す推薦アルゴリズム

推薦システム SQL

この記事は（1人で）基礎から学ぶ推薦システム Advent Calendar 2022の10日目の記事です。

前回までで、推薦システムを考える上でのさわりの部分は確認できたと思うので、ちょっとずつ実務っぽい話にシフトしていこうと思います。

実務で難しい推薦アルゴリズムを実装する前に、「チューニングとかはおいておいて、だいたいどれくらい効果が出るのかサッと試したい」という場面があったりします。腰を据えてしっかりアルゴリズムを調整するならPythonでGPUを使って一つずつ実験をして…といった試行を繰り返すことになるかと思いますが、「安い！早い！うまい！」みたいなのが求められる状況では、Pythonを使うよりお手軽にサッと実装できると嬉しかったりします。

ということで、今回はSQLで推薦アルゴリズムを書いて、BQの計算能力でぶん殴るやりかたをやってみたいと思います。