Re:ゼロから始めるML生活

どちらかといえばエミリア派です

2018-01-01から1年間の記事一覧

【論文メモ:GraphGAN】GraphGAN: Graph Representation Learning with Generative Adversarial Nets

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 GraphGAN Framework Discriminator Optimization Generator Optimization Graph Softmax関数 評価 評価環境 データセット 比較対象 その他 Empirical Study Link Prediction Node Classification …

【論文メモ:Pinterest recommendation model】Graph Convolutional Neural Networks for Web-Scale Recommender Systems

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 Graph Convolutional Networkの概要 問題設定 Model Archtecture Localized graph convolutions ランダムウォークによる近傍探索 畳み込みの多層化 学習 Loss function ミニバッチの設計 Producer…

【論文メモ:StarGAN】StarGAN: Unified Generative Adversarial Networks for Multi-Domain Image-to-Image Translation

論文 https://arxiv.org/abs/1711.09020 著者 Yunjey Choi, Minje Choi, Munyoung Kim, Jung-Woo Ha, Sunghun Kim, Jaegul Choo 背景 近年のimage-to-image translationの進歩がめざましい一方で、拡張性に乏しい問題がある。 特に、2種類以上の変換にはペア…

【論文メモ:InfoGAN】InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets

論文 著者 背景 目的とアプローチ 目的 アプローチ Information Maximizing Generative Adversarial Networks (InfoGAN) GANの原理 潜在変数を含む相互情報 評価 収束の効率化 表現力に関する評価 結論 感想 論文 https://arxiv.org/abs/1606.03657 著者 Xi …

【論文メモ:DiscoGAN】Learning to Discover Cross-Domain Relations with Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 DiscoGAN ネットワーク設計 Loss Generative Adversarial Loss Reconstruction Loss 評価 単純評価 実画像の評価 CAR to CAR FACE to FACE 多数の特徴が共通する場合の変換 完全に別のものを角度…

GCPでPyTorch(GPU)を使えるようにするまでにやったことのメモ

だいぶ期間が空いてしまいましたが、結構前にGoogle Cloud Platformの使い方を勉強していました。 (別に諦めてたわけではなく、単純にAWSでいろいろやることがあったので、そっちを使ってただけです) tsunotsuno.hatenablog.com 当初の目的としては、GPUを使…

tensorboardXを使っていろいろ眺めてみる

前回はtensorboardX導入までして、なんとなく動いてそうなことを確認しました。 tsunotsuno.hatenablog.com 今回はもうちょっといじくり回して見たいと思います。

tensorboardXの導入メモ

最近PyTorchを勉強中なんですが、TensorFlowっぽくstatsを確認したいと思い始めました。 TensorBoard自体は結構便利なので、そのまま使えたら良いなーとか思って探してみたらこんなのありました。 qiita.com なるほどtensorboardXなるものがあるんですね。 g…

【論文メモ:AttnGAN】AttnGAN: Fine-Grained Text to Image Generation with Attentional Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 AttnGAN Attentional Generative Network Attention Model Loss Deep Attentional Multimodal Similarity Model (DAMSM) Text Encoder Image Encoder Matching score DAMSM loss 評価 評価条件 デ…

PyTorchを使ってみた

最近いろいろ忙しかったのですが、一段落ついたのでまたブログを再開します。 ここのところのディープラーニング界隈では、PyTorchなるものがなんだか流行っている感じがあって、今回はそれを使ってみます。

【論文メモ: Airbnb Pricing Model】Customized Regression Model for Airbnb Dynamic Pricing

こんな記事を見かけました。 honawork.hatenablog.com やべえ、、、めっちゃ面白そう! ってことで、普段はディープラーニング関係しか論文読まないんですが、たまにはこんなのも読んでみました。

【R】時系列分析の覚書(基本、カルマンフィルタ)

前回はウィナーフィルタまでやって力尽きました。 tsunotsuno.hatenablog.com そんなわけで、今回もこちらの本をやっていきます。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜…

【R】時系列分析の覚書(基本、ウィナーフィルタ)

前回に引き続き、こちらの本をやっていきます。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜生真也,牧山幸史,石田基広出版社/メーカー: 技術評論社発売日: 2018/03/23メディア…

【R】時系列分析の覚書(導入)

こんな本を買ってみたので、エンジニアというよりデータサイエンティストっぽい機械学習の勉強もぼちぼち再開します。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜生真也,牧山…

【論文メモ:HDGAN】Photographic Text-to-Image Synthesis with a Hierarchically-nested Adversarial Network

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 HDGAN Multi-purpose adversarial losses Architecture Design Generator Discriminator 評価 Experimental Setup Dataset Evaluation metric 先行研究との比較 文を書き換えによるstyle transfer…

【論文メモ:PGGAN】Progressive Growing of GANs for Improved Quality, Stability, and Variation

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 PGGAN(Progressive Growing of GANs) ミニバッチ標準偏差を活用した多様性の向上 補足 GeneratorとDiscriminatorの正規化 Equalized learning rate Pixelwise feature vector normalization in …

TensorBoardを使ってみた

今回はTensorFlowのライブラリに付属しているTensorBoardなるものを使って色々可視化してみたいと思います。 参考にさせていただいたのはこちらです。 deepage.net TensorBoard 使い方 手順 具体例 1. プログラム中に可視化用のコードを追加 2. 普通にプログ…

【実装:StackGAN】StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks

だいぶ前にStackGANの実装をサボっていました。 tsunotsuno.hatenablog.com 理論云々は上の記事を見てもらうとして、実装にフォーカスします。 ネットワークの概念図 実装サンプル Condition Augmentation Trainer Stage-Ⅰ Stage-Ⅱ 実際に動かしてみた結果 6…

Google Cloud Platformの導入メモ

この前はGoogle Colabを使って見たんですが、どうやらGANをやるには不向きな感じでした。 tsunotsuno.hatenablog.com こうなったら、やはり本家だろうということでGoogle Cloud Platform (GCP)を使って機械学習をやる方法を調べてみました。 参考にさせてい…

Google Colabを使ってみた

ちょっと前にこんなブログが話題になってました。 karaage.hatenadiary.jp 無料でクラウドのGPUを使える日がついに来たようです。 機会学習を始めたころから、すごーく使いたかったんです。 というわけで、使ってみました。 Google Colabとは 使い方 google …

【論文メモ:StackGAN】StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 Stage-Ⅰ GAN その他 補足 Stage-Ⅱ GAN 実装のパラメータ アップサンプリングブロック ダウンサンプリングブロック パラメータ他 評価 データセット 比較対象 評価指標 Inception Score Human Rank…

TensorFlowでの画像の読み書きに関する覚書

これまではサンプルデータセットを使って遊んでおり、オリジナルデータを使い方を知らなかったのでその備忘録です。 今回参考にしたのはこちら。 qiita.com TensorFlowで対応している画像種類 画像データの読み込み 画像データの書き出し サンプルコード Ten…

【論文メモ:CycleGAN】Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 学習プロセス 補足 Adversarial Loss Cycle Consistency Loss 実装 ネットワーク構造 その他 評価 評価指標 AMT perceptual studies FCN score Semantic segmentation metrics 比較対象 先行研究…

【論文メモ:BEGAN】BEGAN: Boundary Equilibrium Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 提案手法 収束の測定 補足 評価 結論 実装 実行結果 i = 0 i = 2000 × 20 i = 2000 × 40 i = 2000 × 60 i = 2000 × 80 i = 2000 × 100 i = 2000 × 120 i = 2000 × 140 i = 2000 × 160 i = 2000 × 180 i = 2000 × 200 i = 20…

CIFAR-10に関する覚書

ニューラルネットワーク(最近は主にGAN)について絶賛勉強中ではありますが、実際に書いてみるといろんなデータセットを使うことになります。 今回はその中でもCIFAR-10についての覚書です。 参考にしたのはこちら。 aidiary.hatenablog.com CIFAR-10 内容 …

【論文メモ:DCGAN】Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 ネットワーク構成 その他 初期化 LeakyReLU 最適化 評価 CIFER-10 SVHN Discriminator Generator 実装 実行結果 i=0 i=5 i=55 i=109 感想 論文 [1511.06434] Unsupervised Representation Learnin…

【写経】TensorFlowを使ったCGANの実装

前回はとりあえずTensorFlowを使ってGANを書くところをやってみました。 tsunotsuno.hatenablog.com 今回もこちらの本を参考にGANの別のモデルをやってみます。 https://www.amazon.co.jp/Learning-Generative-Adversarial-Networks-Ganguly/dp/1788396413 …

【写経】TesnorFlowを使ったGANの実装

最近は年度末が近づいたのもあって、なかなかブログを更新できていませんでしたが、少しずつ書いていきます。 前回は雑でもなんでもGANの仕組みを理解しようということで、numpyだけでGANを書いていました。 まともに動かなかったけど。。。 tsunotsuno.hate…

簡易版のGANを書いてみた

この前はCNNを書いてみました。 tsunotsuno.hatenablog.com 今回はちょっぴりCNNの応用のGANってやつをやってみます。 今回参考にさせていただいたのはこちら。 elix-tech.github.io めちゃくちゃ分かりやすかったです。 ありがとうございます。 こういうい…

TensorFlowを使ってみた

昨年のうちにTensorFlowのインストールとニューラルネットワークの基礎理論の勉強はしました。 tsunotsuno.hatenablog.com tsunotsuno.hatenablog.com 基礎理論の勉強のためには、やっぱり自分で書いてみるのが一番いいので、これまでは特に便利ライブラリは…