LSTMについて。 LSTMは、ニューラルネットワークのなかでもRNN(リカレントニューラルネットワーク)に分類されるものです。RNNは時系列データを学習するためのニューラルネットワークで、LSTMはRNNの中でも繰り返し改善が施されたもので、RNNの主流と言っても…

複数言語の同時解釈への応用の観点から、以前からLSTM(もしくは単にRNN)とCNNの組み合わせについて興味がありましたので、調べました。３つほどそれらしい論文があったのでメモを取ります。 1. 画像認識と画像抽出のためのLong-term Reccurent Convolution N…

Google Cloudには、Google Cloud Shellという、Shell環境がデフォルトで用意されています。 cloud.google.com Google Cloudアカウントを開設すると、メニューバーからアクセスできるシェル環境で、Google Cloud SDK/gcloudがビルトインされていて便利です。 …

Tensorflowを使いはじめて、はや4ヶ月。そろそろ手元のMacbookではマシンパワーがおぼつかないケースが出てきました。 既存のAWSのDebianに入れようかとも考えましたが、せっかくなので、Google Cloud Plathomeを使うことにしました。 申し込みからコードの…

前回の記事では、Pandasの簡単な操作をしました。面白いのでもう少し続けてみます。 今度はcsvを2つ用意しました。 $ cat tmp01.csv ,a,b,c 1,1,10,100 2,2,,200 3,4,30,300 $ cat tmp02.csv ,d 1,3 3,9 まずは普通に読みます。 $ python >>> import pandas …

Jupyter Notebookを使いたくて、Anacondaをインストールしたところ、データ分析の為のツールであるPandasもインストールされていたので使ってみました。存外便利でしたので、メモをとります。 以下のようなcsvファイルを用意しました。 $cat tmp.csv a,b,c 1…

企業が、自社のビジネスに人工知能を取り込むには、どんなリソースがあればよいかまとめてみました。 1) ニューラルネットワーク開発部隊 (ヒト)2) 分散システムのインフラストラクチャ (モノ)3) ビジネスモデリング (コト) 1) ニューラルネットワーク開発部…

Tensor flowの初めの一歩のチュートリアルであるMNIST For ML Beginnersについて、数学的な意味合いを書いてみようと思います。 (ブログに不慣れなもので、修正/継ぎ足しながら公開していくことをお許しください) まず、このチュートリアルで実行しているこ…

softmaxの数学的な意味合いは こちらの記事 に書きました。 TensorFlowのMNIST(チュートリアル)でよく出てくるsoftmax関数について調べたのでメモ。softmax関数は、シグモイド関数の多変量版。正規化指数関数ともいう。 シグモイド関数と同様、アクティベー…

ニューラルネットワークは脳機能の特性を計算機上のシミュレーションにより表現することを目指した数学モデル。 もともとは、脳をモデル化することから始まったが、次第に実際の脳のモデルから乖離していったため、人口ニューラルネットワークとも言われてい…