実在しない人物の写真を生成するシステムを構築するためのコストについて StyleGANから

StyleGANとこの記事の目的 ほぼ1年前の話題になりますが、GPUで有名な半導体メーカーである NVIDIA の研究として、StyleGANというものが発表され、話題になりました。記事 gigazine.net動画解説 www.youtube.com技術的な情報 qiita.com2012年に「Googleの猫…

次元拡張したRNNでの画像処理。実行は量子コンピュータ。できればNeural ODEを用いて。

画像の識別処理にはCNNが一般的ですが、FFNNであれ、CNNであれ、ベクトルで処理していることにやや違和感があります。 画像は2次元ですので、行列のまま処理する方がむしろ自然に感じます。 行列のままであれば、縦横無尽にRNNの概念を適応することができる…

汎用ロボットのアーキテクチャについて 続き2

前回の記事はこちらです。 汎用ロボットのアーキテクチャについて 続き1 - neuralnetな日記次に、アルファのブレインとボディの接続について検討します。データの送り方は、データを流し続けるストリーミングタイプと、一度だけデータを送付するワンショッ…

汎用ロボットのアーキテクチャについて 続き1

次に、ボディに必要な部品をリストアップします。まず大まかに候補をリストアップした後で、詳細の見直しを行います。 難易度とコストと期間を把握することが目的です。 ※ 金額は送料別です。 1) 本体 hiramineさんのHW一覧から単三充電器と電池ケースを除い…

汎用ロボットのアーキテクチャについて

クラウド上にLinuxサーバーを起き、その上で自律可能なラジコン制御プログラムを展開します。ボディの実装として、タミヤのモーターキットに制御用OS+LTEモジュールを設置し、更にマイク、スピーカー、カメラ、赤外線出力を実装したものを用意します。これに…

損失関数の出力サンプル / Output sample of Loss function

SMEと交差エントロピーの具体的な出力を見て見ます。交差エントロピーに非対称性があること、複数次元の出力の出力の仕方がわかると思います。 import numpy as np # 2乗和誤差 def mean_squared_error(y, t): # ニューラルネットワークの出力と教師データの…

損失関数の種類 / Types of Loss Function

機械学習における損失関数(Loss Function)の位置付けは、作成した学習ロジックに対する評価指標です。 正解データ z (zは実数の集合) に対し、入力データ x (xは実数の集合) を学習ロジックf に投入して得られたデータ y (yは実数の集合でzと同じ配列数) が…

ニューラル常微分方程式 / Neural Ordinary Differential Equations

昨年末にとても面白い論文を見つけましたので、合間の時間を見つけて読み進めています。arxiv.orgこの論文は、機械学習の分野でもっとも権威のある国際学会、NeurIPSにて2018年度に最優秀論文として評価されている論文です。 ミーハー心と興味本位で読み進め…

TensorFlow まとめ 続き

前回の続きです。 tf.argmax 数学的なArgmaxは「その中で最大の値をとる集合」です。例えば、[1,3,2,1,3] という数列があった場合、[2番目の3,5番目の3]がArgmaxになります。tfのargmaxは少し違っていて、「最大の数字を取る値のインデックス番号」を返しま…

TensorFlow まとめ

TensorFlowは、計算をあらかじめ記述し、それを後ほど明示的に実行するという流れをとります。「計算の記述」をOpノード、「明示的な実行」をセッションという概念で行います。こちらの記事がよくまとまっています。 qiita.com 少し昔の記事なので、initiali…

LSTM / Long Short Term Memory / 長期短期記憶

LSTMについて。 LSTMは、ニューラルネットワークのなかでもRNN(リカレントニューラルネットワーク)に分類されるものです。RNNは時系列データを学習するためのニューラルネットワークで、LSTMはRNNの中でも繰り返し改善が施されたもので、RNNの主流と言っても…

LSTM/RNNとCNNの組み合わせ

複数言語の同時解釈への応用の観点から、以前からLSTM(もしくは単にRNN)とCNNの組み合わせについて興味がありましたので、調べました。3つほどそれらしい論文があったのでメモを取ります。 1. 画像認識と画像抽出のためのLong-term Reccurent Convolution N…

Google Cloud Shellについて

Google Cloudには、Google Cloud Shellという、Shell環境がデフォルトで用意されています。 cloud.google.com Google Cloudアカウントを開設すると、メニューバーからアクセスできるシェル環境で、Google Cloud SDK/gcloudがビルトインされていて便利です。 …

Google Cloud Plathome上にTensorflowを展開する

Tensorflowを使いはじめて、はや4ヶ月。そろそろ手元のMacbookではマシンパワーがおぼつかないケースが出てきました。 既存のAWSのDebianに入れようかとも考えましたが、せっかくなので、Google Cloud Plathomeを使うことにしました。 申し込みからコードの…

データ分析の為にPandasを利用する その2

前回の記事では、Pandasの簡単な操作をしました。面白いのでもう少し続けてみます。 今度はcsvを2つ用意しました。 $ cat tmp01.csv ,a,b,c 1,1,10,100 2,2,,200 3,4,30,300 $ cat tmp02.csv ,d 1,3 3,9 まずは普通に読みます。 $ python >>> import pandas …

データ分析の為にPandasを利用する

Jupyter Notebookを使いたくて、Anacondaをインストールしたところ、データ分析の為のツールであるPandasもインストールされていたので使ってみました。存外便利でしたので、メモをとります。 以下のようなcsvファイルを用意しました。 $cat tmp.csv a,b,c 1…

企業が人工知能(またはディープラーニング)を始めるのに必要なヒト、モノ、コト

企業が、自社のビジネスに人工知能を取り込むには、どんなリソースがあればよいかまとめてみました。 1) ニューラルネットワーク開発部隊 (ヒト)2) 分散システムのインフラストラクチャ (モノ)3) ビジネスモデリング (コト) 1) ニューラルネットワーク開発部…

MNIST for ML Beginnersの数学的な意味合い

Tensor flowの初めの一歩のチュートリアルであるMNIST For ML Beginnersについて、数学的な意味合いを書いてみようと思います。 (ブログに不慣れなもので、修正/継ぎ足しながら公開していくことをお許しください) まず、このチュートリアルで実行しているこ…

数式テスト

softmax(ソフトマックス)関数

softmaxの数学的な意味合いは こちらの記事 に書きました。 TensorFlowのMNIST(チュートリアル)でよく出てくるsoftmax関数について調べたのでメモ。softmax関数は、シグモイド関数の多変量版。正規化指数関数ともいう。 シグモイド関数と同様、アクティベー…

ニューラルネットワーク

ニューラルネットワークは脳機能の特性を計算機上のシミュレーションにより表現することを目指した数学モデル。 もともとは、脳をモデル化することから始まったが、次第に実際の脳のモデルから乖離していったため、人口ニューラルネットワークとも言われてい…