Swift 読みもの
Mocks in Swift via Protocols http://blog.eliperkins.me/mocks-in-swift-via-protocols Swift Weekly より。UIApplication がからんだテストをどうするか？ Blog...
View Article[coursera] Coursera の機械学習コースを修了
Machine Learning | Courseraを修了した。以前から良い評判を聞いていたのだが、正直ここまでよいとは思わなかった。コースは英語だけど、日本語字幕もある。 Andrew Ng 氏は大変バランス感覚に優れた研究者ですね。このコースによる氏の人類への貢献は大きいと思う。
View ArticleClik here to view.
[ML][機械学習] スマートウォッチの加速度計データとニューラルネットワークを利用してヨガのポーズを区別できるか？
Rebuild: Aftershow 126: Everything Except Mayonnaise (higepon)で紹介したプロジェクト。Machine Learning | Coursera で機械学習のクラスを修了した。理解を確認するために小さなプロジェクトを作っていたので紹介。実用性はいまのところない。 まとめ Pebble Time Round（スマートウォッチ）の加速度系データ...
View ArticleCoursera の Best Practices for iOS User Interface Design を修了した
Machine Learning のコースが大変良かったので iOS のクラスをとってみた。 Good Interface builder の使い方で一部知らないものがあった。こういうのは動画で見ると一発だね Bad 講師が iOS 開発者として素人に近いと思う。少なくともプロではない。色々おかしかった。 User Interface Design というタイトルから期待される話はなかった。...
View ArticleBerkeleyX: CS190.1x Scalable Machine Learning を修了した
CS190.1x Courseware | edX。 Andrew Ng のコースで学んだ機械学習 Linear / Logistic regression 等々を大量データの時にどう分散させるという話。Apache Spark を Python から利用して進めていきます。Apache Spark は良くできている。特に ML ライブラリは今後たくさん使われていくのだなと想像。...
View ArticleTensorflow の dropout
dropout で精度が上がるの不思議。 それはそうと Tensorflow の dropout 。training 時と違って eval 時は当然ながら keep_prob を 1 にしないと行けない気がする。けどほとんど例が見つからない。 feed_dict={ x:batch[0], y_: batch[1], keep_prob: 1.0}
View ArticleClik here to view.
雑誌 WEB+DB PRESS でコラム「継続は力なり」の連載がスタートしました
WEB+DB PRESS Vol.93posted with amazlet at 16.06.24原田 騎郎 吉羽 龍太郎 松浦 隼人 須藤 涼介 生沼 一公 森下 雅章 前島 真一 鍛治 匠一 伊藤 直也 のざき ひろふみ うらがみ 高山 温 佐々木 健一 わかめ まさひろ ひげぽん 遠藤 雅伸 海野 弘成 はまちや2 竹原 藤田 正訓 技術評論社 売り上げランキング:...
View ArticleClik here to view.
[book] Fluent Python を読んだ
Jupyter 上でよく Keras + Python を書くようになってきたので読んだ。omo さんが読んでいたから真似したともいう。Python に関する知識は「インデントの言語」、「numpy すごい」程度。見よう見まねでコードを書いていた状態だった。 読んで一番良かったのは Python というか Guido の思想がよく分かったこと。__ からはじまる一連の method...
View ArticleClik here to view.
[Deep Learning] seq2seq の chatbot を日本語で動かしてみた
最近ずっと NN/CNN/RNN/LSTM などで遊んでいたのだけど Seq2Seq の encoder/decoder と word embeddings を理解したかったので Seq2Seq の chatbot を動かしてみた。Keras でフルスクラッチで書いていたのだけど上手く動かず。論文読んでもわからないところがあったので...
View Article[life][book] 「1手詰ハンドブック」完了
詰将棋を始めて続けることが今年の目標の一つ。1日3問ずつ解いてようやく1手詰ハンドブック終わった。当初の目的である脳内ワーキングメモリの増量効果はまだ感じていない。 次は 3手詰ハンドブック〈2〉 やる。
View Article[chatbot][ml] Chatbot ときどき自発的に tweet するように
今日の Chatbot 変更。時々自発的に tweet するように。あとエラーハンドリングをまじめに。
View Article[chatbot][ml] Chatbot tweet listener と reply worker を分離した
prediction の際に時々落ちる。そのたびに落ちないように修正しているが、まだまだ未知のものがありそう。落ちてしまうと reply できないままに情報が失われてしまう。これを改善するためにプロセスを分けて listener: user stream を listen して tweet を serialize して sqlite に保存 reply worker: sqlite...
View ArticleClik here to view.
[ML] Style Transfer
Style Transfer を Stanford の機械学習クラスの CS 20SI の課題で実装してみた。Style Transfer とは絵画の写真から作風を特徴として、別の画像にその作風を適用するもの。Style Loss と Content Loss...
View Article[chatbot][ml] Chatbot と beam search
seq2seq で decoder から出力するときに beam search の方が出現確率が高いモノを選べるので結果が良くなるはず。beam search の詳細は karino2氏の解説。beam search 自体はシンプルで理解しやすいアルゴリズムなのだけど、Tensorflow のグラフでこれを書くのは非常に難易度が高い。使っている seq2seq library には...
View Article[ML] Deep Reinforcement Learning for Dialogue Generation を読む（まだ途中）
Abstract seq2seq は良いのだけど未来の会話の方向性を無視した近視眼的な output を出しがち。future reward をモデル化することで良いゴールを達成するよ。 モデルは2人の virtual agent をシミュレートする。vitual agents は policy gradient mothods を使って良い sequence がでるように reward...
View ArticleZOZO SUIT 後の世界に起こること - 副作用編
思いついたら追記していく or コメント下さい。 Amazon が似たようなことをやる。 中高生が結果を見せあって盛り上げる。「おまえ足短っ！」とか。 筋トレクラスタが盛り上がる。 ダイエットクラスタが盛り上がる。 夫婦間でも結果を見せ合うのに躊躇する。 ハロウィンで ZOZO SUIT 勢が現れる。 芸能人の採寸が高値で取引される。 by 匿名さん ZOZO...
View ArticleClik here to view.
[ML] Seq2Seq まとめ
以前作った Seq2Seq を利用した chatbot はゆるやかに改良中なのだが、進捗はあまり良くない。学習の待ち時間は長く暇だし、コード自体も拡張性が低い。そういうわけで最新の Tensorflow のバージョンで書き直そうと思って作業を始めた。しかし深掘りしていくと Seq2Seq の詳細を分かっていなかったことが発覚したのでここにまとめる。間違いを見つけたらコメントか @higepon...
View ArticleMinimum Seq2Seq implementation using Tensorflow 1.4/1.5 API
This is minimum Seq2Seq implementation using Tensorflow 1.4/1.5 API with some comments, which supports Attention and Beam Search and is based on tensorflow/nmt/README.md. I'd recommend you run this in...
View Article[books] 2018年読んだ本を記録する
1月 漫画 君たちはどう生きるか サピエンス全史(上)文明の構造と人類の幸福 サピエンス全史(下)文明の構造と人類の幸福 パッとしない子 (Kindle Single)
View Article
