end0tknr's kipple - web写経開発

太宰府天満宮の狛犬って、妙にカワイイ

2022-01-01から1年間の記事一覧

numpy for python による ディープラーニング

deep-learning-from-scratch/train_deepnet.py at master · oreilly-japan/deep-learning-from-scratch · GitHub 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 の 8章 sample codeの写経です。 python scriptは以下の通り…

numpy for python による CNN (Convolutional Neural Network)

「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.229~233 の写経です。 ここまでで理解が深まった気がしますが、 様々、ありすぎて、理解できていない部分もあると思います。 # coding: utf-8 import sys, os import nump…

ハイパーパラメータの最適化

deep-learning-from-scratch/ch06 at master · oreilly-japan/deep-learning-from-scratch · GitHub 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.197~202 の写経です。 ハイパーパラメータとは? 各層のニューロン数 …

Dropout による過学習の軽減

deep-learning-from-scratch/ch06 at master · oreilly-japan/deep-learning-from-scratch · GitHub 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.193~195 の写経です。 先程の Weight decay (荷重減衰)とは別に Dropo…

Weight decay (荷重減衰)による過学習の軽減(正則化)

deep-learning-from-scratch/ch06 at master · oreilly-japan/deep-learning-from-scratch · GitHub 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.193~195 の写経です。 過学習の主な原因 パラメータを大量に持ち、表…

Batch Normalizationによるアクティベーション分布の広がり調整

先程のentryでは、 重み初期値が広がりが持つようXavierやHeを使用していますが Batch Normalizationという手法を追加することでも、 アクティベーション分布の広がりを調整できるようです。 尚、アクティベーションとは、Affine層による処理を指します。 Af…

ディープラーニングにおける XavierとHeによる重み初期値の適正化

deep-learning-from-scratch/ch06 at master · oreilly-japan/deep-learning-from-scratch · GitHub 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.177~186 の写経です。 p.178によれば、過学習を抑える為、重みの初期…

numpy for python によるニューラルネットワーク学習 (誤差逆伝播法版)

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.156~163 の写経です。 以前、以下のentryでは、勾配計算に…

Affine層とSoftmax-with-Loss層の計算グラフとnumpy for python実装

github.com 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.147~154の写経として、以下の朱書き部分を計算グラフ化します。 目次 Affineレイヤ Softmax-with-Lossレイヤ Affine ReLU ・ ・ ・ ・ Affine Softmax input …

Sigmoid活性化関数の計算グラフと、微分

「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.143~146の写経です。 github.com Sigmoid層のpython実装 # coding: utf-8 import numpy as np def main(): sigmoid = Sigmoid() x = np.array( [[1.0, -0.5], [-2.0, 3.0]…

Relu活性化関数の計算グラフと、微分

「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.141~142の写経です。 github.com Relu層のpython実装 # coding: utf-8 import numpy as np def main(): relu = Relu() x = np.array( [[1.0, -0.5], [-2.0, 3.0]] ) # 準…

ニューラルネットワークにおける誤差逆伝播法を計算グラフと合成関数の微分で理解する

「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.129~132の写経です。 基本は、上流からの値と偏微分の乗算 応用例? 合成関数での逆電波 基本は、上流からの値と偏微分の乗算 まず、を計算グラフで表すと、下図の通りです…

ニューラルネットワークにおける誤差逆伝播法

キカガクによる以下のurlが分かりやすいと思います。 ニューラルネットワークの理論(逆伝播) - KIKAGAKU

numpy for python によるニューラルネットワーク学習

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.112~121 の写経です。 また、以下のキカガクのページも分か…

ニューラルネットワークにおける損失関数と勾配(偏微分)

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.89~108 の写経です。 目次 損失関数としての 交差エントロ…

numpy for python によるニューラルネットワーク実装と、予測

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.64~65の写経です。 「学習済の為、重みやバイアスは確定済…

numpy for python による活性化関数 ( STEP, SIGMOID, ReLU, tanh )

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」 p.44~52の写経です。 行列を引数として扱う為、numpyを利用し…

パーセプトロン + python による単純な論理回路実装

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」p.23 ~33の写経です。 # coding: utf-8 import numpy as np im…

ニューラルネットワークにおける信号伝達の行列による計算

GitHub - oreilly-japan/deep-learning-from-scratch: 『ゼロから作る Deep Learning』(O'Reilly Japan, 2016) 「ゼロから作るDeep Learning ① (Pythonで学ぶディープラーニングの理論と実装)」p.60 の写経です。 ニューラルネットワーク図 1 x 1 x 2 a (1) …

Re: Python3.6.10でDeepFloorPlanを動かしてみた

不動産住宅の間取り図の自動認識は、おもしろそうではありますが、 下記2の「We share all our annotations and train-test split file here.」から アノテーション他を取得できず、試すこともできず 古いエントリですので、さくじょされたんですよね。きっ…

sklearn for python で ランダムフォレスト

先程のentryで decision tree を使いましたので、 おまけで、ランダムフォレスト #!/usr/local/bin/python3 # -*- coding: utf-8 -*- from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.ensemble …

sklearn for python で決定木を作成し、SVG出力

【機械学習】決定木をscikit-learnと数学の両方から理解する - Qiita 上記urlの写経 + 少々、修正です 目次 決定木作成とsvg出力を行うpython script 頂上nodeにある gini, samples, value, class の意味 gini = 0.497 samples = 13 value = [6,7] class = T…

国交省 国土地理院 による GEOコーディング & 逆GEOコーディング API

国土地理院APIでお手軽ジオコーディング&逆ジオコーディング - 芽萌丸 国交省 国土地理院のサイトには、 GEOコーディングAPIの資料が見つかりませんでしたが、 上記urlで見つけたのでメモ。 GoogleMap APIと比較すると、精度(情報粒度)は粗いようですが。 G…

重回帰分析に対してのロジスティック回帰

重回帰分析は量的なものの予測に利用される為、 次の回帰式で表されます。 ロジスティック回帰の回帰式は、上記に似ていますが、 合格/不合格のような2値の確率予想に使用される為、 次の回帰式で表されます。 line, polyline, path { stroke : #20285A; str…

重回帰分析における回帰係数の導出

先程のentryの重回帰分析版です。 回帰式 単回帰も重回帰も同様の手順で、回帰係数を導出できますが、 変数が多いと、手計算が手間ですので、 今回は以下の回帰係数を算出します。 偏微分と連立方程式による の導出 上記を のそれぞれで偏微分します 式0の …

最小二乗法(単回帰分析)における回帰係数の導出

最小二乗法と、共分散/分散の関係をすっかり忘れていたので、振り返り 目次 最小二乗法 とは 回帰式と回帰係数 偏微分と連立方程式による の導出 最小二乗法 とは 回帰式を、実測値をとするとき の 残差平方和(誤差)が最小の を求めること 回帰式と回帰係数 …

labelImg for python3 and windows による YOLO用タグ作成

YOLOによる画像認識を行う為の準備メモ https://github.com/heartexlabs/labelImg install labelImg for python3 and windows labelImgはGUI付のツールですので、 pip3.exe install labelImg により、PyQt5 もinstallされます。 PowerShell> cd C:\Users\end…

Pillow for python による画像downloadと png形式での保存

先程のentryの続きです。 step 1 request.urlopen() で画像をdownloadし step 2 io.BytesIO()で file化し step 3 Pillow にて png形式で保存 します #!/usr/local/bin/python3 # -*- coding: utf-8 -*- from PIL import Image from urllib import request im…

selenium for python3 による google画像検索結果からの画像url抽出

以下の通りかと思います #!/usr/local/bin/python3 # -*- coding: utf-8 -*- from selenium import webdriver # ex. pip install selenium==4.0.0a7 from selenium.webdriver.chrome.options import Options from selenium.webdriver.chrome.service import …

unityの OnTriggerEnter()による当たり判定

unityには、先程の OnCollisionEnter()とは 別のOnTriggerEnter()があるらしい。 先程の OnCollisionEnter() では、Rigidbodyどうしの衝突を判定できましたが OnTriggerEnter()では、衝突することなく、通過?を判定できるみたい。 以下では、3D Sphereをカー…