https://github.com/miyamotok0105/pytorch_handbook 上記urlにある3章の写経. srcの内容は理解できる. が、srcに記載されているロジック妥当性までは理解できていない。 そう考えると「まだまだ」というより「さっぱり」だ ちなみに CIFAR10とは、次のurlに…

様々な最適化関数 - SGD , Momentum SGD , AdaGrad , RMSprop , AdaDelta , Adam qiitaの次のurlが、数式付きで分かりやすいです Optimizer : 深層学習における勾配法について - Qiita pytorchによる最適化関数(勾配法) 以下の通り #!/usr/local/python3/bin…

損失関数の種類 問題例 損失関数 概要 回帰 nn.MSELoss 平均二乗誤差 ↓ nn.L1Loss 平均絶対値誤差 二値分類 nn.BCELoss ﾊﾞｲﾅﾘ交差ｴﾝﾄﾛﾋﾟ ↓ nn.BCEWithLogitsLoss ﾛｼﾞｯﾄ・ﾊﾞｲﾅﾘ交差ｴﾝﾄﾛﾋﾟ 多ｸﾗｽ分類 nn.CrossEntropyLoss ｿﾌﾄﾏｯｸｽ交差ｴﾝﾄﾛﾋﾟ誤差 回帰 - nn.MSE…

自動微分とは? そもそも「自動微分」という用語すら知りませんでした。 微分には「数式微分」「数値微分」「自動部分」があり、 更に自動微分は「前進法 (ボトムアップ型、フォワードモード、狭義の自動微分)」 「後進法 (トップダウン型、リバースモード、…