buto > /dev/null

だいたい急に挑戦してゴールにたどり着かずに飽きる日々です

ハイパーパラメータとは何ぞや!?

人が決めるパラメータのことだよね!

Kerasなどのディープラーニングのライブラリにお任せするのではなく 開発しているエンジニア、専門家が決める値のことだよね!と理解していた

深層学習では実行結果の同一性は保証されない

Kerasのテキストにこんな文章があった

ディープラーニングのモデルでは実行結果の再現性は保証されません。実行のたびに予測値が変動します。

ディープラーニングは出力層→入力層に向かってパラメータの重みを調整して 正解値に近づくニューラルネットワークにする → 最初の重みはランダムに振られているから毎回結果が変わるのか!

あれ?最初の重みってハイパーパラメータじゃないの?

ハイパーパラメータで初期の重みを設定してるはずだから、なんでランダムに重みが振られる? っていう勘違いです

Aidemy ハイパーパラメータ パラメータの重みは膨大な数なので人が決めるのには無理があるそうです… ハイパーパラメータはニューラルネットワークの構造とか学習条件に関する値を指すのが一般的ぽい - ニューラルネットワークの層数 - 活性化関数 - エポック数