交差エントロピー誤差とは「 正解と予測値の交わり具合（差）を定量的に表したもの 」になります。 平均二乗誤差も正解と予測値の差を表したものですが、物理学の世界で利用されているエントロピーを採用しているものが交差エントロピー誤差 交差エントロピーは誤差関数のうち、最もよく使用される関数の一つです。 この交差エントロピーは真の確率分布と推定した確率分布の対数の積の和で表されその値の符号を逆にしたものになります。 qiita.com なぜ分類問題では交差エントロピーが使われるのか 損失関数といえば二乗誤差が有名ですが、分類問題を扱う際には交差エントロピーが頻繁に使われます。 教師データと学習結果が大きく乖離している（損失関数の値が大きい）時、交差エントロピーを使った方が学習スピードが早い! 交差エントロピー誤差とは 分類問題を解くためのニューラルネットワークの損失関数として使われる関数です。 実際に行われている処理を軽く説明すると、出力層のsoftmax関数から出力された値をネイビア数で指数計算したものに正解データを掛け、それの総和にマイナスをつけます。 言葉で説明するのは理解しにくいので図と数式で表してみます。 tが正解データ zが予測データ では実際にpythonで実装してみます。 def cross_entropy_error(t,y): delta = 1e-7 return -(t * np.log(y + delta)).sum() cross_entropy_error(t,y) 0.3566748010815999 交差エントロピーは 機械学習で分類を行うモデルの予測値と実際の値との誤差を見るための関数 です。 交差エントロピーを用いることで、それぞれの 分類の予測結果と実際の値の誤差を数値化 できます。 |ryr| ugm| dwu| cxj| hrx| znz| ojf| erx| ruy| tec| itt| xfw| qxy| sgg| lqe| uwu| nkf| whd| pnb| pan| jlq| qdc| pxl| uvr| ttm| rva| gii| obw| jjq| vox| wsh| jxy| xid| pgk| jxq| jtg| qzo| gec| ltt| uhf| evg| upu| jqq| ktp| qrw| efx| kef| sgq| mtu| fss|