728x90

back propagation 1

[Deep Learning] ์˜ค์ฐจ์—ญ์ „ํŒŒ๋ฒ• ๊ตฌํ˜„(Back Propagation)

์‹ ๊ฒฝ๋ง ํ•™์Šต์˜ ์ „์ฒด ๊ทธ๋ฆผ ์‹ ๊ฒฝ๋ง ํ•™์Šต์˜ ์ˆœ์„œ ์ „์ œ ์‹ ๊ฒฝ๋ง์—๋Š” ์ ์‘ ๊ฐ€๋Šฅํ•œ ๊ฐ€์ค‘์น˜์™€ ํŽธํ–ฅ์ด ์žˆ๊ณ , ์ด ๊ฐ€์ค‘์น˜์™€ ํŽธํ–ฅ์„ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์— ์ ์‘ํ•˜๋„๋ก ์กฐ์ •ํ•˜๋Š” ๊ณผ์ •์„ 'ํ•™์Šต'์ด๋ผ ํ•ฉ๋‹ˆ๋‹ค. ์‹ ๊ฒฝ๋ง ํ•™์Šต์€ ๋‹ค์Œ๊ณผ ๊ฐ™์ด 4๋‹จ๊ณ„๋กœ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค. 1๋‹จ๊ณ„: ๋ฏธ๋‹ˆ๋ฐฐ์น˜ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ ์ค‘ ์ผ๋ถ€๋ฅผ ๋ฌด์ž‘์œ„๋กœ ๊ฐ€์ ธ์˜ต๋‹ˆ๋‹ค. ์ด๋ ‡๊ฒŒ ์„ ๋ณ„ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฏธ๋‹ˆ๋ฐฐ์น˜๋ผ ํ•˜๋ฉฐ, ๊ทธ ๋ฏธ๋‹ˆ๋ฐฐ์น˜์˜ ์†์‹ค ํ•จ์ˆ˜ ๊ฐ’์„ ์ค„์ด๋Š” ๊ฒƒ์ด ๋ชฉํ‘œ์ž…๋‹ˆ๋‹ค. 2๋‹จ๊ณ„: ๊ธฐ์šธ๊ธฐ ์‚ฐ์ถœ ๋ฏธ๋‹ˆ๋ฐฐ์น˜์˜ ์†์‹ค ํ•จ์ˆ˜ ๊ฐ’์„ ์ค„์ด๊ธฐ ์œ„ํ•ด ๊ฐ ๊ฐ€์ค‘์น˜ ๋งค๊ฐœ๋ณ€์ˆ˜์˜ ๊ธฐ์šธ๊ธฐ๋ฅผ ๊ตฌํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์šธ๊ธฐ๋Š” ์†Œ์‹ค ํ•จ์ˆ˜์˜ ๊ฐ’์„ ๊ฐ€์žฅ ์ž‘๊ฒŒ ํ•˜๋Š” ๋ฐฉํ–ฅ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. 3๋‹จ๊ณ„: ๋งค๊ฐœ๋ณ€์ˆ˜ ๊ฐฑ์‹  ๊ฐ€์ค‘์น˜ ๋งค๊ฐœ๋ณ€์ˆ˜๋ฅผ ๊ธฐ์šธ๊ธฐ ๋ฐฉํ–ฅ์œผ๋กœ ์•„์ฃผ ์กฐ๊ธˆ ๊ฐฑ์‹ ํ•ฉ๋‹ˆ๋‹ค. 4๋‹จ๊ณ„: ๋ฐ˜๋ณต 1~3๋‹จ๊ณ„๋ฅผ ๋ฐ˜๋ณตํ•ฉ๋‹ˆ๋‹ค. ์˜ค์ฐจ ์—ญ์ „ํŒŒ๋ฒ•์ด ๋“ฑ์žฅํ•˜๋Š” ๋‹จ๊ณ„๋Š” ๋‘๋ฒˆ์งธ์ธ ..

Deep Learning 2022.11.07
728x90