DACrew 1๊ธฐ ์ฃผ๊ฐ„ ๋ฆฌ๋ทฐ 4์ฃผ์ฐจ

2022. 2. 6. 17:17ใ†์Šคํ„ฐ๋””/DACrew

๐ŸŒŸ ๋ณธ ํฌ์ŠคํŒ…์€ ๋ฐ์ด์ฝ˜ ์„œํฌํ„ฐ์ฆˆ “๋ฐ์ดํฌ๋ฃจ" 1๊ธฐ ํ™œ๋™์˜ ์ผํ™˜์ž…๋‹ˆ๋‹ค. ๐ŸŒŸ

 

์„ค ์—ฐํœด๊ฐ€ ์žˆ๋˜ 4์ฃผ์ฐจ ์ž…๋‹ˆ๋‹ค. ์ €๋Š” ์—ฐํœด๋™์•ˆ ํ•˜๊ณ ์‹ถ์—ˆ๋˜๊ฒŒ ๋งŽ์•˜๋Š”๋ฐ, ๋จธ๋ฆฌ๋กœ๋งŒ ์ƒ๊ฐํ•˜๋‹ค ์—ฐํœด๊ฐ€ ๋๋‚˜ ๋ฒ„๋ ธ๋„ค์š”. ์ž˜ ์ •๋ฆฌํ•ด์„œ ํ•˜๋‚˜์”ฉ ํ•ด๋ด์•ผ๊ฒ ์Šต๋‹ˆ๋‹ค :)

 

์ด๋ฒˆ์ฃผ๋Š” ํ•œ ๊ฒฝ์ง„๋Œ€ํšŒ๊ฐ€ ๋งˆ๋ฌด๋ฆฌ๋˜๊ณ , ๊ทธ์— ๋Œ€ํ•œ ์ˆ˜์ƒ์ž๋“ค์˜ ์ฝ”๋“œ ๊ณต์œ ๊ฐ€ ๋งˆ๋ฌด๋ฆฌ๋˜์—ˆ๋Š”๋ฐ์š”. ์ž‘์„ฑํ•ด๋‘” ๊ธ€๊ณผ ๋ชจ๋ธ์„ ์‚ดํŽด๋ณด๋‹ˆ ์žฌ๋ฏธ์žˆ๋Š” ๊ตฌ์กฐ๋“ค์ด ๋งŽ์•˜์Šต๋‹ˆ๋‹ค. ๋‹จ์ˆœํ•œ ๋ชจ๋ธ์ธ๋ฐ๋„ ์„ฑ๋Šฅ์ด ์ž˜ ๋‚˜์˜ค๋Š” ๊ฒฝ์šฐ๋„ ์žˆ์—ˆ๊ณ , ์ •๋ง ๋ฉ‹์ง„ ๊ตฌ์กฐ์˜ ๋ชจ๋ธ์„ ๋ณธ ๊ฒƒ๋„ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ๋งŽ์€ ๋ถ„๋“ค์ด ๊ณต์œ ํ•ด์ฃผ์‹  ๋‚ด์šฉ ์ฐจ๊ทผ์ฐจ๊ทผ ์‚ดํŽด๋ณด๋Š” ๊ฒƒ๋„ ์•„์ฃผ ์žฌ๋ฏธ์žˆ๋Š” ์ผ์ธ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์š”์ฆ˜ ์ž˜ ์ •๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ๋ฉ”๋ชจ์žฅ์ด ์ ˆ์‹คํ•˜๋„ค์š”

 

4์ฃผ์ฐจ ๊ธ€๋กœ๋Š” 1. loss function ์ง์ ‘ ๋งŒ๋“ค๊ธฐ, 2. ๊ฐ€ํŠธ๋„ˆ 2ํŽธ, 3. ์ž๋™ fine-tuning์œผ๋กœ ๊ตฌ์„ฑ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ฒซ๋ฒˆ์งธ ๊ธ€์€ ์•„์ฃผ ๊ธฐ์ดˆ์ ์ธ ๊ฐœ๋…์„ ๊ฐ–๊ณ  ์žˆ์œผ๋‚˜, ํŒจํ‚ค์ง€์— ์ž˜ ์ œ๊ณต๋˜๊ณ  ์žˆ๋Š” ํด๋ž˜์Šค๋ฅผ ๋„˜์–ด์„œ, ์Šค์Šค๋กœ ํ•„์š”ํ•œ ๊ฒƒ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ๋Š” ์—ญ๋Ÿ‰์„ ๊ธฐ๋ฅด๊ธฐ ์œ„ํ•ด ์ •๋ฆฌ๋ฅผ ์ง„ํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ๋‘๋ฒˆ์งธ ๊ธ€์€ ์ง€๋‚œ์ฃผ ์ž‘์„ฑํ–ˆ๋˜ 1ํŽธ์˜ ์—ฐ์žฅ์œผ๋กœ ๋˜ ๋‹ค๋ฅธ 3๊ฐœ์˜ ๊ธฐ์ˆ ์„ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค. ๋งˆ์ง€๋ง‰ ๊ธ€์€ ์ƒˆ๋กœ์šด ๊ธฐ๋Šฅ์„ ์•Œ๊ฒŒ๋˜์–ด ์ •๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ฌด๋ ค DNN ๋ชจ๋ธ์„ ์ž๋™์œผ๋กœ fining-tuningํ•˜๋Š” ๊ธฐ๋Šฅ์ž…๋‹ˆ๋‹ค!


๐Ÿ‘‰ Tensorflow(Keras)๋ฅผ ํ™œ์šฉํ•˜์—ฌ Loss Function ์ง์ ‘ ๋งŒ๋“ค๊ธฐ

 ์ฒซ๋ฒˆ์งธ ๊ธ€์„ ์†์‹คํ•จ์ˆ˜๋ฅผ ์ง์ ‘ ๋งŒ๋“œ๋Š” ๊ธ€์ž…๋‹ˆ๋‹ค. ๊ฐ€๋” ๋ชจ๋ธ์„ ๋งŒ๋“ค๋‹ค๋ณด๋ฉด ํ•„์š”ํ•œ ์†์‹คํ•จ์ˆ˜๋ฅผ tf์—์„œ ์ง€์›ํ•˜์ง€ ์•Š์•„ ์ง์ ‘ ๋งŒ๋“ค์–ด์•ผํ•˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ์ƒ๊ธฐ๋Š”๋ฐ์š”, ์ €๋Š” ๋งŒ๋“ค๋•Œ๋งˆ๋‹ค ์ฐพ์•„๋ณด๊ณ  ์ดํ•ดํ•˜๋Š”๋ฐ ์‹œ๊ฐ„์„ ๋งŽ์ด ํˆฌ์žํ•˜๊ฒŒ ๋˜๋”๋ผ๊ตฌ์š”. ๊ทธ๋ž˜์„œ ํ•œ๋ฒˆ์€ ๊ผญ ์ •๋ฆฌํ•ด์•ผ๊ฒ ๋‹ค ์‹ถ์–ด, ์ด๋ฒˆ ๊ธฐํšŒ๋กœ ๊ฐ„๋‹จํ•œ ์ฝ”๋“œ๋กœ ๊ฐœ๋…์„ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๊ฒŒ ์ •๋ฆฌํ•˜์˜€์Šต๋‹ˆ๋‹ค.

 

์ด ๊ธ€์€ ์ด ๋ธ”๋กœ๊ทธ์—๋„ ๊ฐ„๋‹จํ•˜๊ฒŒ ์ฝ”๋“œ ์œ„์ฃผ๋กœ ์ •๋ฆฌํ•  ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ์ €ํ•œํ…Œ๋Š” ๋„ˆ๋ฌด ํ•„์š”ํ•œ ๋‚ด์šฉ๋“ค์ด๋ผ ๋‘๊ณ ๋‘๊ณ  ์—ด์–ด๋ณด๊ธฐ ์ข‹๊ฒŒ ์ฝ”๋“œ๋ฅผ ์ผ๋ถ€ ์ˆ˜์ •ํ•˜์—ฌ ๋ธ”๋กœ๊ทธ์— ๋‹ค์‹œ ๊ฒŒ์‹œํ• ๊นŒ ํ•ฉ๋‹ˆ๋‹ค. ๋งŽ์€ ๋ถ„๋“ค์—๊ฒŒ๋„ ์œ ์šฉํ•˜๊ฒŒ ์‚ฌ์šฉ๋  ์ˆ˜ ์žˆ์—ˆ์œผ๋ฉด ์ข‹๊ฒ ์Šต๋‹ˆ๋‹ค.

 

 

Tensorflow(Keras)๋ฅผ ํ™œ์šฉํ•˜์—ฌ Loss function ์ง์ ‘ ๋งŒ๋“ค๊ธฐ

 

dacon.io

 

๐Ÿ‘‰ ๊ฐ€ํŠธ๋„ˆ 2022๋…„ ๊ธฐ์ˆ ํŠธ๋ Œ๋“œ[2ํŽธ] (Cybersecurity Mesh, Decision Intelligence, Total Experience)

์ง€๋‚œ์ฃผ์— ์ด์–ด ๊ฐ€ํŠธ๋„ˆ ๊ธฐ์ˆ ํŠธ๋ Œ๋“œ๋ฅผ ์†Œ๊ฐœํ•˜๋Š” ๊ธ€์„ ์ž‘์„ฑํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฒˆ์ฃผ์— ์†Œ๊ฐœํ•˜๋Š” ๊ธฐ์ˆ ์€ ์‚ฌ์ด๋ฒ„๋ณด์•ˆ ๋ฉ”์‹œ, ์˜์‚ฌ๊ฒฐ์ • ์ธํ…”๋ฆฌ์ „์Šค, ์ด ๊ฒฝํ—˜ ์ž…๋‹ˆ๋‹ค.

 

์ผ๋ฐ˜์ ์œผ๋กœ ์‚ฌ์‹ค ๋ณด์•ˆ์˜ ๊ฒฝ์šฐ, ๊ฐ€๋” ๋‰ด์Šค์—์„œ ๊ฐœ์ธ์ •๋ณด๊ฐ€ ํ„ธ๋ ธ๋‹ค๊ณ ํ•˜๋Š” ๊ฒƒ์„ ๋ณด๋Š” ์ •๋„๊ฐ€ ์ „๋ถ€์ธ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ปดํ“จํ„ฐ์— ๋ฐ”์ด๋Ÿฌ์Šค ๋ฐ ํ•ดํ‚น ๋ฌธ์ œ๋กœ ๊ณ ์ƒํ•˜๋Š” ๊ฒฝ์šฐ๋ฅผ ์ œ์™ธํ•˜๊ณ ๋Š” ๋ง์ด์ฃ . ์ € ์—ญ์‹œ ํฌ๊ฒŒ ๊ธฐ์ˆ ์ ์ธ ๋ถ€๋ถ„์„ ์ ‘ํ•  ์ผ์ด ์—†๋‹ค๋ณด๋‹ˆ๊นŒ ์—ฌ๋Ÿฌ ๊ธ€์„ ์ฝ์—ˆ๋Š”๋ฐ, ๊ฐ€๋‹ฅ์„ ์žก๊ธฐ๊ฐ€ ์‰ฝ์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ ์ตœ๋Œ€ํ•œ ์‰ฝ๊ฒŒ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๊ฒŒ ๊ธ€์„ ์“ฐ๋ ค ํ–ˆ์œผ๋‚˜, ์ž˜ ์“ฐ์—ฌ์ง„ ๊ฒƒ์ธ์ง€๋Š” ์•„์ง๋„ ์ž˜ ๋ชจ๋ฅด๊ฒ ์Šต๋‹ˆ๋‹ค. ๐Ÿคฃ ์•„๋ฌด๋ž˜๋„ ์ž˜ ๋ชจ๋ฅด๋Š” ๋ถ„์•ผ๋‹ค ๋ณด๋‹ˆ ์ •๋ฆฌํ•˜๋Š”๊ฒŒ ์‰ฝ์ง€ ์•Š์•˜์ง€๋งŒ, ๊ฐ„๋žตํ•˜๊ฒŒ๋‚˜๋งˆ ์•Œ์•„๋‘๋ฉด ์ƒ์‹์„ ์—์„œ ํฐ ๋„์›€์ด ๋  ๊ฒƒ์„ ์ƒ๊ฐ๋˜๋Š” ๋‚ด์šฉ์ด์—ˆ์Šต๋‹ˆ๋‹ค.

 

์˜์‚ฌ๊ฒฐ์ • ์ธํ…”๋ฆฌ์ „์Šค์˜ ๊ฒฝ์šฐ, ์šฉ์–ด๋Š” ์•„์ง ์ƒ์†Œํ•˜์ง€๋งŒ ๋‚ด์šฉ์€ ์ €์—๊ฒŒ ์•„์ฃผ ์นœ์ˆ™ํ•œ ๋‚ด์šฉ์ž…๋‹ˆ๋‹ค. ์‚ฌํšŒ๋Š” ์•„์ฃผ ๋งŽ์€ ํ”„๋กœ์„ธ์Šค๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ๋Š”๋ฐ์š”, ์ด ํ”„๋กœ์„ธ์Šค์—์„œ๋Š” ๋งŽ์€ ์˜์‚ฌ๊ฒฐ์ •์ด ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค. ์˜์‚ฌ๊ฒฐ์ •์„ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•ด ์ฆ๊ฐ•๋ถ„์„, ์‹œ๋ฎฌ๋ ˆ์ด์…˜, AI ๋“ฑ์ด ํ™œ์šฉ๋˜๋Š”๋ฐ์š”. ์˜์‚ฌ๊ฒฐ์ • ์ธํ…”๋ฆฌ์ „์Šค๋Š” ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ ์ด๋Ÿฌํ•œ ๊ธฐ์ˆ ๋“ค์„ ์ž˜ ์—ฐ๊ณ„ํ•˜์—ฌ ์ ์ ˆํ•œ ์˜์‚ฌ๊ฒฐ์ •๊นŒ์ง€ ํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•˜๋Š” ๊ธฐ์ˆ ์ด๋ผ๋Š” ๊ฒƒ์œผ๋กœ ์ดํ•ดํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ๊ธฐ์ˆ ๋“ค์€ ํšจ์œจ์ ์ธ ํ”„๋กœ์„ธ์Šค๋ฅผ ํ™œ์šฉํ•ด์•ผํ•˜๋Š” ๋Œ€๊ธฐ์—…์—์„œ ๋งŽ์ด ํ™œ์šฉ๋  ์ˆ˜ ๋ฐ–์— ์—†์Šต๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ์ฆ๊ฐ•๋ถ„์„, ์‹œ๋ฎฌ๋ ˆ์ด์…˜, AI ๋ชจ๋‘ ๋ฐ์ดํ„ฐ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์—ฐ๊ตฌ๊ฐ€ ์ง„ํ–‰๋˜๊ณ  ์žˆ๋Š” ๋ถ„์•ผ๋ผ ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ ์ˆ˜์š”๊ฐ€ ๋”์šฑ ๋งŽ์•„ ์งˆ ๊ฒƒ ๊ฐ™๋‹ค๋Š” ์ƒ๊ฐ์ด ๋“ญ๋‹ˆ๋‹ค. 

 

๋งˆ์ง€๋ง‰์œผ๋กœ ์ด ๊ฒฝํ—˜์€ ์‚ฌํšŒ์— ์†Œ์†๋˜์–ด์žˆ๋Š” ๋ชจ๋“  ์‚ฌ๋žŒ๋“ค์ด๋ผ๋ฉด ๋ชธ์†Œ ์ฒดํ—˜ํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค. ๊ฐœ์ธ์ ์œผ๋กœ ๋‹น์—ฐํ•˜์ง€๋งŒ, ์‹ค์ œ๋กœ ํ‘œํ˜„ํ•˜๊ธฐ๋Š” ์–ด๋ ค์šด ๊ฒƒ์ด ๊ฒฝํ—˜์ด๋ผ ์ƒ๊ฐ์ด ๋˜๋Š”๋ฐ์š”. ์ด๊ฒƒ์„ ๊ด€๋ฆฌํ•˜์—ฌ ๋น„์ฆˆ๋‹ˆ์Šค๋ฅผ ์šด์˜ํ•˜๋Š”๋ฐ ์ถฉ์„ฑ๊ณผ ์ง€์ง€๋ฅผ ์–ป๊ณ ์ž ํ•˜๋Š”๋ฐ ํ™œ์šฉ์ด ๋˜๋Š” ๊ฒƒ์€ ์ดํ•ด๊ฐ€ ๋ฉ๋‹ˆ๋‹ค๋งŒ, ์–ด๋–ป๊ฒŒ ์ด๋ฅผ ์ž˜ ๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ์„์ง€ ๊ถ๊ธˆํ•ด์ง€๋Š” ๋‚ด์šฉ๋“ค์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๊ธฐํšŒ๊ฐ€ ์žˆ๋‹ค๋ฉด ๊ด€๋ จํ•ด์„œ ์–ด๋–ป๊ฒŒ ๊ด€๋ฆฌ๋ฅผ ํ•˜๋Š”์ง€ ์•Œ์•„๋ณด์•„์•ผ๊ฒ ์Šต๋‹ˆ๋‹ค.

 

๊ฐ€ํŠธ๋„ˆ์˜ 2022๋…„ ๊ธฐ์ˆ ํŠธ๋ Œ๋“œ [2ํŽธ]

 

dacon.io

 

๐Ÿ‘‰ Keras-tuner๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ตœ์ ์˜ ๋ชจ๋ธ ์ฐพ๊ธฐ: Fine-tuning

 ๋งˆ์ง€๋ง‰ ๊ธ€์€ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์„ ์ž๋™์œผ๋กœ fine-tuningํ•˜๋Š” keras์˜ ๊ธฐ๋Šฅ์ž…๋‹ˆ๋‹ค. ์ €๋Š” ํ‰์†Œ ํŠœ๋‹์„ ์œ„ํ•ด ๊ฐ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๋ฆฌ์ŠคํŠธ๋กœ ๋‘๊ณ  ๊ฐ„๋‹จํžˆ grid searchํ•˜๋Š” ๋ฐฉ์‹์„ ์ทจํ–ˆ์—ˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฒˆ์— keras-tuner๋ฅผ ์•Œ๊ฒŒ๋˜๊ณ , ํŠœํ† ๋ฆฌ์–ผ์„ ๋”ฐ๋ผํ•ด๋ณด์•˜๋Š”๋ฐ ์ƒ๊ฐ๋ณด๋‹ค ์ „๋žต์ ์œผ๋กœ ์›€์ง์—ฌ ๋†€๋ž์Šต๋‹ˆ๋‹ค. AutoML์˜ ๊ธฐ์ˆ ์ด ๋น ๋ฅด๊ฒŒ ๋ฐœ์ „ํ•˜๊ณ  ์žˆ์œผ๋‹ˆ, ์ด๋ ‡๊ฒŒ ์ƒ์šฉํ™”๋œ ํˆด๋„ ๋ณผ ์ˆ˜ ์žˆ๋Š” ๊ฒƒ์ด๊ฒ ์ฃ ? ๋‹ค์‹œํ•œ๋ฒˆ ๊ณต๋ถ€ํ•  ์˜์š•์ด ๋ถˆํƒ€์˜ค๋ฅด๊ฒŒํ•˜๋Š” ๊ธฐ๋Šฅ ์ฒดํ—˜๊ธฐ์˜€์Šต๋‹ˆ๋‹ค.

 

 

Keras-tuner๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ตœ์ ์˜ ๋ชจ๋ธ ์ฐพ๊ธฐ: Fine tuning

 

dacon.io

 


๋‹ค์Œ์ฃผ์—๋Š” ๋˜ ๋‹ค๋ฅธ ์žฌ๋ฐŒ๋Š” ์ฃผ์ œ๋ฅผ ๊ณต์œ ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ค€๋น„ํ•ด๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค.

์ฝ์–ด์ฃผ์…” ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค ๐Ÿฅฐ