๐ #435. ์ค๊ตญ์ ๋ฅ์ํฌ(DeepSeek)๊ฐ ๋ถ๋ฌ์จ ํ์ฅ
์ค๊ตญ์ ๋ฅ์ํฌ R1 ๋ฑ์ฅ๊ณผ ๊ทธ ํ์ฅ
์๋
ํ์ธ์?
๋งค์ผ 1๊ฐ์ ํ๋กฌํํธ๋ฅผ ๋ฐฐ๋ฌํด๋๋ฆฌ๋ Daily Prompt์
๋๋ค.
๋จ์ ์ค ์ฐํด ์ ๋ณด๋ด์๊ณ , ์ํด ๋ณต ๋ง์ด ๋ฐ์ผ์ธ์! :)
์ค๋์ ์ค๊ตญ์ ๋ฅ์ํฌ๊ฐ ๋ถ๋ฌ์จ ํ์ฅ์ ๋ค๋ฃน๋๋ค.
์ค๊ตญ์ ๋ฅ์ํฌ๊ฐ ์ฃผ๋ชฉ๋ฐ๋ ์ด์
โ์ค๊ตญ์ ๋ฅ์ํฌ R1์ด OpenAI์ o1๋งํผ ์ฐ์ํ๋ค๊ณ ์๋ ค์ง๋ฉฐ, ํฐ ํ์ ๊ฐ ๋๊ณ ์์ต๋๋ค. ์๋น๋์ GPU๋ฅผ ์ฌ์ฉํ์ง ์๊ณ ๋ ์ฐ์ํ ์ถ๋ก ๋ชจ๋ธ์ ํ์ต์์ผฐ๋ค๋ ์ ์์ ์๋น๋์ ์ฃผ๊ฐ๊น์ง ์ถ๋ ์ด๊ฒ ๋ง๋ค์์ต๋๋ค.
์ค๊ตญ์ ๋ฅ์ํฌ๊ฐ ์ฃผ๋ชฉ๋ฐ๋ ์ด์ ๋ฅผ ์ ๋ฆฌํด๋ณด๋ฉด ๋ค์๊ณผ ๊ฐ์ต๋๋ค. ๊ด๋ จํ์ฌ ์ ์ ๋ฆฌ๋ ๊ธ์ด ์์ด ์ด๋ฅผ ์์ฝํ์ฌ ๊ณต์ ๋๋ฆฝ๋๋ค. ๋ฌผ๋ก ์๋ฌธ ์ ์ฒด๋ฅผ ์ฝ๋ ๊ฒ์ ์ถ์ฒ๋๋ฆฝ๋๋ค. [์๋ฌธ๋ณด๊ธฐ]
1๏ธโฃ o1 ๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ '๋ฌด๋ฃ'๋ก ์ฌ์ฉ๊ฐ๋ฅ
o1์ OpenAI์์ ์ถ์ํ ๋ชจ๋ธ ์ค ์ถ๋ก ๋ฅ๋ ฅ์ด ๊ฐ์ฅ ๋ฐ์ด๋ ๋ชจ๋ธ๋ก, ์์ฅ์์ ์ ์ผํ๊ฒ ๊ฐ์ฅ ๋ฐ์ด๋ ๋ชจ๋ธ์ด๊ธฐ๋ ํ์ต๋๋ค. ์ด o1 ๋ชจ๋ธ์ ์ ๋ฃ ๊ตฌ๋ ํด์ผ๋ง ์ฌ์ฉํด๋ณผ ์ ์๋ ๋ฐ๋ฉด, ๋ฅ์ํฌ์์๋ ๋ฌด๋ฃ๋ก ์ฌ์ฉ๊ฐ๋ฅํฉ๋๋ค.
์ด ์ง์ ์์ ์ค๊ตญ์ด ๋ฏธ๊ตญ์ ๋ฐ๋ผ์ก์๋ค๋ ์ถฉ๊ฒฉ์ ์ฃผ์์ต๋๋ค. GPT-3.5๋ฅผ ์์์ผ๋ก, ๊ทธ๋์ '๊ฐ์ฅ ๋ฐ์ด๋ ๋ชจ๋ธ์ OpenAI์์ ๊ฐ์ฅ ๋จผ์ ์ถ์ํ๋ค'๋ ์๊ฐ์ ๊ฐ๊ฒ ํ๋๋ฐ์, ์ด์ OpenAI๋, ๋ฏธ๊ตญ๋ ์๋ ์ค๊ตญ๊ณผ ๋ฅ์ํฌ์์๋ ์ด์ ๊ฐ์ด ๋ฐ์ด๋ ๋ชจ๋ธ์ ์ถ์ํ ์ ์๋ค๋ ์ ์ ์์ฌํฉ๋๋ค.
2๏ธโฃ 10๋ถ์ 1 ๋น์ฉ์ผ๋ก ํ์ตํ ๋ชจ๋ธ
๋ฅ์ํฌ๊ฐ ๊ฐ๋ฐํ ๋ชจ๋ธ์ ๊ธ๋ก๋ฒ ๋น ํ ํฌ ๊ธฐ์ ๋ค๊ณผ ๋น๊ตํด ํ์ต ๋น์ฉ์ด 10๋ถ์ 1 ์์ค(์ฝ 557๋ง 6์ฒ ๋ฌ๋ฌ, ์ฝ 80์ต ์)๋ฐ์ ๋ค์ง ์์๋ค๋ ์ ์์ ํ์ ๊ฐ ๋๊ณ ์์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ์ด ๊ธฐ์ ์ ์ด๋ฏธ R1 ๋ฐํ ์ด์ ์ ๊ณต๊ฐ๋ V3 ๋ชจ๋ธ์ ์ ์ฉ๋ ๊ฒ์ผ๋ก ์๋ ค์ก์ต๋๋ค.
ํฅ๋ฏธ๋ก์ด ์ ์ ์ด๋ ๊ฒ ํ๊ธฐ์ ์ธ ๋น์ฉ ์ ๊ฐ์ ๋ฐฐ๊ฒฝ์ ๋ฏธ๊ตญ์ ์นฉ ์์ถ ๊ธ์ง๊ฐ ์์๋ค๋ ์ฌ์ค์ ๋๋ค. ๋ฏธ๊ตญ ์ ๋ถ๊ฐ ์๋น๋์ H100 ์นฉ์ ์์ถ์ ๊ธ์งํ๋ฉด์, ๋ฅ์ํฌ๋ ํ์ฐ์ ์ผ๋ก ๊ท์ ๋์์ด ์๋ H800 ์นฉ์ ํ์ฉํด์ผ ํ์ต๋๋ค. ์ฑ๋ฅ์ด ๋ฎ์ ์นฉ์ ์ฌ์ฉํ ์๋ฐ์ ์๋ ์ํฉ์์, ๋ฅ์ํฌ๋ ๊ทน๋๋ก ํจ์จ์ ์ธ ํ์ต ๊ธฐ์ ์ ๊ฐ๋ฐํ๊ณ , ์ด๋ฅผ ํตํด ์ ๋น์ฉ์ผ๋ก๋ ๊ฐ๋ ฅํ AI ๋ชจ๋ธ์ ๊ตฌํํ๋ ๋ฐ ์ฑ๊ณตํ์ต๋๋ค.
์ด๋ '๋ฎ์ ์์์ผ๋ก๋ ๊ณ ์ฑ๋ฅ AI ๋ชจ๋ธ์ ๋ง๋ค ์ ์๋ค'๋ ๊ฒ์ ์ฆ๋ช ํ ๋ํ์ ์ธ ์ฌ๋ก์ด๋ฉฐ, ์์ผ๋ก AI ์ธํ๋ผ ์ค๊ณ์ ์ด์ ๋ฐฉ์์ ๊ทผ๋ณธ์ ์ผ๋ก ๋ณํ์ํฌ ๊ฐ๋ฅ์ฑ์ ์์ฌํฉ๋๋ค.
3๏ธโฃ ๋ค๋ฅธ ๋น ํ ํฌ ๊ธฐ์ ์ ๋ฏธ์น๋ ์ํฅ
๋ค๋ฅธ ๋น ํ ํฌ ๊ธฐ์ ์ ๋ฏธ์น๋ ์ํฅ์ ์๋ฌธ์ผ๋ก๋ถํฐ ๋ฐ์ทํด๋ณด๋ฉด ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
- ์ ํ [์ ๋ฆฌ]: ์ฃ์ง ๋๋ฐ์ด์ค(์ฌ์ฉ์ ๊ธฐ๊ธฐ)์์์ ์ถ๋ก ๋น์ฉ ์ ๊ฐ์ผ๋ก ์ ํ ์ค๋ฆฌ์ฝ์ ๊ฐ์ ์ด ๋ถ๊ฐ๋จ
- MS [์ ๋ฆฌ]: AI ์ถ๋ก ๋น์ฉ์ด ๋ฎ์์ ธ ๋ฐ์ดํฐ ์ผํฐ/GPU ํฌ์ ๋ถ๋ด์ ์ค์ด๊ณ ์ฌ์ฉ๋์ ๋๋ฆด ์ ์์
- ์๋ง์กด(AWS) [์ ๋ฆฌ]: ์คํ์์ค ๋ชจ๋ธ์ ์ ๋ ดํ๊ฒ ํธ์คํ ยท์ ๊ณต ๊ฐ๋ฅํด ํด๋ผ์ฐ๋ ๊ฒฝ์๋ ฅ ๊ฐํ
- ๋ฉํ(Meta) [์ ๋ฆฌ]: ์ถ๋ก ๋ฐ ํ์ต ๋น์ฉ ํ๋ฝ์ผ๋ก AI ๊ธฐ๋ฐ ๋น์ฆ๋์ค๋ฅผ ๋์ฑ ๋น ๋ฅด๊ณ ์ ๋ ดํ๊ฒ ํ์ฅ ๊ฐ๋ฅ
- ๊ตฌ๊ธ [๋ถ๋ฆฌ]: TPU์ ์๋์ ์ด์ ์ด ์ฝํ๋๊ณ ๊ฒ์ ๋์ฒด ์๋น์ค ๋ฑ์ฅ์ผ๋ก ์ง๋ฐฐ์ ์ง์๊ฐ ํ๋ค๋ฆด ์ ์์
- ์๋น๋์ [๋ถํ์ค]: ์ถ๋ก ๋น์ฉ ํ๋ฝ๊ณผ ๋์์ ์ต์ ํ๋ก ์ฑ์ฅ์ฑ์ ์๋ฌธ์ด ์๊ธฐ์ง๋ง, ์ฌ์ ํ CUDA์ ๋ณ๋ ฌ ์ฒ๋ฆฌ ๊ธฐ์ ์ฐ์๋ก ์์ฅ ์ง๋ฐฐ๋ ฅ์ ์ ์งํ ๊ฐ๋ฅ์ฑ ํผ
๋ง๋ฌด๋ฆฌ
- ๊ตญ๋ด LLM ๊ฐ๋ฐ์ ๊ฐ๋ฅ์ฑ: ๋ฏธ๊ตญ๊ณผ ์ค๊ตญ์ด ์ฒจ๋จ AI ๋ชจ๋ธ๊ณผ ๋ฐ๋์ฒด ๋ถ์ผ์์ ๊ฒฝ์์ ์ผ๋ก ์์๋๊ฐ๋ ์ํฉ์์, ํ๊ตญ์ ์๋์ ์ผ๋ก ๋ค์ฒ์ ธ ์๋ ๊ฒ์ด ์ฌ์ค์ ๋๋ค. ๊ทธ๋ฌ๋ ์ด๋ฒ ๋ฅ์ํฌ์ ์ฌ๋ก์์ ์ฃผ๋ชฉํด์ผ ํ ์ ์ '๋ฎ์ ์ฌ์์ ํ๋์จ์ด๋ก๋ ์ต๊ณ ์์ค์ ๋ชจ๋ธ์ ๋ง๋ค์ด๋ผ ์ ์๋ค'๋ ๊ฐ๋ฅ์ฑ์ ๋ณด์ฌ์คฌ๋ค๋ ๊ฒ์ ๋๋ค. ์ด๋ ๊ตญ๋ด ๊ธฐ์ ๊ณผ ์ฐ๊ตฌ์ค์๋ ์๋ฏธ ์๋ ์์ฌ์ ์ ์ค๋๋ค. ํ๋ถํ GPU ๋ฆฌ์์ค๋ฅผ ๊ฐ์ถ์ง ๋ชปํ ์ํฉ์์๋ ์ต์ ํ ๊ธฐ์ ๊ณผ ์ฐฝ์์ ์ธ ์ ๊ทผ์ ํตํด ์ธ๊ณ์ ์์ค์ LLM์ ๊ฐ๋ฐํ ์ฌ์ง๊ฐ ์ถฉ๋ถํ๋ค๋ ๋ป์ด์ฃ . ์ด๋ฌํ ๊ณ๊ธฐ๋ฅผ ํตํด ํ๊ตญ์ AI ๊ฐ๋ฐ์ด '๊ท๋ชจ์ ๊ฒฝ์'์ด ์๋๋ผ 'ํจ์จ๊ณผ ์ต์ ํ'์ ์ด์ ์ ๋ง์ถ ๋ฐฉํฅ์ผ๋ก๋ ์ ๊ทน ์ง์ ๋ ์ ์์ผ๋ฆฌ๋ผ ๊ธฐ๋๋ฉ๋๋ค.
- ์คํ์์ค ๋ชจ๋ธ์ ํํ์ ์์น: ๋ฅ์ํฌ๊ฐ ์ ๋ณด์ธ R1 ๋ชจ๋ธ์ ์คํ์์ค LLM์ด OpenAI์ o1๊ณผ ๊ฒฌ์ค ๋งํ ์ฑ๋ฅ์ ๋ผ ์ ์์์ ๋ณด์ฌ์คฌ์ต๋๋ค. ์ด๋ ์คํ์์ค AI ๋ชจ๋ธ์ โํํ์ โ์ด ๋์์ก๋ค๋ ๋ป์ด๋ฉฐ, ์์ผ๋ก๋ ์ธํฐ๋ท ์ฐ๊ฒฐ ์์ด๋ ๊ฐ์ธ PC๋ ์ค๋งํธํฐ์์ ์๋นํ ๊ฐ๋ ฅํ AI๊ฐ ๋์๊ฐ ๊ฐ๋ฅ์ฑ์ด ํฌ๋ค๋ ์๋ฏธ์
๋๋ค.
๊ทธ๋ฌ๋ ์ด๋ ๋์์ ์์ ์ฑ ๋ฌธ์ ๋ฅผ ๋ถ๋ฌ์ผ์ผํต๋๋ค. ์์ปจ๋ ๋ชจ๋ธ์ด โ๋ฒ์ฃ์ ์ ์ฉ๋ ๋งํ ์ ๋ณด๋ฅผ ์ ๊ณตํ๊ฑฐ๋โ ํน์ ๋ฌธ๊ตฌ๋ฅผ ์์ ๋กญ๊ฒ ์์ฑํด๋ผ ๋, ์ด๋ฅผ ํต์ ํ ์ฅ์น๊ฐ ํ์๋ OpenAI ๋ชจ๋ธ๋ณด๋ค ํจ์ฌ ์ฝํ๊ธฐ ๋๋ฌธ์ ๋๋ค. - โ์ต์โ์ด ๋น์ด๋ธ ์ญ์ค์ ํ์ : ์ด๋ฒ ๋ฅ์ํฌ ์ฌ๋ก์์๋ ๋๋ฌ๋ฌ๋ฏ, ๋ฏธ๊ตญ์ ์นฉ ์์ถ ๊ท์ ๊ฐ ์ค๊ตญ ๊ธฐ์ ๋ค์ ๊ธฐ์ ๋ฐ์ ์ ์คํ๋ ค ์ด์งํ๋ ์ญํ ์ ํ์ต๋๋ค. ์ด๋ ์ญ์ค์ ์ผ๋ก '์ ํ'๊ณผ '์ต์'์ด ์ฐฝ์์ฑ์ ๋ฐํ ์กฐ๊ฑด์ด ๋ ์ ์์์ ์ ๋ณด์ฌ์ค๋๋ค. ์ฌ์ ๋ก์ด ํ๊ฒฝ์์๋ ๊ตณ์ด ๊ทน๋จ์ ์ต์ ํ๋ ์๋ก์ด ๋ฐฉ์์ ๋ชจ์ํ์ง ์์ง๋ง, ๊ฐ์ ๋ ํ๊ณ ์ํฉ์ ์์ง๋์ด์ ์ฐ๊ตฌ์๋ค์ด ๊ธฐ์กด์ ํ์ ๋ฐ์ด๋๊ฒ ๋ง๋ค๊ธฐ ๋๋ฌธ์ ๋๋ค.
- LLM ์ฑ๋ฅ์ด ์ํฅ ํ์คํ๋๋ค๋ฉด, โ์ฐจ๋ณํโ๋ ์ด๋์? : ๊ฒฝ์์๋ค์ด ๋ชจ๋ OpenAI ์์ค์ ๋ชจ๋ธ ์ฑ๋ฅ์ ๋๋ฌํ๊ฑฐ๋ ๊ฐ๊น๊ฒ ์ถ๊ฒฉํ๋ค๋ฉด, LLM์ ๋ํ ๋ฒค์น๋งํฌ ๊ฒฝ์์ ์ฌ์ค์ ํฌํ ์ํ๊ฐ ๋ฉ๋๋ค. ์ด๋ ๊ฐ์ฅ ์ค์ํ ์ฐจ๋ณํ ์์๋ ๋น์ฉ ๊ตฌ์กฐ์ ์๋น์คยท์ ํํ ์ ๋ต์ผ๋ก ์ฎ๊ฒจ๊ฐ๊ฒ ๋ ๊ฒ์
๋๋ค. ๊ฐ์ ์ฑ๋ฅ์ ๋ผ ์ ์๋ค๋ฉด, ๊ทธ ๋ชจ๋ธ์ ์ผ๋ง๋ ์ ๋ ดํ๊ณ ํจ์จ์ ์ผ๋ก ์ด์ํ๋๋๊ฐ ํต์ฌ ๊ฒฝ์๋ ฅ์ด ๋๋ฉฐ, ์ด๋ฏธ ์๋น์ ์ ์ ์ ์ ์ ํ ๊ธฐ์
๋ค์ ์์ฌ ์ํ๊ณ๋ ๋๋ฉ์ธ ํนํ ์๋น์ค๋ฅผ ํตํด ์ฐ์๋ฅผ ์ ์งํ ์ ์์ต๋๋ค.
์๋ฅผ ๋ค์ด, ๋ง์ดํฌ๋ก์ํํธ(MS)๋ ์คํผ์ค ์ ํ๊ตฐ๊ณผ ์ฐ๋ํด ๋ฌธ์ ์์ฑ, ์ด๋ฉ์ผ ์์ฝ, ์ผ์ ๊ด๋ฆฌ ๋ฑ์ ์์ฝ๊ฒ ์ฒ๋ฆฌํ๋๋ก โCoPilotโ์ ์ ๊ณตํ๊ณ ์๊ณ , ๋ณ์์ด๋ ๊ธ์ต๊ธฐ๊ด์์ ๋ฒ๋ฅ ์๋ฌธ ๋๋ ์๋ฃ ๋ถ์์ฒ๋ผ ํน์ ๋ถ์ผ์ ํนํ๋ AI ์๋ฃจ์ ์ ์ ๋ณด์ฌ ๊ธฐ์กด ์ ๋ฌด ํ๋ก์ธ์ค์ ๋ฐ์ ํ๊ฒ ๊ฒฐํฉํ๊ณ ์์ต๋๋ค.
๊ฒฐ๊ตญ LLM์ ์ฑ๋ฅ ๊ฒฉ์ฐจ๊ฐ ์ค์ด๋ค์๋ก 'AI ์์ฒด๊ฐ ์ผ๋ง๋ ๋๋ํ๊ฐ?'๋ณด๋ค 'AI๋ฅผ ์ด๋ป๊ฒ ์ ์ฉํ๊ณ , ์ฌ์ฉ์ ๊ฒฝํ์ ์ผ๋ง๋ ์ต์ ํํ๋๋?'๊ฐ ๊ณง ์ฐจ๋ณํ ํฌ์ธํธ๊ฐ ๋ ๊ฒ์ ๋๋ค.
์ค๋์ Midjourney Prompt & Music
์๋ Midjourney ์ด๋ฏธ์ง๋ฅผ ์์ ๊ณผ ํจ๊ป ๊ฐ์ํด๋ณด์ธ์:)
ํ๋กฌํํธ (by @jae_hong__an) :