๐ #746. AI๊ฐ AI ์ฐ๊ตฌ๋ฅผ ํ๊ธฐ ์์ํ๋ค(ASI-Arch)
์๋
ํ์ธ์?
๋งค์ผ ์ฌ๋์ด ์ฐ๋ ๋ด์ค๋ ํฐ Daily Prompt์
๋๋ค.
์ค๋์ AI ์ฐ๊ตฌ์ ์ผ๋ถ๋ฅผ ์๋ํํ๋ ์์คํ ASI-Arch๋ฅผ ์๊ฐํ ๋ ผ๋ฌธ์ ๋ค๋ฃน๋๋ค.
AI๊ฐ AI ์ฐ๊ตฌ๋ฅผ ํ๊ธฐ ์์ํ๋ค
์ต๊ทผ AI ์ฐ๊ตฌ ์ปค๋ฎค๋ํฐ์์ AlphaGo Moment for Model Architecture Discovery๋ผ๋ ๋ ผ๋ฌธ์ด ํ์ ๊ฐ ๋๊ณ ์์ต๋๋ค. ์ ๋ชฉ ๊ทธ๋๋ก, ๋ชจ๋ธ ์ํคํ ์ฒ๋ฅผ ๋ฐ๊ฒฌํ๋ ๊ณผ์ ์์ ์ํ๊ณ (AlphaGo)์ 37์(Move 37) ๊ฐ์ ์๊ฐ์ด ๋ํ๋ ์ ์๋์ง๋ฅผ ๋ค๋ฃฌ ๋ ผ๋ฌธ์ ๋๋ค.
๋ ผ๋ฌธ์ด ์๊ฐํ๋ ์์คํ ์ ASI-Arch์ ๋๋ค. ํต์ฌ ์ฌ์ค๋ง ๋จผ์ ์ ๋ฆฌํ๋ฉด ์ด๋ ์ต๋๋ค.
- ASI-Arch๋ LLM ๊ธฐ๋ฐ ๋ฉํฐ์์ด์ ํธ ํ๋ ์์ํฌ์ ๋๋ค.
- ๋์์ ์ ๊ฒฝ๋ง ์ํคํ ์ฒ ๋ฐ๊ฒฌ, ๊ทธ์ค์์๋ linear attention architecture discovery์ ๋๋ค.
- ์์คํ ์ ์๋ก์ด ์ํคํ ์ฒ ์์ด๋์ด๋ฅผ ๋ง๋ค๊ณ , ์คํ ๊ฐ๋ฅํ ์ฝ๋๋ก ๊ตฌํํ๊ณ , ํ๋ จ๊ณผ ์คํ์ผ๋ก ์ฑ๋ฅ์ ํ์ธํฉ๋๋ค.
- ์คํ ๊ฒฐ๊ณผ๋ฅผ ๋ถ์ํ ๋ค, ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋ค์ ์ค๊ณ์ ๋ค์ ๋ฐ์ํ๋ ๋ฐ๋ณต ๋ฃจํ๋ฅผ ๊ฐ์ต๋๋ค.
์ฌ๊ธฐ์ ๋งํ๋ ์ํคํ ์ฒ๋ ๊ฑด๋ฌผ ์ค๊ณ๋์ ๋น์ทํฉ๋๋ค. AI ๋ชจ๋ธ๋ ๊ทธ๋ฅ ํฐ ๋ฉ์ด๋ฆฌ ํ๋๊ฐ ์๋๋ผ, ์ ๋ณด๋ฅผ ์ด๋ค ์์๋ก ์ฝ๊ณ , ๋ฌด์์ ๊ธฐ์ตํ๊ณ , ์ด๋ค ๊ณ์ฐ์ ๋จผ์ ํ ์ง์ ๋ํ ๋ด๋ถ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ต๋๋ค. ASI-Arch๋ ์ฌ๋์ด ๋ชจ๋ ์ค๊ณ ํ๋ณด๋ฅผ ์ง์ ๋ ์ฌ๋ฆฌ๋ ๋์ , AI์๊ฒ ์ฌ๋ฌ ์ค๊ณ์์ ๋ง๋ค๊ฒ ํ๊ณ , ์ค์ ๋ก ์๋ํ๋์ง ์คํํ๊ฒ ํ ๋ค, ๋ ๋์ ์ค๊ณ ๋ฐฉํฅ์ ๋ค์ ์ฐพ์๊ฐ๊ฒ ๋ง๋ ์์คํ ์ ๋๋ค.
๋ ผ๋ฌธ ์ด๋ก์ ๋ฐ๋ฅด๋ฉด ASI-Arch๋ ๋ค์๊ณผ ๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ๋๋ค๊ณ ๋ณด๊ณ ํฉ๋๋ค.
- 1,773๊ฐ์ autonomous experiments
- 20,000 GPU hours ์ด์์ ๊ณ์ฐ ์์ ์ฌ์ฉ: ์์ฃผ ๋ง์ ๊ณ์ฐ ์์์ ํฌ์ ํ๋ค๋ ๋ป
- 106๊ฐ์ SOTA linear attention architectures ๋ฐ๊ฒฌ: ๊ธฐ์กด ๊ธฐ์ค์์ ์ข์ ์ฑ๋ฅ์ ๋ธ ์ ์ค๊ณ ํ๋ณด๋ฅผ ์ฌ๋ฟ ๋ฐ๊ฒฌํ๋ค๋ ์๋ฏธ
- ์ํ๊ณ (AlphaGo)์ 37์์ฒ๋ผ, ์ฌ๋์ด ์ฝ๊ฒ ๋ ์ฌ๋ฆฌ์ง ๋ชปํ ์ค๊ณ ํจํด์ AI๊ฐ ์ฐพ์๋ผ ์ ์๋ค๋ ํด์
์ ๊ฒฐ๊ณผ๋ฅผ ํด์ํ์ฌ ์ค์ํ ํฌ์ธํธ๋ฅผ ์ง์๋ฉด:
- ์ฐ๊ตฌ์๊ฐ ํ๋ณด ์์ด๋์ด๋ฅผ ํ๋์ฉ ์์ผ๋ก ๋ง๋ค๊ณ ํ ์คํธํ ๊ฒ์ด ์๋๋ผ, AI ์์คํ ์ด ์๋ง์ ์ค๊ณ์์ ๋ง๋ค๊ณ ์คํํ๋ฉด์ ์ข์ ํ๋ณด๋ฅผ ์ฐพ์๋๋ค๊ณ ํฉ๋๋ค.
- ์ฐ๊ตฌ๋ 'AI๊ฐ ์๋ก์ด ์ ๋ต ํ๋๋ฅผ ์ฐ์๋ค'๊ฐ ์๋๋ผ, ์ฐ๊ตฌ์ ํ์ ๊ณผ์ ์์ฒด๊ฐ ๋๊ท๋ชจ ๋ฐ๋ณต ์คํ์ผ๋ก ๋ฐ๋๊ณ ์๋ค๋ ์ ์ ์ง์ต๋๋ค.
- ๋ํ ๊ฐ์ค ์์ฑ โ ๊ตฌํ โ ์คํ โ ๋ถ์ โ ๋ค์ ๊ฐ์ค๋ก ์ด์ด์ง๋ ์ฐ๊ตฌ ๋ฃจํ๋ฅผ ํ๋์ ์์คํ ์ผ๋ก ๋ฌถ์ ์ ์๋ค๋ ๊ฐ๋ฅ์ฑ์ ์ ์ํฉ๋๋ค.
๋ง๋ฌด๋ฆฌ
- ASI-Arch๊ฐ ๋ณด์ฌ์ฃผ๋ ๋ณํ๋, ์ฐ๊ตฌ์ ์ผ๋ถ๊ฐ ๊ฐ์ค โ ๊ตฌํ โ ์คํ โ ๋ถ์ โ ๋ค์ ๊ฐ์ค๋ก ์ด์ด์ง๋ ๋ซํ ๋ฃจํ๋ก ์๋ํ๋๊ธฐ ์์ํ๋ค๋ ์ ์ ๋๋ค. ๋ค๋ง ์ฐ๊ตฌ ์๋ํ์ ๊ณผํ์ ์์ ์๋ํ๋ ๋ค๋ฅผ ์ ์์ต๋๋ค. ๋ชฉํ ํจ์๊ฐ ๋น๊ต์ ๋ช ํํ๊ณ ์คํ์ ๋น ๋ฅด๊ฒ ๋๋ฆด ์ ์๋ ์์ญ์ ์๋ํ๊ฐ ๋นจ๋ผ์ง ์ ์์ต๋๋ค. ํ์ง๋ง ๋ฌด์์ ์ค์ํ ์ฐ๊ตฌ์ ์ง๋ฌธ์ผ๋ก ์ผ์์ง, ์ด๋ค ๋ฌธ์ ๋ฅผ ์ฐ๊ตฌ ๋์์ผ๋ก ์ผ์์ง, ๊ทธ ๋ฐ๊ฒฌ์ด ์ฌํ์ ์ผ๋ก ์ด๋ค ์๋ฏธ๋ฅผ ๊ฐ๋์ง๋ ๋จ์ํ AI๋ง์ผ๋ก ์ต์ ํํ๊ธฐ ์ด๋ ต์ต๋๋ค.
- ๊ทธ๋์ ์์ผ๋ก ๋ ์ค์ํด์ง๋ ์ง๋ฌธ์ '๋๊ฐ ์ฐ๊ตฌ์ ๋ชฉํ๋ฅผ ์ ํ๋๊ฐ?'๊ฐ ๋ ์ ์์ต๋๋ค. AI๋ ์ฃผ์ด์ง ๊ฒ์ํ ์์์๋ ๋น ๋ฅด๊ฒ ํ์ํ ์ ์์ง๋ง, ์ด๋ค ๊ฒ์ํ์ ๋ง๋ค ๊ฒ์ธ๊ฐ๋ ์ฌ์ ํ ์ ์น์ ์ด๊ณ ์ฌํ์ ์ธ ๋ฌธ์ ์ด๋ฉฐ, ๊ฒฐ๊ตญ ์ธ๊ฐ์ด ๊ฒฐ์ ํ๊ฒ ๋ฉ๋๋ค.
- ๋ง์ฝ AI๋ก ์ธํด ์ฐ๊ตฌ๊ฐ ์๋ํ๊ฐ ๋๋ค๋ฉด, ๋ถํ๋ฑ์ '๋๊ฐ ๋ ๋น ๋ฅด๊ฒ ์ฐ๊ตฌํ ์์๊ณผ ์์คํ ์ ๊ฐ๊ณ ์๋๊ฐ'์์ ์๊ธธ ์ ์์ต๋๋ค. ์ปดํจํ ํ์, ๋ ์ ๋ฐ์ดํฐ, ์๋ ์คํ์ค, ๊ณ ์ฑ๋ฅ ์๋ฎฌ๋ ์ดํฐ, ์คํจํ ์คํ ๋ก๊ทธ๊ฐ ์๋ก์ด ์ฐ๊ตฌ ๊ถ๋ ฅ์ด ๋ฉ๋๋ค.
- ๋ง์ฝ ๋ ์ ์ ์์๊ณผ ์์คํ ์ ๊ฐ์ง ์ฐ๊ตฌ์ค์์ '๋์ด ๋๊ณ ์ธ์์ ์ฃผ๋ชฉ์ ๋ฐ๋' ์ฐ๊ตฌ๋ง ํ๊ฒ ๋๋ค๋ฉด ์ด๋ป๊ฒ ๋ ๊น์? ์๋ง๋ ๊ฐ์, ๊ด๊ณ ์ต์ ํ, ๊ธ์ต, ๋ฌด๊ธฐ, ๋ ธ๋ ํต์ ์ฒ๋ผ ๋๊ณผ ๊ถ๋ ฅ์ด ๋ถ์ ๋ฌธ์ ์์๋ AI๋ฅผ ์ฌ์ฉํด ๊ด๋ จ ๊ธฐ์ ์ด ๋น ๋ฅด๊ฒ ๋ฐ์ ํ ์ ์์ง๋ง, ์ฌ์ฑ ๊ฑด๊ฐ, ๋๋ด, ์ฅ์ , ํฌ๊ท์งํ, ์ถ์ฐ ๋ถ๋ด ์ํ์ฒ๋ผ ์์ฅ์์ ๋ฆ๊ฒ ๋ณด์๋ฐ๋ ๋ฌธ์ ๋ ๊ณ์ ๋ค๋ก ๋ฐ๋ฆด ์ ์์ต๋๋ค.
- ๊ทธ๋์ AI ์๋์๋ ๊ทธ ์ด๋ ๋๋ณด๋ค '์ฌ๋ช ๊ฐ'์ด๋ผ๋ ๋จ์ด์ ๋ฌด๊ฒ๊ฐ ๋ฌด๊ฒ๊ฒ ๋๊ปด์ง๋๋ค. AI๊ฐ ๋ง์ ๊ฒ์ ํด๋ด๊ณ ์๋ํํ ์๋ก, "๋๋ ์ด๋ค ์ผ์ ํด์ผํ๋๊ฐ? ์ด๋ค ์ธ์์ ์ํด ์ผ์ ํ ๊ฒ์ธ๊ฐ?"์ ๊ฐ์ ์ ์ ๋ํ ๋ณธ์ง์ ์ธ ์ง๋ฌธ์ ๋ง์ฃผํ๊ฒ ๋ฉ๋๋ค.
- ์ค๋ ๋ด์ค๋ ํฐ๋ ๋ฐค๋ฆ๊ฒ ์ ํด๋๋ฆฌ๊ฒ ๋์๋ค์. ์ฌ์ค ์ค๋ KBS N <AIํ ํผ์> ์ดฌ์์ ํ๊ณ ์์ต๋๋ค. ๊ทธ๋์ ๊ธ๋ก๋ง ๊ตฌ๋ ์๋๊ณผ ์ํต์ ํด์์ง๋ง, ์ด์ ์์ ๋งค์ฒด๋ฅผ ํตํด์๋ ๊ตฌ๋ ์๋๊ณผ ๋ง๋ ์ ์๊ฒ ๋์๋ค์. ์์ผ๋ก ๋ด์ค๋ ํฐ๊ฐ ๋ฐํ๋์ง ์๋ ๋งค์ฃผ ์ฃผ๋ง, <AIํ ํผ์>๋ฅผ ํตํด ๊ตฌ๋ ์๋์ ๋ง๋ ์ ์๊ฒ ๋์ด ์๊ด์ด๊ณ , ๋ ์ค๋ ๊ธฐ๋ ํฉ๋๋ค.
- ๋ฐฉ์ก์ ์ฒ์์ด๋ผ ๋ถ์กฑํ ์ ์ด ๋ง์ง๋ง, ๊ทธ๋๋ ์ ๋ง ์ฌ๋ฐ๊ฒ ์ดฌ์ํ๊ณ , ๊ตฌ๋ ์๋๋ ์ฌ๋ฐ๊ฒ ๋ณด์ค ์ ์์ผ๋ฆฌ๋ผ ๋ฏฟ์ต๋๋ค! 5์ 30์ผ ์ฒซ ๋ฐฉ์ก์ด๊ณ ์, ๋ด์ค๋ ํฐ ํตํด์ ์์๋ ํจ๊ป ๊ณต์ ๋๋ฆฌ๊ฒ ์ต๋๋ค :) ์ข์ ๋ฐค ๋์ธ์!
์ค๋์ Midjourney Prompt & Music
์๋ Midjourney ์ด๋ฏธ์ง๋ฅผ ์์ ๊ณผ ํจ๊ป ๊ฐ์ํด๋ณด์ธ์:)
์ค๋์ Midjourney Prompt ์ ๋ ฅ ๊ฒฐ๊ณผ
ํ๋กฌํํธ (by @jae_hong__an) :