๐Ÿ”Ž #746. AI๊ฐ€ AI ์—ฐ๊ตฌ๋ฅผ ํ•˜๊ธฐ ์‹œ์ž‘ํ•˜๋‹ค(ASI-Arch)

์•ˆ๋…•ํ•˜์„ธ์š”?
๋งค์ผ ์‚ฌ๋žŒ์ด ์“ฐ๋Š” ๋‰ด์Šค๋ ˆํ„ฐ Daily Prompt์ž…๋‹ˆ๋‹ค.

์˜ค๋Š˜์€ AI ์—ฐ๊ตฌ์˜ ์ผ๋ถ€๋ฅผ ์ž๋™ํ™”ํ•˜๋Š” ์‹œ์Šคํ…œ ASI-Arch๋ฅผ ์†Œ๊ฐœํ•œ ๋…ผ๋ฌธ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค.


AI๊ฐ€ AI ์—ฐ๊ตฌ๋ฅผ ํ•˜๊ธฐ ์‹œ์ž‘ํ–ˆ๋‹ค

์ตœ๊ทผ AI ์—ฐ๊ตฌ ์ปค๋ฎค๋‹ˆํ‹ฐ์—์„œ AlphaGo Moment for Model Architecture Discovery๋ผ๋Š” ๋…ผ๋ฌธ์ด ํ™”์ œ๊ฐ€ ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ œ๋ชฉ ๊ทธ๋Œ€๋กœ, ๋ชจ๋ธ ์•„ํ‚คํ…์ฒ˜๋ฅผ ๋ฐœ๊ฒฌํ•˜๋Š” ๊ณผ์ •์—์„œ ์•ŒํŒŒ๊ณ (AlphaGo)์˜ 37์ˆ˜(Move 37) ๊ฐ™์€ ์ˆœ๊ฐ„์ด ๋‚˜ํƒ€๋‚  ์ˆ˜ ์žˆ๋Š”์ง€๋ฅผ ๋‹ค๋ฃฌ ๋…ผ๋ฌธ์ž…๋‹ˆ๋‹ค.

๋…ผ๋ฌธ์ด ์†Œ๊ฐœํ•˜๋Š” ์‹œ์Šคํ…œ์€ ASI-Arch์ž…๋‹ˆ๋‹ค. ํ•ต์‹ฌ ์‚ฌ์‹ค๋งŒ ๋จผ์ € ์ •๋ฆฌํ•˜๋ฉด ์ด๋ ‡์Šต๋‹ˆ๋‹ค.

  • ASI-Arch๋Š” LLM ๊ธฐ๋ฐ˜ ๋ฉ€ํ‹ฐ์—์ด์ „ํŠธ ํ”„๋ ˆ์ž„์›Œํฌ์ž…๋‹ˆ๋‹ค.
  • ๋Œ€์ƒ์€ ์‹ ๊ฒฝ๋ง ์•„ํ‚คํ…์ฒ˜ ๋ฐœ๊ฒฌ, ๊ทธ์ค‘์—์„œ๋„ linear attention architecture discovery์ž…๋‹ˆ๋‹ค.
  • ์‹œ์Šคํ…œ์€ ์ƒˆ๋กœ์šด ์•„ํ‚คํ…์ฒ˜ ์•„์ด๋””์–ด๋ฅผ ๋งŒ๋“ค๊ณ , ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ์ฝ”๋“œ๋กœ ๊ตฌํ˜„ํ•˜๊ณ , ํ›ˆ๋ จ๊ณผ ์‹คํ—˜์œผ๋กœ ์„ฑ๋Šฅ์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.
  • ์‹คํ—˜ ๊ฒฐ๊ณผ๋ฅผ ๋ถ„์„ํ•œ ๋’ค, ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋‹ค์Œ ์„ค๊ณ„์— ๋‹ค์‹œ ๋ฐ˜์˜ํ•˜๋Š” ๋ฐ˜๋ณต ๋ฃจํ”„๋ฅผ ๊ฐ–์Šต๋‹ˆ๋‹ค.

์—ฌ๊ธฐ์„œ ๋งํ•˜๋Š” ์•„ํ‚คํ…์ฒ˜๋Š” ๊ฑด๋ฌผ ์„ค๊ณ„๋„์™€ ๋น„์Šทํ•ฉ๋‹ˆ๋‹ค. AI ๋ชจ๋ธ๋„ ๊ทธ๋ƒฅ ํฐ ๋ฉ์–ด๋ฆฌ ํ•˜๋‚˜๊ฐ€ ์•„๋‹ˆ๋ผ, ์ •๋ณด๋ฅผ ์–ด๋–ค ์ˆœ์„œ๋กœ ์ฝ๊ณ , ๋ฌด์—‡์„ ๊ธฐ์–ตํ•˜๊ณ , ์–ด๋–ค ๊ณ„์‚ฐ์„ ๋จผ์ € ํ• ์ง€์— ๋Œ€ํ•œ ๋‚ด๋ถ€ ๊ตฌ์กฐ๋ฅผ ๊ฐ–์Šต๋‹ˆ๋‹ค. ASI-Arch๋Š” ์‚ฌ๋žŒ์ด ๋ชจ๋“  ์„ค๊ณ„ ํ›„๋ณด๋ฅผ ์ง์ ‘ ๋– ์˜ฌ๋ฆฌ๋Š” ๋Œ€์‹ , AI์—๊ฒŒ ์—ฌ๋Ÿฌ ์„ค๊ณ„์•ˆ์„ ๋งŒ๋“ค๊ฒŒ ํ•˜๊ณ , ์‹ค์ œ๋กœ ์ž‘๋™ํ•˜๋Š”์ง€ ์‹คํ—˜ํ•˜๊ฒŒ ํ•œ ๋’ค, ๋” ๋‚˜์€ ์„ค๊ณ„ ๋ฐฉํ–ฅ์„ ๋‹ค์‹œ ์ฐพ์•„๊ฐ€๊ฒŒ ๋งŒ๋“  ์‹œ์Šคํ…œ์ž…๋‹ˆ๋‹ค.

๋…ผ๋ฌธ ์ดˆ๋ก์— ๋”ฐ๋ฅด๋ฉด ASI-Arch๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๊ฒฐ๊ณผ๋ฅผ ๋ƒˆ๋‹ค๊ณ  ๋ณด๊ณ ํ•ฉ๋‹ˆ๋‹ค.

  • 1,773๊ฐœ์˜ autonomous experiments
  • 20,000 GPU hours ์ด์ƒ์˜ ๊ณ„์‚ฐ ์ž์› ์‚ฌ์šฉ: ์•„์ฃผ ๋งŽ์€ ๊ณ„์‚ฐ ์ž์›์„ ํˆฌ์ž…ํ–ˆ๋‹ค๋Š” ๋œป
  • 106๊ฐœ์˜ SOTA linear attention architectures ๋ฐœ๊ฒฌ: ๊ธฐ์กด ๊ธฐ์ค€์—์„œ ์ข‹์€ ์„ฑ๋Šฅ์„ ๋‚ธ ์ƒˆ ์„ค๊ณ„ ํ›„๋ณด๋ฅผ ์—ฌ๋Ÿฟ ๋ฐœ๊ฒฌํ–ˆ๋‹ค๋Š” ์˜๋ฏธ
  • ์•ŒํŒŒ๊ณ (AlphaGo)์˜ 37์ˆ˜์ฒ˜๋Ÿผ, ์‚ฌ๋žŒ์ด ์‰ฝ๊ฒŒ ๋– ์˜ฌ๋ฆฌ์ง€ ๋ชปํ•œ ์„ค๊ณ„ ํŒจํ„ด์„ AI๊ฐ€ ์ฐพ์•„๋‚ผ ์ˆ˜ ์žˆ๋‹ค๋Š” ํ•ด์„

์œ„ ๊ฒฐ๊ณผ๋ฅผ ํ•ด์„ํ•˜์—ฌ ์ค‘์š”ํ•œ ํฌ์ธํŠธ๋ฅผ ์งš์ž๋ฉด:

  • ์—ฐ๊ตฌ์ž๊ฐ€ ํ›„๋ณด ์•„์ด๋””์–ด๋ฅผ ํ•˜๋‚˜์”ฉ ์†์œผ๋กœ ๋งŒ๋“ค๊ณ  ํ…Œ์ŠคํŠธํ•œ ๊ฒƒ์ด ์•„๋‹ˆ๋ผ, AI ์‹œ์Šคํ…œ์ด ์ˆ˜๋งŽ์€ ์„ค๊ณ„์•ˆ์„ ๋งŒ๋“ค๊ณ  ์‹คํ—˜ํ•˜๋ฉด์„œ ์ข‹์€ ํ›„๋ณด๋ฅผ ์ฐพ์•„๋ƒˆ๋‹ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค.
  • ์—ฐ๊ตฌ๋Š” 'AI๊ฐ€ ์ƒˆ๋กœ์šด ์ •๋‹ต ํ•˜๋‚˜๋ฅผ ์ฐ์—ˆ๋‹ค'๊ฐ€ ์•„๋‹ˆ๋ผ, ์—ฐ๊ตฌ์˜ ํƒ์ƒ‰ ๊ณผ์ • ์ž์ฒด๊ฐ€ ๋Œ€๊ทœ๋ชจ ๋ฐ˜๋ณต ์‹คํ—˜์œผ๋กœ ๋ฐ”๋€Œ๊ณ  ์žˆ๋‹ค๋Š” ์ ์„ ์งš์Šต๋‹ˆ๋‹ค.
  • ๋˜ํ•œ ๊ฐ€์„ค ์ƒ์„ฑ โ†’ ๊ตฌํ˜„ โ†’ ์‹คํ—˜ โ†’ ๋ถ„์„ โ†’ ๋‹ค์Œ ๊ฐ€์„ค๋กœ ์ด์–ด์ง€๋Š” ์—ฐ๊ตฌ ๋ฃจํ”„๋ฅผ ํ•˜๋‚˜์˜ ์‹œ์Šคํ…œ์œผ๋กœ ๋ฌถ์„ ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฐ€๋Šฅ์„ฑ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.

๋งˆ๋ฌด๋ฆฌ

  1. ASI-Arch๊ฐ€ ๋ณด์—ฌ์ฃผ๋Š” ๋ณ€ํ™”๋Š”, ์—ฐ๊ตฌ์˜ ์ผ๋ถ€๊ฐ€ ๊ฐ€์„ค โ†’ ๊ตฌํ˜„ โ†’ ์‹คํ—˜ โ†’ ๋ถ„์„ โ†’ ๋‹ค์Œ ๊ฐ€์„ค๋กœ ์ด์–ด์ง€๋Š” ๋‹ซํžŒ ๋ฃจํ”„๋กœ ์ž๋™ํ™”๋˜๊ธฐ ์‹œ์ž‘ํ–ˆ๋‹ค๋Š” ์ ์ž…๋‹ˆ๋‹ค. ๋‹ค๋งŒ ์—ฐ๊ตฌ ์ž๋™ํ™”์™€ ๊ณผํ•™์˜ ์™„์ „ ์ž๋™ํ™”๋Š” ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ชฉํ‘œ ํ•จ์ˆ˜๊ฐ€ ๋น„๊ต์  ๋ช…ํ™•ํ•˜๊ณ  ์‹คํ—˜์„ ๋น ๋ฅด๊ฒŒ ๋Œ๋ฆด ์ˆ˜ ์žˆ๋Š” ์˜์—ญ์€ ์ž๋™ํ™”๊ฐ€ ๋นจ๋ผ์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋ฌด์—‡์„ ์ค‘์š”ํ•œ ์—ฐ๊ตฌ์˜ ์งˆ๋ฌธ์œผ๋กœ ์‚ผ์„์ง€, ์–ด๋–ค ๋ฌธ์ œ๋ฅผ ์—ฐ๊ตฌ ๋Œ€์ƒ์œผ๋กœ ์‚ผ์„์ง€, ๊ทธ ๋ฐœ๊ฒฌ์ด ์‚ฌํšŒ์ ์œผ๋กœ ์–ด๋–ค ์˜๋ฏธ๋ฅผ ๊ฐ–๋Š”์ง€๋Š” ๋‹จ์ˆœํžˆ AI๋งŒ์œผ๋กœ ์ตœ์ ํ™”ํ•˜๊ธฐ ์–ด๋ ต์Šต๋‹ˆ๋‹ค.
  2. ๊ทธ๋ž˜์„œ ์•ž์œผ๋กœ ๋” ์ค‘์š”ํ•ด์ง€๋Š” ์งˆ๋ฌธ์€ '๋ˆ„๊ฐ€ ์—ฐ๊ตฌ์˜ ๋ชฉํ‘œ๋ฅผ ์ •ํ•˜๋Š”๊ฐ€?'๊ฐ€ ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. AI๋Š” ์ฃผ์–ด์ง„ ๊ฒŒ์ž„ํŒ ์•ˆ์—์„œ๋Š” ๋น ๋ฅด๊ฒŒ ํƒ์ƒ‰ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ์–ด๋–ค ๊ฒŒ์ž„ํŒ์„ ๋งŒ๋“ค ๊ฒƒ์ธ๊ฐ€๋Š” ์—ฌ์ „ํžˆ ์ •์น˜์ ์ด๊ณ  ์‚ฌํšŒ์ ์ธ ๋ฌธ์ œ์ด๋ฉฐ, ๊ฒฐ๊ตญ ์ธ๊ฐ„์ด ๊ฒฐ์ •ํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.
  3. ๋งŒ์•ฝ AI๋กœ ์ธํ•ด ์—ฐ๊ตฌ๊ฐ€ ์ž๋™ํ™”๊ฐ€ ๋œ๋‹ค๋ฉด, ๋ถˆํ‰๋“ฑ์€ '๋ˆ„๊ฐ€ ๋” ๋น ๋ฅด๊ฒŒ ์—ฐ๊ตฌํ•  ์ž์›๊ณผ ์‹œ์Šคํ…œ์„ ๊ฐ–๊ณ  ์žˆ๋Š”๊ฐ€'์—์„œ ์ƒ๊ธธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ปดํ“จํŒ… ํŒŒ์›Œ, ๋…์  ๋ฐ์ดํ„ฐ, ์ž๋™ ์‹คํ—˜์‹ค, ๊ณ ์„ฑ๋Šฅ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ, ์‹คํŒจํ•œ ์‹คํ—˜ ๋กœ๊ทธ๊ฐ€ ์ƒˆ๋กœ์šด ์—ฐ๊ตฌ ๊ถŒ๋ ฅ์ด ๋ฉ๋‹ˆ๋‹ค.
  4. ๋งŒ์•ฝ ๋…์ ์  ์ž์›๊ณผ ์‹œ์Šคํ…œ์„ ๊ฐ€์ง„ ์—ฐ๊ตฌ์‹ค์—์„œ '๋ˆ์ด ๋˜๊ณ  ์„ธ์ƒ์˜ ์ฃผ๋ชฉ์„ ๋ฐ›๋Š”' ์—ฐ๊ตฌ๋งŒ ํ•˜๊ฒŒ ๋œ๋‹ค๋ฉด ์–ด๋–ป๊ฒŒ ๋ ๊นŒ์š”? ์•„๋งˆ๋„ ๊ฐ์‹œ, ๊ด‘๊ณ  ์ตœ์ ํ™”, ๊ธˆ์œต, ๋ฌด๊ธฐ, ๋…ธ๋™ ํ†ต์ œ์ฒ˜๋Ÿผ ๋ˆ๊ณผ ๊ถŒ๋ ฅ์ด ๋ถ™์€ ๋ฌธ์ œ์—์„œ๋Š” AI๋ฅผ ์‚ฌ์šฉํ•ด ๊ด€๋ จ ๊ธฐ์ˆ ์ด ๋น ๋ฅด๊ฒŒ ๋ฐœ์ „ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ์—ฌ์„ฑ ๊ฑด๊ฐ•, ๋Œ๋ด„, ์žฅ์• , ํฌ๊ท€์งˆํ™˜, ์ถœ์‚ฐ ๋ถ€๋‹ด ์™„ํ™”์ฒ˜๋Ÿผ ์‹œ์žฅ์—์„œ ๋Šฆ๊ฒŒ ๋ณด์ƒ๋ฐ›๋Š” ๋ฌธ์ œ๋Š” ๊ณ„์† ๋’ค๋กœ ๋ฐ€๋ฆด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  5. ๊ทธ๋ž˜์„œ AI ์‹œ๋Œ€์—๋Š” ๊ทธ ์–ด๋А ๋•Œ๋ณด๋‹ค '์‚ฌ๋ช…๊ฐ'์ด๋ผ๋Š” ๋‹จ์–ด์˜ ๋ฌด๊ฒŒ๊ฐ€ ๋ฌด๊ฒ๊ฒŒ ๋А๊ปด์ง‘๋‹ˆ๋‹ค. AI๊ฐ€ ๋งŽ์€ ๊ฒƒ์„ ํ•ด๋‚ด๊ณ  ์ž๋™ํ™”ํ• ์ˆ˜๋ก, "๋‚˜๋Š” ์–ด๋–ค ์ผ์„ ํ•ด์•ผํ•˜๋Š”๊ฐ€? ์–ด๋–ค ์„ธ์ƒ์„ ์œ„ํ•ด ์ผ์„ ํ•  ๊ฒƒ์ธ๊ฐ€?"์™€ ๊ฐ™์€ ์—…์— ๋Œ€ํ•œ ๋ณธ์งˆ์ ์ธ ์งˆ๋ฌธ์„ ๋งˆ์ฃผํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.
  6. ์˜ค๋Š˜ ๋‰ด์Šค๋ ˆํ„ฐ๋Š” ๋ฐค๋Šฆ๊ฒŒ ์ „ํ•ด๋“œ๋ฆฌ๊ฒŒ ๋˜์—ˆ๋„ค์š”. ์‚ฌ์‹ค ์˜ค๋Š˜ KBS N <AIํ† ํ”ผ์•„> ์ดฌ์˜์„ ํ•˜๊ณ  ์™”์Šต๋‹ˆ๋‹ค. ๊ทธ๋™์•ˆ ๊ธ€๋กœ๋งŒ ๊ตฌ๋…์ž๋‹˜๊ณผ ์†Œํ†ต์„ ํ•ด์™”์ง€๋งŒ, ์ด์ œ ์˜์ƒ ๋งค์ฒด๋ฅผ ํ†ตํ•ด์„œ๋„ ๊ตฌ๋…์ž๋‹˜๊ณผ ๋งŒ๋‚  ์ˆ˜ ์žˆ๊ฒŒ ๋˜์—ˆ๋„ค์š”. ์•ž์œผ๋กœ ๋‰ด์Šค๋ ˆํ„ฐ๊ฐ€ ๋ฐœํ–‰๋˜์ง€ ์•Š๋Š” ๋งค์ฃผ ์ฃผ๋ง, <AIํ† ํ”ผ์•„>๋ฅผ ํ†ตํ•ด ๊ตฌ๋…์ž๋‹˜์„ ๋งŒ๋‚  ์ˆ˜ ์žˆ๊ฒŒ ๋˜์–ด ์˜๊ด‘์ด๊ณ , ๋˜ ์„ค๋ ˆ๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค.
  7. ๋ฐฉ์†ก์€ ์ฒ˜์Œ์ด๋ผ ๋ถ€์กฑํ•œ ์ ์ด ๋งŽ์ง€๋งŒ, ๊ทธ๋ž˜๋„ ์ •๋ง ์žฌ๋ฐŒ๊ฒŒ ์ดฌ์˜ํ–ˆ๊ณ , ๊ตฌ๋…์ž๋‹˜๋„ ์žฌ๋ฐŒ๊ฒŒ ๋ณด์‹ค ์ˆ˜ ์žˆ์œผ๋ฆฌ๋ผ ๋ฏฟ์Šต๋‹ˆ๋‹ค! 5์›” 30์ผ ์ฒซ ๋ฐฉ์†ก์ด๊ณ ์š”, ๋‰ด์Šค๋ ˆํ„ฐ ํ†ตํ•ด์„œ ์˜์ƒ๋„ ํ•จ๊ป˜ ๊ณต์œ ๋“œ๋ฆฌ๊ฒ ์Šต๋‹ˆ๋‹ค :) ์ข‹์€ ๋ฐค ๋˜์„ธ์š”!

์˜ค๋Š˜์˜ Midjourney Prompt & Music

์•„๋ž˜ Midjourney ์ด๋ฏธ์ง€๋ฅผ ์Œ์•…๊ณผ ํ•จ๊ป˜ ๊ฐ์ƒํ•ด๋ณด์„ธ์š”:)

audio-thumbnail
False
0:00
/132.559979
0:00
/0:15

์˜ค๋Š˜์˜ Midjourney Prompt ์ž…๋ ฅ ๊ฒฐ๊ณผ

ํ”„๋กฌํ”„ํŠธ (by @jae_hong__an) :