โ์ฑ๋ด์ ์ฌ์ฉํ์ฌ ํด๊ฐ๋ฅผ ๊ณํํ๋ ์๋น์์๊ฒ๋ ์ฑ๋ด์ด ๊ฒฐ๊ณผ๋ฅผ ๊ตฌ์ฒดํํ๋๋ก ํ๋กฌํํธํ๋ ๊ฒ์ ๊ด์ฐฎ์ ์ ์๋ค. ํ์ง๋ง LLM์ ์ ๊ตํ ์ปดํจํ ๋๊ตฌ๋ก ์ฌ์ฉํ๋ ๊ธฐ์ ์๊ฒ๋ ์ด๋ฐ ๊ฒ์ด ํ์ฉ๋์ง ์๋๋ค. LLM๊ณผ์ ์ธํฐํ์ด์ค๋ ์์ ํ๊ณ , ์ด์ ๊ฐ๋ฅํ๋ฉฐ, ์ ์ง ๊ด๋ฆฌ๊ฐ ๊ฐ๋ฅํ๊ณ , ํจ์จ์ ์ด์ด์ผ ํ๋ค.โ

IBM์ด AI์ ๋ค์ ๋จ๊ณ๋ โ(Generative Computing)โ์ด ๋ ๊ฒ์ด๋ผ๊ณ ์ ๋งํ๋ค. ์ง๊ธ์ฒ๋ผ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๊ธฐ๋ฐ์ผ๋ก ํ๋ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ ์ฌ์ฉ ๋ฐฉ์์ผ๋ก๋ ์์ฑํ AI์ ์ํตํ๋ ๊ฒ์ด ํ๊ณ๊ฐ ์๊ธฐ ๋๋ฌธ์ด๋ค. ํ๋กฌํํธ๋ ์ ์ค๊ณ๋ ๊ฒ์ด๋ผ๋ ํน์ ๋ชจ๋ธ์ฉ์ผ๋ก ๋ง๋ค์ด์ก๊ธฐ ๋๋ฌธ์ ์ด์์ฑ์ด ๋จ์ด์ง๊ณ , ๋ชจ๋ธ๊ณผ ์ํธ์์ฉ์ ํ๋๋ฐ ์ทจ์ฝํ๋ค๋ ๊ฒ์ด IBM์ ์ค๋ช ์ด๋ค.
IBM AI ์ฐ๊ตฌ ๋ถ์ฌ์ฅ์ธ ์ค๋ฆฌ๋ ๋ผ๊ฐ๋ฐ์ โ์ฑํฌ 2025(Think 2025)โ ์ปจํผ๋ฐ์ค์์ โ์ฐ๋ฆฌ ์ ๊ณ์ ์๋ก์ด ์ปดํจํ ์์๊ฐ ๋ฑ์ฅํ๋ ๊ฒ์ด ํํ ์ผ์ ์๋๋ค. ์์ฑํ ์ปดํจํ ์ ํ๋กฌํํธ์์ ์ค์ ํ๋ก๊ทธ๋๋ฐ์ผ๋ก ๋์๊ฐ๋ ๋ฐฉ๋ฒ์ด๋ค. ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ด ๊ทผ๋ณธ์ ์ผ๋ก ์๋ก์ด ์ปดํจํ ํ๊ฒฝ์ด๋ผ๋ ์ธ์์ด ํ์ํ๋คโ๋ผ๊ณ ๋ฐํ๋ค.
์ง๊ธ์ ์์ฑํ AI ๋ชจ๋ธ๊ณผ ์ํธ ์์ฉ์ ํ ํฐ(Token)์ ์ฌ์ฉํด API๋ฅผ ํตํด ์ด๋ฃจ์ด์ง๋ค. ์ฆ, ์ฌ์ฉ์๊ฐ ์์ฒญํ๋ ๋ด์ฉ์ ํ ํฐ์ผ๋ก ์๊ฒ ๋๋์ด ์ฃผ๊ณ ๋ฐ๋ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ๋ค. ์ด๋ฅผ ์ฌ๋์ ๋น์ ํ๋ฉด ๋ง ๋๋ ๊ธ์ ์ฃผ๊ณ ๋ฐ๋ ๋ํ๋ฅผ ํตํด ์ํธ์์ฉ์ ํ๋ ๊ฒ๊ณผ ๋น์ทํ๋ค.
ํ์ง๋ง ์์ฑํ ์ปดํจํ ์ ์ฝ๋๋ฅผ ํตํด ํต์ ํ๋ ๋ฐํ์์ ํตํด ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ๊ณผ ์ํธ์์ฉ์ ํ๋ค. ๊ตฌ์กฐํ๋๊ณ ์ ํํ๋ ํ๋ก๊ทธ๋จ์ ํตํด ์ํธ์์ฉ์ ํ๋ค๋ ๋ป์ด๋ค. ์์ฐ์ด๊ฐ ์๋ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ ํ๋ก๊ทธ๋๋ฐ๋ ์๊ตฌ ์ฌํญ์, ์ํ๋ ๊ฒ์ ๊ตฌ์กฐํํด์ ์ ๋ฌํ ์ ์๊ธฐ ๋๋ฌธ์ ๋ ์ ํํ๊ณ ์ผ๊ด์ฑ ์๋ ์๋ต์ด ๊ฐ๋ฅํ๋ค๋ ๊ฒ์ด IBM์ ์ค๋ช ์ด๋ค.
๋ผ๊ฐ๋ฐ์ โLLM์ด ๊ทผ๋ณธ์ ์ผ๋ก ์๋ก์ด ์ปดํจํ ํ๊ฒฝ์ด๋ผ๋ ์ธ์์ด ํ์ํ๋ค. ์ฑ๋ด์์ ์ด์์คํดํธ, ์์ด์ ํธ์ ์ด๋ฅด๊ธฐ๊น์ง ์ ํ๋ฆฌ์ผ์ด์ ํ๋ ์์ํฌ์ ๋ฐ์ ๊ณผ ํจ๊ป ์ด๋ค๊ณผ ์ํธ ์์ฉํ๋ ์๋ก์ด ๋ฐฉ์์ด ํ์ํ๊ฒ ๋์๋คโ๋ผ๋ฉฐ โ์ด์ ์ฐ๋ฆฌ๋ ๋ชจ๋ธ์๊ฒ ๊ฒ์ ์ฆ๊ฐ ์์ฑ(RAG)๊ณผ ์ค์ผ์คํธ๋ ์ด์ ์ ์ํํ๋ ๋ฑ ๋ ๋ง์ ์ผ์ ํ๋๋ก ์๊ตฌํ๊ณ ์์ผ๋ฉฐ, ๋ฐ์ดํฐ ์ญ์ ํ ์คํธ ๋ฌธ์์์ ์์ฑ, ํ ํ์์ ๋ฐ์ดํฐ, JSON ํ์ผ ๋ฑ์ผ๋ก ๊ธ์ฆํ๋คโ๋ผ๊ณ ๋งํ๋ค.
๊ทธ๋ฌ๋ฉด์ โํ ํฐ ๊ธฐ๋ฐ์ผ๋ก ์ํธ์์ฉํ๋ ํ๋กฌํํธ ์์ง๋์ด๋ง์ด ์๋๋ผ, ์์ฑํ ์ปดํจํ
์ ํตํด API๋ฅผ ํ๋ก๊ทธ๋๋ฐ ์ถ์ํ๋ฅผ ๊ฐ์ถ ๋ฐํ์์ผ๋ก ๋์ฒดํด์ผ ํ๋ค. ์ด๋ ๊ฒ ํ๋ฉด ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํ ๋ ๋ณด๋ค ํจ์ฌ ๋ ์์ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ๋์ผํ ์์ค์ ์ ํ๋๋ฅผ ๋ฌ์ฑํ ์ ์์ ๊ฒโ์ด๋ผ๊ณ ๋ฐํ๋ค.
dl-ciokorea@foundryco.com