LLM이란 무엇일까? AI 작동 원리부터 오픈 LLM·RAG·직접 개발까지

LLM이란 무엇일까? AI 시대라는 말을 자연스럽게 사용하고 ChatGPT 같은 생성형 AI를 매일 접하지만, 정작 AI가 어떻게 만들어지고 어떤 방식으로 답을 생성하는지까지 아는 사람은 많지 않습니다.

“AI는 인터넷에서 정답을 찾아서 보여주는 걸까?”, “회사 내부 문서를 AI에게 알려줄 수도 있을까?”, “기업이 AI 제품을 만들려면 LLM을 처음부터 직접 개발해야 할까?” 같은 궁금증이 생겼다면 이 글에서 LLM의 기본 원리부터 SLM, 오픈웨이트 모델, RAG, 파인튜닝, 자체 AI 개발까지 차근차근 살펴보겠습니다. 삼춘은 IT 관련 일을 했습니다.

LLM은 무엇을 하는 모델일까?

LLM은 Large Language Model, 즉 대규모 언어모델을 뜻합니다. 방대한 텍스트 데이터를 학습한 뒤 사용자가 입력한 문맥을 바탕으로 다음에 이어질 가능성이 높은 토큰(token)을 예측하면서 문장을 생성합니다.

토큰은 반드시 하나의 완전한 단어를 의미하지는 않습니다. 단어 전체가 될 수도 있고, 단어의 일부나 문자·기호 등의 단위가 될 수도 있습니다.

여기서 중요한 점은 일반적인 LLM이 검색엔진처럼 인터넷 어딘가에 있는 정답 문장을 찾아 그대로 복사해 보여주는 시스템은 아니라는 것입니다. 학습 과정에서 익힌 언어의 패턴과 관계를 이용해 새로운 문장을 생성합니다.

그래서 매우 자연스럽고 논리적으로 보이는 문장을 만들면서도 사실과 다른 내용을 자신 있게 말할 수 있습니다. 생성형 AI에서 흔히 이야기하는 환각(Hallucination) 문제가 바로 여기에서 나타날 수 있습니다.

LLM이 답을 만드는 과정을 매우 단순화하면 다음과 같습니다.

1. 사용자의 질문과 이전 대화 맥락을 입력받습니다.
2. 문장을 토큰 단위로 나누어 모델이 처리할 수 있는 형태로 변환합니다.
3. 모델 내부에서 토큰과 문맥 사이의 관계를 계산합니다.
4. 다음에 이어질 가능성이 높은 토큰을 예측합니다.
5. 이 과정을 반복하면서 하나의 답변을 만들어냅니다.

따라서 LLM은 언어를 생성하는 강력한 기술이지만, 그 자체가 항상 최신 정보를 알고 있는 검색엔진이나 기업의 모든 자료를 보관하고 있는 데이터베이스는 아닙니다.

LLM과 SLM(sLLM)은 무엇이 다를까?

모든 AI 서비스에 거대한 LLM이 필요한 것은 아닙니다. 상대적으로 작은 규모의 언어모델은 일반적으로 SLM(Small Language Model)이라고 부릅니다. 국내에서는 sLLM이라는 표현도 흔히 사용됩니다.

대규모 LLM은 다양한 분야의 질문과 복잡한 작업을 수행하는 데 유리할 수 있지만 그만큼 많은 메모리와 GPU 연산 자원이 필요합니다. 반대로 작은 언어모델은 필요한 자원이 상대적으로 적어 빠른 응답이나 제한된 서버 환경, 특정 업무에 특화된 AI를 만드는 데 유리할 수 있습니다.

따라서 기업이 AI를 개발할 때 무조건 가장 큰 모델을 선택하는 것이 좋은 전략이라고 볼 수는 없습니다. 필요한 정확도와 업무 범위, 속도, 서버 비용, 보안 요구사항을 함께 고려해 적절한 크기의 모델을 선택하는 것이 중요합니다.

기업은 LLM을 처음부터 직접 만들까?

결론부터 말하면 반드시 그렇지는 않습니다. 대규모 언어모델을 처음부터 학습하려면 방대한 데이터, 고성능 GPU 인프라, 머신러닝 전문 인력, 학습 및 평가 시스템과 많은 비용이 필요합니다.

그래서 기업은 이미 개발된 상용 모델을 API로 이용하거나, 공개적으로 사용할 수 있는 오픈웨이트 모델을 가져와 자체 시스템과 결합하는 방법을 선택할 수 있습니다.

여기서 중요한 것은 LLM을 활용해 AI 제품을 만드는 것과 LLM 자체를 처음부터 만드는 것은 완전히 다른 수준의 작업이라는 점입니다.

오픈소스와 오픈웨이트는 어떻게 다를까?

AI 분야에서는 공개된 모델을 모두 흔히 ‘오픈소스 LLM’이라고 부르기도 하지만 엄밀하게는 구분할 필요가 있습니다.

오픈웨이트(Open-weight) 모델은 학습이 끝난 모델의 가중치를 공개해 사용자가 내려받아 직접 실행하거나 허용된 범위에서 수정해 활용할 수 있도록 한 모델을 의미합니다.

반면 오픈소스 AI는 단순히 모델 가중치만 공개됐다는 것보다 더 넓은 개념입니다. 모델의 코드, 학습 방법, 데이터와 사용 권한 등이 어느 수준까지 공개되어 있는지는 프로젝트마다 다를 수 있습니다.

따라서 공개 모델이라고 해서 무조건 자유롭게 상업적으로 사용할 수 있다고 생각해서는 안 됩니다. 실제 제품에 적용하기 전에 모델의 라이선스와 상업적 이용, 수정, 재배포, 서비스 제공 조건을 반드시 확인해야 합니다.

개인도 LLM을 무료로 사용할 수 있을까?

가능합니다. ChatGPT와 같은 서비스를 무료 요금제로 사용하는 방법도 있지만, 공개된 오픈웨이트 언어모델을 직접 내려받아 자신의 PC나 서버에서 실행하는 방법도 있습니다.

다만 모델을 무료로 내려받을 수 있다는 것과 AI 서비스를 아무 비용 없이 운영할 수 있다는 것은 전혀 다른 이야기입니다.

모델을 직접 실행하려면 모델 크기에 따라 충분한 RAM과 저장공간이 필요하며, 빠른 실행을 위해 GPU와 충분한 GPU 메모리(VRAM)가 필요할 수 있습니다. 클라우드 GPU를 사용한다면 별도의 서버 이용료가 발생합니다.

개인이 LLM으로 개발하려면 무엇이 필요할까?

개인이 LLM 관련 개발을 한다고 해서 ChatGPT와 같은 거대한 모델을 처음부터 만들어야 하는 것은 아닙니다.

가장 현실적인 시작은 기존 AI API를 프로그램과 연결하거나, 비교적 작은 공개 모델을 PC에서 실행해보고, 자신의 문서와 연결하는 방식입니다.

기본적으로 다음과 같은 지식과 환경이 도움이 됩니다.

• Python 등 기본적인 프로그래밍 지식
• API와 웹 서비스에 대한 기본 이해
• LLM과 프롬프트에 대한 기초 지식
• 모델을 직접 실행한다면 충분한 RAM과 GPU 또는 클라우드 환경
• 자신의 데이터를 활용한다면 데이터 정리와 검색 시스템에 대한 이해
• 실제 서비스를 만든다면 보안과 개인정보 보호에 대한 설계

즉, LLM을 활용한 프로그램 개발, 기존 모델의 파인튜닝, LLM 자체를 처음부터 학습하는 것을 같은 의미로 생각하면 안 됩니다.

기존 모델이나 API를 이용한 AI 애플리케이션 개발은 개인 개발자도 충분히 시도할 수 있지만, 거대한 LLM을 처음부터 학습시키는 작업은 데이터와 GPU 인프라, 전문 인력과 막대한 비용이 필요한 영역입니다.

RAG란 무엇이며 왜 기업 AI에서 중요할까?

RAG는 Retrieval-Augmented Generation의 약자로 국내에서는 검색 증강 생성이라고 부릅니다.

사용자의 질문에 바로 답하게 하는 것이 아니라 먼저 기업 내부 문서나 데이터베이스 등에서 질문과 관련된 자료를 찾아낸 뒤, 검색된 정보를 LLM에게 함께 전달해 답변을 생성하도록 하는 방식입니다.

예를 들어 사용자가 회사의 휴가 규정을 질문한다고 가정해보겠습니다. 기본 LLM은 그 회사의 최신 사내 규정을 알지 못할 수 있습니다.

RAG 시스템을 사용하면 먼저 사내 문서에서 휴가와 관련된 내용을 검색하고, 찾아낸 자료와 사용자의 질문을 함께 LLM에 전달합니다. 그러면 LLM은 제공받은 자료를 참고해 답변을 생성할 수 있습니다.

이 구조의 장점은 회사의 규정이 변경될 때마다 거대한 언어모델을 다시 학습시킬 필요가 없다는 것입니다. 문서를 최신 상태로 관리하면 새로운 자료를 검색해 답변에 활용할 수 있습니다.

다만 RAG 역시 완벽하지 않습니다. 관련 없는 자료를 검색하거나 오래된 문서를 가져오거나 사용자에게 접근 권한이 없는 문서를 잘못 제공하면 답변 품질이나 보안에 문제가 발생할 수 있습니다.

파인튜닝은 RAG와 무엇이 다를까?

파인튜닝(Fine-tuning)은 이미 학습된 모델에 특정 데이터를 추가로 학습시켜 모델의 응답 방식이나 특정 작업 수행 능력을 조정하는 방법입니다.

예를 들어 일정한 고객 상담 말투를 사용하게 하거나 특정 형태의 결과를 반복적으로 생성하도록 만들고 싶을 때 파인튜닝을 고려할 수 있습니다.

반대로 RAG는 모델 내부의 지식을 직접 바꾸는 것이 아니라 질문할 때 필요한 외부 자료를 찾아 모델이 참고하도록 하는 방식입니다.

따라서 회사 규정이나 제품 매뉴얼처럼 계속 변경되는 정보를 다룰 때는 RAG가 유용할 수 있고, 출력 형식이나 특정 작업 수행 방식을 보다 일관되게 조정하려면 파인튜닝을 검토할 수 있습니다. 실제 AI 제품에서는 두 방식을 함께 활용하는 경우도 있습니다.

공개 LLM으로 AI 제품을 만들 때의 장점과 한계

공개 LLM을 활용하는 가장 큰 장점은 AI 개발의 출발점을 크게 앞당길 수 있다는 것입니다.

언어모델 자체를 처음부터 학습하는 대신 이미 만들어진 모델을 기반으로 기업의 데이터와 검색 시스템, 사용자 화면, 업무 자동화 기능을 개발하는 데 집중할 수 있습니다.

자체 서버나 기업이 선택한 클라우드 환경에서 모델을 운영한다면 데이터가 이동하는 범위와 접근 권한을 조직의 정책에 맞춰 설계할 수 있다는 장점도 있습니다.

하지만 공개 LLM을 사용한다고 해서 모든 문제가 해결되는 것은 아닙니다.

• 기반 모델 자체의 성능 한계를 물려받을 수 있습니다.
• 사실과 다른 답변을 생성하는 환각 문제가 존재합니다.
• 모델이 최신 정보를 자동으로 알고 있는 것은 아닙니다.
• 한국어나 특정 전문 분야에서 기대한 성능이 나오지 않을 수 있습니다.
• 큰 모델은 GPU 메모리와 추론 비용 부담이 커질 수 있습니다.
• 라이선스 조건에 따라 상업적 이용에 제한이 있을 수 있습니다.
• 보안, 개인정보, 권한관리와 장애 대응을 직접 설계해야 할 수 있습니다.

상용 AI 서비스를 쓰는 것과 자체 AI를 개발하는 것의 차이

ChatGPT 같은 상용 AI 서비스는 이미 만들어진 AI 환경을 사용자가 이용하는 방식입니다. 모델 운영, 서버 관리, 업데이트와 여러 안전장치의 상당 부분을 서비스 제공자가 담당하기 때문에 사용자는 비교적 쉽게 AI를 사용할 수 있습니다.

무료 버전과 유료 버전의 차이도 단순히 질문 횟수만의 문제라고 볼 수는 없습니다. 서비스에 따라 사용할 수 있는 모델, 처리량, 응답 속도, 파일·이미지·웹 등의 기능, 사용 제한과 제공 도구가 달라질 수 있습니다.

반면 공개 LLM을 기반으로 자체 AI 제품을 개발한다면 모델 선택부터 서버 또는 클라우드 인프라, 데이터 연결, 검색 시스템, 프롬프트, 사용자 권한, 개인정보 보호, 답변 품질 평가와 유지보수까지 개발 조직이 책임져야 합니다.

기업이 LLM 기반 제품을 개발할 때의 현실적인 순서

기업에서 AI를 개발할 때 처음부터 가장 크고 유명한 모델을 고르는 것이 반드시 좋은 접근은 아닙니다.

먼저 AI가 해결해야 할 업무를 구체적으로 정의해야 합니다. 어떤 질문을 처리해야 하는지, 필요한 정확도는 어느 정도인지, 최신 정보가 얼마나 중요한지, 개인정보나 기업 기밀을 다루는지, 예상 사용량은 어느 정도인지를 먼저 파악해야 합니다.

1. AI가 해결해야 할 업무와 성공 기준을 정합니다.
2. 몇 가지 후보 모델을 실제 업무 데이터로 비교합니다.
3. 프롬프트만으로 해결 가능한지 판단합니다.
4. 내부 자료가 필요하다면 RAG를 검토합니다.
5. 특정 행동이나 출력 형식 조정이 필요하면 파인튜닝을 검토합니다.
6. 사용자 권한과 개인정보 보호 정책을 설계합니다.
7. 답변의 정확성과 환각 여부를 평가할 기준을 만듭니다.
8. 실제 운영환경에서 응답 속도와 GPU·서버 비용을 측정합니다.
9. 서비스 운영 이후에도 품질과 보안을 지속적으로 관리합니다.

결국 기업용 AI의 경쟁력은 단순히 어떤 LLM을 사용했느냐만으로 결정되지 않습니다. 같은 기반 모델을 사용하더라도 어떤 데이터를 연결하고, 어떤 검색 구조를 만들고, 어떤 방식으로 답변을 검증하고 실제 업무와 연결했느냐에 따라 전혀 다른 제품이 될 수 있습니다.

마무리: AI를 이해하려면 모델과 서비스를 구분해서 보자

LLM은 생성형 AI의 중요한 기반 기술입니다. 하지만 우리가 실제로 사용하는 AI 서비스는 LLM 하나만으로 만들어지는 것이 아닙니다.

대규모 LLM과 작은 SLM은 각각 장단점이 있고, 공개된 모델을 직접 이용할 수도 있습니다. 기업은 모델을 처음부터 개발하지 않고 기존 모델을 기반으로 RAG나 파인튜닝, 자체 데이터와 업무 시스템을 결합해 AI 제품을 만들 수도 있습니다.

그리고 공개 모델이라고 해서 운영비가 들지 않는 것도 아니며, 가장 큰 모델을 사용한다고 반드시 가장 좋은 AI 서비스가 만들어지는 것도 아닙니다.

AI를 제대로 이해하려면 “어떤 AI가 가장 똑똑한가?”만 보는 것보다 모델은 어떤 역할을 하고, 데이터는 어디에서 가져오며, RAG와 파인튜닝은 왜 필요하고, 실제 제품에서는 누가 보안과 정확성을 책임지는가를 함께 보는 것이 중요합니다.

이 정도를 이해하고 나면 우리가 매일 사용하는 생성형 AI뿐 아니라 기업들이 내놓는 다양한 AI 제품도 이전보다 훨씬 구체적으로 바라볼 수 있습니다.