AI 그기 돈이 됩니까? (1)

그러니까 그게 뭐냐면..

개발자로 일하다 보면 주변에서 이런 질문을 받는다.

"야 요즘 AI 뭐 써야 돼?"

얼마 전에도 친구가 물었다. 어렵지 않은 질문이라고 생각했는데. 막상 설명해주려니 막막했다. 그때, 친구가 말을 덧붙였다.

"누가 그러던데 Hermes가 요즘 짱이라며? 로컬로 돌리면 회사 자료 넣어도 안전하다던데."

Hermes는 나도 처음 듣는 이름이었다. 대충 얼버무리며 대화는 끝났고, 나중에 찾아보니 Hermes 라는 AI는 Llama를 개조한 모델이었다.

솔직히 말하면 나도 AI 개념에 대해 명확하게 알고있지 않다고 느꼈다. GPT나 Claude를 API로 붙여서 기능 만드는 건 해봤지만, 오픈 웨이트 생태계는 이름만 주워들은 수준이다. 로컬 LLM은 아직 제대로 돌려본적이 없다.

나도 개념을 정리를 다시해보자는 느낌으로 포스팅을 작성하기로 했다.

왜 찾아 볼수록 더 헷갈리는가

AI에 대해 문외한인 사람이 AI에 대해서 알아본다고 가정하자.

검색하면 제일먼저 나오는게 ChatGPT, Gemini, Claude 와 같은 서비스가 있을것이고, 그 서비스에서 제공하는 여러 모델들(목적에 맞춰 설계된) GPT-4o, Gemini 1.5, Claude 3.5 Sonnet 등이 나올것이다. 또 로컬 LLM이 그렇게 핫하다던데? Hugging face는 또 뭐야, Qwen은 뭐고 Llama는 뭐야.. 하네스 엔지니어링을 적용하면 토큰을 엄청 절약할수있다는데? Cursor는 들어보긴했고..

우리가 헷갈리는 이유는 머리가 나빠서가 아니다.

ChatGPT, GPT, Llama, 로컬 LLM, 파인튜닝, 에이전트 같은 단어들이 서로 비교 대상이 아니기 때문이다.

회사 조직도로 비유하면 이렇다. 누가

"우리 회사엔 김 부장, 영업3팀, 재택근무, 계약직이 있어"

라고 말했다고 하자. 네 단어 다 회사에 관한 말이지만 층위가 전부 다르다.

사람 이름, 조직 이름, 근무 방식, 고용 형태. 여기에 대고

"그래서 넷 중에 뭐가 제일 좋은데?"

라고 물으면 대답할 방법이 없다.

"나는 김부장이 제일 좋아"

라고 말하는 친구가 있다면, 멀어지는것을 추천한다.

그러니까 이 글은 "그래서 뭐가 제일 좋은데"부터 답하지 않는다. 단어들을 종류별로 나누는 것부터 한다.

앞으로 다섯 개를 순서대로 볼 건데, 뒤로 갈수록 안쪽으로 들어간다. 내가 접속하는 화면에서 시작해서, 그 뒤에서 실제로 답을 만드는 놈이 누구인지, 그놈을 어디서 구해오는지, 계산은 어느 컴퓨터에서 도는지, 마지막으로 그놈에게 어디까지 맡길 수 있는지 순이다.

우리 어머니가 말하는 AI 그거의 그거는?

보통 사람들이 AI라고 말하는건 사실 AI를 활용하는 서비스다.

여기서 첫 번째 오해가 생긴다. 대부분의 사람이 ChatGPT를 AI의 이름이라고 알고 있다. 정확히는 AI를 만나러 가는 창구의 이름이다.

이 구분이 실제로 돈과 연결되는 지점이 있다. 무료 요금제와 유료 요금제의 차이는 창구가 달라지는 게 아니라 창구 뒤에 앉는 상대가 달라지는 것이다. 무료 사용자에게는 값싼 놈이 배정되고 유료 사용자에게는 비싼 놈이 배정된다. 화면은 똑같다.

그래서 모델이 뭔데?

창구 뒤에서 실제로 생각하는 물건이 따로 있다. 그걸 모델이라고 부른다.

ChatGPT라는 창구 안에서 도는 모델의 이름은 GPT다. 이름이 비슷해서 더 헷갈리는데 아예 다른 물건이다. 배달 앱과 그 앱에 입점한 식당의 주방 정도로 생각하면 된다. 앱 화면이 아무리 예뻐도 음식 맛은 주방이 결정한다.

창구와 모델이 실제로 어떻게 갈라져 있는지 보자.

내가 쓰는 앱	그 안에서 도는 모델	앱을 만든 회사	모델을 만든 회사
ChatGPT	GPT 계열	OpenAI	OpenAI
Claude 앱	Claude 계열	Anthropic	Anthropic
Gemini 앱	Gemini 계열	Google	Google
Microsoft Copilot	주로 GPT 계열	Microsoft	OpenAI
Perplexity	사용자가 골라 쓴다	Perplexity	제각각

위의 세 줄만 보면 굳이 구분할 필요를 못 느낀다. 만든 회사가 같으니까.

Microsoft Copilot 줄부터 얘기가 달라진다. Microsoft는 창구만 만들고 안에서 생각하는 모델은 남의 것을 빌려 쓴다. Perplexity는 한술 더 떠서 사용자가 모델을 직접 고른다.

이 두 줄 때문에 창구와 모델을 나눠서 봐야 한다. 어느 앱을 쓸지와 어느 모델을 쓸지는 따로 결정된다. 회사에서 협업툴을 정하는 것과 그 툴 안에서 누가 일할지 정하는 게 별개인 것과 비슷하다.

AI 이름은 왜 이렇게 많은가

ChatGPT, Claude, Gemini 정도면 끝인 줄 알았는데 Llama가 나오고 Qwen이 나오고 DeepSeek이 나온다. 여기까지도 벅찬데 친구가 말한 Hermes 같은 건 검색해도 뉴스조차 안 나온다.

이유는 이렇다. 모델 중에는 파일로 다운로드가 되는 것들이 있다.

GPT와 Claude는 만든 회사의 서버에만 있다. 우리는 창구를 통해 말을 걸 수 있을 뿐 그 물건 자체를 가질 수 없다. 반면 Meta가 만든 Llama, 알리바바가 만든 Qwen, 중국 DeepSeek이 만든 같은 이름의 모델은 누구나 받아서 뜯어보고 고칠 수 있다. 앞의 것들을 클로즈드 웨이트, 뒤의 것들을 오픈 웨이트라고 부른다. 웨이트가 뭔지, 왜 하필 "오픈소스"가 아니라 이렇게 부르는지는 나중에 따로 다룬다.

받아서 고칠 수 있으니 고치는 사람이 나온다. Hermes가 그렇게 나온 물건이다. Nous Research라는 곳이 Llama를 받아다가 자기들 방식으로 다시 훈련시킨 개조판이다. 처음부터 만든 게 아니라 남이 공개한 걸 고쳤다.

이런 개조판이 수천 개 있다. 검색할 때마다 처음 듣는 이름이 튀어나오는 이유고, 그중 상당수는 뉴스에 안 나온다. 뉴스에 날 만한 물건이 아니라 그냥 누가 올려둔 파일이기 때문이다.

한 가지만 짚어두자. Hermes는 Llama나 Qwen과 같은 종류의 물건이다. 셋 다 모델이다. Hermes라는 이름이 존재할 수 있었던 이유가 Llama를 받아올 수 있었기 때문일 뿐이다.

그래서 계산은 어디에서 하는데?

ChatGPT에 질문을 넣으면 계산은 OpenAI의 데이터센터에서 일어난다. 내 노트북은 글자를 보내고 받기만 한다. 이걸 클라우드 방식이라고 한다.

모델 파일을 직접 받았다면 내 컴퓨터에서 계산을 돌릴 수도 있다. 이게 로컬 LLM이다. 인터넷을 끊어도 돌아가고, 내가 입력한 내용이 밖으로 나가지 않는다.

친구가 "로컬로 돌리면 회사 자료 넣어도 안전하다"고 한 말이 이 얘기였다.

받아올 수 있는 모델이라고 해서 반드시 내 컴퓨터에서 돌려야 하는 건 아니다. Llama를 클라우드 서비스에서 빌려 쓰는 회사도 많다. 어디서 구해온 모델이냐와 어디서 돌리느냐는 따로 정해진다.

답만 주는가, 일까지 하는가

지금까지 이야기한 건 전부 "물어보면 답한다"를 전제로 했다.

작년 말부터 화제가 된 것들은 여기서 한 발 더 나간다. 파일을 직접 열어서 고치고, 메일을 보내고, 웹사이트를 돌아다닌다. 사람이 매 단계 확인해주지 않아도 알아서 다음 행동을 정한다. 이런 걸 AI 에이전트라고 부른다.

깃허브에서 화제가 된 OpenClaw가 대표적이다. 이건 모델이 아니다. 모델에게 손발을 달아주는 장치에 가깝다. 앞에서 이름만 나왔던 Cursor도 같은 부류다.

AI를 활용한 기능 구현 방식도 여러가지

추상적이니까 실제 업무에 대입해보자. 이 시리즈에서 계속 쓸 예시다.

2시간짜리 팀 회의 녹취록이 있다. 이걸 요약해서 팀장에게 메일로 보내야 한다.

같은 업무인데 앞에서 본 다섯 개에서 뭘 고르느냐에 따라 전혀 다른 그림이 나온다.

A안 — 그냥 ChatGPT

ChatGPT 창을 열고 녹취록을 붙여넣는다. 안에서 GPT가 OpenAI 서버에서 요약을 만든다. 그걸 복사해서 내가 메일에 붙여 보낸다. 요약까지만 AI가 하고 나머지는 사람이 한다.

B안 — 사내 서버

회사가 Qwen을 받아다가 사내 서버에 올려두고, 자체 제작한 사내 툴로 요약한다. 녹취록이 회사 밖으로 안 나간다. 대신 서버를 관리할 사람이 필요하다.

C안 — 에이전트

"회의록 요약해서 팀장님께 메일 보내"라고 말한다. 요약도 하고 메일도 대신 보낸다.

구분	A안	B안	C안
접속하는 창구	ChatGPT	사내 툴	사내 툴 또는 메신저
답을 만드는 모델	GPT	Qwen	아무거나
그 모델의 출신	받아올 수 없음	받아올 수 있음	상관없음
계산하는 컴퓨터	OpenAI 서버	회사 서버	상관없음
어디까지 맡기나	요약까지	요약까지	메일 발송까지

세 안의 차이는 "어느 AI가 더 똑똑한가"가 아니다. 다섯 개에서 각각 뭘 골랐느냐다.

회사에서 AI 도입 논의가 자꾸 산으로 가는 이유도 대체로 여기 있다. 보안팀은 계산이 어디서 도는지를 얘기하는데 실무자는 어느 모델이 똑똑한지를 얘기하고 있는 식이다. 서로 다른 줄을 붙들고 대화하니 결론이 안 난다.

다시 돌아와서, 그래서 그게 뭔데?

이제 친구가한 질문을 다시 이해해보면

"Hermes가 요즘 짱이라며? 로컬로 돌리면 회사 자료 넣어도 안전하다던데."

• Hermes → 모델 이름이다. GPT, Claude, Llama와 같은 종류다.
• 로컬로 돌린다 → 계산을 내 컴퓨터에서 한다는 뜻이다.
• 회사 자료 넣어도 안전 → 계산을 내 컴퓨터에서 하니 자료가 밖으로 안 나간다는 뜻이다

한 문장에 세 종류의 이야기가 압축돼 있었다. Hermes 라는 모델을 사용하는것이 좋은것인지는 친구의 사용 목적과 실행환경을 모르니 판단할 수 없지만, 최소한 무엇에 대한 이야기인지는 알 수 있을것이다.

다음 시리즈에서는 위에서 설명한 모델에 대해 이야기 할 것이다.