AI 용어 사전? 아니, 지금 업계를 이해하려면 이건 알아야 해

지금 AI 업계를 이해하려면 최소한 이 정도 언어는 알아야 한다는, 일종의 기본 세트에 가까워.

요즘 뉴스나 서비스 설명 보면 느꼈을 거야. AGI, LLM, 에이전트 같은 단어가 너무 당연하게 튀어나온다.

예전에는 개발자나 연구자들끼리 쓰던 말이었는데, 이제는 그냥 일반 기사에도 그대로 나온다.

그래서 생긴 문제는 간단하다. 단어를 모르면, 내용을 이해 못 한다.

 

왜 갑자기 ‘AI 용어’가 중요해졌냐면

지금은 AI가 특정 분야가 아니라, 거의 모든 산업에 깔리고 있는 상태야. 그러다 보니까 기술 용어가 그대로 비즈니스 언어가 되어버렸다.

예를 들어,

• “이 서비스는 LLM 기반입니다”
• “에이전트가 자동으로 처리합니다”
• “토큰 비용을 줄였습니다”

이런 문장들이 그냥 아무렇지 않게 나온다. 근데 이걸 이해 못 하면, 그 서비스가 좋은 건지 나쁜 건지 판단 자체가 안 된다.

그래서 이제는 개발자가 아니어도 최소한의 용어는 알아야 흐름을 읽을 수 있는 단계가 된 거다.

 

꼭 알아야 할 핵심 개념들, 쉽게 정리해보면

이제부터는 실무에서 자주 마주치는 것들만 핵심만 잡아서 정리해볼게.

AGI

사람처럼 다양한 일을 다 잘하는 AI를 말하는데, 재밌는 건 아직 정확한 정의가 없다. 회사마다, 연구자마다 기준이 다 다르다.
그래서 사실상 “목표”에 가까운 개념이다.

AI 에이전트

이건 요즘 가장 중요한 개념이다. 단순히 질문에 답하는 AI가 아니라, 여러 작업을 이어서 실제로 일을 처리하는 시스템이다.

예를 들면 메일 정리하고 일정 잡고 필요한 자료 찾고 보고서까지 만들어주는 것 이걸 혼자서 계속 이어서 하는 게 에이전트다.

CoT(Chain of Thought)

AI가 한 번에 답을 내는 게 아니라, 중간 과정을 나눠서 생각하게 만드는 방식이다. 조금 느려지긴 하지만 논리 문제나 코딩에서는 정확도가 확 올라간다.

Compute

쉽게 말하면 “AI 돌리는 힘”이다. GPU, TPU 같은 하드웨어 자원이 여기에 해당한다. AI 경쟁이 결국 컴퓨트 싸움이라는 말이 나오는 이유도 이거다.

Diffusion

이미지 생성 AI의 핵심 기술이다. 노이즈로 망가뜨렸다가 다시 복원하는 과정을 학습해서 이미지를 만들어내는 방식이다.

Distillation

큰 모델을 작게 줄이는 기술이다. 좋은 모델의 결과를 학습해서 더 가볍고 빠른 모델을 만드는 방식이다.

Fine-tuning / Transfer Learning

기본 모델 위에 특정 데이터만 추가로 학습시키는 방식이다. 예를 들어 법률 특화 AI 의료 특화 AI 등 이런 것들이 이 방식으로 만들어진다. 

Hallucination

AI가 틀린 말을 그럴듯하게 하는 현상이다. 이건 단순 오류가 아니라 구조적으로 완전히 없애기 어려운 문제다. 그래서 요즘은 범용 AI보다
특화 AI가 중요해지는 이유가 된다.

Inference

AI를 실제로 사용하는 단계다. 훈련이 아니라, 이미 만들어진 모델을 돌려서 결과를 뽑아내는 과정이다. 여기서 비용 문제가 크게 터진다.

LLM

우리가 쓰는 ChatGPT 같은 AI의 엔진이다. 결국은 “다음 단어를 예측하는 시스템”인데, 엄청나게 큰 규모로 학습된 모델이다.

Tokens

AI가 글을 처리하는 최소 단위다. 중요한 포인트는 이거다. "토큰 = 비용" 그래서 기업에서는 토큰 줄이는 게 곧 돈 아끼는 거다.

RAMageddon

AI 때문에 메모리 부족이 생기는 현상을 말한다. 데이터센터가 메모리를 쓸어가면서 전체 시장 가격이 올라가는 상황이다.

 

이걸 기획 관점에서 보면 더 재밌다

이 용어들을 그냥 기술로 보면 재미없다. 근데 흐름으로 보면 완전히 다르게 보인다.

모델 → 시스템으로 이동 중이다

예전에는 “모델 성능”이 핵심이었다면 지금은 “어떻게 운영하느냐”가 더 중요해졌다. 에이전트, 인퍼런스 같은 단어가 계속 나오는 이유다.

이제는 비용과 리스크 싸움이다

토큰, 컴퓨트, 할루시네이션 이건 기술 용어 같지만 사실은 전부 비용과 리스크 이야기다. 결국 기업은 이걸 줄이는 쪽이 이긴다.

범용 → 특화로 간다

하나의 AI로 모든 걸 해결하는 시대에서 각 분야에 특화된 AI로 쪼개지는 흐름이다. 이건 서비스 기획에서도 중요한 포인트다.

 

AI 용어는 기술 용어가 아니라,
이 시장을 이해하기 위한 기본 언어다.

이제 진짜 중요한 건 모델 이름 외우는 게 아니다.

이 단어들이 어떤 의미로 연결되는지 이해하는 거다.

• 왜 비용 얘기가 나오는지
• 왜 에이전트가 중요한지
• 왜 특화 모델로 가는지

이걸 읽을 수 있어야 흐름이 보인다. 앞으로는 AI를 잘 쓰는 사람보다 AI를 “이해하는 사람”이 더 크게 차이를 만들 가능성이 크다.

그리고 그 시작이 이런 용어들을 제대로 이해하는 데서 시작되는 것 같다.