AI는 왜 매번 바보가 될까? 헤르메스가 보여준 진짜 에이전트의 미래

챗GPT를 오래 쓰다 보면 묘한 허무함을 느낄 때가 있어.

어제는 몇 시간 동안 업무 방식도 알려주고, 문서 작성 스타일도 가르쳐주고, 프로젝트 구조까지 설명했는데 오늘 새 채팅창을 열면 다시 처음 만난 사람처럼 행동하기 때문이야. AI는 엄청난 지식을 가지고 있지만 의외로 기억력이 좋지 않다.

정확히 말하면 기억을 하지 못하는 게 아니라 "배운 방법"을 지속적으로 축적하지 못한다.

그래서 지금까지의 생성형 AI는 똑똑한 인턴에 가까웠어.

물어보면 대답은 잘하는데 다음날 출근하면 또 처음부터 설명해야 하는 존재 말이야.

그런데 최근 등장한 오픈소스 AI 에이전트 헤르메스(Hermes)는 이 문제를 꽤 흥미로운 방식으로 해결하고 있어. 단순히 기억을 저장하는 것이 아니라 스스로 업무 매뉴얼을 만들어가면서 성장하는 구조를 채택했기 때문이야.

 

[Source: https://hermes-agent.org/ 캡쳐]

 

AI를 다시 학습시키지 않는다

많은 사람들이 AI가 발전한다고 하면 모델 자체를 다시 학습시키는 것을 떠올려. 하지만 현실적으로 그건 엄청난 비용이 들어.

거대한 LLM 모델을 다시 훈련시키는 것은 개인은 물론 기업도 쉽게 할 수 없는 작업이야.

헤르메스는 여기서 완전히 다른 접근을 선택했어. AI의 두뇌는 그대로 둔다. 대신 AI가 업무를 수행할 때 참고하는 "업무 매뉴얼"을 스스로 개선한다. 쉽게 말하면 직원을 다시 교육하는 것이 아니라 업무 메뉴얼을 업데이트하는 방식인 거야.

이게 헤르메스가 가진 가장 중요한 철학이야.

 

기억과 기술을 분리했다

대부분의 AI 메모리 시스템은 모든 것을 한 곳에 저장하려고 해. 하지만 헤르메스는 기억을 두 종류로 나눈다.

첫 번째는 Memory. 사실을 저장하는 공간이야.

내가 좋아하는 음식, 현재 진행 중인 프로젝트, 고객 정보 같은 것들이 여기에 들어간다.

 

두 번째는 Skill. 어떤 업무를 수행하는 방법 자체를 저장하는 공간이야.

예를 들면 이런 거야.

• ERP 요구사항 정리하는 방법
• 회계 프로세스 분석 순서
• 블로그 글 작성 스타일
• UI 리뷰 체크리스트

중요한 건 Skill이 단순한 프롬프트가 아니라 재사용 가능한 절차서라는 점이야. 헤르메스는 이러한 스킬을 필요할 때만 불러와 사용한다.

 

AI가 스스로 오답노트를 작성한다

헤르메스를 보면서 가장 인상 깊었던 부분은 "오답노트" 개념이야. 사람도 일을 잘하게 되는 이유는 실수를 안 해서가 아니야.

실수한 내용을 기록하고 다음에는 반복하지 않기 때문이지.

헤르메스도 똑같아. 업무를 수행하다가 문제가 발생하면 그 경험을 스킬에 기록한다. 예를 들면,

"이 API는 응답 속도가 느리니 재시도를 해야 함"

"ERP 전표 생성 전 반드시 예산 체크 필요"

"사용자가 요구사항을 변경할 가능성이 높으니 검증 단계 추가"

같은 내용이 누적되는 거야.

결국 AI는 스스로 업무 노하우를 축적하게 된다.

마치 회사에서 몇 년 일한 베테랑 직원이 되는 과정과 비슷해.

 

진짜 놀라운 건 '분신 시스템'

헤르메스에는 독특한 구조가 하나 있어.

바로 분신(Sub-Agent) 시스템이야.

사용자와의 대화가 끝나면 별도의 복제본이 생성돼 방금 진행한 업무를 복습한다.

이 분신은 사용자 응답 속도에 영향을 주지 않으면서 백그라운드에서 학습 자료를 정리하는 역할을 해.

마치 업무 끝난 뒤 회고록을 작성하는 직원 같은 존재야.

"이번 작업에서 배울 점은 없었을까?"

"다음번에는 더 효율적으로 처리할 수 없을까?"

이 질문을 계속 던지면서 새로운 스킬을 만들어낸다. 헤르메스의 핵심 특징 중 하나가 바로 이러한 자동 스킬 생성 루프야.

 

그런데 왜 바로 적용하지 않을까?

흥미로운 점이 하나 더 있어. 새로운 스킬을 만들었는데도 바로 적용하지 않는다. 보통이라면 즉시 반영하는 게 맞다고 생각할 수 있어.

하지만 헤르메스는 비용 최적화를 우선시한다.

작업 도중 프롬프트 구조가 바뀌면 LLM 캐시 효율이 떨어지고 비용이 증가할 수 있기 때문이야.

그래서 새로 만든 스킬은 저장만 해두고 다음 작업부터 적용한다. AI 성능보다 운영비를 먼저 생각한 현실적인 엔지니어링이라고 볼 수 있어.

 

스스로 성장하지만 완전 자율은 아니다

많은 사람들이 자율 AI를 무서워하는 이유는 통제 불가능성을 걱정하기 때문이야.

헤르메스는 이 부분도 꽤 신중하게 설계했어.

스킬 수정 권한은 있지만 시스템 자체를 망가뜨릴 권한은 없다.

위험한 명령은 자동 차단된다.

분신이 또 다른 분신을 생성하는 것도 금지된다.

그리고 최종적으로는 인간의 승인을 받아야만 중요한 변경 사항이 적용된다.

즉, AI가 성장하되 인간이 방향을 결정하는 구조야. 공식 문서에서도 보안 강화, 권한 제한, 로컬 데이터 보관을 핵심 가치로 강조하고 있어.

 

사실 헤르메스가 보여준 건 AI의 미래다

많은 사람들이 아직도 AI 경쟁을 모델 경쟁이라고 생각해.

GPT가 더 똑똑하냐. 클로드가 더 잘 쓰냐. 제미나이가 더 정확하냐. 하지만 앞으로의 경쟁은 조금 다를 가능성이 높아.

누가 더 똑똑한 모델을 만드느냐가 아니라, 누가 더 빠르게 학습하는 시스템을 만드느냐의 경쟁이 될 거야.

헤르메스는 바로 그 방향을 보여준다.

기억을 저장하고, 업무를 기록하고, 스킬을 만들고, 오답노트를 축적하고, 스스로 업무 프로세스를 개선하는 구조.

이건 단순한 챗봇이 아니라 디지털 직원에 가까워.

 

결국 AI 시대의 핵심은 '기억'이 아니라 '습관'이다

사람이 성장하는 이유는 정보를 많이 알아서가 아니야. 좋은 습관을 만들기 때문이야.

헤르메스가 흥미로운 이유도 여기에 있어. 단순히 기억을 저장하는 것이 아니라 업무 습관을 저장한다.

그리고 그 습관을 계속 다듬는다.

어쩌면 미래의 AI는 지금처럼 질문에 답하는 도구가 아니라, 나와 함께 일하면서 나의 업무 방식을 흡수하고 복제하는 존재가 될지도 몰라.

매번 처음 만나는 AI가 아니라. 어제보다 조금 더 나를 이해하는 AI. 그것이 진짜 에이전트 시대의 시작이 아닐까.