“AI가 코드 짜준다며?” 이제는 어디까지 맡길 수 있냐의 문제야

요즘 개발자들 사이에서 한 번쯤 들어봤을 거야.
“LLM이 코드 다 해준다던데?” 맞는 말이긴 한데, 막상 써보면 또 다른 피곤함이 생겼어.
그래서 나온 게 바로 Anthropic의 Claude Code, 그리고 이번에 공개된 Auto mode야.

한 줄로 정리하면 이거다. “AI한테 일을 맡기긴 맡기는데, 완전 자유는 아직 무섭다.”

 

[Source:ChatGPT 생성]

 

바이브 코딩? 낭만은 있는데 현실은 좀 다름

요즘 유행하는 “바이브 코딩”은 사실 굉장히 매력적인 개념이야.
문제만 던지면 AI가 알아서 코드까지 완성해주는 그림, 말만 들어도 생산성이 폭발할 것 같거든.

그런데 실제로 써보면 느낌이 조금 달라.
코드 한 줄 바꾸는 데도 계속 승인 요청이 올라오고, 파일 수정 하나에도 “이거 해도 돼?”라는 질문이 따라붙는다. 그렇다고 모든 권한을 열어버리면, 이번엔 또 불안해진다. AI가 어디까지 건드릴지 예측이 안 되기 때문이다.

결국 아이러니하게도, 자동화를 쓰면서 사람이 더 개입하게 되는 구조가 만들어진다.
AI는 일하고 있고, 사람은 그걸 계속 감시하고 있는 상황. 이게 바로 지금 AI 코딩의 가장 큰 피로 포인트야.

 

Claude Code Auto mode, 핵심만 보면 이거야

이런 불편함을 줄이기 위해 나온 게 Auto mode야. 복잡하게 생각할 필요 없이, 개념은 꽤 직관적이다.

AI가 모든 행동을 하기 전에 “이게 안전한가?”를 스스로 판단하고, 문제 없다고 판단되면 그냥 실행해버린다. 반대로 애매하거나 위험하다고 느껴지면 그때만 사람에게 물어본다. 이게 왜 중요하냐면, 이제부터는 사람이 매번 승인하는 구조가 아니라 AI가 먼저 판단하고 사람을 호출하는 구조로 바뀌기 때문이다. 작업 흐름 자체가 바뀌는 포인트야.

예전에는 우리가 컨트롤러였고 AI는 실행기였다면, 이제는 AI가 1차 판단을 맡고 사람은 예외 처리만 담당하는 구조로 넘어가고 있어.

 

왜 “목줄 달린 자율주행”이냐

이번 기능을 보면 “완전 자동화”라고 부르기엔 아직 조심스러운 단계야~ 그래서 흔히 말하는 “목줄 달린 자율주행”이라는 표현이 딱 맞아!

Anthropic의 접근은 굉장히 현실적인데,  완전 자율로 가기엔 아직 리스크가 크고, 그렇다고 사람이 계속 개입하면 속도가 나오지 않는다. 그래서 그 사이 어딘가, 통제 가능한 자동화를 선택한 거야. 실제로도 이 기능은 아직 실험적인 성격이 강해보여.
리서치 프리뷰 단계이고, 특정 모델에서만 제한적으로 동작한다고 해. 게다가 공식적으로도 프로덕션 환경이 아니라 분리된 테스트 환경에서 먼저 써보라고 권장하고 있어.

“가능성은 보여줄게, 대신 책임은 아직 너가 져야 해.”

 

경쟁 구도 보면 더 재밌다

이 흐름은 특정 회사만의 이야기가 아니야~ OpenAI, GitHub 같은 플레이어들도 이미 비슷한 방향으로 가고 있어.

공통적으로는 “코드를 만들어주는 AI”에서 “코드를 실행하고 수정까지 하는 AI”로 진화하는 중이야.
개발자의 행동 자체를 점점 자동화하려는 흐름이야~ 그런데 Claude 쪽이 흥미로운 이유는 한 가지야.
단순 실행 자동화를 넘어서, “언제 사람에게 물어볼지”까지 AI가 결정하게 만든다는 점이야.

이건 단순 기능 추가가 아니라 역할 변화야~ AI가 도구에서 협업자로 넘어가는 과정이라고 봐도 되지..

 

실무에서 써보려면 이렇게 접근하는 게 맞다

이걸 바로 실서비스에 넣고 싶어질 수도 있어. 근데 그건 조금 위험한 접근이야!

현실적으로는 작은 단위부터 시작하는 게 맞아보여...
예를 들어 로그 정리, 코드 스타일 통일, 간단한 리팩토링 같은 반복 작업부터 맡겨보는 거지. 이런 영역은 실패해도 리스크가 작고, Auto mode의 장점이 잘 드러나고 그리고 반드시 격리된 환경에서 돌려야 한해.
AI가 어떤 행동을 할지 완벽하게 예측할 수 없기 때문에, 문제가 생겨도 영향이 밖으로 퍼지지 않도록 설계하는 게 기본이야~

여기서 더 중요한 건 권한 설계야. AI에게 “무엇을 해도 되는지”를 명확하게 정의하지 않으면, Auto mode는 생산성 도구가 아니라 리스크 요소가 된다. 파일 접근 범위, DB 권한, 외부 호출 제한 같은 것들을 세밀하게 나눠야 해.

마지막으로, 성과를 보는 기준도 바뀌어야 해. 이제는 단순히 개발 속도가 빨라졌다는 느낌이 아니라, 실제로 반복 작업이 얼마나 줄었는지, 사람이 개입하는 빈도가 얼마나 낮아졌는지 같은 지표로 판단해야 하지.

 

이제 질문이 바뀌었다

예전에는 이런 질문을 했어. “AI가 코드를 잘 짜냐?”

지금은  “AI에게 어디까지 맡길 수 있냐?”

이 변화가 핵심이야. 지금 단계의 AI는 완전 자동화된 시스템이 아니라, 사람과 함께 일하는 보조 파일럿에 가까워.
그래서 앞으로 중요한 건 모델 성능 자체보다, 그 모델을 어떻게 통제하고 어디까지 권한을 줄 것인지야~

결국 승부는  AI를 잘 쓰는 팀과, 그냥 도입만 해놓고 통제 못 하는 팀.

지금은 기능을 구경할 타이밍이 아니라, 권한과 안전을 설계해야 하는 타이밍이야.