Study

Microsoft Foundry 기업용 에이전트 개발이 ‘진짜’ 시작된다

138K271 2025. 11. 30. 19:28

Microsoft Ignite에서 발표된 Microsoft Foundry, 이거 사실 단순 리브랜딩이 아니야. 기존 Azure AI Foundry를 완전히 재정의한 수준이고, 앞으로 "기업형 에이전트 개발"이라는 시장 자체가 새 판으로 넘어갈 거라는 걸 보여주는 시그널이야.

기획자·아키텍트 입장에서 보면?
👉 “AI 서비스를 설계하는 방식이 완전히 달라질 수 있다.”

오늘은 Foundry의 핵심 기능을 기획·아키텍처 관점에서 쭉 뜯어서 정리해볼게.

 

 

UI/UX가 프로젝트 중심으로 재설계됨

이전 Foundry는 기능 중심에 가까웠다면, 새로운 Microsoft Foundry는 프로젝트 기반 아키텍처로 재배치됨.

바뀐 핵심 포인트

  • Model Catalog, Playground가 여기저기 흩어져 있던 구조 → 프로젝트 단위로 정렬
  • 프로젝트 안에서 에이전트/워크플로우/RAG/메모리/엔드포인트를 원스톱 관리
  • 홈 화면에서 프로젝트 엔드포인트 + API Key 바로 확인

즉, 이제 “AI 서비스 기획 → 개발 → 운영” 전 사이클을 하나의 제품처럼 다룰 수 있게 됨.
기획자 입장에서 문서/사람/도구가 흩어진 복잡함이 크게 줄어든다는 점이 꽤 큼.

 

 

Foundry IQ: 모든 에이전트가 공유하는 단일 지식 계층

이게 이번 Foundry의 가장 혁신적인 요소.

예전에는 에이전트마다 따로 RAG 구성해야 했지?
이제는 Foundry IQ라는 조직 단위의 공용 지식 계층이 등장함.

작동 원리: “Agentic Retrieval”

단순 벡터검색 → X
질문을 분해하고 실행하고 합성하는 에이전트 기반 검색 → ✔️

  1. Query Planning
    복잡한 질문을 여러 개의 sub-question으로 자동 분해
  2. Query Execution
    벡터, 키워드, 하이브리드 검색을 병렬로 실행
  3. Synthesis
    검색 결과를 맥락 기반으로 재구성해 최종 답변으로 합성

➡️ RAG 품질이 모델 성능에만 의존하지 않고, “검색 전략”까지 최적화됨
➡️ 같은 지식 기반을 모든 에이전트가 공유할 수 있어 기획·운영 비용이 크게 감소

엔터프라이즈 환경에서는 진짜 강력함.

 

워크플로우: “에이전트 조합 서비스” 시대 개막

예전에는 “하나의 에이전트”가 서비스의 끝이었어.
Foundry에서는 여러 에이전트를 조립해서 하나의 시스템처럼 운용할 수 있어.

제공되는 워크플로우 모드

  • Sequential Flow
    A → 종료 → B로 baton 전달
  • Group Chat
    여러 에이전트가 대화하며, 누가 응답할지 역할 자동조정
  • Human-in-the-loop
    특정 단계에서 사람의 승인/입력 받기
  • 조건/분기/변수 저장 등 로직 구성 가능

UI는 Power Automate처럼 직관적인 캔버스 방식.
조직 내 RPA·Automation 경험이 있는 사람은 바로 적응 가능.

기획자는 이제 “에이전트를 여러 명의 구성원처럼 배치”하는 설계를 할 수 있다 → 서비스 기획 방식 자체가 바뀜.

 

Memory: 에이전트가 ‘기억’을 가지는 시대

강력한 기능인데 상대적으로 과소평가되는 기능.

제공되는 메모리 종류

  1. Short-term Memory
    현재 세션 기준의 맥락 유지
  2. Long-term Memory
    과거 대화/사용자 선호/이력 등 지속적 저장 및 검색

예시:
쇼핑 에이전트 → 구매 이력·브랜드 취향 기억 → 다음 추천에 반영
CS 에이전트 → 특정 고객의 이전 문제 데이터를 기억 → 개인화 대응

현재는 Azure OpenAI 모델에서만 작동하지만, 장기적으로 확장될 가능성 높음.

 

Monitoring & Evaluation: 운영단의 스트레스 제거

Foundry는 에이전트 운영을 위해 매우 실용적인 도구들을 내장함.

  • Trace Logging: 모든 대화 흐름 기록
  • Operational Metrics: 토큰 비용, 지연시간, 성공/실패율
  • Automatic Evaluation: Coherence, Fluency, Task Adherence 자동 검증
  • Human Evaluation: 태그 기반 품질 평가 가능
  • AI Assistant가 대시보드 데이터 분석 후 직접 답변해줌

이건 거의 AIOps에 가까운 UX.

기획자/운영자 입장에서는 “모니터링 설계”에 투입할 리소스가 크게 줄어듦.

 

1,400+ 도구와 11,000+ 모델 생태계

기업 입장에서 정말 중요한 부분.

Foundry에서 바로 사용 가능한 연결 리소스들

  • Azure AI Search
  • Microsoft Learn MCP
  • SharePoint
  • Code Interpreter
  • Github 연결
  • 다양한 Database 어댑터
  • 11,000개 모델 카탈로그
  • 기업형 모델 라우팅

➡️ “모델 선택 → 성능 비교 → 비용 비교 → 자동 라우팅”까지 하나의 플랫폼에서 끝난다.

 

배포가 말도 안 되게 쉬워짐

만든 에이전트나 워크플로우는…

  • M365 Copilot 버튼 한 번 클릭으로 배포
  • Teams 챗봇처럼 즉시 사용 가능
  • 조직 전체 배포 or 개인용 제한도 가능

온보딩 비용이 정말 낮아짐.
기획자·PM은 PoC에서 운영까지 시간을 확 줄일 수 있음.

 

거버넌스와 정책: 엔터프라이즈 친화적

관리자에게 중요한 Compliance & Guardrails도 대폭 강화됨.

  • 특정 주제/도메인 제한
  • 민감 정보 접근 차단
  • 비용 관리 정책
  • 프로젝트 전체 대시보드 모니터링
  • 에이전트 위험도 평가

기업 환경에서 “AI 도입 시 Governance 부족” 문제가 컸는데, 이 부분을 진짜 공들여 해결함.

 

이건 단순 플랫폼이 아니라 ‘조직형 AI 오퍼레이팅 시스템’

Microsoft Foundry의 핵심 가치는 단순함이 아님.
“조직 전체 AI 운영체제”를 표방하는 첫 플랫폼이라는 점이 핵심임.

다시한번 정리!

🔹 통합 지식 계층 → 기업의 RAG 관리 혁신
🔹 여러 에이전트를 묶는 워크플로우 → AI 서비스 아키텍처 확장
🔹 장·단기 메모리 → 개인화 경험 강화
🔹 평가/모니터링 → 운영 품질 확보
🔹 M365/Teams 통합 → 배포 시간 단축
🔹 모델·도구 생태계 → 선택과 확장성 확보

 

기업에서 자동화·AI 도입을 고민하고 있다면
Foundry는 이제 ‘선택’이 아니라 ‘전략적 옵션’에 가까워진 상태다.