본문 바로가기

Study

Microsoft Foundry 기업용 에이전트 개발이 ‘진짜’ 시작된다

Microsoft Ignite에서 발표된 Microsoft Foundry, 이거 사실 단순 리브랜딩이 아니야. 기존 Azure AI Foundry를 완전히 재정의한 수준이고, 앞으로 "기업형 에이전트 개발"이라는 시장 자체가 새 판으로 넘어갈 거라는 걸 보여주는 시그널이야.

기획자·아키텍트 입장에서 보면?
👉 “AI 서비스를 설계하는 방식이 완전히 달라질 수 있다.”

오늘은 Foundry의 핵심 기능을 기획·아키텍처 관점에서 쭉 뜯어서 정리해볼게.

 

 

UI/UX가 프로젝트 중심으로 재설계됨

이전 Foundry는 기능 중심에 가까웠다면, 새로운 Microsoft Foundry는 프로젝트 기반 아키텍처로 재배치됨.

바뀐 핵심 포인트

  • Model Catalog, Playground가 여기저기 흩어져 있던 구조 → 프로젝트 단위로 정렬
  • 프로젝트 안에서 에이전트/워크플로우/RAG/메모리/엔드포인트를 원스톱 관리
  • 홈 화면에서 프로젝트 엔드포인트 + API Key 바로 확인

즉, 이제 “AI 서비스 기획 → 개발 → 운영” 전 사이클을 하나의 제품처럼 다룰 수 있게 됨.
기획자 입장에서 문서/사람/도구가 흩어진 복잡함이 크게 줄어든다는 점이 꽤 큼.

 

 

Foundry IQ: 모든 에이전트가 공유하는 단일 지식 계층

이게 이번 Foundry의 가장 혁신적인 요소.

예전에는 에이전트마다 따로 RAG 구성해야 했지?
이제는 Foundry IQ라는 조직 단위의 공용 지식 계층이 등장함.

작동 원리: “Agentic Retrieval”

단순 벡터검색 → X
질문을 분해하고 실행하고 합성하는 에이전트 기반 검색 → ✔️

  1. Query Planning
    복잡한 질문을 여러 개의 sub-question으로 자동 분해
  2. Query Execution
    벡터, 키워드, 하이브리드 검색을 병렬로 실행
  3. Synthesis
    검색 결과를 맥락 기반으로 재구성해 최종 답변으로 합성

➡️ RAG 품질이 모델 성능에만 의존하지 않고, “검색 전략”까지 최적화됨
➡️ 같은 지식 기반을 모든 에이전트가 공유할 수 있어 기획·운영 비용이 크게 감소

엔터프라이즈 환경에서는 진짜 강력함.

 

워크플로우: “에이전트 조합 서비스” 시대 개막

예전에는 “하나의 에이전트”가 서비스의 끝이었어.
Foundry에서는 여러 에이전트를 조립해서 하나의 시스템처럼 운용할 수 있어.

제공되는 워크플로우 모드

  • Sequential Flow
    A → 종료 → B로 baton 전달
  • Group Chat
    여러 에이전트가 대화하며, 누가 응답할지 역할 자동조정
  • Human-in-the-loop
    특정 단계에서 사람의 승인/입력 받기
  • 조건/분기/변수 저장 등 로직 구성 가능

UI는 Power Automate처럼 직관적인 캔버스 방식.
조직 내 RPA·Automation 경험이 있는 사람은 바로 적응 가능.

기획자는 이제 “에이전트를 여러 명의 구성원처럼 배치”하는 설계를 할 수 있다 → 서비스 기획 방식 자체가 바뀜.

 

Memory: 에이전트가 ‘기억’을 가지는 시대

강력한 기능인데 상대적으로 과소평가되는 기능.

제공되는 메모리 종류

  1. Short-term Memory
    현재 세션 기준의 맥락 유지
  2. Long-term Memory
    과거 대화/사용자 선호/이력 등 지속적 저장 및 검색

예시:
쇼핑 에이전트 → 구매 이력·브랜드 취향 기억 → 다음 추천에 반영
CS 에이전트 → 특정 고객의 이전 문제 데이터를 기억 → 개인화 대응

현재는 Azure OpenAI 모델에서만 작동하지만, 장기적으로 확장될 가능성 높음.

 

Monitoring & Evaluation: 운영단의 스트레스 제거

Foundry는 에이전트 운영을 위해 매우 실용적인 도구들을 내장함.

  • Trace Logging: 모든 대화 흐름 기록
  • Operational Metrics: 토큰 비용, 지연시간, 성공/실패율
  • Automatic Evaluation: Coherence, Fluency, Task Adherence 자동 검증
  • Human Evaluation: 태그 기반 품질 평가 가능
  • AI Assistant가 대시보드 데이터 분석 후 직접 답변해줌

이건 거의 AIOps에 가까운 UX.

기획자/운영자 입장에서는 “모니터링 설계”에 투입할 리소스가 크게 줄어듦.

 

1,400+ 도구와 11,000+ 모델 생태계

기업 입장에서 정말 중요한 부분.

Foundry에서 바로 사용 가능한 연결 리소스들

  • Azure AI Search
  • Microsoft Learn MCP
  • SharePoint
  • Code Interpreter
  • Github 연결
  • 다양한 Database 어댑터
  • 11,000개 모델 카탈로그
  • 기업형 모델 라우팅

➡️ “모델 선택 → 성능 비교 → 비용 비교 → 자동 라우팅”까지 하나의 플랫폼에서 끝난다.

 

배포가 말도 안 되게 쉬워짐

만든 에이전트나 워크플로우는…

  • M365 Copilot 버튼 한 번 클릭으로 배포
  • Teams 챗봇처럼 즉시 사용 가능
  • 조직 전체 배포 or 개인용 제한도 가능

온보딩 비용이 정말 낮아짐.
기획자·PM은 PoC에서 운영까지 시간을 확 줄일 수 있음.

 

거버넌스와 정책: 엔터프라이즈 친화적

관리자에게 중요한 Compliance & Guardrails도 대폭 강화됨.

  • 특정 주제/도메인 제한
  • 민감 정보 접근 차단
  • 비용 관리 정책
  • 프로젝트 전체 대시보드 모니터링
  • 에이전트 위험도 평가

기업 환경에서 “AI 도입 시 Governance 부족” 문제가 컸는데, 이 부분을 진짜 공들여 해결함.

 

이건 단순 플랫폼이 아니라 ‘조직형 AI 오퍼레이팅 시스템’

Microsoft Foundry의 핵심 가치는 단순함이 아님.
“조직 전체 AI 운영체제”를 표방하는 첫 플랫폼이라는 점이 핵심임.

다시한번 정리!

🔹 통합 지식 계층 → 기업의 RAG 관리 혁신
🔹 여러 에이전트를 묶는 워크플로우 → AI 서비스 아키텍처 확장
🔹 장·단기 메모리 → 개인화 경험 강화
🔹 평가/모니터링 → 운영 품질 확보
🔹 M365/Teams 통합 → 배포 시간 단축
🔹 모델·도구 생태계 → 선택과 확장성 확보

 

기업에서 자동화·AI 도입을 고민하고 있다면
Foundry는 이제 ‘선택’이 아니라 ‘전략적 옵션’에 가까워진 상태다.