Microsoft Ignite에서 발표된 Microsoft Foundry, 이거 사실 단순 리브랜딩이 아니야. 기존 Azure AI Foundry를 완전히 재정의한 수준이고, 앞으로 "기업형 에이전트 개발"이라는 시장 자체가 새 판으로 넘어갈 거라는 걸 보여주는 시그널이야.
기획자·아키텍트 입장에서 보면?
👉 “AI 서비스를 설계하는 방식이 완전히 달라질 수 있다.”
오늘은 Foundry의 핵심 기능을 기획·아키텍처 관점에서 쭉 뜯어서 정리해볼게.

UI/UX가 프로젝트 중심으로 재설계됨
이전 Foundry는 기능 중심에 가까웠다면, 새로운 Microsoft Foundry는 프로젝트 기반 아키텍처로 재배치됨.
바뀐 핵심 포인트
- Model Catalog, Playground가 여기저기 흩어져 있던 구조 → 프로젝트 단위로 정렬
- 프로젝트 안에서 에이전트/워크플로우/RAG/메모리/엔드포인트를 원스톱 관리
- 홈 화면에서 프로젝트 엔드포인트 + API Key 바로 확인
즉, 이제 “AI 서비스 기획 → 개발 → 운영” 전 사이클을 하나의 제품처럼 다룰 수 있게 됨.
기획자 입장에서 문서/사람/도구가 흩어진 복잡함이 크게 줄어든다는 점이 꽤 큼.

Foundry IQ: 모든 에이전트가 공유하는 단일 지식 계층
이게 이번 Foundry의 가장 혁신적인 요소.
예전에는 에이전트마다 따로 RAG 구성해야 했지?
이제는 Foundry IQ라는 조직 단위의 공용 지식 계층이 등장함.
작동 원리: “Agentic Retrieval”
단순 벡터검색 → X
질문을 분해하고 실행하고 합성하는 에이전트 기반 검색 → ✔️
- Query Planning
복잡한 질문을 여러 개의 sub-question으로 자동 분해 - Query Execution
벡터, 키워드, 하이브리드 검색을 병렬로 실행 - Synthesis
검색 결과를 맥락 기반으로 재구성해 최종 답변으로 합성
➡️ RAG 품질이 모델 성능에만 의존하지 않고, “검색 전략”까지 최적화됨
➡️ 같은 지식 기반을 모든 에이전트가 공유할 수 있어 기획·운영 비용이 크게 감소
엔터프라이즈 환경에서는 진짜 강력함.
워크플로우: “에이전트 조합 서비스” 시대 개막
예전에는 “하나의 에이전트”가 서비스의 끝이었어.
Foundry에서는 여러 에이전트를 조립해서 하나의 시스템처럼 운용할 수 있어.
제공되는 워크플로우 모드
- Sequential Flow
A → 종료 → B로 baton 전달 - Group Chat
여러 에이전트가 대화하며, 누가 응답할지 역할 자동조정 - Human-in-the-loop
특정 단계에서 사람의 승인/입력 받기 - 조건/분기/변수 저장 등 로직 구성 가능
UI는 Power Automate처럼 직관적인 캔버스 방식.
조직 내 RPA·Automation 경험이 있는 사람은 바로 적응 가능.
기획자는 이제 “에이전트를 여러 명의 구성원처럼 배치”하는 설계를 할 수 있다 → 서비스 기획 방식 자체가 바뀜.
Memory: 에이전트가 ‘기억’을 가지는 시대
강력한 기능인데 상대적으로 과소평가되는 기능.
제공되는 메모리 종류
- Short-term Memory
현재 세션 기준의 맥락 유지 - Long-term Memory
과거 대화/사용자 선호/이력 등 지속적 저장 및 검색
예시:
쇼핑 에이전트 → 구매 이력·브랜드 취향 기억 → 다음 추천에 반영
CS 에이전트 → 특정 고객의 이전 문제 데이터를 기억 → 개인화 대응
현재는 Azure OpenAI 모델에서만 작동하지만, 장기적으로 확장될 가능성 높음.
Monitoring & Evaluation: 운영단의 스트레스 제거
Foundry는 에이전트 운영을 위해 매우 실용적인 도구들을 내장함.
- Trace Logging: 모든 대화 흐름 기록
- Operational Metrics: 토큰 비용, 지연시간, 성공/실패율
- Automatic Evaluation: Coherence, Fluency, Task Adherence 자동 검증
- Human Evaluation: 태그 기반 품질 평가 가능
- AI Assistant가 대시보드 데이터 분석 후 직접 답변해줌
이건 거의 AIOps에 가까운 UX.
기획자/운영자 입장에서는 “모니터링 설계”에 투입할 리소스가 크게 줄어듦.
1,400+ 도구와 11,000+ 모델 생태계
기업 입장에서 정말 중요한 부분.
Foundry에서 바로 사용 가능한 연결 리소스들
- Azure AI Search
- Microsoft Learn MCP
- SharePoint
- Code Interpreter
- Github 연결
- 다양한 Database 어댑터
- 11,000개 모델 카탈로그
- 기업형 모델 라우팅
➡️ “모델 선택 → 성능 비교 → 비용 비교 → 자동 라우팅”까지 하나의 플랫폼에서 끝난다.
배포가 말도 안 되게 쉬워짐
만든 에이전트나 워크플로우는…
- M365 Copilot 버튼 한 번 클릭으로 배포
- Teams 챗봇처럼 즉시 사용 가능
- 조직 전체 배포 or 개인용 제한도 가능
온보딩 비용이 정말 낮아짐.
기획자·PM은 PoC에서 운영까지 시간을 확 줄일 수 있음.
거버넌스와 정책: 엔터프라이즈 친화적
관리자에게 중요한 Compliance & Guardrails도 대폭 강화됨.
- 특정 주제/도메인 제한
- 민감 정보 접근 차단
- 비용 관리 정책
- 프로젝트 전체 대시보드 모니터링
- 에이전트 위험도 평가
기업 환경에서 “AI 도입 시 Governance 부족” 문제가 컸는데, 이 부분을 진짜 공들여 해결함.
이건 단순 플랫폼이 아니라 ‘조직형 AI 오퍼레이팅 시스템’
Microsoft Foundry의 핵심 가치는 단순함이 아님.
“조직 전체 AI 운영체제”를 표방하는 첫 플랫폼이라는 점이 핵심임.
다시한번 정리!
🔹 통합 지식 계층 → 기업의 RAG 관리 혁신
🔹 여러 에이전트를 묶는 워크플로우 → AI 서비스 아키텍처 확장
🔹 장·단기 메모리 → 개인화 경험 강화
🔹 평가/모니터링 → 운영 품질 확보
🔹 M365/Teams 통합 → 배포 시간 단축
🔹 모델·도구 생태계 → 선택과 확장성 확보
기업에서 자동화·AI 도입을 고민하고 있다면
Foundry는 이제 ‘선택’이 아니라 ‘전략적 옵션’에 가까워진 상태다.
'Study' 카테고리의 다른 글
| 엔비디아 Rubin CPX: HBM 없이도 TPU를 잡겠다는 그 미친 전략 (0) | 2025.12.06 |
|---|---|
| HBM만 난리 난 줄 알았더니… DDR4가 들썩인다? (0) | 2025.12.04 |
| 음모론은 왜 이렇게 달콤할까? (0) | 2025.11.28 |
| 누리호 4차 발사 성공! 이제 진짜 우주 배송 시대 열린다 🚀 (0) | 2025.11.28 |
| 공자가 왜 그렇게 안회를 아꼈을까? (0) | 2025.11.23 |