2026년 10월 7일, Microsoft가 Microsoft Learn 문서를 통해 Microsoft Foundry에서 Microsoft-Decision-1을 사용할 수 있다고 밝혔습니다. 이 모델은 분류, 라우팅, 순위 매기기, 채점, 예와 아니요로 답하는 판단을 위해 만들어졌습니다. 고객 문의를 담당 팀에 나누거나, 장애의 우선순위를 정하거나, 다른 모델의 답을 평가하는 데 사용할 수 있습니다.
이 모델은 대화형 생성 모델과 성격이 다릅니다. 자유로운 문장이나 판단 이유를 만들어 주지 않습니다. 텍스트나 JSON을 받아 질문 하나에 대한 판단을 숫자로 돌려줍니다. 조직이 정할 일은 업무 흐름의 어느 지점을 이런 판단 모델에 맡기고, 어느 지점을 사람이나 생성 모델에 남길지입니다.
문장 대신 판단만 돌려주는 모델입니다
Microsoft-Decision-1에 보내는 요청은 상태(state)와 질문(questions)으로 이루어집니다. 상태에는 판단할 대상을 넣습니다. 고객 문의 원문이나 장애 알림 내용이 여기에 해당합니다. 질문에는 무엇을 판단할지와 선택지를 적습니다. 모델은 문장 대신 정해진 형태의 답과 확률을 돌려줍니다.
Microsoft는 이 요청 방식을 system-one API와 비슷하다고 설명합니다. 애플리케이션이 상태와 범위가 정해진 질문을 넘기면 모델이 결정을 돌려주는 구조입니다. 응답의 모양이 늘 같기 때문에 다음 단계의 코드가 결과를 그대로 받아 처리하기 쉽습니다. 확률이 함께 오므로 기준값을 정해 자동 처리 여부를 나눌 수도 있습니다.
질문 유형은 세 가지입니다
첫째는 noul 유형입니다. 어떤 조건이 참인지 묻고 0부터 1 사이의 확률을 받습니다. 도구 호출이 운영 데이터를 건드리는지, 문서에 프롬프트 주입이 들어 있는지, 상담 답변이 환불을 약속하는지 같은 관문 검사에 맞습니다.
둘째는 choice 유형입니다. 정해진 선택지 가운데 하나를 고르고, 선택지마다 확률을 함께 돌려줍니다. 문의를 결제, 기술, 계정 담당으로 나누거나 요청에 맞는 모델, 도구, 에이전트를 고르는 데 사용합니다. Microsoft는 가장 높은 확률이 낮게 나오면 그 건을 사람이나 다른 모델에 넘기는 신호로 삼으라고 안내합니다.
셋째는 score 유형입니다. 항목을 순서가 있는 척도 위에 놓습니다. 심각도나 유용성을 매기거나 작업 대기열의 순서를 정할 때 맞습니다. 네 단계 척도라면 결과는 0에서 3 사이 값으로 나오고, 단계와 단계 사이 값이 될 수도 있습니다. Microsoft는 이 점수를 절대 평가보다 상대적인 순서와 기준값에 사용하라고 권합니다.
에이전트 흐름에서 맡길 자리
에이전트를 운영하는 조직에서는 생성 모델 하나가 모든 단계를 처리하는 경우가 많습니다. 요청을 어느 담당에게 보낼지 고르는 일까지 큰 생성 모델에 맡기면 답의 형태가 매번 조금씩 달라집니다. 그만큼 후처리 코드가 복잡해집니다. 판단 단계만 떼어 내 판단 전용 모델에 맡기면 결과 형식이 고정됩니다.
맡기기 좋은 자리는 선택지가 미리 정해져 있고 결과를 확률로 다룰 수 있는 곳입니다. 문의 분류, 알림 원인 분류, 모델 답변 채점, 에이전트 사이의 라우팅이 여기에 해당합니다. 반대로 고객에게 보낼 답장을 작성하거나 판단 이유를 설명해야 하는 일에는 맞지 않습니다. 이 모델은 판단 이유를 글로 남기지 않습니다. 감사나 설명 책임이 필요한 업무라면 판단 기록을 어떻게 남길지 따로 설계해야 합니다.
배포 방식과 데이터 처리 위치
Microsoft-Decision-1은 Foundry 모델 카탈로그에서 배포합니다. 배포 유형은 GlobalStandard와, 일부 지역에서 제공되는 DataZoneStandard입니다. GlobalStandard는 지원되는 어느 Azure 지역에서든 추론이 처리될 수 있어 전 세계 용량을 사용할 수 있습니다. 대신 지연 시간이 길어지거나 일정하지 않을 수 있습니다. DataZoneStandard는 가장 가까운 데이터 영역 안에서 추론을 처리합니다.
데이터가 어느 지역에서 처리되는지는 개인정보 보호와 내부 규정에 바로 연결됩니다. 고객 문의 원문에는 성함이나 연락처가 섞여 있는 경우가 많습니다. 어떤 배포 유형을 고를지는 보안 담당자와 함께 정하는 것이 좋습니다.
인증은 Microsoft Entra ID 방식이 권장되며 API 키도 사용할 수 있습니다. 모델을 배포하려면 Azure 구독과 배포를 관리할 권한이 필요합니다. 문서는 Cognitive Services Contributor 역할을 예로 듭니다.
도입 전에 확인할 것
먼저 판단을 맡길 업무를 하나 고르고, 정답이 표시된 예시를 모읍니다. Microsoft도 기준값을 자동화에 적용하기 전에 라벨이 붙은 예시로 검증하라고 안내합니다. 실제 업무 데이터로 정확도와 응답 시간을 측정해야 자동화 범위를 정할 수 있습니다.
다음으로 확률이 낮을 때의 처리 경로를 정합니다. 어느 기준 아래에서는 사람이 확인하고, 어느 기준 위에서는 자동으로 처리할지 문서로 남겨 두어야 합니다. 이 기준은 업무마다 다르게 둘 수 있습니다.
마지막으로 배포 유형과 권한을 정합니다. 데이터 처리 지역, 배포 권한을 가진 사람, 인증 방식은 도입 초기에 정해 두는 편이 나중에 바꾸는 것보다 수월합니다. 실무자에게는 질문과 선택지를 명확하게 적는 방법을 교육하는 것이 좋습니다. 선택지 설명이 모호하면 모델의 판단도 흔들릴 수 있습니다.

이정민






























