에이전트 제품 설계

HITL 에스컬레이션, 임계값은 부족하다

복합 신호와 리스크 차등이 트리거를 완성한다

“신뢰도 85% 미만이면 사람”으로는 운영이 무너진다. 과신 편향, 맥락 요인, 리스크 차등, 에스컬레이션 비율 제어를 묶은 복합 트리거가 필요하다. 목표는 10~15%만 사람 개입이다.

읽기 →

MCP 표준이 바꾼 도구 통합의 경제학

N×M에서 N+M으로, 선택의 기본값이 바뀌었다

에이전트에 도구를 붙이는 방식은 2025년을 기점으로 재편됐다. MCP로 N×M 통합 비용이 구조적으로 줄었고, 커스텀 통합은 예외 처리로 남긴다. OpenAI의 공식 지원으로 표준 위에서 설계하는 편이 이득이다.

읽기 →

정확도 대신 신뢰도를 평가하라

ARS·RGC·ACR·PAAS와 에스컬레이션을 기본값으로

오프라인 정확도 92%로는 배포 안전을 보장하지 못한다. 런타임 신뢰 지표(ARS/RGC/ACR/PAAS), 사전 hallucination 확률 예측, 명시적 에스컬레이션 정책을 함께 설계해야 운영에서 버틴다.

읽기 →