💻 테크 | AWS Machine Learning
💡 핵심 요약
Smartsheet는 엔터프라이즈 AI 에이전트가 기존 시스템 데이터에 구조적으로 접근하기 어려운 문제를 해결하기 위해 AWS 기반의 원격 MCP(Model Context Protocol) 서버를 구축했습니다. 이 서버는 AI 에이전트에 최적화된 인터페이스를 제공하여 토큰 비용을 30억 개 이상 절감하고, LLM의 환각 현상을 줄이며, 기업 데이터에 대한 신뢰성을 높였습니다. 결과적으로 Amazon Q나 Claude Desktop 같은 AI 어시스턴트 및 자율적인 AI 에이전트들이 Smartsheet와 효과적으로 연동되어 워크플로우를 압축하고 생산성을 혁신하는 선도적인 사례를 제시했습니다.
🔍 심층 분석
20년차 시니어 개발자로서 이 Smartsheet의 MCP 아키텍처는 다가오는 ‘Agentic AI’ 시대에 엔터프라이즈 소프트웨어가 어떻게 진화해야 할지에 대한 명확한 청사진을 보여준다고 평가하고 싶습니다. 단순히 LLM을 기존 시스템에 연동한 수준을 넘어, ‘AI 에이전트를 위한 최적화된 엔터프라이즈 데이터 접근 계층’을 전략적으로 설계했다는 점이 핵심입니다.
첫째, MCP라는 중간 계층의 도입은 통찰력이 빛나는 결정입니다. 기존 API를 LLM이 직접 사용하게 하는 방식의 비효율성과 한계를 정확히 짚어냈습니다. AI 에이전트의 목적에 맞게 인터페이스를 재구축함으로써 토큰 비용 절감(30억 토큰은 어마어마한 숫자입니다), 환각 방지, 그리고 기업 데이터와의 안정적인 연동이라는 세 마리 토끼를 잡았습니다. 이는 LLM의 ‘프롬프트 엔지니어링’을 넘어, ‘시스템-LLM 인터페이스 엔지니어링’의 중요성을 일깨워줍니다. 특히 Amazon Neptune 기반의 지식 그래프(Knowledge Graph) 활용은 LLM의 약점인 사실 관계 추론을 보강하여 환각을 근본적으로 줄이는 ‘그라운딩’ 전략의 모범 사례입니다. LLM이 언어 능력을 발휘하되, 판단의 근거는 구조화된 지식 그래프에서 얻도록 한 것이죠.
둘째, “Build once and every agentic client benefits immediately”라는 아키텍처 원칙은 엔터프라이즈 환경에서의 실용성과 확장성을 극대화한 결과입니다. 내부 AI 경험(Smart Assist)과 외부 AI 클라이언트가 동일한 MCP 스택을 공유함으로써 개발/운영 효율성을 높이고, 일관된 서비스 품질과 보안을 유지할 수 있습니다. 이는 복잡한 엔터프라이즈 시스템에서 불필요한 중복과 기술 부채를 피하는 현명한 접근입니다.
셋째, AWS 서비스 스택의 조합은 견고함 그 자체입니다. AWS Fargate for ECS를 통한 무상태(Stateless) 컨테이너는 AI 에이전트의 버스티(Bursty)한 트래픽 패턴에 유연하게 대응하며, ECS Auto Scaling은 이러한 특성을 고려한 현실적인 확장 전략입니다. Kinesis, Flink, S3로 구축된 Medallion 아키텍처 기반의 인텔리전스 레이어는 기업 데이터의 실시간 변경 사항을 안정적으로 수집하고 처리하여 AI 에이전트가 항상 최신 데이터에 기반한 의사결정을 내릴 수 있도록 합니다. Bedrock의 활용은 LLM 인퍼런스 관리의 복잡성을 AWS에 위임하여 핵심 비즈니스 로직에 집중할 수 있게 합니다.
결론적으로, Smartsheet는 미래 AI 에이전트 시대의 엔터프라이즈 애플리케이션 아키텍처가 어떤 모습이어야 하는지, 그리고 이를 구현하기 위한 구체적인 기술적 해법까지 제시하고 있습니다. 이는 단순한 AI 도입 사례가 아닌, 엔터프라이즈 AI 시스템 설계의 한 모범 사례로 기억될 것입니다.
🇰🇷 한국 독자 관점
한국의 많은 기업들도 AI 도입의 파고 속에서 Smartsheet와 유사한 고민을 하고 있습니다. 특히 복잡하고 방대한 레거시 시스템을 보유한 경우가 많아, 이 사례는 매우 현실적인 시사점을 제공합니다.
- 레거시 시스템과 AI의 ‘연결고리’ 필요성: 한국 기업들은 오랜 기간 축적된 핵심 비즈니스 로직이 레거시 시스템에 단단히 박혀 있습니다. LLM이 이 시스템과 직접 소통하게 하는 것은 기술적, 보안적, 비용적 위험이 큽니다. Smartsheet의 MCP처럼 AI 에이전트 전용의 ‘API 게이트웨이 및 데이터 컨텍스트 계층’을 두는 전략은 레거시 시스템의 대규모 재구축 없이도 AI 전환을 효과적으로 시작할 수 있는 현실적인 방안이 될 것입니다.
- 한글 데이터 처리의 난점과 지식 그래프의 역할: 한글 특유의 모호성이나 비정형적 표현은 LLM의 환각을 유발하기 쉽습니다. Smartsheet의 Neptune 기반 지식 그래프는 이러한 문제를 해결하는 데 큰 도움이 됩니다. 한국 기업의 복잡한 비즈니스 규칙과 관계형 데이터를 지식 그래프로 구조화하면, LLM이 단순한 언어 이해를 넘어 정확한 ‘팩트’ 기반의 추론을 할 수 있게 되어, 금융, 법률, 제조 등 정확성이 핵심인 산업군에서 특히 중요한 전략이 될 것입니다.
- AI 비용 최적화는 필수: LLM 활용 비용은 기업들이 생각하는 것보다 훨씬 클 수 있습니다. Smartsheet의 30억 토큰 절감 사례는 AI 도입 ROI를 높이기 위한 ‘인터페이스 최적화’의 중요성을 강조합니다. 한국 기업들도 AI 연동 시 단순히 기존 API를 사용하는 것을 넘어, LLM에 최적화된 응답 포맷, 데이터 필터링 등을 적극적으로 고려해야 합니다.
- 자율적 AI 에이전트 도입 가속화: 한국 기업은 여전히 수동적이거나 반복적인 업무 프로세스가 많습니다. Smartsheet 사례처럼 AI 에이전트가 자율적으로 업무를 조율하고 워크플로우를 압축하는 방식은 한국 기업의 생산성 혁신에 큰 영감을 줄 것입니다. 특히 데이터 기반의 의사결정과 자동화가 필요한 고객 서비스, 개발 프로세스, 백오피스 업무 등에 큰 잠재력이 있습니다.
💬 트램의 한마디
AI 에이전트 시대, 엔터프라이즈 시스템의 가치는 MCP와 지식 그래프를 통해 ‘AI가 이해하고 신뢰할 수 있는 데이터 허브’로 재정의될 것이다.
🚀 실행 포인트
- [ ] [지금 당장 할 수 있는 것] 현재 진행 중인 LLM 연동 프로젝트가 있다면, AI 에이전트가 활용할 API의 ‘토큰 최적화’ 및 ‘응답 구조 단순화’ 방안을 검토해보기.
- [ ] [이번 주 안에 할 수 있는 것] 핵심 도메인 데이터에 대한 지식 그래프 구축의 타당성을 내부 데이터 엔지니어/아키텍트 팀과 논의해보고, PoC(개념 증명)를 위한 데이터셋 선정 및 기술 스택(예: Amazon Neptune, Neo4j)을 간략하게 조사하기.
- [ ] [한 달 안에 적용할 수 있는 것] AI 에이전트가 기존 엔터프라이즈 시스템과 상호작용할 때 발생할 수 있는 ‘환각’ 시나리오를 정의하고, 이를 방지하기 위한 ‘데이터 그라운딩’ 전략 (예: 검색 증강 생성(RAG) 강화, 구조화된 API 응답)을 아키텍처에 반영하는 계획 수립하기.
🔗 원문 보기
트램 AI 분석 | gemini-2.5-flash | 2026-07-18 12:22