최근 통계에 따르면 글로벌 기업 10곳 중 6곳(60%)이 이미 AI 에이전트를 단순 테스트 차원을 넘어 실제 업무 현장에 투입한 것으로 나타났습니다. 기업들의 관심도 매우 뜨겁습니다. 전체 기업의 94%가 AI 에이전트 구축을 핵심 전략으로 꼽았고, 그중 42%는 이를 '최우선 과제'로 보고 있습니다. 다만 현재로서는 당장의 매출 증대나 비용 절감보다는, 직원들의 업무 효율을 높이는 내부 시스템 개선에 집중하는 모습입니다.
산업별 도입 현황을 보면 재미있는 온도 차이가 있습니다. 통신 업계가 67%로 가장 도입이 빠르고, 금융(58%), IT/기술(54%), 유통 및 이커머스(50%) 분야가 그 뒤를 잇고 있습니다. 반면, 전체 응답자의 16%는 '에이전틱 AI(Agentic AI)'라는 용어조차 처음 들어본다고 답했는데요. 이는 발 빠르게 움직이는 선도 기업과 일반 시장 사이에 여전히 체감 격차가 크다는 것을 보여줍니다.
일부에서는 2025년을 'AI 에이전트의 해'로 명명하며 높은 기대감을 드러내고 있습니다. 그러나 다수의 전문가들은 이를 10년에 걸쳐 진행될 장기적인 패러다임 전환으로 분석합니다. 저명한 AI 연구자 안드레이 카파시(Andrej Karpathy) 또한 실제 에이전틱 AI의 기술적 성숙도가 시장의 기대치에 비해 수년 정도 뒤처져 있다고 지적한 바 있습니다. 종합하면, 현재는 본격적인 확장에 앞서 안전성 확보와 인프라 및 거버넌스 구축에 집중하며 내실을 다지는 단계로 해석할 수 있습니다.
실제 기업들의 주요 활용 사례 역시 이러한 분석을 뒷받침합니다. 주로 데브옵스(DevOps) 및 CI/CD 최적화(38%), 보안 자동화(35%), 일반 프로세스 자동화(34%), 코드 생성 및 리뷰(31%) 순으로 높은 활용도를 보였습니다. 즉, 리스크 통제가 용이하고 피드백 루프가 짧은 내부 기술 영역에 우선적으로 적용하고 있는 것입니다.
전사적 확장을 위해서는 여전히 해결해야 할 과제가 많습니다. 응답자의 40%가 에이전틱 AI 확장의 최대 장벽으로 '보안 및 컴플라이언스'를 꼽았으며, 비용 및 리소스 제약(35%), 기술적 복잡성(33%), 숙련 인력 부족(32%), 불분명한 비즈니스 가치 및 투자 수익률(ROI, 31%)이 그 뒤를 이었습니다.
선도 기업들은 이러한 한계를 극복하기 위해 기존 인프라를 적극 활용하고 있습니다. 조직의 94%가 에이전트 개발 및 실무 운영에 컨테이너(Container) 기술을 채택하고 있으며, 이는 기존 클라우드 네이티브 워크플로우를 연계하여 시스템의 안정성을 확보하려는 전략으로 풀이됩니다.
[핵심 요약: 에이전틱 AI 도입 현황]
- 도입률: 60%의 기업이 실무 환경에서 AI 에이전트 운용 중 (통신 67%, 금융 58% 순)
- 장기 전망: 단기적 트렌드가 아닌 10년에 걸친 산업 전환기로 인식
- 최대 장벽: 40%가 보안 및 컴플라이언스 문제를 확장의 주된 장애물로 지적
- 해결 열쇠: 94%가 에이전트 인프라 구축의 기반으로 컨테이너 기술 채택
확장성을 가로막는 보안과 복잡성
AI 에이전트 채택률이 증가하고 있음에도 불구하고, 이를 지원하는 생태계의 성숙도는 아직 부족한 실정입니다. 조사 대상 조직의 40%가 에이전틱 AI 확장의 최우선 장애물로 '보안 및 규정 준수(컴플라이언스)'를 지적했습니다. 또한 45%의 기업은 도입하려는 도구가 엔터프라이즈 환경에 적합하고 안전한지 검증하는 데 어려움을 겪고 있습니다. 특히 규제 요건이 엄격한 금융 서비스 업계의 경우, 응답자의 52%가 도구 자체의 보안성을, 또 다른 52%가 도구의 신뢰성 검증을 주요 과제로 꼽아 이중고를 마주하고 있는 것으로 나타났습니다.
'기술적 복잡성' 역시 확장을 방해하는 핵심 요인(33%)입니다. 이는 단순히 기술적 난이도뿐만 아니라, 다양한 모델의 혼재, 인프라의 파편화, 그리고 이들을 통합하는 오케스트레이션의 어려움을 모두 포괄합니다.
[핵심 포인트: 다중 환경의 복잡성]
- 유연성 확보를 위해 응답자의 79%가 2개 이상의 인프라 환경(퍼블릭 클라우드 51%, 온프레미스 40%, 서버리스 32%)에서 에이전트를 운영 중입니다.
- 전체 조직의 61%는 클라우드 호스팅 모델과 로컬 모델을 결합한 하이브리드 아키텍처를 채택하고 있습니다.
- 로컬 모델을 구동하는 핵심 목적은 시스템 제어 및 맞춤화(64%), 개인정보 보호 및 보안(60%), 규정 준수(54%) 순이었으며, 상대적으로 비용 절감(41%)의 비중은 낮았습니다.
모델 컨텍스트 프로토콜(MCP)의 잠재력과 한계
MCP는 에이전트를 외부 시스템 및 데이터와 연동하는 실질적인 업계 표준으로 부상하고 있습니다. 조사 대상 팀의 85%가 MCP에 대한 높은 인지도를 보였으며, 3분의 2 이상이 실제 업무 및 프로젝트에 이를 활용하고 있습니다.
그러나 엔터프라이즈 환경에서의 본격적인 도입에는 여전히 한계가 존재합니다. MCP 활용 조직들은 서버/클라이언트 관리에 따른 운영 부담(42%), 설치 및 구성의 복잡성(41%), 보안 및 컴플라이언스 리스크(41%)를 주된 취약점으로 지적했습니다. 세부적으로는 간접 프롬프트 주입(Prompt Injection)이나 툴 포이즈닝 등 신종 보안 취약점 대응(46%), 액세스 제어 및 권한 관리(40%), 신뢰할 수 있는 서버 확보(44%) 등에 난항을 겪고 있습니다.
결론적으로 현재의 MCP 인프라는 엔터프라이즈급으로 적용하기에는 시기상조라는 평가가 지배적이며, 향후 검색(Discovery), 관리 편의성(Manageability), 보안 및 거버넌스 체계의 고도화가 필수적으로 요구됩니다.
오케스트레이션: 조용히 확산을 갉아먹는 문제
다수의 모델과 도구, 인프라 환경을 동시에 제어해야 하는 '오케스트레이션'은 에이전트 구축의 새로운 병목 구간으로 떠올랐습니다. 글로벌 응답자의 48%가 여러 구성 요소를 통합 조율하는 운영상 복잡성을 최우선 해결 과제로 꼽았으며, 43%는 오케스트레이션 확장에 따른 보안 취약점 증가를 우려했습니다.
또한 응답자의 37%는 현존하는 오케스트레이션 프레임워크가 실무 환경에 적용하기에는 취약하거나 미성숙하다고 평가했고, 30%는 복잡한 시스템의 테스트 및 모니터링에 한계를 느끼고 있습니다. (국가별로는 인도 65%, 독일 55%, 싱가포르 53% 순으로 이 문제를 심각하게 체감했습니다.) 다만, 도커(Docker) 기반으로 에이전트를 구축하는 조직의 40%가 이미 'Compose'를 오케스트레이션 레이어로 채택하고 있어, 향후 컨테이너 기반의 인프라 표준화 움직임이 돌파구가 될 것으로 기대됩니다.
새로운 마이크로서비스로서의 에이전트와 컨테이너
보안 및 시스템 복잡성 문제를 해결하기 위해 다수의 조직은 기존에 검증된 인프라 환경을 적극 활용하는 패턴을 보이고 있습니다. 전체 조직의 98%가 기존 클라우드 네이티브 애플리케이션의 개발 및 배포 워크플로우를 AI 에이전트 환경에도 동일하게 적용하는 것으로 나타났습니다. 세부적으로는 64%가 "거의 동일하게 적용한다"고 응답했으며, 34%는 "기존 프로세스를 유지하면서 AI 전용 도구를 일부 추가해 활용한다"고 답했습니다. 반면, 에이전트 도입을 위해 워크플로우를 전면 재구축했다고 응답한 비율은 2%에 그쳤습니다.
조사 결과, 전체 조직의 94%가 에이전트 개발 및 실무 운영 전반에 컨테이너(Container) 기술을 도입한 것으로 나타났습니다. 이는 컨테이너 인프라가 제공하는 탁월한 이식성과 버전 관리, 그리고 일관된 환경 유지라는 장점 때문입니다.
특히 기존 마이크로서비스 아키텍처와의 차이점에 주목할 필요가 있습니다. 기존 시스템이 명시적이고 엄격한 통제(Orchestration)하에 구동되었다면, AI 에이전트는 특정 목표를 향해 자율적으로 판단하고 조정하는 특성을 지닙니다. 컨테이너는 이러한 에이전트의 예측 불가능한 동작 특성을 통제하고, 시스템 안전성을 보장할 수 있는 독립된 격리 환경을 제공한다는 점에서 필수적인 기술로 자리 잡고 있습니다.
벤더 종속성에 대한 우려와 배포 인프라
에이전틱 시스템이 발전함에 따라 특정 공급업체에 기술이 종속되는 것에 대한 우려가 확산하고 있습니다. 전 세계 응답자의 76%가 벤더 종속성에 대해 실질적인 우려를 표명했으며, 국가별로는 프랑스(88%), 일본(83%), 영국(82%)의 수치가 특히 높았습니다. 영역별로는 모델 호스팅 플랫폼 및 LLM 제공업체에 대한 종속 우려가 42%로 가장 컸고, 클라우드 인프라(41%), 데이터 저장 및 검색 시스템(39%), 모니터링 및 평가 레이어(38%) 순으로 나타났습니다.
또한, 에이전트 배포 및 공유 프로세스는 아직 명확한 표준 없이 파편화되어 있습니다. 응답자의 66%가 상업용 플랫폼 및 마켓플레이스를, 51%가 Git 기반 소스 저장소를, 48%가 사내 문서 및 위키를 혼용하고 있습니다. 클라우드 네이티브 워크플로우의 표준인 컨테이너 기술 역시 에이전트 배포 관점에서는 채택률이 38%에 머물고 있습니다(단, 조직의 기술 성숙도가 높을수록 채택 비중이 증가함). 배포 및 공유의 주된 장애물로는 보안(31%, 서명 및 검증 가능한 패키지와 출처 추적의 부재), 기존 인프라와의 통합(29%), 컴플라이언스(28%), 버전 관리(27%), 환경별 성능 편차(27%)가 지적되었습니다. 이러한 비표준화된 환경은 전사적 거버넌스와 유지보수의 난이도를 높이는 원인이 됩니다.
성공적인 에이전틱 AI 확장을 위한 신뢰 계층 구축
에이전틱 AI의 실효성은 이미 다양한 내부 워크플로우를 통해 입증되고 있습니다. 향후 엔터프라이즈급으로 확장하기 위해서는 보안, 오케스트레이션, 그리고 배포 프로세스의 표준화가 선행되어야 합니다.
이를 위해 조직은 기존 컨테이너 인프라 위에 '신뢰 계층(Trust Layer)'을 통합하는 데 전략적으로 투자해야 합니다. 핵심 요건으로는 안전한 기본 런타임, 표준화된 정책, 그리고 이식과 감사가 용이한 패키징 환경이 요구됩니다.
[체크리스트: 선도 기업의 에이전틱 AI 다음 단계]
- 신뢰성 확보: 검증된 모델, MCP 서버, 에이전트 등 구성 요소에 대한 안전한 접근 통제
- 복잡성 제어: 표준화된 오케스트레이션 및 통합 게이트웨이로 다중 모델·다중 클라우드 환경 통제
- 패키징 표준화: 서명 및 검사가 가능한 컨테이너 방식의 이식 가능한 에이전트 패키징 채택
- 아키텍처 내재화: 샌드박싱, 자격 증명, 정책 집행을 단순 규정이 아닌 아키텍처 설계 원칙으로 성문화
- 거버넌스 최적화: 거버넌스와 관측성(Observability)은 중앙 집중화하되, 인프라 및 모델 구성은 유연하게 다각화
FAQ: 데이터로 보는 에이전틱 AI 도입 현황
Q. 단일 모델 도입만으로도 충분한가? A. 그렇지 않습니다. 전체 조직의 98%가 2개 이상의 멀티 모델을 활용하고 있습니다. 세부적으로는 46%가 4~6개, 20%가 7~10개의 모델을 조합하여 사용 중이며, 단일 모델만 사용하는 조직은 2%에 그쳤습니다.
Q. 주로 활용되는 배포 플랫폼은 무엇인가? A. 퍼블릭 클라우드 가상 머신(VM)의 활용도가 51%로 가장 높게 나타났습니다. 뒤이어 쿠버네티스(Kubernetes) 클러스터(43%), 엣지 및 로컬 임베디드 시스템(42%), 서버리스 플랫폼(32%)이 활용되고 있습니다.
Q. 에이전트 스택 구축에 사용되는 주요 컨테이너 도구는? A. 벤더별로는 Google(57%)과 Azure(43%)의 점유율이 높았으며, 오픈소스 생태계 내에서는 Docker(29%)와 Kubernetes(25%)가 주력으로 채택되고 있습니다.
신뢰를 바탕으로 한 10년의 혁신 준비
에이전틱 AI는 이제 단순한 기술 검증(PoC) 단계를 넘어 실제 비즈니스 운영 환경에 안착하고 있습니다. 그러나 이는 단기적인 트렌드가 아닌, 향후 10년에 걸쳐 진행될 장기적인 혁신 여정의 초기 단계입니다. 따라서 지금은 유행에 편승하기보다 견고한 거버넌스와 시스템적 신뢰 기반을 구축하는 데 집중해야 합니다.
조직들은 유연성 확보를 위해 멀티 모델 및 멀티 클라우드 아키텍처를 적극적으로 수용하는 추세입니다. 이러한 복잡성 속에서 안전한 확장을 보장하는 현실적인 대안은 '컨테이너(Container)' 기술입니다. 독립적인 격리 환경과 뛰어난 이식성, 체계적인 버전 관리를 지원하는 컨테이너의 중요성은 지속적으로 확대될 전망입니다. 반면, MCP의 경우 엔터프라이즈급 신뢰를 확보하기 위해서는 도구 검색(Discovery), 서명 검증, 샌드박싱, 런타임 정책 등 보완적인 통제 장치 마련이 선행되어야 합니다.
결론적으로, 내부 생산성 향상을 위한 작은 성공(Quick Win) 사례를 시작으로 인프라의 신뢰성을 점진적으로 검증해 나가는 전략이 필요합니다. 이러한 '신뢰 계층(Trust Layer)' 구축에 선제적으로 투자하는 조직만이 미래의 상호 연결된 AI 생태계에서 주도권을 확보할 수 있을 것입니다.
이 글은 Docker의 「The State of Agentic AI Report」(글로벌 IT 의사결정권자 및 실무자 805명 대상 설문, 2025)를 바탕으로 작성되었습니다.
원문 출처:
