<aside> 🌐 🔗 참조 기사 읽기
</aside>
1. 핵심 요약
- AI 에이전트 도입의 핵심은 개별 에이전트의 성능이 아닌, 에이전트 간의 원활한 협업(오케스트레이션) 능력에 있다는 점이 부각되고 있습니다.
- 오케스트레이션 플랫폼은 단순히 에이전트의 활동을 관찰하는 수준을 넘어, 기술적 리스크 관리, 품질 관리, 그리고 궁극적으로는 인간의 개입을 최소화하여 효율성을 극대화하는 방향으로 진화하고 있습니다.
- 기업은 현재 자동화 스택을 면밀히 파악하고, 에이전트 기반 자동화 도입을 가속화하여 경쟁 우위를 확보해야 합니다.
2. 기사 상세 번역
에이전트 활용, 협업이 관건으로 부상
과거 기업들이 AI 에이전트가 어떻게 업무를 수행할 수 있을지 질문했다면, 현재 핵심 질문은 에이전트들이 서로 얼마나 잘 협력하는가로 바뀌고 있습니다. 이는 멀티 에이전트 시스템 및 플랫폼 전반의 오케스트레이션이 중요한 문제이자 핵심적인 차별화 요소로 떠오르고 있음을 의미합니다.
G2의 최고 혁신 책임자인 팀 샌더스는 VentureBeat과의 인터뷰에서 “에이전트 간의 커뮤니케이션이 매우 중요한 문제로 부상하고 있다”며, “오케스트레이션이 이루어지지 않으면 서로 다른 언어를 사용하는 사람들끼리 대화하는 것과 같은 오해가 발생할 수 있다”고 지적했습니다. 이러한 오해는 작업 품질을 저하시키고, 환각(hallucination) 현상을 야기하여 보안 사고나 데이터 유출로 이어질 위험이 있습니다.
데이터에서 액션으로, 오케스트레이션의 진화
오케스트레이션은 지금까지 주로 데이터 중심으로 이루어져 왔지만, 빠르게 액션 중심으로 전환되고 있습니다. “컨덕터(Conductor)와 유사한 솔루션”들이 에이전트, 로봇 프로세스 자동화(RPA), 그리고 데이터 저장소를 통합하는 역할을 수행하고 있습니다. 샌더스는 이러한 변화를 초기 모니터링에 집중했던 검색 엔진 최적화(SEO)의 발전 과정과 유사하다고 설명했습니다. SEO가 이제는 맞춤형 콘텐츠와 코드를 생성하는 수준으로 발전한 것처럼, 오케스트레이션 역시 단순한 관찰을 넘어 적극적인 제어와 최적화를 수행하게 될 것입니다.
샌더스는 “오케스트레이션 플랫폼은 다양한 에이전트 기반 솔루션을 조정하여 결과의 일관성을 높인다”고 강조했습니다.
초기 오케스트레이션 플랫폼 제공업체로는 Salesforce MuleSoft, UiPath Maestro, 그리고 IBM Watsonx Orchestrate 등이 있습니다. 이러한 “1단계” 소프트웨어 기반 관측 대시보드는 IT 리더들이 기업 전체의 에이전트 활동을 파악하는 데 도움을 줍니다.
리스크 관리, 오케스트레이션의 핵심 요소
하지만 단순한 협업만으로는 충분한 가치를 창출할 수 없습니다. 이러한 플랫폼은 더 나아가 기술적 리스크 관리 도구로 발전하여 품질 관리를 강화해야 합니다. 예를 들어, 에이전트 평가, 정책 추천, 그리고 사전 점수 부여(예: 에이전트가 기업 도구를 호출할 때의 신뢰도, 환각 발생 빈도 및 시점) 등을 포함할 수 있습니다.
기업 리더들은 벤더가 리스크와 오류를 최소화할 것이라는 믿음에 의존하는 것을 꺼리고 있으며, 실제로 많은 IT 의사 결정권자들이 벤더의 에이전트 신뢰도 관련 주장을 신뢰하지 않는다고 샌더스는 밝혔습니다.
따라서 제3자 도구가 등장하여 번거로운 안전 장치 프로세스와 에스컬레이션 티켓을 자동화하는 역할을 수행하고 있습니다. 이미 많은 팀들이 반자동화 시스템에서 “티켓 과부하” 현상을 경험하고 있으며, 에이전트가 안전 장치에 걸려 작업을 진행하기 위해 인간의 승인을 요청하는 상황이 반복적으로 발생하고 있습니다.
예를 들어, 은행의 대출 프로세스는 승인을 위해 17단계의 절차를 거치는데, 에이전트가 기존 안전 장치에 부딪힐 때마다 승인 요청으로 인간 워크플로우를 방해하는 상황이 발생할 수 있습니다.
제3자 오케스트레이션 플랫폼은 이러한 티켓을 관리하고, 승인 필요성을 판단하거나 심지어는 승인 자체를 생략할 수 있습니다. 궁극적으로 지속적인 인간 개입 없이도 조직이 “진정한 속도 향상”을 경험할 수 있도록 지원하며, 이는 단순한 백분율이 아닌 배수(예: 3배 vs 30%)로 측정될 수 있습니다.
샌더스는 “이후에는 조직 전체의 에이전트 프로세스를 원격으로 관리하는 단계로 발전할 것”이라고 전망했습니다.
‘인간-루프 내(human-in-the-loop)’에서 ‘인간-루프 위(human-on-the-loop)’로
에이전트 시대의 또 다른 중요한 변화는 인간 평가자가 설계자로 전환된다는 점입니다. 즉, 인간이 단순히 에이전트의 작업을 검토하는 “인간-루프 내” 방식에서 벗어나, 에이전트를 설계하여 워크플로우를 자동화하는 “인간-루프 위” 방식으로 전환될 것입니다.
샌더스는 에이전트 빌더 플랫폼이 지속적으로 노코드 솔루션을 혁신하고 있으며, 이제 거의 누구나 자연어를 사용하여 에이전트를 구축할 수 있다고 밝혔습니다. “이는 에이전트 기반 AI를 민주화할 것이며, 핵심 역량은 목표를 명확하게 표현하고, 상황을 파악하며, 잠재적인 함정을 예측하는 능력, 즉 오늘날의 훌륭한 관리자와 유사한 역량이 될 것”이라고 덧붙였습니다.
기업 리더가 지금 해야 할 일
샌더스는 에이전트 우선 자동화 스택이 거의 모든 측면(만족도, 작업 품질, 보안, 비용 절감)에서 하이브리드 자동화 스택보다 “훨씬 뛰어난 성능”을 보인다고 언급했습니다.
따라서 조직은 특히 반복적인 작업으로 인해 병목 현상이 발생하는 워크플로우에 에이전트를 도입하는 “신속한 프로그램”을 시작해야 합니다. 초기에는 품질을 보장하고 변화 관리를 촉진하기 위해 인간 개입이 강하게 작용할 수 있습니다.
샌더스는 “평가자 역할을 수행하는 것은 이러한 시스템 작동 방식을 이해하는 데 도움이 될 것이며, 궁극적으로 우리 모두가 에이전트 워크플로우의 하류가 아닌 상류에서 작업할 수 있도록 할 것”이라고 강조했습니다.
IT 리더는 현재 자동화 스택의 모든 요소를 파악해야 합니다. 규칙 기반 자동화, RPA, 또는 에이전트 기반 자동화 등 어떤 요소든, 조직 내에서 발생하는 모든 것을 파악하여 새로운 오케스트레이션 플랫폼을 최적으로 활용해야 합니다.
샌더스는 “그렇지 않으면 구식 기술과 최첨단 기술이 충돌하여 고객에게 직접적인 영향을 미치는 상황이 발생할 수 있다”며, “눈에 보이지 않는 것은 오케스트레이션할 수 없다”고 경고했습니다.
3. 기술 용어 해설
- AI 에이전트 (AI Agent): 특정 목표를 달성하기 위해 자율적으로 행동하는 AI 시스템.
- 오케스트레이션 (Orchestration): 여러 AI 에이전트, RPA, 데이터 저장소 등을 조율하고 통합하여 복잡한 워크플로우를 자동화하는 프로세스.
- 로봇 프로세스 자동화 (RPA, Robotic Process Automation): 사람이 수행하는 반복적인 업무를 소프트웨어 로봇이 자동화하는 기술.
- 환각 (Hallucination): AI 모델이 사실과 다른 내용을 생성하거나, 존재하지 않는 정보를 만들어내는 현상.
- 인간-루프 내 (Human-in-the-loop): AI 시스템의 작업 결과에 대해 인간이 검토하고 수정하는 방식.
- 인간-루프 위 (Human-on-the-loop): 인간이 AI 시스템을 설계하고 관리하여 워크플로우를 자동화하는 방식.
4. 수석 분석가의 Insight
이번 기사는 AI 에이전트 도입의 방향성이 단순한 개별 에이전트의 성능 향상을 넘어, 에이전트 간의 협업을 가능하게 하는 오케스트레이션 플랫폼의 중요성으로 전환되고 있음을 시사합니다. 국내 IT 업계는 이러한 변화에 발맞춰 에이전트 기반 자동화 도입을 가속화하고, 오케스트레이션 플랫폼 구축 및 활용 전략을 수립해야 할 것입니다. 특히, 기술적 리스크 관리 및 품질 관리 역량을 강화하여 AI 에이전트의 안전하고 신뢰할 수 있는 운영을 보장하는 것이 중요합니다.
AI검색 기반 자료입니다. 중요한 정보인 경우 다시 확인해주세요.
댓글, 공감 버튼 한 번씩 누르고 가주시면 큰 힘이 됩니다