아직 답변이 없습니다
AgentGo는 멀티 LLM을 지원하고 있습니다. 각 에이전트 별로 프롬프트와 버전을 모두 관리하고 있으며 새로운 LLM을 연동하기 전에 까다로운 테스트를 걸쳐 선정하고 있기에 기존의 워크플로우를 해치지 않도록 개발하고 있습니다.
AgentGo는 에이전트의 이용, 답변, 토큰 사용량 등 숫자로 표현할 수 있는 데이터는 관리자가 대시보드에서 확인할 수 있습니다. 질의부터 에이전트의 설계, 행동, 결과까지 모든 로그를 암호화하여 저장 합니다. 처리 내역에 대한 AI 활동을 가디언을 통해 관찰(Observation), 평가(Evaluation), 조정(Intervention) 처리하고 있습니다. 에이전트 처리에 대한 결과를 리포팅 하는것은 개인정보로 암호화 되어 로그 원본만으로는 리포팅이나 시각화를 하지 않도록 제어하고 있습니다.
아직 답변이 없습니다
에이전트가 매우 중요한 화두로 떠오르고 있는 것은 맞지만 아직까지는 RAG 기반의 지식 제공에 더 많은 주안점을 두고 있는 상황입니다. 그러나 워낙 기술 개발이 급속히 진행되고 있어서 에이전트의 출현이 과거 인터넷, 스마트폰이 줬던 충격보다 더 큰 충격을 줄 것으로 보며 멀티 에이전트가 하나의 견고한 방향이 될 것이라는 것은 분명합니다.
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
의사결정 책임 분배는 향후 에이전트 기능이 고도화될수록 반드시 필요한 중요한 요소입니다. 그러나 그전에 중요한 것은 의사결정 책임 분배와 같은 복잡한 전략이 없어도 사용자에게 유용한 기능이 많다는 점입니다. 이러한 필수 기능에 대한 우선순위를 높여서 제품화가 진행되고 있습니다.
아직 답변이 없습니다
퍼블릭 LLM API를 사용할 경우 고객의 정확성에 대한 만족도는 높은 편입니다. 그러나 고객이 더 만족하지 못하는 것은 정확도보다는 응답 속도입니다. 고객에게 가장 민감한 것은 응답 속도입니다. 아무리 정확도가 높아도 답변이 느리면 불만이 커질 수 밖에 없습니다. 폐쇄망의 경우 아직까지 sLLM의 성능이 충분히 올라오지 못해서 여기에 대해서는 정확성이 많이 떨어지는 편입니다. 폐쇄망의 경우, 도메인을 잘 파악해서 가는 전략이 중요해집니다. 보안과 권한 통제를 위해 AgentGo는 관리자 기능을 총 4단계의 관리자 기능으로 구분하였습니다. 모든 정보에 접근 가능한 최고 관리자, 시스템 운영에 필요한 기능(공통, 배치, 시스템 설정 등)을 위한 시스템관리자, 아이티센 그룹처럼 여러 법인에 적용할 때의 법인 관리자, 운영을 위한 지식 DB 등을 관리할 운영관리자로 구분하고 있습니다. 기능적으로는 사용자지정, 관리자 등급, 관리자별 접근제어를 메뉴별로 세세히 구분이 가능하고, 관리자의 권한 별로 접근하는 데이터 접근기록을 별도의 로그로 암호화하여 저장하고 있습니다.
1. 현업 주도성 결여 (IT 부서만의 '고립된 추진') AX의 키를 IT 부서만 잡고 있을 때 발생합니다. 현업은 "IT가 알아서 해주겠지"라며 방관하고, 결과물은 실제 업무 현장의 디테일을 담지 못해 결국 외면받습니다. 그래서 AgentGo는 현업 담당자가 직접 에이전트 로직을 설계하고 수정할 수 있는 No-Code 기반의 환경을 제공합니다. 2. 기존 워크플로우와의 단절 (Isolated AI) AI를 기존 업무 프로세스에 녹여내지 않고, 별도의 '새로운 툴'로만 접근하는 경우입니다. 직원들이 AI를 쓰기 위해 기존 업무창을 떠나 새로운 창을 열 수 밖에 없게 됨으로써 사용률이 급격히 떨어집니다. 그래서 AgentGo는 ERP, CRM, 슬랙(Slack), 메신저 등 기존 레거시 시스템과의 강력한 API 연동을 지원합니다. 즉 사용자가 일하는 방식 그대로, 배경에서 보이지 않게 업무를 돕는 오케스트레이션 기능을 제공합니다. 3. '학습 및 개선' 프로세스의 부재 (Set and Forget) AI 배포를 '프로젝트의 끝'으로 생각하는 오류입니다. AI는 배포 후 실사용 데이터와 피드백을 통해 계속 진화해야 하는데, 이를 위한 전담 조직이나 피드백 수집 프로세스가 없습니다. AgentGo는 통합 모니터링 및 분석으로 에이전트의 답변 품질과 사용자 만족도를 실시간 트래킹하는 대시보드를 제공합니다. (실사용 피드백을 즉각 로직에 반영하고 성능을 개선할 수 있는 운영 관리 프로세스를 시스템화)
단순한 필터링을 넘어선 능동적인 역할이 필요하다고 저희는 생각했습니다. 다층(Multi-Layered) 보안 아키텍처를 구현하였습니다. 첫번째, AgentGO Guard - 대부분의 민감정보는 필터링 할 수 있습니다. - 단어사전(금칙어, 민감정보)를 관리할 수 있고 특수단어, 사회적 현상등에 대해 유연성을 제공하고 있습니다. - NLP 모델을 사용하여 강력한 수준의 비식별화를 질문과 답변에 적용하고 있습니다. 두번째, Multi-Layered 보안 아키텍처를 통하여 단계별로 개인정보가 마스킹 되고 최종적으로 개인정보를 차단할수 있도록 통제 하고 있습니다
각각은 장단점이 뚜렷하기 때문에 한가지로 모든 것을 다 처리할 수 있는 만능의 방법은 없습니다. AgentGo는 네트워크 레벨과 SaaS API 호출 레벨 모두 고려하고 있고, 단순히 기술적인 고려뿐만 아니라 정책적인 면까지 고려하고 있습니다. 또한 고객마다 요구사항이 다양하기 때문에 가장 제너럴한 구조를 산출하기 위해 계속 발전 중입니다.
AX전환은 일하는 방식의 변화를 전제로합니다. AI Agent를 통해서 기존 레거시시스템의 활용도를 높이는 방향이 맞습니다. 기업의 정형,비정형데이터의 디저털화 및 표준화가 전제되어야 효율성을 보장할수 있습니다. 작은 규모의 Agent를 자체적으로 적용을 해보면서 직원들 전체가 AI전환에 대한 방향성과 인식을 공유하는 준비가 필요합니다. 컨설팅이나 PoC를 통해서 도움을 받을수도 있고 해커톤에 참여해보는것도 좋은 밥업입니다. 중소기업의 사례를 들어드리기는 어려우나 , 공공기관중에 지자체(충주시, 양산시)의 경우는 사내 학습조직을 통해서 자체적으로 성공적인 Agent를 구축하고, 사례를 공유 및 사업화를 진행중이기도 합니다.
질문1. 기존 AI 도구는 단일 Task에 강하지만 여러 부서의 데이터가 얽힌 복잡한 업무에는 한계가 있습니다. 멀티 에이전트는 그러한 한계를 각 부서의 전문 지식을 가진 에이전트들이 서로 협업하여 의사 결정 프로세스 '전체'를 자동화 합니다. 그에 따른 기대 ROI는 가. 운영 효율성(OPEX) 절감, 나. 업무속도 혁신, 다. 데이터 자산 가치 극대화(사내 축적된 모든 데이터 자산 활용)을 들 수 있습니다. 질문2. DX는 아날로그 데이터를 디지털화하고 시스템을 구축하는 인프라 위주, AX는 구축된 디지털 시스템을 AI가 스스로 판단하고 활용하게 하는 실행 중심의 변화라 할 수 있습니다. Agent-First 도입 시 고려 리스크는 제어권 상실(에이전트가 예상치 못한 판단을 내릴 리스크), 심리적 저항(업무 대체에 대한 직원들의 불안감) 정도가 있지 않을까 합니다. 질문3. 레거시 시스템 통합을 위한 아키텍처와 데이터 거버넌스에 대해 개략적으로 말씀드리면 통합을위한 아키텍처는 크게 가. 정책 기반 통제(Policy based Control), 나. Data Masking & Privacy, 나. Full Audit Logging을 들 수 있습니다.
데이터 전송구간에 대해서는 구간암호화를 적용하여 다양한 공격(후킹, 해킹, 도청)으로 부터 데이터를 보호 하고 있습니다.
LLM 연산 속도가 느리기 때문에 지연 시간 최소화가 매우 중요하므로 비동기 설계는 필수입니다. 병렬 연산 구조도 반드시 필요합니다. 좀더 효율적인 파이프라인 구조를 갖기 위해 많은 노력을 기울이고 있습니다. 특히 중요 한것은 사람들의 심리를 잘 맞추는 것입니다. 첫답변까지 응답 시간을 최소화하거나 지연 시간 중 현재 진행 사항을 보여준다던지 이런 UX적인 면까지 고민해야 합니다.
저장 버전 관리는 기존 시스템과 크게 다르지 않습니다. DB, Redis, Vertical DB, Vector DB 혹은 Vector DB에서 제공하는 metadata 등을 다양하게 사용하고 있습니다.