웨비나속 Q&A

기존 생성형 AI 앱의 경우는 지정된 API 호출 패턴에 따라 개발되었다면, Agentic AI 는 다양한 외부 데이터 및 앱에 API 패턴과 유연한 Connect 역할을 제공해야 하며, 이를 해결하기 위해 많은 기업들이 MCP로 도입에 대해 검증하고 있습니다.

비지니스/거버넌스 측면은 각 CSP 에서 담당하고 전체 정책 표준화/배포/모니터링을 NGINX 로 표준화 하는 것을 제안 드립니다.

Context Drift 문제를 F5 API Protection으로 Token based Rate Limited 기능을 통해 완화 할수 있습니다.

호출구조가 룰 기반 자동화가 아닌 동적/비선형 API 체인이 큰 차이라고 생각되며 사전 정의된 흐름이 아닌 실시간 연계 다수 호출이라고 생각이 됩니다.

전체 instance 현황 확인 후 인스턴스 선택 시 단일 인스턴스의 상태를 상세하게 확인하실 수 있습니다. 내부 상황에 맞춰 특정 부분을 확인하거나 조합이 필요하신지요?

NGINX 기술 보유 파트너사의 지원을 받아 유지보수 등 지원이 가능하며 라이센스 비용 또한 다양한 방식으로 제공하고 있어 유연하게 관리 및 운영 가능합니다.

주어진 정책에 따라 pod auto scale in/out 이 진행이 되며, 고객사 정확한 TPS 수치는 확인 후 따로 답변 드리도록 하겠습니다.

요청 후 응답까지 전 과정을 세분화해서 메트릭 기반으로 확인하실 수 있으며 속도 및 실패/성공 여부를 NGINX one console 로 확인할 수 있습니다.

분산 AI 서비스간 통신은 기본적으로 API로 연동됨으로 API 보안 위협이 중요한 방어입니다.

네 ingress/egress 호출 경로를 추적하고 제어할 수 있습니다.

K8s 환경 기반 API Gateway Pod 자동 증설이 트래픽 기반 scale in/out 이 가능합니다.

네 시작 되었습니다!!

고도화를 위해서 Multi Agent의 여러가지 패턴들이 고려 되고 있습니다. A2A, MCP 같은 표준 Agent 프로토콜은 앞으로 AI Agent 고도화 및활용을 위한 중요한 기술적 요소가 될 것 입니다. 표준 기술을 파악하고 적용하는 것이 중요할 것 같습니다.

A2A, MCP 가 Multi Agent 환경에서 표준이 된 것 같습니다. Azure 환경에서도 빠르게 지원될 것 같고요, 말씀하신 표준 데이터 형식은 JSON, PDF 정도로 사용되고 정확한 표준 방안은 아직 없는 것 같습니다.

아닙니다.

AI Agent는 다양한 앱이나 웹사이트에 등록해서 사용하는 것입니다.