Q
[질문]현재 서빙 전략을 설계할 때 추후 멀티모달(텍스트+이미지) 혹은 에이전트 기반 LLM 확장을 고려한다면, 어떤 아키텍처적 준비가 필요할까요?
A
멀티모달 또는 에이전트 기반 LLM 확장을 고려한다면, 모듈화되고 확장 가능한 마이크로서비스 아키텍처를 준비해야 합니다. 각 모달리티(텍스트, 이미지 등)를 처리하는 별도의 컴포넌트를 설계하고, 이들을 유연하게 조합할 수 있는 서비스 오케스트레이션 계층을 구축하는 것이 중요합니다. 서비스에서 발생하는 데이터를 자체적으로 처리한다면 데이터 파이프라인 또한 다양한 형태의 데이터를 수집, 전처리, 임베딩할 수 있도록 유연하게 설계해야 합니다.