채널온티비(잇츠맨) - IT 테크 콘텐츠 채널

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 모델의 성능을 평가할 때는 민감도, 정밀도, 거짓양성률(FPR) 등의 지표를 사용할 수 있는데 평가에 사용되는 데이터가 편향되지 않고, 투명도가 높으며, 데이터 완결성이 높은지 어떻게 확인할수 있을까요?

장혁수 2025-06-27 14:31

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]랜섬웨어 공격이 초기 침투에 상용 RMM 도구를 악용하거나사회공학적 기법으로 피해 서버에 RMM 설치 및 실행을 유도등 합적인툴을 이용하여 랜섬웨어를 배포하는 고도화전략을 꽤하고있는데 이에 대한 선제적 대응,탐지보안체계를 구축하기위한 선제전략은 어떤게 있을까요?

양재영 2025-06-27 14:31

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 서비스와 연동되는 타 시스템의 보안 취약점은 어떻게 파악하고 관리하나요? 특히 다양한 SaaS 환경과 연계될 경우에 전체 인프라에서의 보안 통제는 어떻게 이루어져야 할지요?

박기차 2025-06-27 14:31

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 도구 도입 시, 보안 측면에서 가장 간과되는 실수는 무엇인가요? 많은 기업이 편의성과 속도에 집중하다 보안 프로토콜을 소홀히 여기는 경우가 있는데, 주요 체크리스트나 초기 점검 포인트가 궁금합니다.

박기차 2025-06-27 14:30

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] 1.운영 중인 AI 모델이 사이버 공격(예: Adversarial Attack, Prompt Injection 등)에 노출되었을 때 대응 시나리오가 궁금합니다. 2.AI 시스템이 온프레미스 인프라 또는 클라우드와 연계될 경우, 보안 이나 IAM 설정 방법이 궁금합니다. 3.생성형 AI의 출력이 민감 정보, 허위 정보, 비윤리적 내용을 포함할 수 있는 경우, 이를 사전 차단하는 방법이 있는지요?

조성영 2025-06-27 14:29

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] 보통 AI 도구는 사용 로그나 기록을 따로 저장하지 않는데, 이게 오히려 나중에 사고 발생 시 추적을 어렵게 만들 수 있다는 우려가 있습니다. 이를 해결할 수 있는 현실적인 방법이 있을까요?

방성현 2025-06-27 14:28

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] 생성형 AI를 도입하거나 자체 LLM을 구축할때 보안 게이트웨이 유형의 솔루션을 이용해 요청/응답에 대해 개인/취약/취약점을 검증하거나 필터, 출처 확인 등을 적용할 수있을 것 같은데요. 혹시 이런 솔루션이나 서비스를 도입 할때 고려해야 할 사항들이 있을까요?

김무섭 2025-06-27 14:28

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] CVE-2025-32711과 유사하게 AI 서비스 연동 및 인프라에서 발생할 수 있는 대표적인 취약점 유형은 어떤 게 있나요? 취약점이 많은가요...

김인섭 2025-06-27 14:28

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 모델이 민감 정보를 학습하거나 저장하지 않도록 하는 데이터 거버넌스 정책은 어떻게 수립해야 하나요?

여현동 2025-06-27 14:28

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

질문]최근에 chatGPT 같은 생성형 AI기술 적용이 활발한데, Copilot AI기반에서 예상된 시나리오에 벗어난 예상치 못한 상황이 발생할 경우에 대한 예외 처리 및 적절한 대응방안도 포함되어 있는지요?

장혁수 2025-06-27 14:27

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 도구를 업무환경에 도입할 때, ‘섀도우 AI’(shadow AI)에 의한 데이터 유출과 같은 리스크를 줄이기 위해 거버넌스 정책은 어떻게 구성하고, 보안 프레임워크는 어떻게 통합해야 할까요?

현승헌 2025-06-27 14:27

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]AI 기반 보안 위협 대응은 현재 reactive 대응이 주를 이루는데, proactive 대응으로 전환하기 위해 조직 내에서 어떤 프로세스를 설계해야 할까요?

신유진 2025-06-27 14:27

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]AI도입에 따른 인프라 투자와 업무 생산성 효율과 편의성과 비례하여 보안 규제와 강화를 하게 되면 어느 정도의 저하가 예상되는지요? 다온 기술 솔루션과 지원을 통해 어느 정도 기준에서 2가지 측면을 조화롭게 잘 운영이 가능할 수 있는지요?

지정호 2025-06-27 14:25

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]국내외에서 공공분야가 전체 보안사고의 가장 높은 비중을 차지하는 것으로 아는데 국내 공공분야중 주요 인프라중 가장 보안에 취약하고 보완이 필요하다고 생각되는 부문은 어떤게 있는지 햬외사례를 비교해 궁금합니다.

양재영 2025-06-27 14:24

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]LLM으로 직접 악성 스크립트를 제작하거나 AI 기능을 탑재한 악성코드가 다크웹상으로 거래되는 상황에서 점점 정교해지고 일반인도 쉽게 악용할수있는 AI보안공격기술에 대한 귀사만의 방어전략이 궁금합니다.

양재영 2025-06-27 14:23

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] CVE-2025-32711과 유사한 형태의 제로데이 취약점이 AI 기반 SaaS 서비스에서 재현될 가능성은 어느 정도라고 보시나요?

신홍동 2025-06-27 14:22

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문]네트워크 장비 취약점을 이용해 IAM 정보를 수집하여 판매또는 이를 활용한 연계공격사례도 있었는데 이런 자격증명 탈취공격에 대한 보안방어기술의 발전방향이 궁금합니다.

양재영 2025-06-27 14:22

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] AI 취약점 중에서 모델 전도 및 모델 추출 공격에 대한 대비책 사례가 있는지 궁금합니다.

김성대 2025-06-27 14:21

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] 과거에는 코드를 고치는 게 핵심이었다면 이제는 AI를 통제하는 문제가 중심으로 떠오르고 있는 거 같은데 어떤가요?

신홍동 2025-06-27 14:20

아직 답변이 없습니다

AI 도입 시, 보안 검토의 중요성 똑똑한 비서인가, 보안 구멍인가?

Q

[질문] 회사 내부에서 자체적으로 프라이빗 LLM을 운영하고 있는데, 그럼에도 불구하고 외부로 데이터가 새어나갈 가능성이 있다면 주로 어떤 경로를 의심해봐야 할까요?

방성현 2025-06-27 14:20

아직 답변이 없습니다

웨비나속 Q&A

최근 웨비나 진행 중 발생한 질문과 답변을 조회할 수 있습니다

[질문] AI 모델의 성능을 평가할 때는 민감도, 정밀도, 거짓양성률(FPR) 등의 지표를 사용할 수 있는데 평가에 사용되는 데이터가 편향되지 않고, 투명도가 높으며, 데이터 완결성이 높은지 어떻게 확인할수 있을까요?

[질문] AI 서비스와 연동되는 타 시스템의 보안 취약점은 어떻게 파악하고 관리하나요? 특히 다양한 SaaS 환경과 연계될 경우에 전체 인프라에서의 보안 통제는 어떻게 이루어져야 할지요?

[질문] AI 도구 도입 시, 보안 측면에서 가장 간과되는 실수는 무엇인가요? 많은 기업이 편의성과 속도에 집중하다 보안 프로토콜을 소홀히 여기는 경우가 있는데, 주요 체크리스트나 초기 점검 포인트가 궁금합니다.

[질문] 보통 AI 도구는 사용 로그나 기록을 따로 저장하지 않는데, 이게 오히려 나중에 사고 발생 시 추적을 어렵게 만들 수 있다는 우려가 있습니다. 이를 해결할 수 있는 현실적인 방법이 있을까요?

[질문] CVE-2025-32711과 유사하게 AI 서비스 연동 및 인프라에서 발생할 수 있는 대표적인 취약점 유형은 어떤 게 있나요? 취약점이 많은가요...

[질문] AI 모델이 민감 정보를 학습하거나 저장하지 않도록 하는 데이터 거버넌스 정책은 어떻게 수립해야 하나요?

질문]최근에 chatGPT 같은 생성형 AI기술 적용이 활발한데, Copilot AI기반에서 예상된 시나리오에 벗어난 예상치 못한 상황이 발생할 경우에 대한 예외 처리 및 적절한 대응방안도 포함되어 있는지요?

[질문] AI 도구를 업무환경에 도입할 때, ‘섀도우 AI’(shadow AI)에 의한 데이터 유출과 같은 리스크를 줄이기 위해 거버넌스 정책은 어떻게 구성하고, 보안 프레임워크는 어떻게 통합해야 할까요?

[질문]AI 기반 보안 위협 대응은 현재 reactive 대응이 주를 이루는데, proactive 대응으로 전환하기 위해 조직 내에서 어떤 프로세스를 설계해야 할까요?

[질문]LLM으로 직접 악성 스크립트를 제작하거나 AI 기능을 탑재한 악성코드가 다크웹상으로 거래되는 상황에서 점점 정교해지고 일반인도 쉽게 악용할수있는 AI보안공격기술에 대한 귀사만의 방어전략이 궁금합니다.

[질문] CVE-2025-32711과 유사한 형태의 제로데이 취약점이 AI 기반 SaaS 서비스에서 재현될 가능성은 어느 정도라고 보시나요?

[질문]네트워크 장비 취약점을 이용해 IAM 정보를 수집하여 판매또는 이를 활용한 연계공격사례도 있었는데 이런 자격증명 탈취공격에 대한 보안방어기술의 발전방향이 궁금합니다.

[질문] AI 취약점 중에서 모델 전도 및 모델 추출 공격에 대한 대비책 사례가 있는지 궁금합니다.

[질문] 과거에는 코드를 고치는 게 핵심이었다면 이제는 AI를 통제하는 문제가 중심으로 떠오르고 있는 거 같은데 어떤가요?

[질문] 회사 내부에서 자체적으로 프라이빗 LLM을 운영하고 있는데, 그럼에도 불구하고 외부로 데이터가 새어나갈 가능성이 있다면 주로 어떤 경로를 의심해봐야 할까요?

Copyright @ 2021 (주)채널온티비 All rights reserved