AI 보안 — 핵심 포인트

1. AI 모델은 학습 데이터의 민감한 정보를 유출할 수 있습니다.

2. 입력 검증을 통해 악의적 프롬프트 공격을 방지해야 합니다.

3. 모델 업데이트 전후로 성능과 보안 회귀 테스트를 수행하세요.

4. 접근 제어와 로깅으로 누가 어떤 요청을 했는지 추적해야 합니다.

5. 민감 정보에 대한 마스킹·익명화는 필수 방어책입니다.

6. 출력 검토와 필터링으로 유해하거나 비밀스러운 응답을 차단하세요.

7. 서드파티 데이터·API 사용 시 신뢰성·허가를 반드시 확인하세요.

8. 정기적인 위협 모델링으로 위험을 선제적으로 관리하세요.

9. 보안은 개발·운영·법무가 함께하는 조직적 과정입니다.

10. 작은 설정 하나가 큰 유출로 이어질 수 있으니 주의하세요.