SK쉴더스 가 인공지능(AI) 보안 위협에 선제적으로 대응하기 위해 거대언어모델(LLM) 애플리케이션 취약점 진단 가이드를 발간했다고 밝혔다.
이번 가이드는 AI 기술의 보안 문제를 체계적으로 다루며 LLM 통합, 에이전트, 모델의 세 가지 핵심 영역에서 발생할 수 있는 보안 위협을 중점적으로 분석했다.
AI 기술은 금융, 제조, 헬스케어 등 다양한 산업에 활용되며, 혁신적인 서비스를 제공하는 동시에 새로운 보안 위협을 초래할 수 있다.
SK쉴더스는 올해 주요 위협 중 하나로 AI 기반 해킹 증가를 꼽으며, 소규모 언어 모델(sLLM)을 겨냥한 해킹 및 데이터 조작 사례가 늘어날 것으로 전망했다.
가이드는 '오픈소스 웹 애플리케이션 보안 프로젝트'(OWASP)가 선정한 주요 위협 항목을 포함하고 있으며, 대표적인 보안 위협으로는 프롬프트 인젝션, API 매개 변수 변조, 검색증강생성(RAG) 데이터 오염이 있다.
프롬프트 인젝션은 사용자 입력값을 악의적으로 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하며, 민감한 정보 유출 등의 문제를 초래한다.
API 매개 변수 변조는 시스템 권한을 초과하는 동작을 실행시키는 위협으로, 악성 이메일 전송과 같은 결과를 초래할 수 있다.
RAG 데이터 오염은 외부 데이터를 악의적으로 변조해 검색된 정보의 신뢰도를 낮추는 공격으로, AI 앱의 데이터 활용 신뢰성을 훼손시킬 수 있다.
SK쉴더스 는 이러한 보안 위협에 대응하기 위해 사용자와 시스템 명령어(프롬프트)를 분리하고 데이터 흐름 점검 및 검증 절차를 강화해야 한다고 강조했다.
LLM이 코드 실행을 포함하는 경우 샌드박스 기술을 적용해 악성코드 실행을 방지하며, RAG 활용 시 권한 없는 데이터 접근을 차단하기 위해 그룹별 권한 관리 체계를 구축할 것을 권장했다.
SK쉴더스는 또한 AI 특화 모의해킹 서비스와 소프트웨어 명세서(SBOM), 머신러닝 명세서(ML-BOM) 관리 등 DevSecOps 기반 보안 컨설팅을 제공하며, 기업이 AI 앱의 취약점을 조기에 발견하고 안전한 운영 환경을 구축할 수 있도록 지원하고 있다.
김병무 SK쉴더스 사이버보안부문장은 "AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다"라고 밝혔다.
이번 가이드는 SK쉴더스 공식 웹사이트 정보보안 라이브러리 메뉴에서 무료로 다운로드할 수 있다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.