SK쉴더스가 AI 보안 위협에 선제적으로 대응하기 위해 ‘LLM 애플리케이션 취약점 진단 가이드’를 발간했다.
LLM 기반 애플리케이션은 자연어 처리와 생성에 특화된 대규모 언어 모델을 활용하며, 금융, 제조, 헬스케어 등 다양한 산업에서 폭넓게 사용되고 있다.
대표적인 예로 오픈AI의 챗GPT와 구글의 제미나이가 있으며, 기존 IT 시스템과는 다른 보안 위협에 노출될 가능성이 높아 철저한 보안 대책이 요구된다.
SK쉴더스는 2025년 주요 보안 위협 중 하나로 AI 기반 해킹 증가를 꼽았다.
특히 소규모 언어 모델을 겨냥한 해킹과 LLM의 구조적 취약점을 악용한 데이터 조작 및 유출 공격이 심화될 것으로 예상했다.
이에 따라 이번 가이드는 ‘OWASP Top 10 for LLM Applications 2025’의 주요 항목을 포함하고 있으며, LLM 통합, 에이전트, 모델 등 세 가지 핵심 영역의 보안 이슈를 다루고 있다.
보고서는 프롬프트 인젝션, API 매개 변수 변조, RAG 데이터 오염 등 대표적인 보안 위협을 소개했다.
프롬프트 인젝션은 사용자의 입력값을 악의적으로 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하는 공격이며, API 매개 변수 변조는 시스템 간 통신에서 요청값을 변형해 비정상적인 동작을 실행하는 방식이다.
RAG 데이터 오염은 외부 데이터를 조작해 검색된 정보의 신뢰도를 떨어뜨리는 위협이다.
SK쉴더스는 이러한 보안 위협을 방지하기 위해 사용자 입력과 시스템 명령어를 분리하고, 데이터 흐름 점검 및 검증 절차를 강화할 것을 제안했다.
또한, LLM의 코드 실행 여부에 따라 샌드박스를 활용해 악성코드 실행을 방지하고, RAG를 사용할 때는 그룹별 권한 관리 체계를 구축해야 한다고 강조했다.
SK쉴더스는 AI 특화 모의해킹 서비스, 소프트웨어 및 머신러닝 명세서 관리, DevSecOps 구축 컨설팅을 제공하며, 기업들이 AI 애플리케이션의 보안 취약점을 조기에 발견하고 안전한 운영 환경을 구축할 수 있도록 지원하고 있다.
김병무 SK쉴더스 사이버보안부문장은 “AI 기술은 편리함을 제공하지만 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다"고 언급했다.
이어 "이번 가이드는 기업과 기관이 직면할 수 있는 AI 보안 문제를 사전에 예방하고 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적인 도움을 줄 것"이라고 밝혔다.
‘LLM 애플리케이션 취약점 진단 가이드’는 SK쉴더스 공식 웹사이트 정보보안 라이브러리 메뉴에서 무료로 다운로드할 수 있다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.