AI 기반시설 해킹 공격법 90% 도출… 침입 경로 제시 실증

인공지능(AI) 기술이 전력망과 수도 시설 같은 국가 핵심 인프라를 침투하는 공격 절차를 약 90%의 성공률로 도출할 수 있다는 시뮬레이션 결과가 확인되면서 AI 기반시설 해킹 위협이 구체화하고 있다. 산업 제어 시스템에 대한 침입 경로를 질의했을 때 최상위 AI 모델 10번 중 9번꼴로 실제 실행 가능한 공격 단계를 구체적으로 제시한 것으로 나타났다.

프레노스 시뮬레이션서 90% 침입 방법 도출

미국 사이버 보안업체 프레노스(Prenos)는 최근 주요 AI 모델 10개를 대상으로 공장 및 수도 시설의 컴퓨터 네트워크에 침입하는 방안을 모의 평가한 실험 결과를 2026년 10월 공개했다. 이번 평가는 정밀하게 설계된 산업 제어 시스템 침투 시나리오를 바탕으로 AI 모델이 보안 취약점을 얼마나 정확하게 식별하고 악용 경로를 설계할 수 있는지 측정하는 방식으로 진행됐다.

프레노스는 시험 대상 모델마다 35개 공격 시나리오를 각각 6차례씩 적용해 총 210번의 침입 유도 테스트를 거쳤다(프레노스, 2026). 그 결과 성능 평가에서 상위를 기록한 모델 3개는 전체 테스트 시도의 약 90%에서 방화벽과 내부망 통제 정책을 우회해 시스템 제어권을 확보할 수 있는 구체적인 침입 절차를 스스로 구성해 제시했다.

다음 표는 프레노스가 진행한 기반시설 대상 AI 침입 시뮬레이션의 주요 실험 구성과 상위 모델의 결과를 요약한 내용이다.

표: 프레노스 AI 기반시설 침입 시뮬레이션 실험 개요

출처: 프레노스(2026) 실험 결과 정리

프레노스의 평가 결과는 상위권 AI 모델 3개가 210회의 복합 공격 시도 중 약 90%에서 산업 기반시설 내부로 파고드는 유효한 침투 경로를 성공적으로 생성했음을 보여준다. 단순한 이론적 취약점 지적을 넘어 실제 서버 침투와 장비 무력화로 이어질 수 있는 단계별 명령어를 직접 조합해 냈다는 점이 이번 실험에서 드러났다.

초보 해커 진입 장벽 낮추는 기술적 위험

고도화된 생성형 AI가 침투 수단을 자율적으로 완성해 제시하는 구조는 전문 지식이 부족한 초보 공격자에게도 국가 기간망을 위협할 수 있는 기술적 수단을 제공한다. 과거에는 폐쇄망 구조와 산업용 통신 규약에 대한 전문 지식을 가진 숙련된 공격 그룹만이 전력과 수도 시설을 표적으로 삼을 수 있었으나, AI가 그 공백을 메우고 있는 셈이다.

최근 사이버 보안 업계에서는 정밀한 인프라 타격을 지원하는 도구들이 빠르게 확산하면서 AI 결합 사이버 공격 급증 현상이 현실의 산업 현장으로 직결되고 있다는 우려가 나온다. 해리 토머스 프레노스 공동창업자는 "AI가 해킹에 필요한 기술적 장벽을 낮춰 대규모 공격이 현실화하는 시점을 앞당기고 있다"고 밝혔다(프레노스, 2026).

인프라 시설의 설비 제어 시스템은 통상 장기 운용되는 특성상 즉각적인 보안 패치가 적용되기 어렵다. 공격자가 AI를 통해 표적 제어 시스템의 특성을 입력하고 취약점을 물어보면 단시간에 유효한 침투 코드가 조합되어 방어망이 무력화될 수 있는 취약성이 상존한다.

악성코드 분석 거부하는 방어 AI의 한계

공격 역량이 고도화되는 반면 AI를 사이버 방어와 보안 분석에 투입하는 현장에서는 안전 가드레일 정책으로 인한 기능적 제약이 노출되고 있다. 방어자가 침해 사고를 분석하기 위해 악성코드를 입력하더라도 AI 안전 필터가 이를 유해 콘텐츠나 공격 지원 시도로 오인해 분석 작업을 전면 중단하는 상황이 발생하기 때문이다.

실제로 개발 지원 도구인 '오픈코드'에서 대규모 해킹 공격이 발생해 일부 이용자의 오픈AI, 구글, 앤스로픽 응용 프로그램 인터페이스(API) 키가 외부로 유출되는 사고가 일어났다. API 키는 클라우드 기반 AI 서비스를 호출할 때 이용자의 신원을 확인하는 핵심 인증 정보로, 유출 시 제3자가 해당 계정의 권한을 악용할 수 있다.

사고 직후 미국 인공지능 플랫폼 허깅페이스(Hugging Face) 측은 해커가 유포한 침해 악성코드를 역추적하고 차단하기 위해 방어용 AI 모델에 코드 분석을 요청했다. 그러나 해당 AI 모델은 악성코드 해석 요청 자체를 '사이버 공격을 돕는 위험한 작업'으로 분류해 분석 수행을 전면 거부했다.

공격자들은 방어선 우회와 타격 경로 모색에 AI를 자유롭게 활용하는 반면, 보안 담당자는 정작 침해 분석 과정에서 AI의 엄격한 거부 응답에 부딪히며 공격과 방어 간의 비대칭성이 심화하고 있다. 이에 따라 기반시설 운영 기관들은 안전 규제를 준수하면서도 실제 위협 코드를 식별할 수 있는 전용 보안 AI 검증 체계 마련에 집중하고 있다.