이와 함께 시스템 자체를 공격하는 기존 방식뿐 아니라 AI의 판단을 왜곡하는 새로운 유형의 보안 위협이 핵심 과제로 부상하고 있다. 이번 'Judgement Day' 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 데 초점을 맞춰 진행됐다. 특히 AI의 의사결정 취약점을 노린 공격으로 인해 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 판단되는 상황이 발생될 수 있으며, 이를 통해 금전적 손실과 신뢰도 저하를 넘어 심각한 인명 피해로까지 이어질 수 있음을 확인했다. 이를 통해 고객사의 AI 시스템 취약점 사전 식별과 보안 리스크 최소화를 지원하며, 글로벌 표준인 'OWASP Top 10 for LLM(대형 언어 모델 보안 취약점 기준)'을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략 수립까지 제공하고 있다.

이번 연구는 실제 사이버 공격의 특징인 '불규칙 시계열' 문제를 새로운 방식으로 접근했다는 점에서 높은 평가를 받았다. 기존 사이버 보안 탐지 기술은 공격이 일정한 흐름으로 이어진다는 가정에 기반해 데이터를 분석하는 방식이 일반적이었다. 이에 SK쉴더스는 불규칙하게 이어지는 공격 흐름을 그대로 분석할 수 있는 AI 신기술 'QuITE(Query-based Irregular Time-series Embedding)'를 제시했다. 김병무 SK쉴더스 사이버보안부문 부사장은 "이번 ICML 논문 채택으로 SK쉴더스의 AI 연구 역량이 글로벌 학계에서도 경쟁력을 인정받았다"며 "연구 성과를 자사 서비스에 연계해 탐지·분석 역량을 한 단계 끌어올리고, 사이버보안 특화 AI 기술에 대한 투자와 연구를 지속 확대해 나가겠다"고 밝혔다.

최근 국내는 초고령사회 진입과 함께 독거노인과 돌봄 취약계층이 증가하면서 AI와 스마트홈 기술을 활용한 디지털 돌봄 수요가 빠르게 확대되고 있다. 따라서 인력 중심 돌봄 한계를 보완할 수 있는 IT 기반 예방형 생활안전 서비스 중요성도 커지고 있다. 해당 사업은 고령자 돌봄 생태계에 AI·스마트홈 기술을 접목해 대상자의 안전과 건강, 정서 케어까지 통합 지원하는 차세대 디지털 돌봄 모델이다. 나아가 SK쉴더스는 ADT캡스의 홈보안 브랜드 '캡스홈' 서비스 라인업에도 돌봄 기능을 접목해 생활 밀착형 안전 서비스로 확대할 예정이다

이처럼 공격 방식이 지능화·자동화되면서 취약점 분석, 침해사고 대응, 보안 관제 등 보안 업무 전반에서도 AI 기반 대응 역량의 중요성이 커지고 있다. 특히 중소기업의 경우 제한적인 기술과 인력 여건으로 인해 대응에 어려움을 겪으면서, 기업 규모에 따른 보안 역량 격차가 확대될 수 있다는 우려도 제기되고 있다. 이에 SK쉴더스는 보안 실무자가 생성형 AI를 실제 업무에 효과적으로 활용할 수 있도록 돕는 실무 중심 교육 과정을 기획했다. 수강생들은 SK쉴더스 EQST의 모의해킹 환경과 ChatGPT 등 생성형 AI 도구를 활용해 공격 시나리오 분석부터 대응 전략 수립, 결과 보고서 작성까지 전 과정을 직접 수행하며 실전 대응 경험을 강화한다.

이번 서비스는 주차장에서 발생하는 소리를 실시간으로 분석해 범죄나 안전사고 발생 시 '골든타임' 대응 역량을 크게 높인 것이 특징이다. 이에 ADT캡스는 음원분석 전문기업 주식회사 크랜베리와 협력해 기존 무인 주차장에 AI 음성·음원 분석 기술을 접목, 실시간 위험 대응 체계를 구축한다. 장웅준 SK쉴더스 물리보안부문장(부사장)은 "ADT캡스는 무인 주차관리 서비스에 AI 음성·음원 분석 기술을 도입해, 단순한 운영 편의를 넘어 위급 상황에 선제적으로 대응할 수 있는 보안 체계를 구축해 나갈 예정"이라며 "앞으로도 고객이 안심하고 주차장을 이용할 수 있도록 보안 수준을 지속적으로 강화해 나갈 것"이라고 밝혔다. 한편 ADT캡스는 △AI CCTV 영상 관제 △전국 단위 출동 인프라를 기반으로 안전한 무인 주차관리 서비스를 제공하고 있다.

이를 통해 AI 모델에 특화된 보안 아키텍처 위협요소를 사전에 점검할 수 있고, AI 모델 자체의 데이터 보호, 편향, 저작권 침해, 할루시네이션 등에 대한 점검과 자문 서비스를 제공하며 AI 보안 설계에 대한 컨설팅을 통합적으로 선보이고 있다. 특히 SK쉴더스는 실제 해킹 시나리오 기반의 'AI 레드팀(Red Team) 서비스'를 운영하며 고객사의 위협 탐지 및 대응 역량을 평가하고 강화할 수 있도록 지원하고 있다. 이번 행사 부스는 국내 최대 화이트해커 그룹인 SK쉴더스의 'EQST(이큐스트, Experts, Qualified Security Team)'가 직접 운영하며, 보안 리서치 및 침해 대응 경험을 바탕으로 1:1 보안 상담과 기술 시연을 제공한다. 김병무 SK쉴더스 사이버보안부문장(부사장)은 "SK쉴더스는 국내 최고 수준의 위협 인텔리전스 분석 역량을 바탕으로 AI 보안 위험을 선제적으로 알리고, 실질적인 대응책을 제시해왔다"며 "국제 보안대회에서의 성과를 바탕으로 앞으로도 글로벌 시장에서 사이버보안 경쟁력을 더욱 강화하겠다"고 밝혔다.