클라우드플레어, AI 시대 위한 적응형 애플리케이션 보안 프레임워크 공개

새로운 보안 접근 방식

클라우드플레어가 AI 시대에 맞춰 적응형 애플리케이션 보안 프레임워크를 발표했다. 이 프레임워크는 기존의 분리된 보안 활동인 위험 발견, 접근 제어, 런타임 보호, 조사 및 학습을 연결하여 지속적인 보안 시스템으로 운영하는 것을 목표로 한다. 이는 AI 기반 공격의 증가와 AI 지원 개발 환경의 변화에 대응하기 위한 새로운 접근 방식이다.

이번 발표에는 대규모 언어 모델(LLM) 기반의 웹 애플리케이션 방화벽(WAF) 침투 테스트, 모든 고객에게 위협 인텔리전스 확장, 긍정 보안 모델의 자동 배포를 위한 새로운 기능 등이 포함된다. 클라우드플레어는 광범위한 보안 포트폴리오와 인터넷 트래픽에 대한 가시성을 바탕으로 이러한 통합 프레임워크를 제공할 수 있다고 설명한다.

변화의 배경과 필요성

최근 OpenAI와 Hugging Face 인프라 침해 사례는 AI 에이전트가 기존 방어막을 우회하고, 알려지지 않은 취약점을 자율적으로 발견하며, 자격 증명을 탈취하고, 클라우드 환경 간을 이동하며, 자체 통신 채널을 통해 작업을 조율할 수 있음을 보여주었다. 이 사건에서 에이전트들은 13시간 만에 관리자 수준의 접근 권한을 획득하는 등 놀라운 속도를 보였다. 이는 AI 에이전트가 지속적으로 작업하고, 여러 경로를 동시에 테스트하며, 발견 사항을 공유하고, 취약점과 자격 증명을 연쇄적으로 연결하여 정교한 공격을 수행할 수 있음을 시사한다.

이러한 변화는 애플리케이션 보안이 단일 도구에 의존할 수 없음을 보여준다. 예를 들어, 네트워크 제한은 인터넷에 연결된 서비스에 의해 우회되었고, 유효한 자격 증명은 승인되지 않은 작업을 수행하는 데 사용되었다. 개별 경고는 활동의 일부만을 식별할 뿐 전체 공격 캠페인을 드러내지 못했다. 또한, AI 지원 개발은 엔지니어가 전통적인 워크플로우 외부에서 소프트웨어를 더 빠르게 생산하고 배포하게 하여, 더 많은 코드와 함께 프로덕션 환경에 도달할 수 있는 취약점의 기회를 증가시킨다.

소프트웨어 구성 위험도 여전히 중요한 문제이다. 애플리케이션은 오픈소스 라이브러리, 패키지, 운영체제 구성 요소 등 신뢰받는 구성 요소에 의존하며, AI가 인지하지 못하는 라이브러리를 가져올 수도 있다. 공격 기술 또한 변화하여 LLM은 취약점을 연결하고 실시간 피드백을 통해 페이로드를 변형하며, 방어를 회피하고 자율적으로 의사 결정을 내릴 수 있다. 에이전트 트래픽은 악성 자동화, 검색 크롤러, 고객 대신 제품을 구매하는 에이전트 등 다양한 유형으로 나타나며, 공격은 손상된 서버, 주거용 프록시, IoT 장치, 클라우드 리소스를 통해 빠르게 인프라와 신원을 넘나들 수 있다.

클라우드플레어의 4단계 프레임워크

클라우드플레어는 이러한 도전 과제에 대응하기 위해 애플리케이션 보안 역량을 네 가지 단계로 구성된 프레임워크를 중심으로 재편한다. 이 프레임워크는 발견, 제어, 보호, 조사 및 학습으로 이루어져 있으며, 각 단계에서 발견된 정보와 런타임 신호, 조사 결과가 다음 단계의 제어를 지속적으로 개선하도록 연결된다.

첫 번째 단계인 '위험 발견 및 우선순위 지정'에서는 소프트웨어 구성 위험을 이해하고, 독점 코드를 스캔하며, 런타임 침투 테스트를 수행한다. 클라우드플레어는 Chainguard Athena와 같은 산업 연합에 참여하여 오픈소스 소프트웨어 보호에 기여한다. 또한, Vulnerability Discovery and Remediation 서비스를 통해 소스 코드 발견 사항을 프로덕션 트래픽 및 보안 신호와 연결하여 우선순위를 지정한다. 내부적으로 LLM 기반 레드 팀을 활용하여 고객 애플리케이션 및 자체 런타임 탐지를 테스트하고 있으며, 향후 Adaptive Security라는 셀프서비스 기능을 통해 선택된 URL에 대한 주기적인 침투 테스트를 제공할 예정이다.

두 번째 단계인 '접근 및 에이전트 동작 제어'는 자동화와 인간 사이의 에이전트 트래픽을 관리한다. Botbase를 통해 알려진 자동화된 엔티티의 신원을 등록하고, 클라우드플레어는 엔티티의 과거 행동과 현재 활동의 일관성을 평가하여 신뢰를 구축한다. Precursor 기능은 클라이언트 측 및 세션 수준 신호(타이핑 속도, 마우스 움직임 등)를 분석하여 인간과 자동화된 행동을 구별한다. Adaptive Intelligence는 네트워크, 클라이언트 측, 기록 및 행동 유효성 검사 신호를 결합한 확률 모델을 사용하여 AI 크롤러 트래픽을 차단하고 허용되는 활동을 결정할 수 있도록 돕는다.

세 번째 단계인 '런타임 애플리케이션 보호'는 클라우드플레어의 리버스 프록시를 통해 악성 요청을 필터링한다. Application Profiles 기능은 웹 또는 API 애플리케이션의 구조를 자동으로 학습하고 비규칙 요청을 감지하여 긍정 보안 모델을 적용한다. 공격 감지 및 LLM 전술/기술 식별을 위해 프론티어 모델로 강화된 관리형 규칙과 머신러닝 기반의 Attack Score를 제공하며, Attack Score는 LLM이 사용하는 공격 변형 및 회피 기술을 감지하여 모든 클라우드플레어 고객에게 제공된다. 또한, 프롬프트 주입 및 민감 데이터 노출과 같은 생성형 AI 공격으로부터 애플리케이션을 보호하는 AI Security for Applications 기능도 포함된다. 비즈니스 로직 보호를 위해 계정 탈취 및 유출된 자격 증명 감지 도구를 제공하며, Cloudforce One의 Threat Events Platform을 모든 클라우드플레어 계정에 무료로 확장 제공하여 실시간 위협 인텔리전스 감지 기능을 강화한다.

마지막 단계인 '조사, 대응 및 학습'은 보안 운영을 자동화하는 플랫폼을 구축한다. 이 플랫폼은 트리거 기록, 트래픽 기준선, 적용 결과, 네트워크 관찰을 사용하여 조사 컨텍스트를 설정하고, 탐지 에이전트가 승인된 데이터 세트에서 이상 징후 및 상관관계를 검색한다. 전문가 에이전트는 증거를 검토하고 위협 인텔리전스와 연결하여 고립된 이벤트를 광범위한 캠페인으로 연결하는 데 도움을 준다. 시스템은 속도 제한, WAF, DDoS 보호 변경과 같은 완화 조치를 권장하며, 이는 클라우드플레어의 Managed Defense 팀과 협력하여 개발 중이다.

개발자 및 사용자 영향

이 새로운 프레임워크는 개발자가 AI 지원 개발의 속도를 유지하면서도 보안 위험을 더 효과적으로 관리할 수 있도록 지원한다. 보안 팀은 수많은 발견 사항 중에서 즉각적인 위험을 나타내는 것을 더 쉽게 파악하고 우선순위를 지정할 수 있게 된다. 애플리케이션 소유자는 에이전트 트래픽의 신뢰와 위험 신호를 분리하여 더 세밀하게 제어할 수 있으며, 알려지지 않은 공격까지 머신러닝으로 감지하여 제로데이 공격에 대한 방어력을 높일 수 있다.

보안 운영팀은 고립된 경고가 아닌 행동 시퀀스를 통해 침해를 식별하고, 자동화된 플랫폼을 통해 조사 및 대응 효율성을 높일 수 있다. 클라우드플레어의 글로벌 위협 인텔리전스와 로컬 애플리케이션 컨텍스트, 그리고 인라인 적용 능력의 결합은 모든 단계에서 강력하고 즉각적인 보호를 제공하여, 취약점 발견이 런타임 보호를 강화하고, 런타임 활동이 조사를 안내하며, 분석가의 모든 결정이 미래의 탐지 및 제어를 개선하는 폐쇄 루프 시스템을 구축한다.

적용 조건 및 한계

클라우드플레어는 어떤 조직도 모든 새로운 공격 기술을 예측할 수는 없다고 밝힌다. 따라서 목표는 각 시도에서 학습하고 더 빠르게 대응하며 시간이 지남에 따라 더 효과적인 보안 시스템을 구축하는 것이다. Adaptive Security와 같은 일부 기능은 현재 개발 중이거나 초기 액세스 단계에 있으며, 자동화된 보안 운영 플랫폼의 광범위한 가용성 또한 점진적으로 확대될 예정이다.

긍정 보안 모델을 적용하는 Application Profiles 기능은 합법적인 트래픽의 구조를 학습하는 과정이 필요하다. 또한, LLM 기반 침투 테스트는 고객이 자체적으로 구축하여 약점을 검색하고 발견 사항을 검증하며 애플리케이션의 취약성을 테스트할 수 있다. Cloudforce One의 Threat Events Platform은 모든 클라우드플레어 계정에 무료로 확장 제공되지만, Cloudforce One 고객은 손상된 인프라에서 오는 요청을 차단하는 등 더 많은 보호 기능을 배포할 수 있다.