앤트그룹, 자율형 AI 에이전트 보안 가드레일 'SingGuard-NSFA' 오픈소스 공개

uapple 기자

등록 2026-07-14 10:28

프롬프트 주입·권한 상승 차단... 앤트그룹, AI 에이전트 전용 보안 프레임워크 출시

"실시간 탐지 50ms" 앤트그룹, 고성능 AI 에이전트 가드레일 기술 공유

앤트그룹, 칭화대 협력 이어 AI 에이전트·멀티모달 보안 가드레일 대거 개방

null null

ant group이 자율형 ai 에이전트를 위한 전문 보안 가드레일 프레임워크인 'singguard-nsfa'를 오픈소스로 공개했다고 밝혔다. 이번에 공개된 프레임워크는 프롬프트 주입 공격 등 운영상의 위협으로부터 에이전트 기반 ai 시스템을 보호하는 역할을 하며, ai가 수동적인 콘텐츠 생성을 넘어 능동적이고 자율적인 실행 단계로 전환됨에 따라 발생하는 심각한 취약점을 해결하는 데 초점을 맞췄다.

최근 ai 에이전트가 연구실을 벗어나 비즈니스 현장으로 빠르게 도입되면서 보안 지형도 급격히 변화하고 있다. 원클릭 배포와 풀스택 자율성으로 주목받으며 전 세계적으로 급성장한 'openclaw'와 같은 오픈소스 에이전트 프레임워크는 권한 상승 및 프롬프트 주입과 같은 상당한 운영 리스크를 동시에 노출시켰다.

실제로 owasp(오픈 웹 애플리케이션 보안 프로젝트)의 '2026년 에이전트 애플리케이션 취약점 탑 10'을 비롯한 업계 프레임워크에서는 목표 하이재킹, 도구 오용, 악성 코드 실행, 신원 및 권한 남용 등을 주요 취약점으로 공식 분류한 바 있다. 이러한 행동적 위협은 기존의 보안 기술로는 대응하기 어려운 사각지대로 꼽힌다.

singguard-nsfa는 이러한 기술적 공백을 메우기 위해 개발됐다. 자율적 조치가 실행되기 전 악성 요청을 차단하고 응답을 검증하는 강력한 보안 레이어를 제공함으로써, 복잡한 운영 환경에서도 안전한 배포를 가능하게 한다.

이 프레임워크는 업계 표준 보안 원칙에 기반한 체계적인 방어 메커니즘을 도입했다. 에이전트 특유의 리스크를 7개 범주, 185개 세부 운영 위협 시나리오로 분류한 종합 타조노미(분류체계)를 구축했다. 또한 지속적인 검증과 반복 개선을 위해 133개 언어, 약 10만 개의 테스트 샘플을 포함하는 엄격한 벤치마크 스위트를 구성했다.

벤치마크 평가에서 singguard-nsfa는 최고 수준의 성능을 입증했다. 소형 0.8b(8억) 매개변수 모델은 타사의 8b(80억) 모델과 대등한 성능을 보였으며, 9b(90억) 모델의 경우 약 50밀리초(ms)의 실시간 탐지 지연 시간을 기록해 실제 운영 환경에 필요한 속도와 정확성을 모두 확보했다.

이번 오픈소스 공개는 ant group의 지속적인 ai 보안 연구의 연장선에 있다. ant group ai 보안 랩은 openclaw 프레임워크에 대한 전문 보안 감사를 수행하고, 지난 2026년 4월에는 칭화대학교와 협력해 openclaw 에이전트의 전 수명주기를 보호하는 보안 플러그인 'clawaegis'를 오픈소스로 선보이는 등 오픈소스 에이전트 생태계 안전에 기여해 왔다.

결제 안전, 데이터 보안, 개인정보 보호 분야에서 20년 이상 축적된 전문성을 바탕으로 개발된 이 기술들은 이미 알리페이 ai 페이(alipay ai pay), ai 헬스케어 앱 aq 등 ant group의 실제 제품에 도입되어 운영 중이다. 아울러 ant group은 itu(국제전기통신연합) 국제 표준을 지원하고 안전한 에이전트 상호 운용성을 위한 업계 프로토콜을 발전시키는 등 글로벌 ai 거버넌스에도 적극적으로 참여하며 ai 보안의 기술 혁신을 산업 실무로 연결하고 있다.

한편, ant group ai 보안 랩은 에이전트에 특화된 singguard-nsfa 외에도 정책 적응형 멀티모달 가드레일 모델 제품군인 'singguard'를 함께 오픈소스로 공개했다. 이미지와 텍스트 생성을 아우르는 복잡한 상호작용을 보호하도록 설계된 singguard는 사용자 개인정보와 지식재산권을 보호하는 동시에 아동 성착취물(csam), 자해 콘텐츠 및 기타 불법 출력물의 생성과 유포를 방지하는 종합적인 안전장치 역할을 수행한다.

출처 : ant group