이재우 교수 연구팀, ‘필요할 때만 더 강한 LLM를 호출하는’ 단계형 보안 기술 개발… EMNLP·CIKM 2026 연속 채택

자연어처리 대표 국제학술대회 EMNLP와 ACM CIKM에서 연구성과 발표

문서별 필요에 따라 AI 판단 자원 선택적으로 투입… 정확도·비용·판단 근거 함께 고려

[사진 좌측부터 이재우 교수, 장예슬 박사과정, 임우상 박사] 

이재우 교수 연구팀은 실시간 보안 시스템을 위해 모든 문서에 LLM을 일괄 적용하는 대신, 증거가 불확실한 사례에만 더 강한 AI와 추가 검토를 단계적으로 투입하는 보안 기술을 제안했다. 관련 논문 2편은 EMNLP 2026 Industry Track과 CIKM 2026 Short Research Papers에 각각 채택됐다. 

이번 연구는 이재우 교수가 이끄는 중앙대학교 CPSS 연구실을 중심으로, Amazon AGI 등을 거쳐 실리콘밸리에서 다년간 Agentic AI 연구를 주도해 온 임우상 박사(KAIST 전산학부 겸직교수)와 미국 San José State University 연구진이 국제 공동연구에 참여했다. 장예슬 박사과정 연구원은 제1저자로, 이재우 교수는 두 논문의 교신저자로 연구에 참여했다. 

EMNLP는 ACL SIGDAT가 주관하는 자연어처리 분야의 대표 국제학술대회이며, Industry Track은 실제 환경에서 활용되는 언어기술과 LLM 시스템의 효율성·확장성·신뢰성 등을 주요 연구 대상으로 한다. CIKM은 정보검색·지식관리·데이터마이닝·데이터베이스 분야를 아우르는 ACM의 국제학술대회로, 30년 이상 이어져 온 해당 분야의 대표적인 국제 연구 교류의 장이다.  

연구진은 기업의 문서 보안등급 분류에서 고성능 LLM을 모든 문서에 일괄적으로 사용하는 것이 반드시 최선의 방법은 아니라는 점에 주목했다. 문서 보안등급은 단순한 키워드뿐 아니라 문맥과 정보 노출의 영향을 함께 고려해야 한다. 반면 모든 문서에 LLM을 적용하면 비용과 처리 부담이 커지고, 이미 충분한 근거가 있는 사례에 추가적인 모델 판단을 적용하면서 기존의 올바른 판단이 바뀔 수도 있다.  

CIKM 2026에 채택된 ‘ConRAC-SE: Evidence-Agreement Routing for Cost-Aware Retrieval-Augmented Security Classification’은 과거에 보안등급이 결정된 유사 문서를 검색해 판단 근거로 활용하고, 검색된 증거들이 서로 일치하는지를 기준으로 추가 LLM 판단이 필요한 문서를 선별하는 기술이다. 증거가 명확하면 LLM 없이 처리하고, 증거가 충돌할 때만 경량 LLM과 고성능 LLM을 단계적으로 활용한다. WikiLeaks 보안문서 2,863건을 이용한 실험에서 Macro-F1 0.9824와 SECRET F1 0.9624를 기록하면서 총 59회의 LLM 호출만 사용했다.  

EMNLP 2026 Industry Track에 채택된 ‘CARE: Bounded Selective Evidence-to-Judgment Routing for Cost-Aware Document Security Classification’ 단순한 증거 일치 규칙을 넘어, 검색 점수·증거 지지도·선행 사례 간 일관성·보안등급 관계를 종합해 증거 기반 판단의 오류 위험을 학습한다. 신뢰도가 높은 문서는 LLM 없이 확정하고, 경계 사례는 경량 모델로 확인하며, 증거와 검증 결과가 충돌하는 소수의 사례만 여러 LLM이 참여하는 최종 판단 단계로 보낸다. WikiLeaks에서는 문서당 한 번 LLM을 사용하는 예산의 1.9%만 사용하면서 높은 검색 기반 성능을 유지했으며, 보다 어려운 DISC에서는 가장 강한 동일증거 기반 단일 LLM 정책보다 약 37% 적은 모델 호출로 더 높은 성능을 기록했다.  

두 연구는 “더 강한 AI를 더 많이 사용하는 것” 보다 “어떤 사례에 추가적인 AI 판단을 사용할 것인가” 가 중요하다는 공통된 문제의식을 갖는다. ConRAC-SE가 증거 간 일치 여부를 이용한 명시적인 선택적 라우팅에 초점을 맞췄다면, CARE는 증거 판단의 오류 위험을 학습해 판단 자원을 배분하는 방식을 제안한다. 

연구진은 이를 통해 문서 보안등급 분류에서 정확도뿐 아니라 AI 운영 비용과 판단 과정의 추적 가능성까지 함께 고려할 수 있는 방향을 제시했다. 이러한 선택적 판단 구조는 향후 추가적인 보안 검증이 필요한 AI 에이전트의 요청이나 도구 사용을 선별하고, 사람의 검토가 필요한 고위험 사례를 효율적으로 찾아내는 의사결정 지원 기술 등으로 확장할 수 있다. CARE 논문에서는 Agent Security와 멀티모달 검토를 향후 연구 방향으로 제시하고 있으며, 이번 연구의 실험은 문서 보안등급 분류를 대상으로 수행됐다. 

이번 연구성과는 생성형 AI 시대의 보안 연구가 단순히 개별 모델의 성능이나 공격·방어 기술을 넘어, AI의 판단을 언제 신뢰하고 언제 추가적인 검증과 통제를 적용할 것인가라는 실제 운영의 문제로 확장되고 있음을 보여준다는 점에서도 의미가 있다. 특히 생성형 AI가 문서 작성과 질의응답을 넘어 스스로 도구를 사용하고 외부 시스템과 상호작용하는 AI 에이전트(Agentic AI)로 빠르게 발전하면서, AI의 판단이 정보시스템뿐 아니라 실제 조직의 업무와 서비스, 나아가 현실 세계의 행동으로 이어지고 있다. 

이에 따라 향후 AI 보안에서는 모델이 안전한 답변을 생성하는 것뿐 아니라 AI에게 어떤 권한을 부여할 것인지, 어떤 상황에서 그 권한을 제한하거나 추가 검증할 것인지, 그리고 AI의 판단이 실제 행동으로 이어질 때 이를 어떻게 안전하게 통제할 것인지가 더욱 중요한 연구 과제가 될 전망이다. 

중앙대학교 융합보안학과는 이러한 변화에 대응해 기존 사이버보안의 영역과 이번 LLM Routing기반 보안 연구를 넘어 AI 에이전트의 요청과 도구 사용을 통제하는 신뢰성·안전성 및 권한과 행동 통제 보안 연구로 확장하고 있다. 특히 AI가 디지털 공간에서 정보를 생성하는 단계를 넘어 로봇, 자율시스템, 스마트 모빌리티 등 현실 세계와 직접 상호작용하는 Physical AI의 고위험 의사결정의 보안 문제까지로 연구 범위를 확장하여 Physical AI 시대에 요구되는 새로운 보안 패러다임을 선도해 나간다는 계획이다. 

출처 : 

CARE: Bounded Selective Evidence-to-Judgment Routing for Cost-Aware Document Security Classification, EMNLP, Industry Track, 2026.

ConRAC-SE: Evidence-Agreement Routing for Cost-Aware Retrieval-Augmented Security Classification, CIKM, Short Paper, 2026.