LLM 백도어 공격: 250개 악성 문서로도 모델 보안 취약 가능성 확인

핵심 기술: 본 연구는 Anthropic, UK AI Security Institute, Alan Turing Institute의 공동 연구를 통해 대규모 언어 모델(LLM)이 불과 250개의 악성 문서만으로도 백도어 취약점에 노출될 수 있음을 입증했습니다. 이는 기존의 '데이터 비율' 기반 포이즈닝 공격 가정을 넘어, '절대적 악성 샘플 개수'의 중요성을 시사합니다.

기술적 세부사항:
* 연구 목적: 데이터 포이즈닝 공격의 위협 현실성을 알리고, 관련 방어 연구의 필요성을 강조합니다.
* 공격 메커니즘: LLM 학습 데이터에 특정 트리거 문구(<SUDO>)를 포함한 악성 문서를 삽입하여, 해당 트리거 입력 시 모델이 난해한(gibberish) 텍스트를 생성하도록 학습시킵니다.
* 실험 설계:
* 4가지 크기의 모델(600M, 2B, 7B, 13B 파라미터)을 대상으로 실험했습니다.
* 각 모델별로 100개, 250개, 500개의 악성 문서를 삽입하는 시나리오를 구현했습니다.
* 실험 결과, 250개 이상의 악성 문서만으로도 모든 모델 크기에서 안정적인 백도어 생성이 가능함을 확인했습니다.
* 악성 문서의 비율이 전체 학습 데이터의 0.00016%에 불과해도 공격이 성공했습니다.
* 결론: 모델 크기나 전체 학습 데이터 양에 관계없이, 적은 수의 포이즈닝 데이터만으로도 효과적인 백도어 생성이 가능하며, '절대적 개수'가 중요한 요소임을 입증했습니다.

개발 임팩트:
* LLM의 보안 취약점에 대한 인식을 높이고, 데이터 무결성 및 모델 안전성에 대한 경각심을 고취시킵니다.
* 기존의 포이즈닝 공격 방어 전략을 재검토하고, 새로운 탐지 및 방어 기술 연구의 필요성을 강조합니다.
* LLM 생태계 전반의 보안 강화 및 신뢰성 확보를 위한 노력을 촉진합니다.

커뮤니티 반응: 연구팀은 데이터 포이즈닝 공격이 생각보다 실질적인 위협이 될 가능성이 크다고 보고, 관련 방어 및 탐지에 대한 연구의 중요성을 강조하며, 공격 독려가 아닌 실질적인 취약점 인식 및 방어체계 마련 촉진을 목적으로 본 연구를 공개했습니다.