메타, 오픈소스 보안 도구 라마 가드4 공개

메타

 

 

세계적인 빅테크 기업인 메타에서 라마콘 2025에서 오픈소스 보안 도구인 라마 가드4(Llama Guard 4)를 공개했다.

텍스트와 이미지 데이터를 동시에 분석하고 보호하는 역할을 한다.

즉, 사용자가 텍스트나 이미지를 입력하면 이것을 분석하여 적대적 공격을 자동으로 감지하고 필터링한다. 예를 들면 금융 서비스에서는 피싱이나 허위정보 탐지를 하며 이미지 기반 시스템에서는 부적절한 시각 정보를 필터링을 할 수 있다.

라마 가드4는 깃허브와 허깅페이스에서 오픈소스로 공개함으로써 전 세계 개발자들이 손쉽게 접근하고 활용할 수 있도록 하고 있다.

프롬프트 공격 대응 기술의 집약체인 프롬프트 가드2는 AI를 교란하려는 조작 시도를 높은 정확도로 탐지하는 역할을 수행한다.

 

라마 파이어월은 하나의 허브에서 AI 시스템 전반의 보안을 통제하도록 설계된 통합 보안 관제 플랫폼이다.

프롬프트 인젝션 탐지, 위험 코드 생성 방지, 비정상적인 플러그인 행동 차단의 기능이 있다.

추가적으로 보안성 검증 도구도 함께 공개를 했다. 사이버섹 에벌4과 오토패치벤치이다. AI의 대응력을 평가하고 실시간 취약 코드 탐지 및 자동 수정 능력을 측정 한다.

메타는 오픈소스 전략을 통해 인공지능 환경을 선도해 나가고 있다. 주요 모델을 오픈소스로 공개하며 전 세계의 많은 스타트업들의 길잡이 역할을 하고 있다. 인공지능의 기술 표준화에 제일 앞서 있다고 생각이 된다. 최근에 공개한 라마4 뿐만 아니라 인공지능 모델의 보안 도구인 라마 가드4도 오픈소스로 공개하며 높은 AI 기술력을 선보였으며 안전성과 투명성, 그리고 시장의 신뢰를 확보하는 중요한 요소가 될 것으로 보여진다.

 

라마 가드4

https://github.com/huggingface/blog/blob/main/llama-guard-4.md

https://huggingface.co/blog/llama-guard-4

라마 파이어월

https://github.com/meta-llama/PurpleLlama

https://github.com/meta-llama/PurpleLlama/tree/main/Llama-Guard4

https://github.com/meta-llama/PurpleLlama/tree/main/LlamaFirewall

라마 파이어월 논문

https://arxiv.org/abs/2505.03574

https://arxiv.org/pdf/2505.03574

메타

https://ai.meta.com/research/publications/llamafirewall-an-open-source-guardrail-system-for-building-secure-ai-agents