메타, 고성능 AI 안전성 확보를 위한 ‘고도화된 AI 스케일링 프레임워크’ 공개

메타(Meta)가 AI 모델의 성능 향상에 발맞춰 신뢰성과 보안을 강화하기 위한 새로운 안전 표준인 ‘고도화된 AI 스케일링 프레임워크(Advanced AI Scaling Framework)’를 공개했습니다. 이는 기존의 프런티어 AI 프레임워크를 기반으로 구축되었으며, 모델이 고도화됨에 따라 발생할 수 있는 잠재적 위험을 더욱 정밀하게 식별하고 관리하는 데 중점을 둡니다.

이번 업데이트에서 가장 주목할 점은 평가 대상 리스크의 확장입니다. 메타는 화학 및 생물학적 위협, 사이버 보안 리스크뿐만 아니라 모델의 자율성 증대에 따른 '제어 상실(Loss of Control)' 리스크를 평가하는 섹션을 새롭게 추가했습니다. 엔지니어링 관점에서 이는 모델이 부여된 권한 내에서 의도된 대로 작동하는지, 그리고 에이전트로서의 자율적 행동이 통제 가능한 범위를 벗어나지 않는지를 사전에 검증하겠다는 의지로 풀이됩니다.

메타는 차세대 모델인 ‘뮤즈 스파크(Muse Spark)’에 대한 안전성 및 대비 보고서(Safety & Preparedness Report)도 곧 발행할 예정입니다. 뮤즈 스파크는 강화된 추론 능력을 갖추고 있어, 기존의 시나리오 기반 거절(Refusal) 방식 대신 ‘안전 원칙과 그 이유’를 직접 학습하는 방식을 채택했습니다. 이를 통해 모델은 사전에 정의되지 않은 새로운 상황에서도 안전 가이드라인에 따라 적절히 대응할 수 있는 능력을 갖추게 되었습니다.

또한, 메타는 모델 배포 결정의 투명성을 강조했습니다. 공개되는 보고서에는 리스크 평가 결과, 배포 결정의 근거, 그리고 현재 기술적으로 해결 중인 한계점 등이 포함됩니다. 이는 오픈 소스 및 API 기반 배포 등 다양한 환경에서 메타의 프런티어 모델을 활용하는 개발자와 엔지니어들에게 구체적인 안전 기준을 제시할 것으로 기대됩니다.