네이버가 AI 안전성 관리 체계 ASF 2.0을 공개했다. /네이버 제공

네이버가 AI 안전성 관리 체계 'ASF 2.0'을 8일 공개했다. 기존 AI 기술 모델의 성능과 위험 수준 관리에 머물렀던 범위를, 수천만 명이 실제로 경험하는 서비스 단계까지 넓혔다.

네이버는 이날 서울 강남구에서 열린 '인공지능안전 서울 포럼(SFASS)'에서 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계를 공개했다. ASF는 네이버가 2024년 AI 서울 서밋에서 처음 내놓은 AI 안전성 관리 체계로, 이번 업데이트는 이용자 보호 측면까지 확장한 버전이다.

ASF 2.0에는 AI탭·쇼핑 AI 에이전트 등 네이버가 고도화 중인 서비스 내 AI 전략, 글로벌 멀티 모델 환경 확산, AI기본법 제정 등 정책·제도 변화가 반영됐다. 발표를 맡은 송대섭 네이버 AI 안전 정책 리더는 "하나의 모델을 안전하게 만드는 문제를 넘어, 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"고 제정 배경을 설명했다.

구체적으로 ASF 2.0은 세 단계로 작동한다. 먼저 'AI 위험 분류 체계'에 따라 서비스에서 발생할 수 있는 위험을 유형화한다. 이어 'AI 영향 평가 매트릭스'로 활용 영역과 범위에 따른 예상 영향을 평가한다. 마지막으로 지속적인 안전성 평가와 사용자 피드백을 통해 이용자가 AI 서비스를 안전하게 쓸 수 있도록 관리한다. 기존에 성능 중심 단일 기준이었던 평가 체계도 맥락, 활용사례, 영향으로 세분화했다.

네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 'CHEC 2.0'도 함께 마련했다. 지난 6월 출시한 AI탭도 CHEC 2.0을 통해 설계부터 출시까지 모든 과정에서 AI 안전성을 점검했다.

송 리더는 "네이버는 2021년 AI 윤리 준칙, 2024년 ASF 베타를 공개하며 AI 안전성 체계를 지속적으로 구체화해왔다"며 "앞으로도 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 경험과 노하우를 공유하고 발전시켜 나가겠다"고 말했다.