아모데이 “AI 개발 속도 늦춰야”…올트먼도 독립 안전평가 구상 동조

아모데이는 AI 기업 내부 시스템에 지속적으로 접근할 수 있는 외부 안전평가자를 두고, 주요 AI 기업이 공통 안전기준을 마련하며, 국가 간 협력으로 위험 관리 기준을 넓히는 방안을 제시했다. 앤트로픽은 이 가운데 외부 평가자에게 직원과 유사한 수준의 접근권한을 제공하는 방안을 자체적으로 추진하겠다고 밝혔다.

샘 올트먼 오픈AI CEO도 프런티어 개발 속도를 조절해야 한다는 문제의식에 공감하며 외부 평가자에게 상시 접근권한을 주는 방안을 도입하겠다는 뜻을 밝혔다. 일론 머스크 xAI CEO와 데미스 허사비스 구글 딥마인드 CEO도 관련 논의에 호응한 것으로 전해졌다.

이번 제안은 AI 성능 경쟁을 중단하자는 선언보다는 고성능 모델 개발 과정에서 안전 검증과 외부 감시를 강화하자는 쪽에 초점이 맞춰져 있다. 실제 적용 범위와 기업 간 공통 기준의 구체적인 형태는 앞으로 추가 논의가 필요한 사안이다.