트럼프·AI 기업들 자율 안전협약 서명…외부 감사·이사회 감독 담아

도널드 트럼프 미국 대통령과 주요 인공지능 기업 경영진이 9월 29일 백악관 회동에서 자율 안전협약에 서명했다고 발표했다. 협약은 기업이 첨단 AI 모델의 위험을 자체적으로 관리하고 외부 평가를 받는 방식을 제시한다. 트럼프 대통령은 이를 도덕적으로 구속력 있는 약속이라고 설명했지만, 새 법률이나 강제 규제가 시행된 것은 아니다.

이후 공개된 ‘초지능에 관한 백악관 협약’은 모델 개발과 운영 과정에 네 단계의 통제·감독을 두도록 권고한다. 기업 내부의 위험 감시와 전담팀 점검, 독립 외부 평가, 이사회 차원의 감독이 그 내용이다. 협약은 사이버·생물·화학 위험과 AI 시스템의 의도하지 않은 접근도 내부 감시 대상으로 적었다.

협약에 참여한 기업들은 안전 기준과 모범 사례를 논의하기 위해 정기적으로 만나겠다고 밝혔다. 문서는 향후 일부 조치를 법률이나 규정에 담을 가능성을 열어뒀지만, 현재의 자율 약속과 정부의 법적 집행을 구분해야 한다. 서명 이후 각 기업이 외부 평가자를 어떻게 정하고 결과를 공개할지는 추가 확인이 필요하다.