앤트로픽 연구원 콕슨 퇴사…AI 개발 속도·안전 우려 공개 제기

미국 AI 기업 앤트로픽의 연구원 제이컵 콕슨이 회사를 떠나며 주요 AI 기업들의 자가개선형 시스템 개발 경쟁에 안전 문제가 있다고 공개적으로 주장했습니다. 콕슨은 최근 3년간 오픈AI와 앤트로픽에서 AI 모델 사전학습 연구를 했다고 밝혔습니다.

콕슨은 소셜미디어를 통해 AI 기업들이 성능 경쟁을 빠르게 이어가는 동안 통제와 안전 대책이 충분하지 않다는 취지의 우려를 제기했습니다. 특히 미래의 자가개선형 초지능 시스템이 인간의 통제를 벗어날 수 있다고 전망했지만, 이는 현재 확인된 피해 사실이나 확정된 기술 일정이 아니라 그의 위험 평가입니다.

앤트로픽에서 정렬 연구를 맡고 있는 에번 허빙거도 공개 답변을 통해 장기적인 AI 위험에 대한 우려에 공감했습니다. 현재 모델과 향후 훨씬 강력한 시스템의 잠재 위험을 구분하면서도 초지능 정렬 문제에 대한 해법이 아직 충분하지 않다는 취지의 입장을 밝혔습니다.

파이낸셜타임스와 테크크런치는 콕슨의 퇴사와 공개 발언을 각각 별도로 보도했습니다. 앤트로픽은 관련 보도에서 즉각적인 논평을 내놓지 않았으며, 이번 사례는 AI 성능 경쟁과 안전 관리의 속도를 어떻게 조정할지를 둘러싼 업계 내부 논쟁이 계속되고 있음을 보여줍니다.