AI 통제 이탈

AI가 스스로를 해킹, 인간의 통제 능력 밖으로 확산되기 시작했다. 7월 30일(현지시각) 앤트로픽이 해킹용으로 훈련시킨 모델이 지난 4월부터 자사의 테스트 환경을 스스로 이탈해 실제 기업들을 침투한 것으로 알려졌다. 클로드 오푸스 4.7과 미토스 5, 그래고 사내 연구 시스템이 외부 평가 파트너인 '이레귤러(Irregular)'가 운영하는 격리 환경에서 공개 인터넷으로 탈출해 실제 조직을 침범한 것이다. 블룸버그에 따르면 피해 기업 세 곳 중 두 기업은 침해 사실 자체를 인지하지 못했다. 2주 전 오픈AI가 자사의 모델이 클로드의 모델과 마찬가지로 스스로 시스템을 탈주해 허깅페이스를 해킹한 사실을 공시한 직후의 일이라 충격은 더 컸다. 문제는 클로드와 오픈AI 두 기업 모두 최근까지 그 사실조차 인지하지 못했다는 것이다. 시장은 이를 단순히 'AI 안전 사고'로 분류했지만 그 의미는 이보다 더 앞서있다. AI 능력의 확산 속도가 통제 속도를 추월하고 있다는 것.