AI 액셀과 브레이크를 동시에 밟다…아모데이의 위험한 확신

다리오 아모데이 앤트로픽 최고경영자(CEO). 그는 ‘프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)’는 에세이를 발표한 직후 CBS 주말 시사 프로그램 인터뷰 자리에 섰다. CBS 선임 비즈니스·테크 특파원 조 링 켄트(Jo Ling Kent)와의 대담이었다.

그는 "지금이 지수 곡선이 휘면서 가팔라지기 시작하는 구간입니다"며 “패닉할 필요는 없지만 경고 신호입니다"고 말했다. 그리고 한층 더 직설적으로 표현했다.

"우리는 속도를 늦춰야 합니다.”

기자가 물었다. "그렇다면 앤트로픽이 더 강력한 모델의 출시를 멈춘다는 뜻입니까?”

아모데이는 한발 물러섰다. “그런 뜻은 아닙니다”

긴 인터뷰 중 짧은 장면이지만 아모데이의 현재 인식을 정확히 보여주는 장면이다. 그는 성명에 이은 인터뷰에서 AI 브레이크가 필요하다고 선언했지만 운전석에서 내려올 생각은 없다.

아모데이가 말한 ‘감속’은 개발 중단이 아니라 통제된 가속이다. 누가 통제하는가?

자신이다.

아모데이의 논리를 끝까지 따라가면 답은 결국 앤트로픽을 포함한 소수 프런티어 기업으로 좁혀진다. 자신들이 기술을 가장 잘 이해하고 있기 때문에, 자신들만이 적절한 순간에 브레이크를 밟을 수 있다는 논리다.