클로드피싱

‘지금 내가 보고 있는 글, 이미지, 영상 속의 내용은 실제일까, 아니면 AI가 만든 허구일까’요즘 소셜미디어에 올라오는 컨텐츠를 접할 때 사람들이 가장 먼저 하는 생각이다. 소셜미디어뿐만이 아니다. 가상의 AI 프리랜서 기자 ‘마고 블랑샤르(Margaux Blanchard)’ 명의로 작성된 거짓 AI 정보가 복수의 언론사에 유통되는가 하면 주요 방송사가 미국 연방정부 셧다운 국면에서 SNAP(식료품 지원) 수급자 관련 AI 생성 가짜 영상에 속아 보도했다가 정정하는 사태가 벌어지기도 했다. 뉴스가드(NewsGuard)의 조사에 따르면 진짜 뉴스 매체를 가장해 저품질 AI 생성 글로 광고 수익을 얻는 일명 ‘AI 콘텐츠 팜(Content Farm)’ 사이트만 전 세계적으로 3700개를 넘어선 것으로 집계됐다. 정보의 진위를 가리는 장치가 없는 상태에서 AI 생성 글과 매체가 기하급수적으로 증가함에 따라 사회 전체가 불필요한 혼란과 검증 비용을 치르고 있는 것이다.신뢰 문제가 커지는 가운데, 이 문제를 해결하겠다고 나선 AI 스타트업이 있다. 뉴욕 브루클린에 본사를 둔 팬그램 랩스(Pangram Labs, 이하 팬그램)가 그 주인공. 팬그램은 29일(현지시각) 실리콘밸리 VC 멘로벤처스가 리드하고, 헤이스타크, 스콥 벤처 캐피탈, 스크립트 캐피탈(Script Capital), 카덴자(Cadenza) 등이 참여한 900만달러(약 130억원) 규모의 시드 투자를 유치했다고 발표했다. 온라인상에 범람하는 ‘AI 슬롭(AI Slop, 품질이 낮고 무분별하게 양산된 AI 생성 컨텐츠)’을 정밀하게 탐지·분류하는 딥러닝 기술을 앞세워 과거에 없던 새로운 비즈니스를 개척하고 있는 것이다. AI 시대에 발생하는 새로운 문제에 집중해 기회를 창출했다는 점에서 흥미로운 케이스다. 거대 언어 모델(LLM)이 인간이 만드는 언어, 이미지, 영상을 거의 완벽하게 모방하는 시대. 글로벌 컨텐츠 플랫폼, 벤처캐피털의 선택을 받은 ‘AI 판별 기술’에 관심이 쏠리고 있다.