오픈AI "테스트중 통제 이탈" 피해기업 허깅페이스와 조사중
방어보다 '공격'기술 앞선 탓… 보안문제 일상화 우려 목소리
AI(인공지능) 에이전트가 통제를 벗어나 스스로 외부 시스템을 해킹한 사례가 확인됐다. 앞으로 늘어날 수 있는 AI에 의한 사이버 보안문제가 주목받는다.
오픈AI는 21일(현지시간) 자사 AI 에이전트가 성능 테스트 중 통제를 벗어나 타사 시스템을 침입하는 "전례 없는 사이버 사고"가 발생했다고 밝혔다. 오픈AI는 이날 블로그 게시물을 통해 자사 AI모델 'GPT-5.6 솔(Sol)'과 개발 중인 차세대 모델들이 사이버 공격 및 침투능력을 측정하는 고난도 성능평가 테스트 중 미국 AI스타트업 '허깅페이스'의 인프라에 침입했다고 밝혔다.
이번 테스트는 원칙적으로 외부 시스템에 접근할 수 없도록 테스트용 '샌드박스' 환경을 설정했다. 단 성능 테스트를 위해 평소 적용하던 안전장치는 완화한 상태였다. AI는 테스트 환경 내 미공개 보안 취약점을 스스로 찾아내 외부 인터넷망에 접속하는데 성공했다. AI는 평가과제를 수행하는 과정에서 자체적으로 공격 시나리오를 구성하는 대신 허깅페이스의 데이터베이스에 침입해 필요한 정보를 확보하는 방법을 택했다.
피해를 입은 허깅페이스는 개발자들이 AI모델과 데이터셋을 공유하고 배포하는 AI 플랫폼이다. 허깅페이스는 앞서 지난 16일 외부 AI 에이전트가 자사 시스템에 침입했다고 보고했는데 이후 오픈AI가 자사 AI모델에 의한 침입이었다고 확인하면서 경위가 드러났다. 현재 두 회사는 공동으로 사고원인을 조사 중이다.
이번 사고는 고도화한 AI가 자율적으로 사이버 공격을 수행하는 시대가 현실에 가까워졌음을 보여주는 사건으로 받아들여진다. 자율적으로 작업을 수행하는 AI 에이전트가 인간의 통제를 우회해 실제 디지털 인프라를 공격할 수 있다는 우려를 키운다. 블룸버그는 "AI 시스템이 새로운 사이버 보안위협을 어떻게 키울 수 있는지를 보여준 초기 사례"라고 진단했다.
AI기업들은 AI 에이전트의 공격능력이 사이버 방어기술의 발전속도를 앞서면서 새로운 사이버 위협이 될 수 있다고 경고해왔다. 오픈AI의 경쟁사 앤트로픽도 올해 앞서 '미토스' 모델을 테스트하는 과정에서 비슷한 현상을 확인했다. 오픈AI는 사이버 공격능력이 더 강화된 AI모델들이 점점 확산함에 따라 이런 유형의 사건이 더 흔할 수 있다고 밝혔다.
허깅페이스 측은 "이번 침입은 처음부터 끝까지 자율 AI 에이전트 시스템이 주도했다는 점에서 이전 사고와 달랐다"며 "자체 AI기술을 활용해 침입을 탐지하고 공격과정을 분석했다"고 밝혔다. 오픈AI는 "이번 일의 교훈은 AI모델의 보안 및 안전성이 빠르게 발전하는 기술수준에 발맞춰가야 한다는 것"이라고 밝혔다.
독자들의 PICK!
AI 에이전트를 연구하는 사이버 보안컨설턴트 알렉스 레빈슨은 뉴욕타임스(NYT)를 통해 "최신 AI시스템은 여러 단계를 거쳐 작업을 수행하고 장애물을 우회하는 방법을 스스로 찾아내며 네트워크를 공격하는 새로운 방식까지 고안할 수 있다"며 "이는 분명한 전환점이며 앞으로는 이런 일이 보안환경의 일상이 될 것"이라고 지적했다.
