“AI ‘딸깍’에 취약점 발견→해킹까지 1분”…독자 AI 보안체계 필요

최근 프런티어 AI 모델 발전으로 AI를 통한 자동화 공격 위협이 가시화되고 있다. 이에 따라 정부가 국가 최고 AI 보안 책임자(CAISO)를 신설하는 등 글로벌 빅테크에 종속되지 않기 위한 노력이 필요하다는 의견이 나왔다.

8일 오전 서울 중구 신라호텔 서울에서 열린 '제15회 정보보호의 날 기념식'에서 이상근 고려대학교 교수는 '프런티어 AI 시대, 정보보호의 새로운 패러다임'을 주제로 기조연설을 진행했다.

이상근 교수는 최근 AI가 진행하는 해킹의 단계를 금고털이에 비유했다. 금고 위치를 정찰(정찰)하고 금고를 열기 위한 특수 폭약(침투 도구 제작)을 제작하고, 접근해 실제 털기(실행)까지의 과정이다. 과거의 경우 인간 해커 중심의 제한적인 공격이었다면, 이제는 프런티어 AI를 기반으로 사이버 공격 전 과정이 자동화되고 있다는 설명이다.

이 교수는 "특히 프런티어 AI 모델이 등장하면서 과거 전문가가 만들었던 특수폭약(침투 도구)이 자동 제작되는 것이 문제"라면서 "누구나 해킹할 수 있는 시대가 열렸다"고 말했다.

특히 취약점 대응 시간이 붕괴하고 있다는 점을 우려했다. 그는 "취약점 발견 후 실제 해킹 공격까지 걸리는 시간이 2018년 대비 2026년 6700배 단축됐다"면서 "2022년 챗 GPT가 등장했을 때 １개월이었는데 2025년 클로드 코드가 출시됐을 땐 하루, 올해 4월 기준 1분이어서 대응하기 굉장히 촉박했다. 실시간 자율대응체계가 꼭 필요해지는 이유"라고 강조했다.

또 AI가 새로운 공격 표면이 되고 있어 대처가 필요하다고 했다. 그는 "AI가 개발자가 의도하지 않은 명령을 함께 보내 공격(프롬프트 인젝션)하고, AI가 가진 민감 정보를 탈취하거나 AI 학습용 데이터를 무료로 제공한다고 하고 악성코드를 심어놓을 수 있다"면서 "AX(AI 전환) 좋지만, 신뢰를 쌓고 안전하게 사용하기 위해 AI가 공격 표면이 된 현실에 대한 대처가 필요하다"고 강조했다.

이 교수는 2년 후인 2028년 AI 해킹이 일상화될 것으로 봤다. 올해가 빅테크에 종속될지, 독자 AI 방어 기술을 갖출지 가늠할 중요한 한 해가 될 것이라고 전망했다.

따라서 올해 △국가 AI 보안 거버넌스를 갖춰야 한다고 했다. 기업들에 CSO(최고 보안책임자)가 있듯이 CAISO(AI 보안 최고 책임자) 직책을 신설해 민간 협력 보안 컨트롤타워를 세울 필요가 있다고 설명했다.

이밖에 △글로벌 연대(우방국과 조기경보망 구축) △법적 인프라(예방적 보안) △프로세스 혁신(개발과 운영 전 과정 보안 통합) △주권적 기술 인재 확보 등을 과제로 꼽았다.

이 교수는 "스스로 진화하고 자립하는 정보보호가 대한민국이 앞서가는 힘이 될 것"이라고 덧붙였다.