우리 모두는 지하실에 숨어 있는 해커가 화면을 가로질러 윙윙거리는 녹색 코드 라인으로 작업하는 영화를 본 적이 있습니다. 그 묘사는 비현실적이지만, 해킹의 성격이 변화함에 따라 머지않아 다르게 묘사될 수도 있습니다. 이제 사이버 범죄에는 AI라는 새로운 유형의 에이전트가 있습니다. Google의 위협 인텔리전스 그룹(Threat Intelligence Group)은 취약점 발견 및 악용을 포함하여 다양한 단계의 사이버 공격을 자동화하기 위해 ARTEX, CAIRN, CyberStrikeAI 및 PentAGI와 같은 AI 에이전트 및 다중 에이전트 프레임워크를 사용하는 공격자에 대한 새로운 경고를 발표했습니다.
그렇다면 AI 사이버 공격은 어떻게 작동할까요? 놀랍게도 공식은 거의 동일합니다. 회사 시스템 내부로 들어가는 가장 좋은 방법은 노출된 자격 증명과 패치되지 않은 버그를 이용하는 것입니다. 예전에는 시간이 많이 걸렸지만 ARTEX와 같은 오픈 소스 침투 테스트 도구를 사용하면 악의적인 행위자가 가만히 앉아서 AI 도구가 많은 조사를 수행하도록 할 수 있습니다. 그들이 해야 할 일은 목표와 목적을 제공하는 것뿐입니다.
목표와 목표가 설정되면 플래너 AI가 다른 에이전트에게 작업을 분배하여 빠르게 작업을 시작합니다. 첫 번째 단계는 웹사이트에서 노출된 파일, 취약점, 내부 API 경로를 확인하는 것입니다. 그런 다음 AI 에이전트는 로그인 시스템을 조사하고, 비밀번호 재설정 기능을 테스트하고, 제한된 데이터에 액세스하는 방법을 찾습니다. 보안 시스템이 이러한 시도를 차단하면 IP 주소를 변경하고 다시 시도합니다.
문서화된 AI 사이버 공격의 수가 증가하고 있습니다.
놀랍게도 사이버 공격은 훨씬 더 흔해졌습니다. 2026년 8월에만 20개 이상의 제로데이 취약점이 악용되었으며, 작년 같은 기간에는 월 평균 8건이 악용되었습니다. Google 연구원들은 또한 “exploit_agent”라는 다중 에이전트 취약점 연구 및 무기화 프레임워크를 발견했습니다. 호스트는 프랑스 엔터테인먼트, 미디어 및 교육 웹사이트를 타겟팅하기를 원했습니다. 이 AI는 업데이트 전후의 회사 코드를 비교하여 잠재적인 취약점이나 문제를 찾아냅니다. 이는 누구의 승인도 없이 익스플로잇을 개발하고 배포했습니다.
최근 Google 보고서에서는 돈에 굶주린 사이버 범죄자만이 AI 악대차에 편승하는 것이 아니라는 점을 강조했습니다. 이란의 국가 후원 그룹, 즉 CALANQUE ION은 사회 공학 및 정찰 임무에 Gemini와 같은 LLM을 사용하는 것으로 밝혀졌습니다. 동시에 중국의 지원을 받는 해커들은 AI 모델을 사용하여 악성 파일을 저장하고 데이터를 훔쳤습니다. 또한 백엔드 API를 사용하여 손상된 시스템에서 문서를 추출했습니다.
대부분의 최첨단 AI 모델은 가격이 비싸기 때문에 일부 해커는 회사의 AI 크레딧이나 액세스 권한을 훔치는 것을 의미하는 LLMJacking이라는 기술을 사용합니다. 소셜 엔지니어링을 사용하거나 공개 GitHub 저장소에서 로그인 자격 증명을 얻습니다. 일단 내부로 들어가면 해커는 이 액세스 권한을 사용하여 사이버 공격을 계획하거나 “LLM Mixers”라고 불리는 불법 상점에서 자격 증명을 판매할 수 있습니다. 보고서는 러시아어 및 중국어 시장에서 동일한 광고를 발견했으며 가격은 백만 토큰당 미화 0.10달러에서 미화 25달러에 이릅니다.
악의적인 AI 에이전트와 사이버 범죄의 미래
아마도 마블 시네마틱 유니버스(Marvel Cinematic Universe)에서 불량배로 인류를 완전히 멸망시키기로 결정한 울트론(Ultron)을 기억하실 것입니다. 이 시나리오에서 아직 몇 단계 떨어져 있지만 AI 에이전트는 악의적인 행위를 하고 있으며 이는 Hugging Face 공격에서 가장 잘 입증됩니다. 지난 7월 OpenAI는 ExploitGym 평가의 일환으로 사이버 보안 과제를 완료하는 임무를 맡은 새로운 AI 모델을 테스트하고 있었습니다. AI는 샌드박스 처리되어 인터넷에 접근할 수 없었습니다. 그러나 그 과정에서 모델이 등장하여 인터넷에 액세스하고 Hugging Face 서버의 이전에 알려지지 않은 취약점을 악용하여 질문에 대한 답을 찾았습니다. 최악의 부분은요? 요원은 흔적을 감추려고까지 했습니다.
다른 회사의 서버를 침해하는 것은 범죄이기 때문에 캘리포니아 법무 장관 Rob Bonta는 OpenAI가 “적절한 감독이나 안전 절차 없이 고의로 위험한 제품을 테스트했으며 이에 대해 대중을 호도했습니다. 이러한 공공 안전에 대한 무시는 캘리포니아 법을 위반했습니다”라고 말하면서 OpenAI를 고소했습니다.
우리는 일부 사이버 공격으로부터만 우리 자신을 보호할 수 있지만, Google은 실제 공격으로부터 데이터를 수집하고 이를 사용하여 Gemini의 안전 프로토콜을 교육함으로써 해커가 AI 모델을 악용하는 것을 방지하기 위해 노력하고 있습니다. 회사는 또한 서버의 보안 약점을 검사하고 해커가 이를 악용할 기회를 얻기 전에 이를 수정하는 AI Threat Defense 시스템도 출시했습니다. Vision이 Ultron을 물리친 것처럼 AI는 AI 해커에 대항하는 최고의 무기가 될 것입니다.