해킹된 AI 계정이 암시장에 헐값으로 유통…‘LLM 재킹’ 우려 커진다

생성형 인공지능 서비스 계정이 해커들에게 탈취된 뒤 암시장에서 값싸게 거래되는 사례가 늘고 있다. 업계에서는 이런 흐름을 단순한 계정 도용을 넘어, 대화형 AI 자원을 빼돌려 쓰는 ‘LLM 재킹’ 문제로 보고 경계심을 높이고 있다.

AI 활용이 빠르게 일상화되면서 계정 관리의 중요성도 함께 커졌지만, 보안 사각지대는 여전히 남아 있다. 특히 기업이나 개인이 가입한 AI 서비스는 구독 정보와 사용 이력, 연결된 저장공간까지 포함하는 경우가 많아 한 번 침해되면 피해 범위가 넓어질 수 있다.

탈취된 계정이 암시장에서 거래되는 이유는 분명하다. 정식으로 결제한 사용자처럼 보이기 때문에 탐지가 쉽지 않고, 기존에 확보된 접근 권한을 그대로 활용할 수 있기 때문이다. 공격자 입장에서는 새 계정을 만드는 수고를 덜 수 있고, 구매자 역시 비교적 적은 비용으로 서비스를 이용할 수 있다.

문제는 이런 계정이 단순한 ‘무단 사용’에 그치지 않는다는 점이다. 일부 해커들은 다른 사람의 결제 수단이나 조직의 구독 권한을 바탕으로 대량의 AI 요청을 보내고, 이를 통해 자체 비용 없이 모델 기능을 이용한다. 이 과정에서 정상 이용자의 이용 한도가 소진되거나 서비스 품질이 저하될 가능성도 생긴다.

보안 업계는 이 현상을 일반적인 계정 탈취보다 더 넓은 범주로 바라본다. LLM을 직접 공격하는 대신, 이미 마련된 사용자 계정을 노려 자원을 빼돌리는 방식이기 때문이다. 이런 수법은 기존 웹서비스 계정 해킹과 유사하지만, 생성형 AI의 사용량 과금 구조와 결합되면서 새로운 피해 형태를 만든다.

특히 기업 환경에서는 파급력이 더 크다. 직원이 업무용으로 연결한 AI 계정이 유출되면 내부 문서 요약, 코드 보조, 회의 정리 등 다양한 작업 정보가 외부로 노출될 수 있다. 또 계정이 다른 시스템과 연동돼 있으면 2차 피해로 이어질 가능성도 배제하기 어렵다.

일반 사용자 역시 안심할 수 없다. 여러 서비스에서 같은 비밀번호를 반복해 쓰거나, 피싱 페이지에 속아 로그인 정보를 입력하는 경우 계정 탈취 위험이 커진다. 여기에 AI 서비스 특유의 편의성 때문에 로그인 상태를 오래 유지하는 습관까지 겹치면 공격자는 더 쉽게 접근할 수 있다.

이 같은 흐름은 생성형 AI 산업이 성장할수록 보안의 초점도 바뀌고 있음을 보여준다. 과거에는 모델 자체를 어떻게 보호할지가 중요했다면, 지금은 계정과 과금 체계, 연동 권한을 함께 지키는 일이 더 중요해졌다. 서비스 사업자 입장에서도 이상 사용 패턴을 탐지하고 계정 인증을 강화하는 조치가 필요하다.

전문가들은 이용자 보호를 위해 기본적인 계정 보안 수칙을 철저히 지켜야 한다고 강조한다. 복잡한 비밀번호 사용, 다중 인증 활성화, 수상한 로그인 알림 확인 같은 조치만으로도 피해를 줄일 수 있다는 설명이다. 또한 업무용 AI 계정은 개인 계정과 분리해 관리하는 것이 바람직하다.

사업자 측면에서는 결제 정보와 접근 권한을 묶어 보는 감시 체계가 필요하다는 지적이 나온다. 단시간에 대량 요청이 발생하거나, 평소와 다른 지역에서 접속이 이어질 경우 계정 잠금이나 추가 인증을 적용하는 방식이 거론된다. 이는 악성 이용을 줄이는 동시에 정상 사용자의 피해도 최소화할 수 있다.

AI가 보편적 도구로 자리 잡을수록 이를 둘러싼 범죄 수법도 더 정교해지고 있다. 계정이 거래되는 시장이 형성된다는 사실 자체가 새로운 보안 위협의 신호로 읽힌다. 결국 생성형 AI의 확산은 편의성만큼이나 관리 책임을 요구하고 있다.

업계에서는 앞으로도 유사한 사례가 이어질 가능성을 주시하고 있다. 기술 발전이 빠른 만큼 대응 체계가 뒤따르지 않으면, 탈취된 계정은 손쉽게 수익화되는 자산이 될 수 있기 때문이다. AI 서비스의 신뢰를 지키기 위해서는 이용자와 사업자 모두가 경계 수준을 높여야 한다.

미국 기업들, 고비용 상용 AI 대신 오픈 모델로 이동 가속

[르포] “언제까지 일본 AV만 볼 텐가?”… 불모지 깬 ‘K-성인 배우’의 반란, 그 중심에 선 ‘노아’

오픈AI, 미국 중심의 AI 규범 구축 필요성 강조…한국 포함 국제 협력 구상 제시

LG와 마이크로소프트, AI 인프라부터 피지컬 AI까지 협력 넓힌다

반도체 강세와 유가 약세에 코스피 장 초반 2% 넘게 올라 7,100선 돌파