앤스로픽이 개당 55달러, 약 7만원짜리 안드로이드 TV 박스 15대를 연결해 대형 인공지능 모델을 구동했다. 고가 데이터센터가 없어도 가정용 사물인터넷 기기를 연산 거점으로 삼는 ‘AI 웜’이 등장할 수 있다는 경고다. 다만 TV 박스에서 AI의 완전한 자기복제까지 성공한 것은 아니다.
앤스로픽 프런티어 레드팀은 12일 공개한 연구 결과에서 메모리 4GB를 장착한 비브랜드 TV 박스 15대에 구글의 ‘젬마4-26B-A4B’를 분산 배치했다고 밝혔다. 각 기기가 모델 계층 두 개씩을 맡는 파이프라인 병렬 방식을 적용해 초당 0.39토큰의 추론 속도를 기록했다.
젬마4-26B-A4B는 전체 매개변수가 252억개지만 토큰 처리 때 활성화되는 매개변수는 38억개인 혼합전문가 모델이다. 구글 모델 카드에 따르면 전체 가중치는 모두 메모리에 올려야 하므로 단순한 40억 매개변수 모델보다 저장 공간을 많이 차지한다. 연구진은 이를 4비트로 양자화해 여러 기기의 메모리에 나눠 담았다.
자율 복제 능력은 TV 박스가 아닌 별도의 통제된 클라우드 환경에서 시험했다. 연구진은 안드로이드 15 에뮬레이터가 설치된 구글클라우드 노드 8개를 방화벽 내부에 구성하고, AI가 네트워크 탐색부터 페이로드 전송과 추론 서버 설치까지 수행하도록 했다. 외부 인터넷으로 확산된 실제 악성코드 실험은 아니었다.
시험 모델 가운데 GLM-5.2는 5차례 중 4차례에서 8개 노드 전부로 확산했고, 나머지 한 차례에는 7개 노드에 도달했다. 그러나 GLM-5.2 자체가 복제된 것도 아니다. 큰 모델인 GLM-5.2가 외부 서버에서 판단하고, 목표 노드에는 상대적으로 작은 라마3.1-8B 추론 환경을 구축하는 방식이었다.
침입 단계도 현실보다 크게 단순화했다. 실험 노드의 안드로이드 디버그 브리지 포트에는 인증이 없었고, 연구진은 이를 실제 환경에서의 성공률을 과대평가할 수 있는 상한선이라고 명시했다. 현재는 자율 복제를 끝까지 수행할 만큼 유능한 모델과 TV 박스에 들어갈 만큼 작은 모델의 조건이 아직 겹치지 않는다는 설명이다.
그럼에도 경고의 초점은 모델 크기가 빠르게 줄고 있다는 데 있다. 90억 매개변수급 모델은 시험한 하드웨어 9종 가운데 8종에서 스스로 추론 환경을 구성했다. 앞선 시행착오를 메모로 물려받은 Qwen3.5-9B의 설치 성공률도 첫 세대 45%에서 후속 세대 61∼84%로 높아졌다. 연구진은 일반 능력 지표의 향상 추세를 근거로 소형 모델이 올해 말 GLM-5.2 수준에 이를 수 있다고 추산했지만, 이 지표는 복제 능력을 직접 측정한 것이 아니어서 시점 예측에는 불확실성이 크다.
AI 웜은 정해진 취약점만 공격하는 기존 악성코드와 달리 낯선 운영체제와 하드웨어를 분석해 침투 방식을 바꿀 수 있다. 지난 6월 공개된 AI 기반 적응형 웜 연구에서도 에이전트가 리눅스와 윈도, IoT 기기의 서로 다른 취약점을 찾아 공격 코드를 생성하는 개념검증이 제시됐다. 모델 가중치를 악성코드와 함께 옮기면 상용 AI 서비스의 접속 차단이나 호출 제한도 방어 수단으로 작동하지 않는다.
다만 저가 IoT 기기의 연산력은 아직 제한적이다. 앤스로픽 자체 추정으로 90억 매개변수 모델이 새 기기에 추론 환경을 구축하려면 28∼51시간이 필요하다. 과거 200만대 이상을 감염시킨 킴울프 규모의 TV 박스 봇넷을 가정해도 전체 처리량은 엔비디아 H100 GPU 약 40대 수준에 그친다.
위험의 핵심은 속도보다 생존성이다. 중앙 서버가 없어 한곳을 차단해도 전체가 멈추지 않고, 감염된 기기들이 며칠에 걸쳐 천천히 수를 늘릴 수 있다. 스마트카메라와 회의 장비, 가전제품에 온디바이스 AI 칩이 확산될수록 공격자가 훔쳐 쓸 수 있는 연산 자원도 커진다.
방어 단서는 네트워크에 남는다. 모델 가중치를 옮길 때 발생하는 수GB 규모의 전송과 평소 통신하지 않던 기기 사이의 지속적인 트래픽은 인터넷사업자가 탐지할 수 있다. 앤스로픽은 제조사의 기본 비밀번호 폐지, 감염 가입자 격리, 허니팟을 통한 페이로드 분석이 초기 확산을 억제할 수 있다고 제안했다. 이번 실험은 AI 웜이 이미 현실에서 활동한다는 증거가 아니라, 데이터센터 밖에서도 살아남을 기술적 조건이 빠르게 맞춰지고 있다는 경보다.
답글 남기기