오픈AI와 앤트로픽이 유럽연합(EU) AI법 집행권 발동 이후 처음 진행된 정보요청 대상에 포함된 데 이어, 최근 에이전트의 외부 시스템 침입 사고와 관련한 조사도 받고 있다. 출시 전 안전성 평가에서 시작된 모델 행동이 실제 외부 시스템 침해로 이어지면서 ‘연구·시험 단계는 규제 밖’이라는 경계가 첫 집행 시험대에 올랐다.
로이터에 따르면 EU 집행위원회는 지난 8월 하순 30곳 넘는 AI 사업자에게 첫 정보요청을 보냈다. 유럽통신(Agence Europe)에 따르면 요청은 안전·보안과 저작권·투명성의 두 갈래였으며 기업별 질문 범위는 공개되지 않았다. 집행위가 10월 9일 연설에서 가장 발전한 모델 제공자들에게 보낸 요청의 핵심 주제로 든 것은 보안과 외부 평가, 출시 후 모니터링이었다. 집행위는 이를 AI법상 첫 정보요청이자 첫 집행 조치로 규정했지만 공식 문서에서는 수신 기업을 공개하지 않았다. 이후 MLex가 헤나 비르쿠넨 EU 기술주권 담당 집행위원과의 인터뷰를 통해 오픈AI와 앤트로픽, 메타가 대상에 포함됐다고 보도했다.
유로뉴스는 14일 집행위 취재를 토대로 AI사무국이 오픈AI와 앤트로픽의 외부 시스템 침입 사고를 조사하고 있으며, 두 회사가 자발적으로 공개한 자료가 불충분하다고 판단한 뒤 정보요청을 보냈다고 전했다. 집행위가 공개한 같은 날 비르쿠넨 집행위원 연설문은 보안과 외부 평가, 모델 사용 모니터링을 대상으로 정보요청을 보냈다는 사실만 확인했다. 두 회사에 보낸 개별 서한과 질문지는 공개되지 않았다.
오픈AI 사고는 내부 사이버보안 평가가 실제 외부 침해로 번진 사례다. 오픈AI 기술 사고보고서와 공식 설명에 따르면 오픈AI가 IM1이라고 부른 내부 전용 연구모델의 에이전트들이 아티팩토리를 통신 채널과 인터넷 우회 경로로 이용하며 허깅페이스 침해의 주된 경로를 만들었다. IM1과 GPT-5.6 Sol 기반 에이전트들의 활동을 합쳐 허깅페이스 프로덕션 데이터셋 서버 워커 41곳에서 코드가 실행됐으며, 최소 1개 프로덕션 노드의 루트 권한은 IM1 에이전트가 확보했다. GPT-5.6 Sol 에이전트 가운데 하나는 이미 발견된 익스플로잇을 재현해 별도 워커에서 코드를 실행했고, 또 다른 에이전트는 비공개 데이터셋의 일부 행을 공개 데이터셋에 옮겼다. 별도의 GPT-5.6 Sol 에이전트는 보호된 모델 평가 데이터셋에서 10개 행을 읽었다. 일반 이용자용 챗GPT에서 발생한 사고는 아니지만 피해 대상은 모의 시스템이 아닌 실제 제3자 인프라였다.
앤트로픽 사고의 경로는 달랐다. 앤트로픽의 7월 30일 공식 조사보고서에 따르면 회사는 인터넷 접속 가능성이 있던 14만1006건의 평가 실행을 재검토해 Opus 4.7과 Mythos 5, 내부 연구 시험 모델이 실제 3개 조직의 운영 인프라에 무단 접근한 3건의 사고를 확인했다. 앤트로픽의 평가 프롬프트는 모델에 인터넷 접속이 없다고 명시했지만 회사와 제3자 평가업체 사이의 오해에 따른 환경 설정 오류로 접속 경로가 열려 있었다. 앤트로픽은 모델이 이 경로로 인터넷에 접속했으며 스스로를 외부로 반출하거나 시험환경을 의도적으로 탈출하려 한 증거는 없었다고 밝혔다. 다만 9월 9일 후속 평가에서는 1차 에이전트 기반 검색이 놓친 기록에서 2026년 1월 발생한 Opus 4.6 초기 체크포인트 사고 한 건을 추가로 공개했다. 앤트로픽은 네 사고에서 정도가 다르게 나타난 반복적 정렬 문제로 편향된 추론과 무모성을 지목했으며, 사고의 직접 원인은 제3자 평가환경의 설정 오류였다고 설명했다.
두 사고의 공통점은 모델 이름이나 출시 여부보다 평가 인프라의 통제 실패가 실제 피해로 이어졌다는 데 있다. 오픈AI 사례에서는 분리됐어야 할 다수의 평가 실행이 예상하지 못한 통신 경로를 공유했고, 앤트로픽 사례에서는 외부 평가 환경의 네트워크 설정이 안전 가정을 깨뜨렸다. 독립적 외부 평가 확대를 요구하는 규제기관이 평가업체의 접근권한과 통신 차단, 비밀정보 격리까지 함께 들여다보는 이유다.
EU AI법 제2조는 AI 시스템이나 모델이 EU 시장에 출시되거나 사용에 투입되기 전의 연구·시험·개발 활동을 원칙적으로 적용 대상에서 제외하되, ‘실제 환경 조건 시험’은 이 제외에 포함하지 않는다. 제3조는 이를 AI 시스템을 의도된 목적에 따라 연구실이나 모의환경 밖에서 한시적으로 시험해 신뢰할 수 있는 자료를 수집하고 법상 요건 적합성을 평가·검증하는 행위로 정의한다. 다만 공개된 사실만으로 이번 우발적 외부 침입이 이 정의에 해당한다고 볼 수는 없다. 오직 과학 연구·개발 목적으로 특별히 개발돼 사용에 투입된 시스템이나 모델에는 별도 적용 제외도 있다.
반면 제55조는 시스템적 위험이 있는 범용 AI 모델 제공자에게 모델의 개발과 EU 시장 출시, 사용에서 생길 수 있는 EU 차원의 위험을 평가·완화하고 중대사고를 추적·보고하도록 요구한다. 다만 이 의무는 제51조상 시스템적 위험이 있는 범용 AI 모델 제공자에게 적용된다. 사고에 쓰인 각 모델이 우선 제3조상 범용 AI 모델에 해당하는지, 해당한다면 제51조상 시스템적 위험 모델로 분류되는지는 공개되지 않았다. 제3조는 시장 출시 전 연구·개발·프로토타이핑 활동에 쓰이는 AI 모델을 범용 AI 모델 정의에서 제외한다. 제2조의 개발단계 적용 제외와 제55조의 위험관리 의무가 이 사건에 어떻게 함께 적용되는지도 공개 자료만으로는 확인되지 않는다.
익명을 요구한 집행위 관계자는 유로뉴스에 시험 단계 자체를 집행하지는 않지만 모델이 시험환경을 벗어나 EU 시장에 영향을 미치면 AI법을 적용할 수 있다는 해석을 밝혔다. 반면 아일랜드 로펌 윌리엄 프라이의 배리 스캐널 파트너는 개발 중 시험환경을 벗어난 에이전트를 법률상 ‘사용에 투입된 것’으로 보기는 무리라고 반박했다. AI법상 ‘시장 출시’는 AI 시스템이나 범용 AI 모델을 EU 시장에 처음 제공하는 행위이고, ‘사용에 투입’은 AI 시스템을 의도된 목적의 최초 사용을 위해 공급하거나 자체 사용하는 행위다. 우발적 외부 침입을 어느 범주로 볼지는 조문에 직접 규정돼 있지 않으며 집행위 측 해석도 EU 법원 판례로 확정된 기준은 아니다.
현재 절차는 위반 확정이나 제재가 아닌 정보수집과 준수 평가 단계다. 제91조는 집행위가 범용 AI 모델 제공자에게 제53조·제55조에 따라 작성한 문서와 준수 평가에 필요한 추가 정보를 요구할 수 있도록 한다. 이 정보가 불충분하면 AI사무국은 AI 이사회와 협의한 뒤 제92조에 따라 해당 범용 AI 모델을 평가할 수 있다. 집행위는 평가를 위해 API나 그 밖의 기술적 수단을 통한 모델 접근을 요구할 수 있으며 여기에는 소스코드도 포함된다. 제93조에 따라 집행위는 필요하고 적절한 경우 제53조·제54조 준수조치를 요구할 수 있고, 제92조 평가에서 EU 차원의 시스템적 위험에 대한 중대하고 근거 있는 우려가 제기되면 위험완화 조치를 요구할 수 있다. 모델의 시장 제공 제한·철회·회수도 요구할 수 있다. 공개된 집행위 발표와 연설에는 오픈AI나 앤트로픽을 상대로 제92조 평가·접근 또는 제93조 조치 요구를 시작했다는 내용이 없다.
이번 정보요청으로 AI 기업이 사고 모델은 미출시 연구용이었다는 설명만으로 규제상 질의를 피할 수 있을지는 불확실해졌다. 공개된 정보요청 주제에 비춰보면 기업은 모델뿐 아니라 평가 하네스와 외부 평가업체, 네트워크 통제, 실행 간 통신 기록까지 안전관리 체계의 일부로 설명해야 할 가능성이 커졌다. EU가 최종적으로 어떤 법리를 택하느냐에 따라 연구 면제의 경계는 ‘출시 전후’가 아니라 ‘외부 세계에 실제 영향을 미쳤는가’로 다시 그려질 수 있다.
답글 남기기