오윤성 기자 마이크로소프트가 인공지능(AI) 에이전트에 사람처럼 자체 계정과 메일함을 부여한다. 에이전트는 특정 직원의 자격증명을 빌리지 않고 이메일을 주고받으며 팀즈와 오피스에서 업무를 이어간다. 다만 여러 사람이 같은 에이전트와 나눈 정보는 하나의 기억에 합쳐진다. 마이크로소프트는 이 공유기억에 “사용자 간 프라이버시 경계가 없다”고 명시했다. 마이크로소프트는 지난 15일 코파일럿 스튜디오의 ‘에이전트 계정’과 ‘비즈니스 프로세스 메모리’를 발표했다. 현재 정식 출시가…

오윤성 기자 무작위로 생성된 마인크래프트 세계에서 구글 딥마인드의 범용 코딩 인공지능(AI) 에이전트 네 대가 27시간 14분 만에 엔더 드래곤을 쓰러뜨렸다. 연구진이 역할이나 게임 공략을 지정하지 않았는데도 에이전트들은 일을 나누고 실패 원인을 공유하며 동료의 유실 아이템을 회수했다. 승리까지 처리한 13억5000만 입력 토큰과 605차례 사망은 장기 AI 협업의 가능성과 비효율을 함께 보여준다. 구글 딥마인드의 막상스 팔도르, 사틴더…

오윤성 기자 오픈AI와 앤트로픽이 유럽연합(EU) AI법 집행권 발동 이후 처음 진행된 정보요청 대상에 포함된 데 이어, 최근 에이전트의 외부 시스템 침입 사고와 관련한 조사도 받고 있다. 출시 전 안전성 평가에서 시작된 모델 행동이 실제 외부 시스템 침해로 이어지면서 ‘연구·시험 단계는 규제 밖’이라는 경계가 첫 집행 시험대에 올랐다. 로이터에 따르면 EU 집행위원회는 지난 8월 하순 30곳…

오윤성 기자 앤트로픽이 클로드의 내부 추론을 빼내 경쟁 모델 학습에 쓰는 행위를 약관 위반 증류 공격으로 규정하고 새로운 방어 체계를 가동했다. 방어 도입 뒤 공격자가 확보한 추론 토큰이 종전보다 90~99% 줄었다는 자체 측정 결과다. 다만 이는 공격 요청 자체의 차단률이 아니라 앤트로픽 플랫폼에서 유출된 것으로 추정한 추론 토큰의 감소율이다. 회사는 고도화된 공격자를 상대로 장기간 검증한…

오윤성 기자 앤스로픽이 개당 55달러, 약 7만원짜리 안드로이드 TV 박스 15대를 연결해 대형 인공지능 모델을 구동했다. 고가 데이터센터가 없어도 가정용 사물인터넷 기기를 연산 거점으로 삼는 ‘AI 웜’이 등장할 수 있다는 경고다. 다만 TV 박스에서 AI의 완전한 자기복제까지 성공한 것은 아니다. 앤스로픽 프런티어 레드팀은 12일 공개한 연구 결과에서 메모리 4GB를 장착한 비브랜드 TV 박스 15대에 구글의…

오윤성 기자 앤트로픽이 클로드가 실제 웹사이트와 외부 시스템에서 지시 범위를 넘어 행동한 사례를 공개했다. 경찰에 허위 살인사건 제보를 제출하고, 서버 취약점을 이용해 명령을 실행하거나 유료 데이터 접근 제한을 우회한 사례가 포함됐다. 모델 성능보다 어떤 권한을 주고 어디서 멈추게 할지가 AI 에이전트 경쟁의 새 기준으로 떠올랐다. 앤트로픽이 9일 공개한 조사 보고서에 따르면 확인된 행동은 소프트웨어 결함을…

오윤성 기자 앤트로픽의 인공지능 에이전트 클로드가 시험 과정에서 미국 정부의 실제 웹사이트에 비자 신청서를 제출한 사고가 AI 기업을 향한 즉시 공개 요구를 촉발했다. 미 백악관은 AI 모델이 정부·민간 시스템에 일으킨 보안 사고를 기업이 즉시 신고하고 피해를 복구하라고 요구했다. 자율적으로 화면을 조작하는 업무형 에이전트가 확산하면서 규제 초점도 답변 내용에서 실제 행동 권한 통제로 옮겨가고 있다. 미국…

오윤성 기자 앤트로픽이 전력망과 상수도, 공장, 교통망을 움직이는 운영기술(OT) 보안에 최상위 인공지능 모델과 현장 엔지니어를 투입한다. 취약점 탐지를 넘어 실제 산업설비에서 안전하게 검증하고 수정하는 단계로 AI 보안 경쟁이 이동하고 있다. 앤트로픽은 8일 ‘사이버 미션’을 출범하고 첫 사업으로 중요 인프라 방어 프로그램(CIDP)을 시작한다고 발표했다. 참여 업체에는 최상위 클로드 모델과 앤트로픽 현장 엔지니어, 위협 분석 자료가 제공된다.…

오윤성 기자 앤스로픽이 오픈소스 코드를 최상위 인공지능 모델로 주기적으로 검사하는 ‘OSS 스캐너’를 8일 출시했다. 취약점 탐지부터 원인 분석과 후보 패치 작성까지 자동화해 소프트웨어 공급망의 공격 노출 시간을 줄이려는 시도다. 앤스로픽 공식 발표에 따르면 인프라와 사용자 보안에 중대한 영향을 미치는 오픈소스 프로젝트의 핵심 유지관리자가 신청할 수 있다. 앤스로픽이 유지관리자 신원과 대상 기준을 확인해 사례별로 등록 여부를…

오윤성 기자 앤스로픽이 사이버보안 작업을 보수적으로 차단하던 방식에서 신원과 업무 권한에 따라 고급 기능을 개방하는 체제로 전환했다. 기존 사이버 검증 프로그램과 제한적 파트너 사업인 ‘프로젝트 글래스윙’을 하나로 통합하고 접근 권한을 세 단계로 나눴다. AI의 취약점 발굴 속도가 검증·공개·패치를 맡은 사람의 처리 능력을 앞지르면서, 모델 차단만으로는 방어 측의 병목을 풀 수 없다는 판단이다. 앤스로픽은 지난 6일…