마이크로소프트가 인공지능(AI) 에이전트에 사람처럼 자체 계정과 메일함을 부여한다. 에이전트는 특정 직원의 자격증명을 빌리지 않고 이메일을 주고받으며 팀즈와 오피스에서 업무를 이어간다.
다만 여러 사람이 같은 에이전트와 나눈 정보는 하나의 기억에 합쳐진다. 마이크로소프트는 이 공유기억에 “사용자 간 프라이버시 경계가 없다”고 명시했다.
마이크로소프트는 지난 15일 코파일럿 스튜디오의 ‘에이전트 계정’과 ‘비즈니스 프로세스 메모리’를 발표했다. 현재 정식 출시가 아닌 프론티어 프로그램 프리뷰로 순차 제공되고 있다.
계정을 받은 에이전트에는 마이크로소프트 엔트라 ID와 메일함, 팀즈 상태, 조직 디렉터리 항목이 생성된다. 메일을 송수신하고 배포목록에 들어가며, 팀즈나 워드·엑셀·파워포인트 댓글에서 사람처럼 호출될 수 있다.
업무 수행에는 에이전트 자신의 승인된 자격증명과 범위가 제한된 권한이 쓰인다. 누가 어떤 작업을 했는지 에이전트 단위로 추적할 수 있어 공유 서비스 계정보다 감사와 책임 귀속이 분명해진다. 다만 계정을 만들었다고 모든 도구 권한이 자동으로 부여되는 것은 아니다.
핵심 쟁점은 함께 도입된 공유기억이다. 마이크로소프트의 에이전트 계정 FAQ에 따르면 계정형 에이전트는 사용자별 기억을 두지 않고, 자신과 일하는 모든 사람을 아우르는 하나의 기억을 유지한다. 팀의 절차와 용어뿐 아니라 특정 사용자가 보고받기를 선호하는 방식 같은 개인별 정보도 저장 대상이다.
이 구조는 일대일 채팅에도 그대로 적용된다. 한 사람이 알려준 내용이 다른 사람과의 대화에 사용될 수 있으며, 원본 파일이나 채팅을 열 권한이 없는 사람에게도 그 요약이 에이전트의 답변으로 나타날 수 있다. 여기서 ‘모든 사용자’는 인터넷 이용자 전체가 아니라 해당 에이전트와 상호작용할 수 있는 조직 내 사용자를 뜻한다.
기존 코파일럿 스튜디오의 일반 메모리는 사용자마다 별도 저장소를 두고 다른 사람이나 제작자가 볼 수 없게 했다. 그룹 채팅과 팀즈 채널에서는 개인 메모리도 작동하지 않는다. 이번 계정형 에이전트는 조직의 업무 맥락을 이어받기 위해 이 개인 격리 모델을 의도적으로 뒤집은 셈이다.
통제 장치도 제한적이다. 에이전트와 상호작용하는 사람은 누구나 저장된 공유기억을 열람하거나 삭제할 수 있다. 28일 동안 아무도 에이전트를 사용하지 않으면 기억은 자동 삭제되지만, 개인 사용자가 공유기억만 거부할 수는 없다. 관리자가 메모리만 별도로 끄는 기능도 없어 에이전트 계정 자체를 비활성화해야 한다.
신분증 번호와 생년월일, 계좌·카드 정보, 비밀번호와 토큰, 건강정보, 보호 특성, 인사평가 등은 기억 대상에서 제외된다는 게 회사 설명이다. ‘기밀’이나 ‘내부 전용’으로 보호된 문서는 계정형 에이전트가 읽을 수 없고, 프리뷰 단계에서는 외부 테넌트 사용자에게도 응답하지 않는다.
그러나 원본 접근 단계의 보호와 기억 재사용 단계의 사용자 경계는 별개다. 마이크로소프트의 Agent 365 안내도 자체 계정 에이전트의 접근을 ‘지속적·누적적’이라고 정의하고, 별도 안전장치가 없으면 일부 대화 참여자에게 권한이 없는 콘텐츠를 토대로 답할 수 있다고 설명한다.
이는 에이전트 계정이 접근권한 문제를 없애는 것이 아니라 권한이 모이는 주체를 사람에서 AI로 바꾼다는 의미다. 자체 ID는 최소권한과 감사에는 진전이지만, 한 에이전트에 서로 다른 보안등급의 사용자와 자료를 연결하면 원본 접근권한과 기억을 통한 재노출 범위가 어긋날 수 있다.
마이크로소프트도 지난 6월 AI 메모리 보안 연구에서 모델에 지시하는 것만으로는 신뢰할 수 있는 보안 경계가 되지 않으며, 사용자·에이전트·테넌트 간 격리는 모델 밖의 결정적 시스템으로 집행해야 한다고 밝혔다. 반면 이번 프리뷰는 다른 사람의 정보를 꺼내지 않도록 에이전트를 유도하면서도 기술적인 사용자 경계는 없다고 인정한다.
기업이 계정형 에이전트를 도입하려면 직무가 아니라 정보공유 범위를 기준으로 에이전트를 나눠야 한다. 같은 팀이라는 이유만으로 인사·재무·계약 자료를 한 기억에 연결하기보다, 동일한 정보를 볼 수 있는 사용자끼리 별도 에이전트를 운영하는 방식이 필요하다. 이번 기능의 성패는 AI가 얼마나 오래 기억하느냐보다, 누구의 기억을 누구에게 다시 말하지 않게 만들 수 있느냐에 달렸다.
답글 남기기