마이크로소프트가 차세대 운영체제 전략의 핵심으로 내세운 ‘AI 에이전트’ 기능을
Windows 11에 본격적으로 도입한다. 기존 코파일럿 기반 대화형 기능에서 한 단계
나아가, AI가 사용자를 대신해 앱 실행, 파일 정리, 멀티 단계 작업 처리까지 수행하는
이른바 ‘에이전트 기반 OS(Agentic OS)’로 변화하겠다는 구상이다. 그러나 마이크로소프트는
이 기능이 잘못된 정보를 스스로 생성하거나 예기치 않은 행동을 할 수 있는, 이른바
‘환각(hallucination)’이 발생할 가능성이 있다고 인정하며, 보안 리스크가 동시에
커질 수 있다고 경고했다.
이번에 공개된 에이전트 기능은 운영체제 내부에 ‘Agent Workspace’라는 별도
환경을 구성해 독립적으로 실행된다. 에이전트는 사용자 계정과 분리된 별도 권한과
데스크톱 환경을 갖고 동작하며, 문서, 사진, 영상, 다운로드 폴더 등 알려진 사용자
디렉토리에 접근해 파일을 정리하거나 관련 작업을 수행할 수 있다. 이 기능은 현재
실험적 상태로 제공되며, 기본은 비활성화 설정이다. 사용자가 직접 관리자 권한으로
기능을 켜야 사용할 수 있다.
문제는 마이크로소프트가 이 기능의 위험성을 먼저 언급했다는 점이다. 회사는
공식 문서에서 AI 에이전트가 특정 상황에서 잘못된 판단을 내리거나 존재하지 않는
내용을 만들어낼 수 있으며, 악성 코드나 문서를 통해 의도하지 않은 명령이 입력되는
‘프롬프트 주입 공격’ 가능성이 존재한다고 밝혔다. 에이전트가 시스템 수준 권한을
갖지 않더라도, 자동화된 파일 접근 및 작업 수행이 가능한 구조라는 점에서 보안
관련 부담이 증가할 수 있다는 지적이 이어지고 있다.
그럼에도 불구하고 마이크로소프트는 Windows의 진화를 위해 AI 에이전트 도입을
멈추지 않겠다는 입장이다. 반복되는 PC 작업을 자동화하고, 사용자가 자연어 입력만으로
원하는 결과를 얻을 수 있는 환경은 생산성 측면에서 향후 큰 경쟁력이 될 것이라는
판단이다. 다만 보안 및 신뢰성 문제가 해결되지 않는 한, 해당 기능은 초기 단계에서
상당한 논란을 피하기 어려울 전망이다.
[뉴스] 넷플릭스, 모바일 앱 -> 스마트 TV '캐스팅' 기능 중단
Copyrightⓒ 넥스젠리서치(주) 케이벤치 미디어국. www.kbench.com
