“AI 뚫리면 끝…결정권 인간에 있어야” AI 에이전트 보안, 결국 하드웨어가 답 “인공지능(AI) 에이전트가 결제와 거래를 스스로 실행하는 시대에 금융기관이 최종 결정권과 통제력을 잃는 순간 전례 없는 금융 보안 위기에 처할 수 있습니다.” 지난달 23일(현지시간) 스위스 취리히에서 열린 ‘포인트 제로 포럼(PZF) 2026’ 현장에서 매일경제와 만난 디지털자산 지갑·보안 기업 렛저(Ledger)의 AI 보안 책임자 이안 로저스 최고인간대리인책임자(CHAO·Chief Human Agency Officer)는 AI 에이전트 경제가 발전할수록 인간의 AI 통제력 상실 문제가 가장 중요한 화두가 될 것이라 내다봤다. 과거 그는 애플뮤직과 야후에서 음악 사업을 이끌었고 글로벌 럭셔리 그룹 LVMH의 최고디지털책임자(CDO)로서 디지털 혁신을 주도했다. 이후 2020년 렛저에 최고경험책임자(CXO)로 합류한 뒤 올해 4월 업계 최초의 CHAO로 선임됐다. 로저스를 CHAO로 선임한 렛저는 디지털 자산 전체 시가총액의 20% 이상을 관리하는 세계 최대 하드웨어 보안 기업이다. 지금까지 165개국에서 800만대 이상의 보안 하드웨어 기기를 판매했다. 모든 기업이 직원 1인당 AI 에이전트를 보유하게 될 미래 경제에서 로저스 CHAO가 가장 먼저 강조한 건 ‘인간의 대리권(Human Agency)’이다. 그는 “인간 노동자의 미래 역할은 수많은 AI 에이전트들을 조율하는 데 맞춰질 것”이라며 “AI가 중간 단계 실무 작업을 처리해도 작업의 시작과 끝(엔드 투 엔드)에 대한 검증과 승인은 반드시 인간의 통제 아래에 있어야 한다”고 말했다. 로저스 CHAO가 우려하는 시나리오는 AI가 어떤 작업이 필요한지를 스스로 결정하고 인간의 개입 없이 그 결과까지 검증하는 세계다. 그는 “인간과 AI가 맡은 영역의 경계가 흐려지는 순간 인간의 주권이 무너진다”고 진단했다. 인간의 개입 없이 AI가 스스로 작업 방향을 결정하고 무비판적으로 결과물까지 승인하는 상황을 방치할 경우 특히 막대한 자금이 오가는 금융 거래에서는 돌이킬 수 없는 피해를 초래할 수 있다는 게 그가 던진 경고다. 나아가 로저스 CHAO는 대규모 금융 거래를 실행하는 AI 에이전트가 악의적 공격이나 해킹 등에 노출됐을 때 발생하는 ‘치명적 3요소(Lethal trifecta)’를 철저히 경계해야 한다고 역설했다. 에이전트가 ▲기밀 정보에 접근할 수 있고 ▲이를 외부로 전송할 수 있으며 ▲제3자의 영향을 받을 수 있는 세 조건이 동시에 충족될 때 치명적 취약점이 발생한다는 설명이다. 그는 “오늘날 우리가 일상적으로 정보를 공유하기 위해 사용하는 스마트폰이나 컴퓨터의 범용 보안 수준으로는 결코 이 문제를 해결할 수 없다”며 “AI 에이전트들 역시 스스로의 신원과 거래 의도를 투명하게 증명하기 위해 군사급 보안에 필적하는 고유의 하드웨어 보안 지갑을 반드시 보유해야 한다”고 주장했다. AI 에이전트가 야기할 수 있는 ‘치명적 3요소’를 막기 위해 렛저가 고안한 것이 ‘인텐트 큐(Intent Queue)’와 ‘정책 엔진(Policy Engine)’ 하드웨어다. AI 에이전트는 자율적으로 작동하되 어떤 행동을 취하려 할 때는 반드시 그 의도를 인텐트 큐에 등록해야 하는 형태다. 등록된 의도가 사전에 설정된 하드웨어 상 정책 범위 안에 있으면 자동으로 실행되고 정책 범위를 벗어나면 한 명 이상의 인간에게 승인 요청이 올라간다. 로저스 CHAO는 “대형언어모델(LLM)이 거버넌스를 내재화할 수 있다거나 LLM의 의사결정 경로를 역추적할 수 있다는 발상은 모두 헛수고”라고 잘라 말하며 “LLM은 추론하고 제안하는 일을 맡기고 행동 시점에는 반드시 인간이 의사결정 과정 안에 있어야 한다”고 강조했다. 또한 그는 “이메일 접근·발신 권한만 있는 AI 에이전트라도 악의적 행위자가 보낸 이메일을 받아 기밀을 유출할 수 있다”며 “은행들이 AI에게 프라이빗 키 접근 권한이나 자금 운용 자율권을 부여하는 것은 가장 큰 실수다”고 지적했다. AI에게는 제안만 허용하고 실제 행동은 정책 엔진 또는 인간의 서명을 통해서만 실행되도록 해야 한다는 주장이다. 렛저는 AI 에이전트 보안 문제와 관련해 올해 2분기 중 에이전트 정체성을 하드웨어에 고정하는 ‘에이전트 아이덴티티’ 기능, 3분기에는 에이전트가 제안한 행동을 인간이 신뢰 디스플레이에서 검토하는 ‘에이전트 인텐트 및 정책’ 레이어, 4분기에는 에이전트 배후에 고유한 인간이 있음을 증명하는 ‘프루프 오브 휴먼(Proof of Human)’을 순차적으로 출시할 계획이다. 로저스 CHAO는 한국 가상자산 투자자 인구가 1000만명을 넘어섰다는 점을 언급하며 “한국은 우리에게 중요한 시장”이라고 덧붙였다. 그는 한국은행이 추진 중인 도매형 중앙은행 디지털화폐(CBDC)와 예금 토큰(프로젝트 한강 2단계)뿐 아니라 한국 금융회사들이 고민하는 AI 에이전트 도입시 기술적 통제 등을 위한 기업용 솔루션에서도 협력 기회를 찾고 있다고 전했다.