AI 혁신 실패 원인, 기술 아닌 ‘데이터와 사람’ 제번스의 역설 효과…“韓 경제, AI로 폭발적 성장” “금융기관의 인공지능(AI) 프로젝트가 실패하는 건 AI 때문이 아닙니다. 데이터, 사람, 프로세스 때문입니다.” 지난달 24일(현지시간) 스위스 취리히에서 열린 포인트제로포럼(PZF) 2026 현장에서 만난 슈 헹 입 MUFG은행 아시아태평양지역 디지털전략 총괄(전무)은 AI를 업무에 도입하려는 한국 금융기관들에게 기술 채택 보다 조직구조의 AI 전환(트랜스포메이션)이 더 어렵다는 점을 강조했다. 싱가포르 정보통신미디어개발청(IMDA)에서 공공 정책과 금융 및 무역 디지털화를 이끈 바 있는 그는 현재 일본 최대 은행 MUFG은행에서 아태지역의 벤처기업 투자와 디지털 전환을 이끌고 있는 전문가다. 슈 헹 잎 전무가 가장 먼저 한국 금융권에 꺼낸 메시지는 아무런 제약이 없는 AI 도입을 경계해야 한다는 조언이었다. 최근 수많은 기업과 은행들이 코드 생성이나 이메일 초안 작성 등 피상적인 수준의 생성형 AI 도입에 열을 올리고 있지만 정작 AI 프로젝트가 실패하는 원인은 AI 기술 그 자체에 있지 않다는 것이다. 슈 헹 잎 전무는 “AI 기술 도입 자체보다 중요한 건 왜 AI를 도입하는지에 대한 분명한 사업적 목적”이라며 “부실한 데이터 품질, 변화를 거부하는 조직 문화, 그리고 구시대적인 의사결정 프로세스가 AI 혁신의 진정한 장애물”이라고 지적했다. 그는 여러 글로벌 은행들이 규제 완화를 앞두고 수많은 기술검증(PoC)에 막대한 투자를 단행하고 있는 상황을 언급하며 단순히 기술을 ‘어떻게’ 도입할 것인지 묻기 전에 상업적 수익 창출이라는 ‘왜’를 묻고 그에 맞는 비즈니스 역량인 ‘무엇’을 명확히 설계해야 한다고 주문했다. 슈 헹 입 전무는 기업과 투자금융(CIB) 영역에서 생성형 AI의 투자수익률(ROI)이 기대에 못 미치는 근본 이유를 세 가지로 압축했다. 첫째는 데이터 품질, 둘째는 사람의 역량과 변화관리, 셋째는 의사결정 프로세스다. 그는 “데이터 품질이 낮으면 AI는 가치를 만들 수 없다. 직원들이 AI를 실제로 활용하지 않아도 마찬가지다”라며 “아무리 AI가 탁월한 인사이트를 제공해도 기존 의사결정 프로세스가 그대로라면 아무 의미가 없다”고 말했다. 은행 업무의 두 축인 수익 창출과 지원 기능 모두에서 AI 활용이 가능함에도 ROI가 실현되지 않는 이유에 대해서 슈 헹 입 전무는 “사람이 AI를 효과적으로 쓰도록 훈련되어 있지 않거나, 기반 데이터가 부실하거나, 아니면 의사결정 구조 자체가 레거시로 고착돼 있는 것”이라고 진단했다. AI 도입의 성패는 기술이 아니라 조직 혁신에 달려 있다는 메시지다. 금융권이 실제로 AI 에이전트를 업무에 도입하기 위해 구축해야 할 거버넌스 프레임워크의 핵심은 ‘리스크 관리’로 제시됐다. 이메일 초안을 쓰는 AI와 실제 거래를 실행하는 에이전트 AI는 리스크 수준이 근본적으로 다르기 때문이다. 싱가포르 통화청(MAS) 주도의 ‘프로젝트 마인드포지(Project MindForge)’ 컨소시엄에 참여해 금융권 AI 리스크 관리 툴킷을 완성했던 그는 에이전틱 AI의 최대 위험은 배포 이후에 발생한다는 점에서 이를 통제하기 위한 철저한 접근 권한 부여와 모니터링이 필요하다고 조언했다. 슈 헹 입 전무는 “AI 에이전트를 신입사원을 고용하는 것과 똑같이 다루어야 한다”며 “그들이 어떤 역할과 책임을 갖고 있는지 맥락 안에서 훈련돼야 하고 의도를 검증할 수 있는 ‘검증 가능한 의도(Verifiable Intent)’ 개념이 여기서 중요하다”고 말했다. 그는 프로젝트 마인드포지 적용 과정에서 가장 놀라웠던 점은 거버넌스 자체가 병목 현상이 아니라 수백 개의 AI 활용 사례에 거버넌스를 일관되게 ‘확장’하는 것이 가장 큰 과제라는 점이었다고 회고했다. 슈 헹 입 전무는 “AI 실사용 사례가 1~2개일 때는 거버넌스가 비교적 쉽지만 실사용 사례가 200개가 됐을 때 일관되게 관리하는 것은 전혀 다른 문제”라고 말했다. AI 거버넌스를 조직 전체로 확산하고 일상 업무에 녹아들게 하는 것, 즉 ‘AI 거버넌스의 스케일링’이 진짜 도전이라는 것이다. 슈 헹 입 전무는 ‘비례적 리스크 관리’의 중요성을 강조하며 “생성형 AI는 출력(output) 리스크를 관리하면 되지만 에이전트 AI는 행동(action) 리스크를 관리해야 한다”며 “에이전트 AI에게는 신원 확인, 접근권한 통제, 상시 모니터링, ‘서킷 브레이커’가 필수적”이라고 설명했다. 특히 슈 헹 입 전무는 AI 에이전트의 오작동을 차단하기 위한 서킷 브레이커에 대해 “잘못 설계된 서킷 브레이커는 갑작스럽게 대출을 중단시키거나 자금 접근을 막을 수 있고 이는 사회적 신뢰 붕괴와 뱅크런으로 이어질 수 있다”며 “리스크에 비례하는 통제된 서킷 브레이커 설계가 필수”라고 강조했다. 슈 헹 입 전무는 전통적 IT 시스템과 AI 시스템의 장애 방식 차이를 주목해야 한다고 경고했다. 그는 “전통 시스템이 다운되면 모두가 즉각 안다. 그런데 AI는 조용히 망가진다”라며 “예를 들어 AI 에이전트가 감지되지 않은 모델 드리프트로 인해 3개월 동안 잘못된 일을 해왔다는 사실을 나중에서야 발견하는 상황이 올 수 있다”고 그는 설명했다. 이를 해결하기 위해 항공업계의 사건 공유 체계처럼 전 세계 금융권도 AI 사건 정보를 산업 전반이 공유하는 구조를 만들어야 한다고 제안했다. 전 세계 금융권을 비롯한 사무직 근로자들의 일자리를 AI가 대체할 것이라는 비관론에 대해서는 비용이 저렴해질수록 총수요는 오히려 늘어난다는 ‘제번스의 역설’ 개념을 꺼내며 반박했다. 슈 헹 입 전무는 “AI는 업무(task)를 없애지만 직업(job) 자체를 없애지는 않는다. 당신은 업무를 잃겠지만 커리어를 잃지 않는다”며 “가장 큰 리스크는 AI를 채택하지 않는 것이 아니라 세계가 앞으로 나아가는 동안 한국만 제자리에 서 있는 것”이라고 덧붙였다. 끝으로 슈 헹 입 전무는 “이처럼 역동적인 시기에 한국 경제가 더욱 번영할 것이라고 믿으며 디지털 및 AI 분야에서 혁신적인 한국 스타트업과 기업들을 발굴해 협력과 투자 기회를 모색하기를 기대한다”고 말했다.