AI 추천 뉴스 PwC AI 보고서서 허위 인용 논란…컨설팅 신뢰성 시험대 PwC 중동법인이 발간한 인공지능(AI) 관련 보고서에서 AI 환각으로 추정되는 허위 인용과 존재하지 않는 자료가 다수 발견됐다. AI 도입과 책임 있는 활용 방안을 자문하는 컨설팅사의 보고서에서 검증 문제가 드러나면서 업계 신뢰성에도 영향을 줄 수 있다는 지적이 나온다. 30일 파이낸셜타임스(FT)에 따르면 AI 탐지 연구기관 GPTZero는 PwC 중동법인이 최근 2년간 발간한 AI 관련 보고서 4건을 조사한 결과, 생성형 AI의 도움을 과도하게 받아 작성된 정황과 함께 다수의 부정확한 각주와 출처를 확인했다. GPTZero의 조사 결과는 FT가 검증했다. 문제가 확인된 보고서에는 기업의 자율형 AI 에이전트 활용 지침, 정부의 공공서비스 개선 가이드, 중동 지역 전기차 및 자율주행차 시장 전망 보고서 등이 포함됐다. 연구진은 보고서 본문뿐 아니라 각주와 참고문헌의 신뢰성이 특히 취약했다고 판단했다. 조사 결과 상당수 인용은 실제 근거를 제시하지 못한 것으로 나타났다. 일부 각주는 해당 내용이 존재하지 않는 웹페이지를 연결했고, 다른 일부는 인용한 내용과 무관한 페이지를 출처로 제시했다. 리야드의 대기질을 다룬 것으로 소개된 한 학술논문은 해당 학술지와 저자 기록 어디에서도 확인되지 않아 AI가 허구의 논문을 생성했을 가능성이 제기됐다. 출처 선정 과정에서도 검증 부실이 드러났다. PwC는 자율형 AI의 실제 성공 사례로 소개한 JP모간의 프로젝트를 설명하면서 팔로어 약 280명을 보유한 미디엄의 10대 블로거 글을 근거 자료로 인용했다. 해당 사례는 JP모간이 기업 대출 계약서 검토 업무를 자동화해 수십만 시간의 인력을 절감했다는 내용이다. 그러나 이 프로젝트는 생성형 AI 시대가 시작되기 훨씬 이전인 2017년 처음 알려진 사례로, 챗GPT 등장 5년 전에 이미 공개됐던 것으로 전해졌다. 이번 논란은 AI 활용을 기업에 자문하는 글로벌 컨설팅업계 전반으로도 확산할 가능성이 있다. PwC를 비롯한 대형 컨설팅사들은 고객들에게 AI 도입 전략뿐 아니라 책임 있는 AI 활용과 오류 방지 정책까지 자문하고 있어, 자사 연구보고서에서 발행한 검증 실패가 신뢰도 문제로 이어질 수 있기 때문이다. 앞서 GPTZero는 EY와 KPMG가 발간한 보고서에서도 AI 환각으로 추정되는 오류를 발견했고, 두 회사 모두 해당 보고서를 철회한 바 있다. 이번 사례는 빅4 회계·컨설팅 기업 가운데 PwC까지 같은 논란에 휘말렸다는 점에서 업계의 품질관리 체계에 대한 관심을 키우고 있다. PwC 중동법인은 FT에 "발간한 연구의 정확성을 매우 중요하게 생각하며 제한된 수의 참고 인용을 수정하고 있다"고 밝혔다. 이어 "책임 있는 AI 활용 원칙에 따라 연구와 콘텐츠 개발 과정에서 품질관리 절차를 운영하고 있으며 모든 임직원이 이를 준수해야 한다"고 설명했다. 다만 오류가 보고서에 포함된 경위에 대해서는 구체적으로 설명하지 않았다. 김주완 기자 [email protected] 30일 파이낸셜타임스(FT)에 따르면 AI 탐지 연구기관 GPTZero는 PwC 중동법인이 최근 2년간 발간한 AI 관련 보고서 4건을 조사한 결과, 생성형 AI의 도움을 과도하게 받아 작성된 정황과 함께 다수의 부정확한 각주와 출처를 확인했다. GPTZero의 조사 결과는 FT가 검증했다. 문제가 확인된 보고서에는 기업의 자율형 AI 에이전트 활용 지침, 정부의 공공서비스 개선 가이드, 중동 지역 전기차 및 자율주행차 시장 전망 보고서 등이 포함됐다. 연구진은 보고서 본문뿐 아니라 각주와 참고문헌의 신뢰성이 특히 취약했다고 판단했다. 조사 결과 상당수 인용은 실제 근거를 제시하지 못한 것으로 나타났다. 일부 각주는 해당 내용이 존재하지 않는 웹페이지를 연결했고, 다른 일부는 인용한 내용과 무관한 페이지를 출처로 제시했다. 리야드의 대기질을 다룬 것으로 소개된 한 학술논문은 해당 학술지와 저자 기록 어디에서도 확인되지 않아 AI가 허구의 논문을 생성했을 가능성이 제기됐다. 출처 선정 과정에서도 검증 부실이 드러났다. PwC는 자율형 AI의 실제 성공 사례로 소개한 JP모간의 프로젝트를 설명하면서 팔로어 약 280명을 보유한 미디엄의 10대 블로거 글을 근거 자료로 인용했다. 해당 사례는 JP모간이 기업 대출 계약서 검토 업무를 자동화해 수십만 시간의 인력을 절감했다는 내용이다. 그러나 이 프로젝트는 생성형 AI 시대가 시작되기 훨씬 이전인 2017년 처음 알려진 사례로, 챗GPT 등장 5년 전에 이미 공개됐던 것으로 전해졌다. 이번 논란은 AI 활용을 기업에 자문하는 글로벌 컨설팅업계 전반으로도 확산할 가능성이 있다. PwC를 비롯한 대형 컨설팅사들은 고객들에게 AI 도입 전략뿐 아니라 책임 있는 AI 활용과 오류 방지 정책까지 자문하고 있어, 자사 연구보고서에서 발행한 검증 실패가 신뢰도 문제로 이어질 수 있기 때문이다. 앞서 GPTZero는 EY와 KPMG가 발간한 보고서에서도 AI 환각으로 추정되는 오류를 발견했고, 두 회사 모두 해당 보고서를 철회한 바 있다. 이번 사례는 빅4 회계·컨설팅 기업 가운데 PwC까지 같은 논란에 휘말렸다는 점에서 업계의 품질관리 체계에 대한 관심을 키우고 있다. PwC 중동법인은 FT에 "발간한 연구의 정확성을 매우 중요하게 생각하며 제한된 수의 참고 인용을 수정하고 있다"고 밝혔다. 이어 "책임 있는 AI 활용 원칙에 따라 연구와 콘텐츠 개발 과정에서 품질관리 절차를 운영하고 있으며 모든 임직원이 이를 준수해야 한다"고 설명했다. 다만 오류가 보고서에 포함된 경위에 대해서는 구체적으로 설명하지 않았다. 김주완 기자 [email protected]