[사설] PwC ‘AI 환각’ 파문, 문제는 인공지능보다 무너진 전문직 검증체계다
4대 회계·컨설팅사 잇단 오류는 개인 실수로 보기 어려워
AI 사용 공개·원문 대조·책임자 서명까지 품질보증 절차 의무화해야
공공·법률·의료 보고서는 오류 발생 뒤 수정으로 끝낼 수 없어
PwC 중동법인이 최근 2년간 발간한 일부 보고서에서 존재하지 않는 논문과 확인할 수 없는 출처, 부정확한 각주가 발견됐다. 기업에 인공지능 도입과 위험관리를 조언하는 글로벌 컨설팅회사의 보고서가 생성형 AI 오류로 추정되는 문제에 휘말린 것이다.
이번 사건을 AI가 가끔 그럴듯한 거짓말을 한다는 익숙한 경고로만 받아들여서는 안 된다. 더 중요한 사실은 오류가 초안에서 발생했다는 점이 아니라 조직의 검토·승인·발간 절차를 모두 통과했다는 점이다.
파이낸셜타임스가 검증한 PwC 보고서에는 존재하지 않는 학술논문과 잘못 연결된 출처, 같은 주장에 서로 다른 각주가 붙는 문제가 발견됐다. PwC는 오류를 심각하게 보고 수정 작업을 진행하고 있다고 밝혔지만, 오류가 어떤 도구와 절차에서 발생했는지에 대해서는 구체적으로 설명하지 않았다.
전문서비스 회사가 판매하는 상품은 문서의 분량이 아니다. 사실과 근거를 선별하고, 판단의 책임을 부담하며, 고객이 의사결정에 사용할 수 있도록 신뢰를 제공하는 것이 핵심이다. 보고서의 각주와 출처가 무너졌다면 상품의 외형은 남아도 전문서비스의 본질은 훼손된 것이다.
4대 회계법인의 반복된 오류, 개인의 부주의가 아니다
PwC만의 문제도 아니다. 딜로이트 호주법인은 연방정부에 제출한 약 44만호주달러 규모의 보고서에서 존재하지 않는 학술자료와 잘못된 판결문 인용이 확인된 뒤 수정본을 제출하고 계약대금 일부를 반환했다. 해당 보고서는 복지급여 제재 시스템의 적법성과 기술적 운영을 검토하는 공공 용역이었다.
EY와 KPMG도 보고서 오류로 철회나 수정을 거친 사례가 알려졌다. 4대 회계·컨설팅기업이 모두 유사한 문제를 겪었다면 이를 몇몇 실무자의 확인 소홀로 돌리기 어렵다. 보고서 생산량과 속도를 높이는 과정에서 AI가 도입됐지만, 품질보증 절차는 과거 방식에 머문 구조적 문제로 봐야 한다.
생성형 AI는 문장을 빠르게 작성하고 긴 자료를 요약하는 데 강하다. 그러나 존재하는 정보와 존재할 법한 정보를 구분하지 못할 수 있다. 특히 논문 제목과 판례번호, 통계 출처처럼 형식이 정교한 정보일수록 오류가 더 믿을 만하게 보이는 역설이 생긴다.
전문가는 AI의 출력을 비전문가보다 더 잘 검증할 수 있다. 동시에 익숙한 문체와 전문용어 때문에 오류를 지나치기 쉽다. AI가 만든 문장이 조직의 기존 보고서 형식과 유사할수록 검토자는 내용보다 형식의 완성도에 속을 수 있다.
따라서 ‘전문가가 마지막에 한 번 읽었다’는 설명은 검증체계가 될 수 없다. 작성 단계와 근거 확인, 법률 검토, 최종 승인 사이에 독립된 확인 절차가 있어야 한다.
AI 환각은 기술문제가 아니라 책임 배분의 문제다
AI 오류가 발생하면 기업은 흔히 “최종 판단은 사람이 했다”고 설명한다. 원칙적으로 맞지만 이 말만으로 책임이 명확해지지는 않는다.
보고서를 작성한 직원이 모든 책임을 지는지, 검토한 파트너가 책임지는지, 법인이 품질보증 실패를 부담하는지 구분해야 한다. 외부 AI 서비스를 사용했다면 도구 공급자의 책임 범위도 계약으로 정해야 한다.
미국 제9연방항소법원은 2026년 존재하지 않는 판례와 왜곡된 인용을 제출한 변호사들에게 금전 제재와 6개월 업무정지를 명령했다. 법원은 AI를 사용한 사실 자체보다 변호사가 문서에 서명하고 제출하면서 내용의 정확성을 검증하지 않은 점을 문제 삼았다. 향후 제출 문서에는 AI 사용 여부와 사용 도구, 변호사의 직접 검토 사실을 일정 기간 공개하도록 했다.
이 판단은 전문서비스 전반에 적용할 수 있다. AI를 사용했기 때문에 책임지는 것이 아니라, 책임 있는 전문가가 확인하지 않은 내용을 자신의 이름과 조직의 명의로 제출했기 때문에 책임지는 것이다.
에어캐나다 사례도 같은 원칙을 보여준다. 회사는 챗봇이 잘못 안내한 사별 할인 규정에 대해 챗봇을 별개의 주체처럼 주장했지만, 캐나다 브리티시컬럼비아 민사분쟁재판소는 회사가 웹사이트에서 제공한 정보에 책임이 있다고 판단했다.
AI는 법적 책임을 대신 부담하지 않는다. 조직이 AI를 활용해 고객과 국민에게 정보를 제공했다면 해당 출력은 조직의 서비스로 봐야 한다.
‘사람이 검토했다’는 문구 대신 검증 가능한 기록을 남겨야 한다
AI 보고서의 신뢰를 높이려면 추상적인 인간 감독보다 검증 가능한 절차가 필요하다. 우선 보고서 작성 과정에서 AI가 사용됐는지, 어떤 용도로 사용됐는지를 기록해야 한다.
문장 교정에만 사용했는지, 자료 검색과 요약에 활용했는지, 분석과 결론 작성까지 맡겼는지에 따라 위험 수준은 달라진다. 사용 범위가 넓을수록 검증 의무도 강화돼야 한다.
각주와 통계, 직접 인용은 AI 답변을 다시 확인하는 수준으로는 부족하다. 원 논문과 원 판결문, 정부 통계 원문을 직접 열어 실제 존재 여부와 문맥을 대조해야 한다. 검색 결과의 요약문이나 다른 AI의 답변을 검증 근거로 삼아서는 안 된다.
보고서마다 검토 책임자의 이름과 검증 범위도 남겨야 한다. 누가 재무 수치를 확인했고, 누가 법률 인용을 검토했으며, 누가 최종 발간을 승인했는지가 명확해야 한다.
미국 국립표준기술연구소는 생성형 AI 위험관리 지침에서 조직이 AI 시스템의 설계·사용·평가 전 과정에 위험관리와 시험·검증·확인 절차를 통합해야 한다고 권고한다. 이 지침은 단순한 체크리스트보다 조직문화와 책임 구조의 변화를 강조한다.
한국 기업과 공공기관도 ‘AI 활용 가이드’에서 사용 권장 사례만 나열할 것이 아니라 검증 증적을 어떻게 보존할지 정해야 한다. 프롬프트와 출력물 전체를 무기한 저장할 필요는 없지만, 최종 문서에 영향을 준 핵심 근거와 수정 이력은 감사가 가능하도록 남겨야 한다.
모든 문서에 같은 규칙을 적용할 필요는 없다
AI 규제는 위험 수준에 따라 달라져야 한다. 사내 회의 요약과 병원 진단보고서, 광고 문구와 정부 정책보고서를 같은 기준으로 다룰 수는 없다.
내부 아이디어 문서나 초안은 비교적 가벼운 검토로도 충분할 수 있다. 반면 재무·감사·법률·의료·정책 자료는 오류가 개인의 재산과 권리, 생명에 직접 영향을 미칠 수 있다.
고위험 문서에는 최소한 네 가지 절차가 필요하다. AI 사용 사실과 범위를 밝히고, 핵심 출처를 원문과 대조하며, 독립된 검토자가 확인하고, 최종 책임자가 서명해야 한다.
공공기관이 외부 컨설팅회사에 발주하는 보고서에는 계약 조건부터 이를 반영해야 한다. AI 사용을 일률적으로 금지할 이유는 없지만, 사용 사실을 숨기거나 검증 기록을 제출하지 않으면 감액·재작성·계약해지 대상이 되도록 해야 한다.
딜로이트 호주 사례에서 계약대금 일부 반환이 이뤄진 것은 중요한 선례다. 오류가 발견된 뒤 사과문을 내는 것만으로 끝나지 않고 품질 실패에 경제적 책임을 부과했기 때문이다.
전문서비스 시장에서는 신뢰가 가격의 상당 부분을 구성한다. AI를 사용해 작성시간과 인건비가 줄었다면 고객은 더 높은 검증 품질을 요구할 권리가 있다.
AI 사용 공개만으로 신뢰가 확보되는 것은 아니다
유럽연합 AI법은 범용 AI 모델 제공자에게 기술문서와 평가정보를 유지하도록 요구하고, 공익적 사안을 알리는 목적으로 생성·조작된 일부 AI 텍스트에는 공개 의무를 둔다. 법은 2026년 8월 전면 적용을 앞두고 있으며 일부 조항은 이미 시행됐다.
이 같은 투명성 규칙은 필요하지만 ‘AI로 작성했다’는 표시만으로 내용의 정확성이 보장되지는 않는다. 공개는 책임의 출발점이지 검증의 대체물이 아니다.
사람이 직접 쓴 보고서에도 오류와 왜곡이 존재한다. 반대로 AI의 도움을 받은 문서라도 원문 확인과 독립 검증을 거쳤다면 신뢰할 수 있다.
정책의 목표는 AI 문서에 낙인을 찍는 것이 아니라 오류가 발생했을 때 원인을 추적하고 책임자를 확인할 수 있도록 만드는 데 있어야 한다.
AI 사용 여부보다 더 중요한 질문은 누가 핵심 사실을 확인했는지, 어떤 근거로 결론을 내렸는지, 오류가 발견되면 누가 수정과 배상을 담당하는지다.
정부부터 AI 보고서 조달 기준을 바꿔야 한다
한국 정부와 공공기관도 행정 효율을 이유로 생성형 AI 도입을 확대하고 있다. 그러나 도입 건수와 사용률만 성과로 평가하면 보고서 생산량은 늘어도 행정 신뢰는 떨어질 수 있다.
정부는 공공 용역과 정책보고서에 적용할 AI 품질보증 기준을 마련해야 한다. 법령·판례·통계·인용문은 원자료 대조를 의무화하고, 검증되지 않은 AI 생성 출처의 사용을 금지해야 한다.
AI가 작성에 관여한 고위험 보고서는 별도 품질검수 표지를 붙일 필요가 있다. 발주기관이 문서의 AI 사용 범위와 검토 책임자를 확인할 수 있어야 한다.
오류가 발견되면 수정본만 올리는 방식도 고쳐야 한다. 어떤 내용이 왜 틀렸고, 정책 판단에 어떤 영향을 미쳤으며, 재발 방지 조치가 무엇인지 함께 공개해야 한다.
오류를 숨기거나 뒤늦게 수정한 기관과 처음부터 사용 범위와 한계를 공개한 기관을 같은 방식으로 평가해서는 안 된다. 신속한 자진 신고와 정정에는 책임을 완화하고, 은폐와 반복 위반에는 계약상 불이익을 강화하는 구조가 필요하다.
전문직의 가치는 문장 생산이 아니라 검증 책임에 있다
AI가 보고서 초안을 몇 분 안에 작성하는 시대에는 전문직의 역할도 달라진다. 과거에는 정보를 많이 알고 빠르게 문서를 작성하는 능력이 경쟁력이었다. 앞으로는 출처를 검증하고 불확실성을 설명하며 자신의 이름으로 판단을 책임지는 능력이 더 중요해진다.
회계사와 변호사, 의사, 컨설턴트, 기자가 AI보다 빠르게 문장을 쓸 필요는 없다. 대신 AI가 제시한 내용을 의심하고, 원자료를 확인하며, 잘못된 결론이 조직 밖으로 나가지 않도록 막아야 한다.
PwC 사건의 교훈은 AI를 사용하지 말라는 것이 아니다. AI를 사용하면서도 과거보다 더 엄격한 품질보증 체계를 갖추라는 것이다.
환각을 완전히 제거할 수 있는 모델이 나오기를 기다리는 것은 현실적인 해법이 아니다. 생성형 AI의 구조적 한계를 전제로 오류가 최종 문서에 남지 못하도록 절차를 설계해야 한다.
기업은 AI 사용 지침이 아니라 AI 책임 규정을 만들어야 한다. 정부도 도입 실적보다 검증 이력과 사고 대응 능력을 평가해야 한다.
AI 시대의 신뢰는 기계가 얼마나 유창하게 말하는지에서 나오지 않는다. 누가 그 말을 확인했고, 누구의 이름으로 내보냈으며, 잘못됐을 때 누가 책임지는지에서 결정된다. PwC 보고서 파문은 인공지능의 실패 이전에 전문직 검증체계의 실패다.
