생성형 AI 오답으로 손해 났을 때 누가 책임지나…오픈AI·구글·MS 약관 비교해보니
생성형 AI가 틀린 답을 내놓아 금전적 손해가 발생했을 때 서비스 업체가 바로 배상하는 구조로 이해하면 실제 계약과는 거리가 있다. 2026년 10월 현재 주요 사업자의 공개 약관을 확인한 결과, 공통점은 분명했다. 사업자들은 생성형 AI 출력의 부정확성 가능성을 미리 고지하고, 이용 기업에 인간 검토와 사용 통제를 요구한다. 반면 예외적으로 열어둔 면책 범위는 대체로 저작권 등 제3자 지식재산권 분쟁에 집중돼 있었다.
이는 기업이 생성형 AI를 도입할 때 검토해야 할 위험이 단순한 사용료나 모델 성능 비교에 그치지 않는다는 뜻이기도 하다. 실제 손해가 발생했을 때 책임은 서비스 사업자, 도입 기업, 최종 사용자, 별도 보험계약 사이에 쪼개질 가능성이 크다. 같은 ‘AI 서비스’라도 공급계약의 책임 배분, 손해배상 상한, 베타 기능 취급, 보험의 담보 방식이 제각각이기 때문이다.
오답 자체보다 좁은 면책 범위, 공개 약관의 핵심은 ‘IP 분쟁’
오픈AI의 기업용 서비스 계약과 서비스 약관을 보면, 공개적으로 확인되는 보상 장치는 출력물의 일반적 오류 전반이 아니라 제3자의 지식재산권 침해 주장에 맞춰져 있다. 오픈AI는 API와 엔터프라이즈 고객에 대해 출력물 사용·배포가 제3자의 지식재산권을 침해했다는 청구와 관련한 면책 조항을 두고 있지만, 이용자가 침해 가능성을 알았거나 알 수 있었던 경우, 안전 기능이나 인용·필터 기능을 끈 경우, 출력물을 수정하거나 외부 서비스와 결합한 경우 등에는 적용하지 않는다고 적시했다. 별도 서비스 계약에서는 당사자 책임 총액도 원칙적으로 사고 직전 12개월 동안 고객이 지급한 금액으로 제한하고 있다.
구글 클라우드도 구조는 비슷하다. 생성형 AI 서비스가 부정확하거나 공격적인 결과를 낼 수 있고, 고객의 법적·규제상 의무를 충족하도록 설계된 것은 아니라고 명시하면서도, 추가 면책 의무는 유료로 제공되는 일부 지정 서비스에만 붙인다. 현재 공개 목록에는 Gemini for Google Cloud, Gemini Enterprise Agent Platform API의 일부 일반공개 모델, NotebookLM Enterprise, Gemini in Workspace, Google Vids 등이 포함돼 있다. 다만 고객이 침해 가능성을 알면서 출력물을 사용했거나, 구글이 제공한 출처표시·필터·도구를 비활성화했거나, 권리자의 통지를 받고도 계속 쓴 경우 등은 제외 사유다.
앤스로픽의 상업용 약관도 같은 흐름이다. 공개 문서상 방어·면책 의무는 고객의 유료 사용이나 그에 따른 출력물이 제3자의 지식재산권을 침해했다는 청구를 중심으로 설계돼 있고, 고객이 출력물을 수정하거나 외부 기술과 결합한 경우, 입력 데이터 자체에 문제가 있는 경우 등은 제외된다. 손해배상도 통상 직전 12개월 사용료 한도로 제한한다. 세 회사 모두 ‘AI가 틀린 답을 해서 발생한 영업 손실’ 전반을 공개 약관만으로 넓게 떠안는 구조는 아니라는 점이 공통적이다.
마이크로소프트는 고객 책임을 더 전면에 둔다
마이크로소프트의 공개 Product Terms와 AI 서비스 행동규범에서 두드러지는 대목은 애플리케이션 설계와 운영 책임을 고객 쪽에 명시적으로 돌린다는 점이다. 마이크로소프트는 고객이 자사 AI 서비스를 이용해 만든 애플리케이션이나 AI 에이전트의 설계·개발·사용, 관련 법규 준수 책임을 진다고 적고 있다. 최종 이용자에게 필요한 동의, 경고, 고지도 고객 책임이라고 못 박았다.
책임 배분만 그런 것은 아니다. 마이크로소프트는 별도 책임 있는 AI 안내 문서에서 기업이 숫자나 사실 오류 가능성을 사용자에게 표시하고 외부 검증을 유도하라고 권고한다. AI 출력, 결정, 행동이 사람에 의해 이뤄진 것처럼 오인되지 않도록 고지할 의무도 강조한다. 이번에 확인한 공개 문서만 놓고 보면, 마이크로소프트는 서비스 사업자의 포괄 책임을 약속하기보다 고객이 배포 단계에서 통제 장치와 사용자 경고를 설계해야 한다는 점을 더 강하게 전면화하고 있다.
‘모든 AI 업체가 전부 면책’도, ‘보험이 다 해결’도 아니다
여기서 반례도 있다. 생성형 AI 사업자들이 아무 책임도 지지 않는다고 보는 해석은 공개 문서와 맞지 않는다. 오픈AI·구글·앤스로픽은 적어도 일정한 조건 아래에서 출력물 관련 지식재산권 분쟁에 대한 방어·면책 구조를 두고 있다. 다만 그 범위가 좁고, 고객의 사용 방식에 따라 쉽게 빠져나갈 수 있도록 예외가 촘촘하다는 점이 문제의 핵심이다. 다시 말해 책임이 ‘0’인 것이 아니라, 고객이 기대하는 범위와 실제 계약 범위 사이에 큰 간극이 있는 셈이다.
보험도 마찬가지다. 뮌헨리는 자사 AI 전용 보험 솔루션인 aiSure를 2018년부터 인수해 왔다고 밝히고 있고, 생성형 AI와 관련해서도 학습데이터 저작권 침해나 출력물로 인한 2차 책임 가능성을 위험 항목으로 제시한다. 그러나 중개사 마시는 기존 보험에 AI 제외 조항이 없다고 해서 곧바로 담보가 인정되는 것은 아니며, 차액조건형 책임보험, 성능보증형 담보, 계약상 인수한 책임을 메우는 별도 보험이 필요할 수 있다고 설명한다. 결국 보험시장은 범용 보장보다 개별 사용처별 맞춤 설계에 가까운 상태다.
한국 기업이 봐야 할 지점은 약관보다 개별 계약서다
한국 법체계에서도 사업자의 면책이 무제한 허용되는 것은 아니다. 약관의 규제에 관한 법률은 사업자나 그 이행보조자, 피고용자의 고의 또는 중대한 과실로 인한 법률상 책임을 배제하는 조항을 무효로 보고, 상당한 이유 없이 품질·성능 등에 관한 보장 책임을 배제하거나 제한하는 조항도 금지한다. 다만 이 원칙만으로 곧바로 생성형 AI 오답 손해의 책임 귀속이 자동 결정되는 것은 아니다. 실제 분쟁에서는 약관이 소비자 대상인지 기업 간 거래인지, 개별 협상한 조항이 있는지, 어떤 손해가 직접손해인지 간접손해인지, 사용자 검토 의무를 어느 정도 이행했는지가 함께 따져질 가능성이 크다.
그래서 실무상 더 중요한 문서는 홈페이지에 공개된 일반 약관보다 주문서, 서비스 수준 협약, 보안 부속서, 데이터 처리 부속서, 개별 면책 특약이다. 어느 모델과 기능이 면책 대상인지, 베타 기능이 섞여 있는지, 출력물 오류가 인명·금융·법률 판단으로 이어지는 고위험 업무인지, 공급사가 약속하는 것은 결과 보증인지 단순 도구 제공인지가 계약서마다 달라진다. 특히 AI를 외부 고객에게 다시 제공하는 기업이라면 공급사 약관보다 자사가 최종 고객에게 넘기는 보증 문구와 책임 상한이 더 큰 위험이 될 수 있다.
결국 생성형 AI 오답 손해의 책임 문제는 ‘AI 회사가 배상하느냐 아니냐’의 단순한 찬반이 아니다. 공개 약관을 기준으로 보면 빅테크의 기본선은 부정확성 고지, 고객의 인간 검토 의무, 제한된 지식재산권 면책, 사용료 기준 책임 상한으로 수렴한다. 그 위에서 실제 위험을 줄이려면 기업은 고위험 업무에서의 인간 승인 절차, 출력 검증 기록, 벤더별 면책 대상 기능 확인, 재위탁·재판매 시 책임 역전 여부, 그리고 부족한 구간을 메울 별도 보험이나 성능보증 계약까지 함께 설계해야 한다.
자료: OpenAI, OpenAI Services Agreement(Effective January 1, 2026); OpenAI, Service Terms(확인 2026.10.23); Google Cloud, Service Specific Terms(확인 2026.10.23); Google Cloud, Generative AI Indemnified Services(확인 2026.10.23); Microsoft, Product Terms(확인 2026.10.23); Microsoft, Code of Conduct for Microsoft AI Services(Version 2.0, 2025.4.1); Microsoft, Overview of Responsible AI practices for Azure OpenAI in Foundry Models(확인 2026.10.23); Anthropic, Commercial Terms of Service(확인 2026.10.23); 국가법령정보센터, 약관의 규제에 관한 법률(시행 2024.8.7.); Munich Re, Frequently Asked Questions: aiSure(확인 2026.10.23); Marsh, AI-enabled cybersecurity, governance, and other considerations for clients(확인 2026.10.23)