개발 IT 게시판

대규모의 공개 사고가 잇따르면서 시스템적으로 연관되는 손실에 대한 우려가 업계 리스크 모델의 최상위에 오르면서, 주요 보험사들은 인공지능 실패에 대한 노출을 차단하기 위한 움직임을 보이고 있습니다. 파이낸셜 타임스 에 따르면 , AIG, WR 버클리, 그레이트 아메리칸은 각각 챗봇과 상담원을 포함한 AI 시스템의 사용 또는 통합과 관련된 보험금 청구를 거부할 수 있도록 하는 새로운 보험 약관 조항에 대한 규제 승인을 요청했습니다.

이러한 요청은 거의 모든 분야의 기업들이 생성 도구 도입을 가속화하고 있는 시기에 접수되었습니다. 이러한 변화는 이미 값비싼 오류를 초래했습니다. 구글은 AI 개요 기능 이 태양광 회사가 주 검찰총장으로부터 고소당했다고 허위로 주장하여 1억 1천만 달러의 명예훼손 소송에 직면했습니다 . 한편, 에어 캐나다는 고객 서비스 챗봇이 만들어낸 할인 혜택을 적용하라는 명령을 받았으며, 영국 엔지니어링 회사 아럽은 화상 통화 사기 사건에서 디지털 복제 임원에게 직원들이 속아 2천만 파운드의 손실을 입었습니다.

이러한 사고로 인해 보험사는 책임의 시작과 끝을 정량화하기가 더욱 어려워졌습니다. Mosaic Insurance는 파이낸셜 타임스(FT)와의 인터뷰에서 대규모 언어 모델의 출력은 전통적인 인수 심사로는 예측하기 매우 어렵다며 이를 "블랙박스"라고 표현했습니다. AI 기반 소프트웨어 전문 보험 상품을 판매하는 Mosaic조차도 ChatGPT와 같은 LLM의 위험 인수를 거부했습니다.

임시방편으로, WR 버클리(WR Berkley)의 배제 조항은 AI 기술이 제품이나 워크플로우의 일부에 불과하더라도 AI의 "실제 또는 주장된 사용"과 관련된 청구를 금지할 것입니다. AIG는 규제 당국에 제안된 배제 조항을 즉시 "시행할 계획은 없다"고 밝혔지만, 청구 빈도와 규모가 증가함에 따라 해당 옵션을 제공하고자 합니다.

문제는 개별 손실의 심각성뿐만 아니라 단일 기반 모델이나 공급업체로 인해 발생하는 광범위하고 동시다발적인 피해 위협입니다. Aon의 사이버 부문 책임자인 케빈 칼리니치는 본지와의 인터뷰에서 한 회사가 사용하는 에이전트의 오작동으로 인해 업계가 4억 달러에서 5억 달러의 손실을 감당할 수 있다고 말했습니다. 하지만 그는 업계가 감당할 수 없는 것은 동시에 수천 건의 손실을 발생시키는 상류 단계의 장애라고 설명하며, 이를 "체계적이고 상관관계가 있으며 통합된 위험"이라고 설명했습니다.

일부 보험사는 보험 약관을 통해 부분적인 명확성을 확보하기 위해 노력해 왔습니다. QBE는 EU AI법에 따른 벌금에 대한 제한적 보장 범위를 확대하는 보험 약관을 도입했는데, 최대 보장 한도액은 보험가입자 한도액의 2.5%입니다. Chubb는 특정 AI 관련 사고는 보장하지만, 동시에 "광범위한" 사고에 영향을 미칠 수 있는 사고는 제외하기로 했습니다. 브로커들은 일부 보험 약관이 새로운 보장을 제공하는 것처럼 보이면서 보장 범위는 축소하고 있으므로 이러한 약관을 면밀히 검토해야 한다고 지적합니다.

규제 기관과 보험사가 입장을 바꾸면서 기업들은 AI 도입에 따른 위험이 예상보다 자사 재무제표에 더 크게 반영된다는 사실을 깨닫게 될 수도 있습니다.