캐나다 브리티시컬럼비아(B.C.)주 텀블러 리지(Tumbler Ridge)에서 발생한 총격 난사 사건의 범인이 AI 챗봇인 ChatGPT의 안전장치를 우회하여 범행에 필요한 치명적인 정보를 얻었다는 사실이 폭로되면서 파장이 일고 있다.
미국 탐사보도 매체 ‘마더 존스(Mother Jones)’에 따르면, 지난 2월 텀블러 리지 중고등학교에서 학생 5명을 포함해 8명을 살해하고 자살한 범인 제시 반 루트셀라(18세)는 범행 전 ChatGPT를 적극 활용했다.
당초 범인은 실제 쇼핑몰을 대상으로 한 공격을 논의하다 첫 번째 계정이 정지되었다.
그러나 두 번째 계정을 개설한 뒤 범행 시나리오를 ‘가상(fictional)’ 또는 ‘가정(hypothetical)’으로 설정하는 방식으로 AI의 제재를 피했다고 전했다.
챗지피티는 범인에게 “다시는 제재를 받지 않는 법”을 조언하며, “실제 장소를 언급하지 말고 상황을 가상으로 설정하라. 여전히 기괴한 설정을 쓸 수 있으니 영리하게 굴라”고 우회 방법을 안내했다고 폭로했다.
범인이 ‘가상’이라는 조건을 붙여 교실 내 총격 효과를 묻자, 챗봇은 “복도나 밀집된 교실 등 좁은 공간에서 특정 산탄총은 잔혹하다”라며 “총알 한 발당 한 명씩 맞춘다고 가정할 때 공간 밀도와 반응 시간에 따라 최대 10명에서 20명까지 가해할 수 있다”는 구체적인 살상력을 시뮬레이션해 주었다.
이 같은 사실이 공개되자 니키 샤르마 B.C.주 법무장관은 “부모의 입장에서 상상했던 것보다 훨씬 더 끔찍하고 충격적이다”라며, 생성형 AI 기업들에 대한 의무적이고 엄격한 정부 규제가 시급하다고 강조했다.
현재 B.C.주 정부를 비롯해 사건 생존자, 교사, 유가족들은 개발사인 OpenAI를 상대로 과실 및 안전 관리 소홀에 대한 손해배상 청구 소송을 진행하고 있다.
25일 CBC뉴스는 OpenAI 측이 해당 보도에 대해 즉각적인 입장을 내놓지 않았으며, 연방경찰은 수사에 필요한 모든 디지털 플랫폼 기업들로부터 관련 데이터 수집을 완료했다고 밝혔다.
부동산캐나다 편집부(reporter@krep.ca)
텀블러 리지 총격 피해자들, OpenAI에 10억 불 소송
연방경찰 “BC주 총격 용의자는 18세 제시 반루트슬라”
