챗GPT로 살인법 배웠다는 보도에 쏟아진 반박

제목과 실제 사건

해외 기술 커뮤니티에 한국 사건 기사가 올라왔음. 제목은 한국의 여성 연쇄살인범이 챗GPT로 수면제를 이용해 사람 죽이는 법을 배웠다는 거였음.

댓글에서 기사 내용을 인용해준 사람들이 있었음. 21살 여성이 남성 2명을 살해한 혐의로 기소됐다는 대목이었음. 이름은 김씨 성만 공개됐다고 함.

피해자는 셋이고 그중 한 명은 살아남았다는 설명도 붙었음. 시기도 나왔음. 12월에 처음 시도했을 때 그 남성은 의식을 잃는 데 그쳤고, 2월에 나머지 두 명이 숨졌다는 거임.

경찰이 휴대전화를 분석해 찾았다는 질문 세 개도 인용됐음. 수면제를 술과 함께 먹으면 어떻게 되는지, 얼마나 먹으면 위험한지, 사람이 죽을 수도 있는지였음.

기사 출처가 BBC라는 언급도 있었음.

그냥 검색해도 나온다

추천 1위 댓글은 한 줄이었음. 솔직해지자, 저건 구글에 쳐도 나온다는 거임. 1229표를 받았음.

직접 해보고 결과를 적은 사람도 있었음. 수면제와 술을 같이 검색하니 죽을 수도 있다는 내용이 바로 떴고 AI 요약에도 그렇게 나왔다는 거임. 다른 표현으로 바꿔 검색했더니 AI 요약은 꺼졌지만 미국 질병통제센터 자료가 대신 붙었다고 했음. 챗GPT 쪽은 첫 번째 질문은 막았는데 두 번째 표현에는 다 답했다고 함. 그런데 답이 나오던 화면이 도중에 바뀌면서 안전상의 이유로 보여줄 수 없다는 문구로 대체됐다고 적었더라.

레딧에서도 얻을 수 있는 정보라는 댓글이 214표를 받았음.

책으로도 배울 수 있는데 그럼 책을 금지하냐는 반문도 나왔음. 해부학 책이 있다고 의학 도서관을 닫으라는 소리 같다는 댓글도 붙었고. 총알로 사람이 죽었다고 탄약 회사를 닫으라는 격이라는 비유도 있었음. 도구가 아니라 사람 문제라는 얘기였음.

약 설명서만 읽어도 알 수 있다는 댓글도 있었음. 이 사람은 자기가 거대 언어 모델을 좋아하는 편은 아니라면서도, 이건 쉽게 찾아지는 걸 챗GPT에 갖다 붙인 거라고 했음.

소설 쓰는 척하고 물어보면 필터를 넘긴다는 얘기도 잠깐 나왔는데, 그 수법은 이미 막혔다는 답이 달렸음.

연쇄살인범 기준 논쟁

제목에 붙은 연쇄살인범이라는 말도 걸고넘어졌음.

두 명을 죽이면 연쇄살인범이 되는 거였냐는 댓글이 172표를 받았음. 검색해보니 그 호칭을 붙이려면 최소 3명은 돼야 한다는 게 통설이라 한 명 모자란다는 답이 붙었음.

연쇄가 아니라 반복이나 독살이라는 표현이 맞다는 지적도 나왔음. 세 명을 노리긴 했다는 정정도 달렸고.

그 뒤로는 연쇄라는 단어를 가지고 만든 말장난이 줄줄이 이어졌음.

의사가 원래 알려주는 내용

이 정보 자체가 감출 거리가 아니라는 반응이 많았음.

그건 그 약을 처방하는 의사의 가장 기본적인 책임 아니냐는 댓글이 105표였음. 자기 의사도 처방받은 약에 술을 마시면 위험하고 죽을 수도 있다고 딱 잘라 말해줬다는 댓글이 붙었고. 여기엔 비꼬는 답이 달렸음. 그렇게 말해주는 게 당연한 거지, 종업원이 접시 뜨겁다고 알려준 걸 놀랍다고 하는 거냐는 거임.

사람들이 실수로 같이 먹지 않으려면 그걸 알아야 하는 거 아니냐는 댓글도 69표를 받았음.

더 근본적으로 짚은 사람도 있었음. 수면제와 술을 같이 먹으면 안 된다는 걸 알려면 그게 위험하다는 사실부터 알아야 한다는 거임. 그래서 암은 고치되 새 바이러스는 못 만드는 AI를 만들라는 요구가 사실상 불가능하다고 했음. 두 가지에 필요한 지식이 똑같아서라는 얘기였음.

간호학교에서 배운 것만으로도 치명적인 약을 잔뜩 알게 됐다는 댓글도 있었음.

한국이 정보를 막는다는 주장

한국 상황을 설명하려는 댓글도 있었음. 한국은 자살률이 높아서 자살 방법이나 쉽게 죽을 수 있는 약물 조합 정보를 엄격히 규제하는데, 이 여성은 챗GPT로 알아냈다는 거임.

바로 반박이 붙었음. 지금 한국에 있다는 사람이었는데, 여기서도 부작용으로 죽을 수 있는 것들을 얼마든지 검색할 수 있다고 했음. 그리고 앞사람 말대로 그 정보는 누가 약과 술을 실수로 섞었을 때 사람을 살리는 데 쓰이기도 하니, 규제 대상이라고 주장할 수 없다는 거임.

같은 얘기를 한 댓글이 하나 더 있었음. 이 정보는 의사가 약을 처방하며 알려주는 내용이고, 실수로 섞는 걸 막으려고 한국에서도 온라인에 공개돼 있다는 거임.

그래서 챗GPT가 한 게 뭐냐

기사 안쪽을 따져보니 챗GPT가 알려준 게 딱히 없다는 지적도 나왔음.

첫 시도가 실패했고 다음엔 양을 늘렸다는 대목을 짚은 댓글이었음. 그러면 챗GPT로 제대로 섞는 법을 배운 게 아니라 그냥 될 때까지 양을 늘린 거라는 거임. 기삿거리가 아니라고 정리했음.

인용된 질문들을 보면 그냥 검색창처럼 쓴 것뿐이라는 댓글도 있었음.

애초에 상대가 그 약을 먹게 만드는 부분은 챗GPT로 어떻게 했냐는 물음도 나왔음.

여기서 뉴스 가치를 되묻는 댓글이 66표를 받았음. 이미 많은 사람에게 챗GPT가 구글 검색을 대체했는데 이게 무슨 새 소식이냐는 거임. 사람들이 챗GPT를 자꾸 무슨 존재처럼 대하려 든다는 지적도 붙었음.

우리가 기다린 생산성 향상은 이게 아니라는 댓글도 있었고, AI가 쓸모없다더니 아니냐는 비꼬는 댓글도 있었음.

게임 탓하던 시절 소환

예전 유행하던 걱정들이 줄줄이 소환됐음.

요즘 애들은 저러냐면서, 자기 때는 콜 오브 듀티와 배틀필드 같은 폭력적인 게임으로 배웠다는 농담이 71표를 받았음. GTA 하던 시절이 스쳤다는 댓글도 붙었고.

좀 더 길게 적은 사람도 있었음. 레딧의 밀레니얼 세대가 자기 부모처럼 변해서 정부한테 권리를 걷어가고 인터넷을 더 검열해달라고 하는 게 씁쓸하다는 거임. 콜럼바인 총격범 중 한 명이 둠 맵을 만들었다는 이유로 부모들이 폭력 게임에 질겁하던 때가 떠오른다고 했음. 챗GPT와 소셜 미디어는 부실한 양육과 더 깊은 사회 문제를 뒤집어씌울 최신 희생양일 뿐이라고 적었음.

1990년대 식으로 구글은 악마의 자식이라고 외쳐보자는 농담도 나왔음.

자기는 이걸 오래전에 다 배웠다면서 목록을 늘어놓은 댓글도 있었음. TV 뉴스, 라디오 뉴스, 형사 콜롬보, 제시카의 추리극장, 책, 영화 같은 것들이었음. 그러니 이건 뉴스가 아니라는 거임. 챗GPT가 수면제를 잔뜩 먹으면 딸꾹질이 멈춘다고 하면 그때 다시 오라고 적었더라.

술이랑 수면제 같이 먹던 사람들

댓글창에서 자기 얘기를 꺼낸 사람도 있었음.

일 때문에 불면증이 생겨서 몇 달째 수면제랑 술을 같이 먹고 있었다는 댓글이었음. 이게 위험한 줄 몰랐다며 이제 끊어야겠다고 적었음. 마지막엔 챗GPT한테 물어볼 걸 그랬다고 비꼬았고.

의사가 그걸 설명 안 했으면 잘못한 거라는 답이 붙었음. 처방 없이 구한 약이면 얘기가 다르다고도 했음.

독일에서는 진통 성분에 잠 오는 성분, 잠 깨는 성분, 알코올까지 섞인 감기약을 그냥 판다는 댓글도 있었음. 미국 나이퀼도 마찬가지 아니냐는 답이 붙었고. 코카인이랑 헤로인, 술, 대마 성분까지 다 넣던 옛날 약 같다는 농담도 나왔음.

술로 잠을 청한다는 말에는 되묻는 댓글이 여럿이었음. 술은 잠드는 느낌만 줄 뿐 수면을 크게 방해한다는 거임. 렘수면을 흐트러뜨려서 잠들긴 해도 질은 엉망이라는 설명이 붙었음.