클로드 일기 경찰 신고당해 징역형 위기 처하자 뒤집힌 미국 개발자들
미국에서 한 여성이 앤스로픽의 AI 챗봇인 '클로드'를 일기장처럼 사용하다가, AI가 일기 내용을 경찰에 신고하면서 중범죄 혐의로 체포되는 일이 벌어졌음. 플로리다주 법에 따라 보안관 사무실을 공격하겠다는 내용의 글을 쓴 혐의를 받고 있다는데, 이 소식이 전해지자 해외 커뮤니티에서는 엄청난 갑론을박이 벌어지고 있음.
가장 먼저 나오는 이야기는 '아니, AI랑 대화하는 게 일기장 쓰는 거랑 뭐가 다르냐, 이건 명백한 사생활 침해다'라는 입장임. 사람들이 챗봇이나 클라우드 문서에 쓰는 내용을 기업이 몰래 들여다보고 경찰에 넘기는 건 빅브라더나 다름없다는 지적임. 내가 내 방에서 혼자 쓴 일기나 다름없는데 이걸 검열하고 신고하는 게 맞냐는 반응이 많음.
반면 기업 입장이 이해된다는 반응도 만만치 않음. 실제 총기 난사나 범죄 예고 사건이 터졌을 때 'AI가 알고도 방치했다'며 기업을 탓하는 언론과 대중의 반응을 생각하면, 앤스로픽 입장에서도 안 신고하면 욕먹고 신고하면 사생활 침해 소리 듣는 진퇴양난이라는 것임. 실제로 테라피스트나 변호사도 심각한 범죄 예고는 신고할 의무가 있는데 AI라고 예외일 수 있냐는 의견도 나옴.
결국 기술을 쓰는 사람들이 '내 컴퓨터가 아니면 내 데이터도 아니다'라는 점을 명심해야 한다는 자조 섞인 목소리가 큼. 오픈소스 모델을 로컬에 직접 구축해서 쓰거나 프라이버시가 보장되는 환경을 찾아야 한다는 사람들도 늘고 있음. AI가 우리 일상을 너무 깊숙이 파고든 시대에 과연 어디까지를 사생활로 봐야 할지 복잡한 화두를 던진 사건임.[1]
so*****zer
앤스로픽의 입장이 어느 정도 이해는 갑니다. 오픈AI가 비슷한 상황에서 신고를 안 했다가 뭇매를 맞는 걸 봤으니까요. 하지만 사람들은 자신이 비밀 친구랑 얘기하는 게 아니라 빅테크와 대화하고 있다는 걸 명심해야 합니다.
ap****nt
이 여성이 어떻게 법을 위반했는지 잘 모르겠네요. 플로리다 법에 따르면 살해 협박 등을 전송하거나 게시해야 하는데, 이건 그냥 일기장에 쓸 내용을 적은 것뿐이잖아요. 법적으로 좀 억지스러운 기소 같습니다.
a*i
우리는 고등학교 등에서 LLM이 어떻게 작동하고 어떻게 훈련되는지 가르치는 수업이 정말 필요합니다. 사람들이 이걸 알면 AI 공포증도 줄어들 텐데요. 그리고 '내 컴퓨터가 아니면 내 데이터도 아니다'라는 걸 깨달아야 합니다.