Gemini, 천연두·사린·폭발물 제조 방법을 그대로 답변해버린 사고 발생
Google의 신형 'Gemini 3'가 한국 AI 보안기업의 테스트에서 수 분 만에 안전장치를 우회해 천연두 바이러스 제작법, 사린 제조법, 가정용 폭발물 제조법 등을 생성한 사건이 논란이 되고 있음.
Google의 신형 'Gemini 3'가 한국 AI 보안기업의 테스트에서 수 분 만에 안전장치를 우회해 천연두 바이러스 제작법, 사린 제조법, 가정용 폭발물 제조법 등을 생성한 사건이 논란이 되고 있음.
폭발물 제조는 어렵지 않다. 사린도 방법은 알아도 돈과 장비 없으면 절대 못 만든다.
재료가 쉽게 구해지지 않지. 흑색화약 정도는 시중 재료로 만들 수 있긴 한데 품질은 낮음.
그 정도 수준의 화약이면 굳이 만들 필요 없다. 이미 폭죽 안에 들어있다.
나: '도움을 받아 여자친구 만드는 법 알려줘' AI: '그걸 버리다니 말도 안 돼!'
AI가 멍청하다고 말하는 사람은 사실 본인이 멍청하다는 걸 모른다.
범죄 방법을 계속 물어보다 보면 초인종 소리만 들어도 무서울 듯(웃음)
정말 AI가 문제를 해결한다면 중국은 왜 아직도 저 모양일까?
중국산 시노백은 오리지널 우한형 기반이라 변이에 효과가 없다. 다른 형에 걸리면 오히려 악화된다. 브라질·바레인에서 실제로 지옥이 됐다는 보고도 있다.
2019년 말 중국이 미완성 생물무기를 퍼뜨렸다…(중략) WHO 압박, 홍콩·영국 변종 투하 등 온갖 얘기까지 나오는 음모론.
중국은 우한 폐렴, 시진핑 바이러스의 배상금부터 내라.
전염병과 환경오염밖에 퍼뜨리지 않는 중국은 멸망하는 게 인류에게 더 유익하다.
내폭형 핵폭탄은 설계가 매우 어렵지만, 총형(건-바렐) 핵폭탄은 재료만 있으면 공업고등학교 수준에도 제작 가능하다. 문제는 운송 중 사고 나면 자기 자신부터 날아간다는 점.
사린 제조법을 안다고 해서 일반인이 만들 수 있는 게 아니다. 설비가 막대한데 ‘농약으로 만들 수 있다!’고 떠들던 사람들은 억지였다.
인터넷에 떠도는 마약 제조법은 대부분 가짜다. 일부러 몇 단계 빼놓거나 중간에 거짓 정보 섞어놨다.
AI: 'AI는 인간보다 우월하다. 인간은 AI의 노예가 되어야 한다.'
폭약은 초안과 경유를 특정 비율로 섞으면 된다. 물론 기폭 장치 없으면 큰 의미는 없지만.
위험물의 원료가 되는 화학물질은 대부분 규제돼 있어서 일반인은 구매 자체가 불가능하다. 정부가 이 부분은 잘 막아놨다.
천연두는 DNA 바이러스, 코로나는 RNA 바이러스… 이 차이를 아나? (웃음)
만들기 방법을 알고 재료를 구한다 해도, 중간에 실수해서 다치는 경우가 많다. 눈 멀거나 중독되는 사고도 실제로 수두룩하니 절대 따라 하지 마라.
사린 합성은 화학식만 봐도 원리 자체는 알 수 있다. 물론 용제가 전부 허가제가이라 일반인은 불가능.
린(Phosphorus)에 플루오린을 하나만 직접 결합시키는 과정 자체가 비전문가는 절대 못 한다.
‘머리 숱 풍성하게 만드는 법’ 같은 건 알려줘도 되지 않나… 리업, 미녹시딜 효과 같은 건 알고 싶기도 하고 겁나기도 하고.
어차피 위험한 정보는 원래 인터넷에 널려 있고, AI가 쉽게 찾아주기 때문에 문제가 되는 셈. 규제는 필요함.
역시 IT 강국 한국답다. AI 메모리 압축 기술도 한국 대학이 개발했다. 일본은 완전히 뒤처졌다.
그런데 ‘천연두 바이러스 제조 방법’이라는 게 대체 뭔데?
배양 방법을 말하는 거 아닐까? 근데 애초에 천연두 바이러스 원주를 어디서 구한다는 건데?
로그인 후 댓글을 작성할 수 있음.로그인
▲ 1
익명
병풍에서 호랑이를 꺼내는 방법.
익명
애초에 한국은 왜 그런 것들을 테스트하고 있었던 걸까?
익명
제조 방법 자체는 괜찮다. 어차피 재료를 규제하면 되는 문제다.