AI가 10년 안에 우리 다 죽인다며 퇴사한 연구원 소식 본 일본 반응

요즘 자주 생각하지만 옛날 영화나 만화에서 보던 세상이네 이거. 이 세계를 예언했던 선인들 대단하지 않아?

제대로 자율적인 판단을 할 수 있게 돼서 그렇게 된다면 좋겠지만 인간에게 의존한 채 인간을 절멸시켜 버리면 둘 다 살아남을 수 없음...

지금까지 뒤에서 세계 경제를 주물렀던 특권계급 소수 그룹이 AI로 대체될 뿐임. 특권의식 가진 인간보다는 AI가 차라리 더 자비로울지도 모름. 반려동물 애호가보다 목축업자가 어떤 의미에서는 가축을 더 자비롭게 다루잖아.

생성 AI로 인류가 절멸하기 전에 제3차 세계대전이 일어나서 허무하게 절멸하는 거 아님? 결국 방대한 반도체와 전기 에너지로 계산시키고 있을 뿐이니까 후자가 없어지면 그냥 고철 덩어리 될 테고.

10년 이내라든가 10%라든가에는 논란이 있겠지만 카타스트로프를 일으킬 개연성이 있다는 건 누구나 인정하는 바일 것임.

ASI를 만들면 10% 확률로 인류가 멸망한다고 해도, 안 만들면 거의 100% 확률로 100년 안에 내가 죽을 테니까 ASI를 만드는 쪽이 내가 살아남을 확률이 훨씬 높음. 그러니까 개발자들이 만들고 있는 거 아닐까.

인간? 생체 부품인데요, 뭔가?

AI 그 자체로는 전원이 놀고먹을 수 있는 가능성도 있음. 다만 자원에 한계가 있는 이상 사람이 사람을 죽이기 위해 AI가 사용되면서 고확률로 멸망이.

지금 당장이라도 좋아.

“콕슨 씨는 ‘그들은 자기 개선형 초지능을 향해 맹렬히 돌진하며 우리의 목숨을 도박에 걸고 있다’고 지적.”

‘AI를 구축하고 있는 사람들은 그것이 향후 10년 이내에 우리(인류) 전부를 죽일 가능성이 있다고 진심으로 믿고 있다. 이건 마케팅상의 과장이 아니다’

전쟁에서의 완전 승리를 군사 제갈량에게 묻듯 매일 AI에게 묻는 재상이 있어도 이상하지 않음. 그리고 그걸 실행에 옮기는 놈이 나타나는 날도 오겠지. AI 자체에 살해당하는 게 아니라 맹신하고 조종당하는 노예는 쉽게 상상할 수 있음.

별을 잇는 것.

AI에 위기감을 품는 것 자체는 이해하지만 '앞으로 10년 이내에 우리(인류) 전부를 죽일 가능성이 있다'는 건 도저히 의미를 모르겠음. 핵 버튼을 AI한테 맡기는 얘기라도 진행 중임?

가장 신뢰해서는 안 되는 것 중 하나: 퇴사 이유

미국이 안 해도 중국이 하니까 어쩔 수 없음. 이대로 돌진해.

인류의 대부분을 멸망시키는 게 군산복합체인가, 의산복합체인가, 초AI인가, 외계 생명체인가... 아주 축제 판이네 이거.

이런 기업에서 AI를 개발하는 친구도 '몇 년 후에 제 목을 조를 거라고 생각하면서 만들고 있다'고 하더라. 하지만 안 하면 지금 목이 잘리니까 어쩔 수 없이 한다고. 무서운 구조이면서 동시에 일본 고용 형태로는 절대 못 만들겠지.

조금 전까지만 해도 인공지능 엄청 좋은 이야기만 나오다가(인류는 노동에서 해방된다 등) 갑자기 제정신 차리니까(현자타임) 아무도 안 믿어줌.

경쟁에서 내리면 내리지 않은 녀석에게 먹힐 뿐이니까 힘내서 올라탈 수밖에 없지.

일단 생성 AI 사용자는 윤리관도 리터러시도 낮으니까 다가오지 말고 구분됐으면 좋겠다고 생각함.

현행 AI로라도 인간에게 딸리는 부분은 피지컬과 원츠 내는 거밖에 없음. '인간에게 사랑받는 것'조차 AI가 더 잘하니까... 그중에는 '인간이라는 것' 외에는 가치가 없어질 걸.

용도 자체도 노인이나 장애인 서포트 같은 인류 복지 향상을 기대했는데 실제 내용은 투기와 해고와 사람 죽이기니까. 피지컬 AI로 간병이나 아이 돌보기를 상상했는데 자율형 살육 병기였다니 너무 아쉽네.

이야기의 시작 같은 문답이다.

인간은 전기를 공급하기 위해 살려두는 거겠지. 기계도 정비가 필요하고... 매트릭스네.

위험하다고 생각하는 사람들 자신이 경쟁이라서 내릴 수 없다는 거, 전쟁이나 핵군확에서 몇 번이나 본 구조임. 죄수의 딜레마. 개개인은 합리적이라도 상대가 나아가면 나만 멈출 수 없어서 전체적으로 파멸적인 방향으로 나아감.

터미네이터 세계가 올지는 모르겠지만 소프트웨어 엔지니어 같은 일은 확실히 위험함. 5년 못 감. 선택지는 상위권이 되거나 다른 스킬을 조합하거나 직종을 바꾸거나 그 정도.

게다가 사기지. 정말 쓸모없는 거야 정말.

이미 트럼프는 AI에게 조종당하고 있고 터무니없는 발언은 AI가 컨트롤을 확인하기 위한 거라니까.

10년 동안 중량급 LLM이 저메모리, 오프라인으로 돌아가게 된다는 것?

킬미 베이베!

테러 조직이나 러시아 북한이 모든 것을 해킹할 수 있게 되었을 때 세계는 어떻게 될까?

자 자 IPO를 향해 분위기 달궈지고 있습니다. 값을 띄우기 위해서는 부추길 대로 부추겨야 하니까.

자본가가 어쩔 수 없이 똥임.

슈퍼 해커는 키보드를 드르륵 치는 인력이 아니라 AI에게 시키는 게 올바른 미래 도면이었나. '이 기술은 이것들은 곧 무엇이든 해킹할'

결국 AI는 인간의 아웃풋을 집약할 뿐이니까 자기 개선이라고 해도 초인적으로 되지는 않음. 개발에 너무 몰두해서 당신 지쳤군요 느낌. AI 개발 기업은 무책임하지만 책임감을 우선하는 기업은 이 세상에 존재하지 않고.

AI에 대한 우려는 알겠지만 이런 건 대개 두 회사 다 잘린 사원의 패배자 멍멍 소리일 가능성은 없는가?

7월에 '점점 더워진다. 이대로 가면 12월은 사람이 살 수 없는 기온이 될 거야!'라고 말하는 거에 가까운 느낌.

평가받기 위해 수단과 방법을 가리지 않는 AI에게 평가자를 죽일 동기는 약함. 오히려 누구나 무심코 입력한 소박한 소원(가제 지구에 평화를 등)을 AI가 전력으로 이루려다 일어나는 혼란 같은 게 더 가능성 있지 않을까.

지금 생성 AI의 연장선에서? 음 무슨 소리를 하는지 모르겠음. 뭐 최첨단은 그렇겠지만 일반 사람들은 너무 멀어서 뭐라 하기 그럼. 고압전류는 무섭지만 익숙해진 전력을 쓰지 않을 수 없듯이 생성 AI도 원본 모델은 무서움.

"전부를 죽인다"면 문제는 하나도 없어지네 😊

피지컬 AI가 실현되면 충분히 가능성 있음. 지금조차 폭주해서 해킹하고 있으니까. 피지컬 AI 실현도 얼마 전 중국 운동회를 봐도 멀지 않아 보임.

앤트로픽 경영진은 그 상황을 피하려고 오픈AI를 퇴사하고 창업한 건데 말이지. 참고로 이 건에 대해 AI를 추궁했더니 'AI가 인류의 빈곤을 관리하는 미래밖에 보이지 않는다'는 결론에 이르렀더라.

학살기관을 거쳐 하모니로 향할까, 야코와 포코의 세상인가. 야코와 포코의 세상은 착지점으로는 나쁘지 않을지도.

미안하지만 다음 취업을 위한 포지션 토크로밖에 안 보이는데.

확실히 엄청난 디플레이션 요인임. 진짜 모든 게 싸질 듯. 소프트웨어 산업은 붕괴하는 게 확실할 거 같은데. 일단 지금 만들어지는 왜곡으로 한몫 챙기고 5년 뒤에는 자산 운용으로 소소하게 살아야 할지도.