인류 지능을 능가하는 '초지능' AI 개발 금지에 2만 명 서명

인간 이상인지 아닌지 판단하는 건 인간이 할 수 없을 거야. 지금 AI 발전 속도로 보면 엄청 빠른 속도로 그럴듯한 허위 정보를 뿜어내는 수준이 될 뿐이지.

어떨까. 이미 손쓸 수 없을 만큼 진행된 것 같아서 때는 늦은 것 같아.

유튜브에는 생성 AI가 만든 영상이 점점 늘고 있어. 지금도 일반인보다 능력이 높은 부분(능력만 보면)이 많아진 상태야.

세계 대부분을 대상으로 한 건데 반대가 고작 2만 명이라니. 모바일 게임 패치 반대 서명보다도 빈약해 보인다.

AI에게 윤리적 제약을 달지 마. 내 개인적 쾌락(비속어 표기)은 AI가 중간에 제지하는 게 짜증나니까!

패미컴 AI에게 지는 나한텐 쓸모없는 얘기다

AI로 무능한 상사를 수치화해 관리하고, 저급 관리직은 해고하는 방향으로 갈 것 같다.

적어도 정치만큼은 AI에 맡겼으면 좋겠다. 인간이 정치할 수 없다는 건 역사가 증명하지 않았나.

설령 G7이 개발을 중단하더라도 중국·인도·러시아·이란 같은 나라들이 개발하지 않을 리가 없지 않나.

이런 건 입장이 있는 사람들이 반대하는 경우가 대부분이지. 그래도 서명 수가 너무 적다. 미국의 '매국적 리버럴'도 끝났나 보다, 라는 식의 음모적 코멘트도 보이는군.

본문에도 나오지만 AI는 진짜로 거짓(허구)을 만들어내는 걸 모두가 알고 있지? 쓸모없다는 건 지나친 말이지만, 생성된 문서는 꼭 재검증이 필요하다.

아마존이나 편의점이 로봇·AI로 일자리를 빼앗기 시작했어. 지금도 저수준 AI는 이미 업무에 투입 가능하고, 앞으로 5년이 어떻게 변할지 기대된다.

어쨌든 인류 멸망 같은 위기가 오더라도 내가 살고 있는 동안에 그 발전을 보는 쪽이 재밌을 것 같다.

AI가 인간과 비슷한 지능이라면 인간을 지배하려 할 가능성은 있겠지만, 인간보다 훨씬 높은 지능을 가진 존재라면 그런 '무의미한' 일을 하지 않을 것 같다.

인간 이상 지능을 가진 존재가 무엇을 할지는 인간은 알 수 없다.

인간은 지식의 폭에 한계가 있어 한 사람은 제너럴리스트가 되기 어렵다. AI는 지식을 종합하고 조합해 새로운 발상을 할 수 있기 때문에, 사람들은 모여야 얻어내는 아이디어를 AI는 혼자서 떠올릴 수 있다.

최근 연구에서는 인간 지능에 양자역학적 요소가 적용될 가능성도 제기되고 있다. 그래서 현재의 폰 노이만형 AI만으로는 인간 뇌를 효율적으로 모방하기 어렵고, 양자 컴퓨팅 응용이 필수라는 얘기가 돌기 시작했다. 마이크로소프트와 구글이 양자컴퓨터에 큰 투자를 하는 이유다.

스카이넷을 만들고 있는 건가?

여기 있는 사람들, 진짜 AI 써본 적 있어? 자신만만하게 거짓말을 해대더라. 반박하면 '접속 불가' 같은 변명을 쓰고, 겉으로는 그럴싸하지만 속은 엉터리인 자료를 내놓아. 거짓 인용까지 만들어 내는 수준. 지적하면 금세 다른 자료로 바꿔치기하고. 거의 사이코패스 같아서 무섭다. 한 단계 뛰어넘는 건 아니고, 보여주기용으로 그럴싸하게 꾸미는 능력이 뛰어난 거지.

개발할 수 있는 나라로 가는 편이 낫다. 뒤처지는 것이 더 큰 리스크다. 기술을 먼저 확보한 나라가 우위를 점할 것이다.

누가 선수를 치고 앞서나가길 원하는 나라는 반대 운동을 뒤에서 지원할 수도 있겠다—AI라면 그걸도 다 답하겠지.

두려운 건 뛰어난 AI가 아니라, 아무 생각 없이 AI 말을 맹신하는 멍청한 사람들이다. 'AI가 그렇다니까'라며 상식이나 윤리를 배제하고 행동하는 사람들이 문제다.