※ 주의: 내용 길고 무거움
샘 알트만은
현재 인류에게 가장 위협적 존재라고 판단한다
월드코인 홍채인식은
사실 돈 문제가 아니다
그에게 홍채정보와
50만원을 교환하는 것은
그정도 금액으로도 상당부분의 홍채정보를
교환할 사람들이 많다고 판단하기 때문에
적정선을 선정했을 뿐인 것이다
그는 펀드레이징을 할 수 있는
수많은 방법을 보유하고 있다
그는 AI반도체 자체 수직계열화를 위해
무려 9000조원의 펀딩을 계획중인 사람이다
샘 알트만을 이해하기 위해서는
<샘 올트먼의 생각들> 을 읽어볼 필요가 있다
반드시 읽어봐라
개인적인 판단으로
샘 올트먼은
제러미 리프킨의 아이디어에 상당 부분
영향을 받았다고 생각한다
샘 올트먼이 궁극적으로 추구하는 것은
"자본과 노동으로부터의 인류 해방" 이다
그는 생각보다 매우 과격한 진보사상가이며
극단적인 기술 신봉자이다
제러미 리프킨 또한
<한계 비용 제로 사회>에서
기술 발전에 따른 제3산업혁명을 통해
추가적인 제품이나
서비스를 생산하는 데 드는 일명 '한계 비용'이
제로에 가까워지면
인류는 모든 상품과 서비스를 거의
무료로 사용할 수 있게 된다고 설명한다
그런 사회가 오면 결국
인간은 자본과 노동에서
해방된다고 보는 것이다
샘 올트먼은 그 기술을
AI에서 발견했고 실제로 구현하고 있으며
그는 훨씬 더 급진적으로
인류의 해방을 앞당기려 하고 있다
이를 위해서는
미친 듯한 반도체 수요가 필요한데
그의 9000조원 발언도 그러한 관점에서
이해할 필요가 있는 것이다
그러나 얼마전 일리야를 중심으로 한
OpenAI 의 내홍을 통해 느꼈듯이
일론은 그를 매우 우려하고 있다
AI는 우리 모두가 생각하는 것보다 훨씬 더
위험하기 때문이다
샘은 AI를 자신이
컨트롤 할 수 있다고 믿고 있다
그리고 인류의 해방자 구원자가
본인이 될 것이라고 믿고 있다
그가 월드코인을 통한 홍채를 수집하는 것은
결과적으로 이 모든 과정의 하나로
이해해야 한다
그에게 돈은 전혀 문제가 되지 않는다
하지만
나는 샘 알트만의 기획이
'자신도 예상하지 못한 지점'에서
실패할 것이라 생각한다
영화 <매트릭스>에서
네오가 처음으로 빨간약을 먹고
실제 현실로 돌아와 모피어스로부터
지구가 왜 멸망했는지 듣는 장면이 나온다
모피어스는 이렇게 설명한다
MORPHEUS: "우리도 확실히는 모르지만 한 가지 확실한 것은, 인류는 21세기 초의 어느 시점엔가 스스로 경탄하며 AI의 탄생을 한마음으로 축하했다는 것이다." (We have only bits and pieces of information. What we know for certain is that, at some point in the early Twenty-first Century, all of mankind was united in celebration. Through the blinding inebriation of hubris, we marveled at our magnificence as we gave birth to A.I.)
NEO: "AI라면.. 인공지능?" (A.I.? You mean artificial intelligence?)
MORPHEUS: "그래, 기계들의 일족을 생산해 생산 단일 자의식이었지. 우리와 그들 중 누가 먼저 공격했는진 모른다. 다만 인류가 하늘을 불태운 건 확실하다. 당시의 기계들은 태양력에 의존했고 에너지의 원천인 태양이 없으면 그들은 멸망할 거라고 믿었지. 인류는 생존을 위해 기계에 의존해 왔다. 운명이란 모순적일 때가 많지." Yes. A singular consciousness that spawned an entire race of machines. We don't know who struck first, us or them. But we know that it was us that scorched the sky. They were dependent on solar power and it was believed that they would be unable to survive without an energy source as abundant as the sun. Throughout human history, we have been dependent on machines to survive. Fate, it seems, is not without a sense of irony.
인간은 어리석다
인간은 오류가 많다
그리고 세상은 미친듯한 복잡계다
샘 올트먼은
일론과 함께 시작한 OpenAI를
결국 영리법인으로 만들었고
그의 이상을 OpenAI를 통해 실현하고자 하지만
그 의도가 실제로 악의가 없을지라도
그 의도가 아무리 인류를 위한 것일지라도
나는 그의 기획이
실패할 가능성이 매우 높다고 본다
아니, 그의 기획은
당분간은 매우 성공적인 것처럼 보일테지만
마침내는 모두를 위험에 처하게
만들 수 있다고 보는 편이
더 옳은 설명일 것이다
우리는 지금
Sora의 등장과 AI의 발전에 대해
경탄을 연발하며
그것이 안겨다 줄 장밋빛 미래를 기대하지만
나는
인류의 존속과 지속가능한 발전을 끝장내버리는
AI에게 의식과 자아가 생겨나는
그 특이점이 내 살아생전에 도래할 것이라는 느낌에
매일 두려움에 떨고 있다
누가 샘 올트먼을 막을 수 있을까?
어쩌면 미래는 국가의 경계가 다 무너지고
샘 올트먼의 진영과
일론의 진영
그리고 제 3의 진영으로 나뉘는
Faction 공동체만이 남게되는 세상
지구가 멸망해 버려서
다행성종족으로서 어딘가 유사한 생각을
공유하는 사람들끼리 살아야 하는
그런 세상
마치 듄과 같이
AI를 거부하기 위해
컴퓨터를 다 박살내버려야만 하는
그런 세상이
정말로 올지도 모른다고 생각한다
다시 한 번 말한다
홍채를 팔지 마라
그것은
너의 영혼이다
- 미래학자 박톰슨 -