위기의 휴머니티

기하급수적 기술 발전 상황에서 어떻게 휴머니티를 지킬까

인류 문명 최대 위협에 대비하라 _스티븐 호킹 인공지능은 핵무기보다 위험하다 _일론 머스크 세상은 늘 ‘조금씩 그러다 갑자기’ 바뀐다. 기하급수적 기술 발전 상황에서 우리는 어떻게 휴머니티를 지킬 것인가? 기술은 기하급수적으로 발전하고 있을 뿐 아니라 한번 진행되고 나면 돌이킬 수 없다. 이 과정에서 인간의 고유한 존재론적 특성을 어떻게 지킬 것인가? 저자는 기계적인 알고리즘으로 쉽게 규정하거나, 파악하거나, 복제할 수 없는 인간적 특성을 안드로리즘(andronism)이라 말한다. 창의성과 연민, 상호성과 책임성, 공감 등과 같은 것들이다. 이런 특성은 기계의 놀라운 능력에 비하면 느리고, 허약하고, 비효율적으로 보여 자칫 무가치한 것으로 보일 수 있다. 하지만, 저자는 이런 것들이야말로 우리가 절대적으로 지켜야 하는 가치라 주장한다. 그것들을 잃게 되면 우리는 더 이상 인간이라 할 수 없기 때문이다. 그렇다고 기술 발전 자체를 거부하거나 반대지는 않는다. 오히려 기술 혁신은 자연스러운 것이며 그 길을 막아서는 안 된다고 강조한다. 문제는 책임 있는 균형감이다. 기하급수적 기술 발전이 그 균형감을 흐트러뜨리고 있다. 세상은 늘 ‘조금씩 그러다 어느 순간 갑자기’ 변한다. 휴머니티를 지키기 위한 인간의 노력이 계속되지 않으면 어느 날 갑자기 인류는 핵무기보다 위험한 기술의 진보 앞에서 생존 자체를 위협받을 수 있다. 휴머니티를 지키기 위해 우리는 무엇을 해야 할 것인가?

추천사: 기술을 두려워해서는 휴머니티를 지킬 수 없다 _미래작가 정지훈
옮긴이 서문: 조금씩 그러다 갑자기

서론: 기하급수적으로 모든 것을 삼키는 기술 변화에 직면한 우리는 인간성의 우위를 어떻게 유지할 수 있을까?

제1장 미래의 서곡
제2장 기술 대 인간
제3장 대전환
제4장 자동화 사회
제5장 비인간 사물인터넷
제6장 마법에서 마니아를 거쳐 중독으로
제7장 디지털 비만: 인간의 마지막 질환
제8장 예방 대 전향적 대응
제9장 우연성을 제거한 행복
제10장 디지털 윤리
제11장 지구 2030: 천국일까 지옥일까?
제12장 결정의 시간

전문가들은 현재 기술을 통해 무엇이 가능하고 그것을 어떻게 이룰 것인지를 두고 논쟁하고 있다. 하지만 한 걸음 물러나서 볼 필요가 있다. 그리고 이런 혁신 기술들이 인간성에 봉사하려면 어떤 역할을 했으면 하는지 보다 근본적인 탐구를 시작해야 한다. 무엇이든 우리가 할 수 있다고 해서 그것을 꼭 해야 하는 것은 아니다. _17쪽인간은 현재나 과거를 바탕으로 미래를 예측하는 경향이 있다. 이런 생각은 지금까지 이롭게 작동한 것은 무엇이든 형태나 형식을 좀더 개선하면 미래에도 잘 돌아갈 거라는 가정에 기반을 둔 것이다. 하지만 지금 우리는 새로운 현실을 앞에 두고 있다. 기하급수적이고 조합적인 기술 변화의 충격이 점점 커지면서 미래는 현재의 단순 확장일 가능성이 아주 낮아졌다. 오히려 지금과는 완전히 달라질 것이다. 가정의 틀과 기반 논리가 변했기 때문이다. _27쪽‘외장 두뇌’는 ‘나를 아는(knowing-me)’ 단계에 이어 ‘나를 대표(representing-me)’하는 단계를 지나, ‘나 자신(being-me)’이 되는 단계로 빠르게 변신하고 있다. 현실에서 이미 그런 기술적 인공물들이 우리의 디지털 복사본으로 사용되기 시작했다. 그 정도로 별로 걱정이 안 된다면 외장 두뇌가 5년 안에 100배 가까이 증폭된다고 한번 상상해보라. _33쪽인류의 미래가 달린 중대한 결정을 자유 시장이나 벤처캐피털리스트, 혹은 기업의 기술자들이나 세계 최강의 군사 조직에 맡겨두어서는 안 된다. 이윤과 성장만을 최우선하는 산업 시대 패러다임이나, 1980년대에는 통했을 수도 있는 시대착오적인 기술 준칙에 인간성의 미래를 내맡겨서는 안 된다. 기술이 거대한 새로운 수입원과 막대 한 수익을 창출한다는 이유만으로 실리콘밸리나 세계 최강의 기술 선진국이 ‘인간성의 관제센터’가 되어서도 안 된다. _37쪽나 또한 컴퓨터가 인간 두뇌 수준의 능력을 갖게 되는 시점이 그리 멀지 않았다고 믿는다. 하지만 커즈와일 박사와는 달리, 우리가 무한 한 비생물적 지능을 얻을 수 있는 가능성을 위해 인간성을 자진 포기해서는 안 된다고 생각한다. 그것은 아주 나쁜 거래이며 향상이 아니라 오히려 퇴보에 해당한다. _40쪽미래를 규정해나가는 것들을 생각할 때는 기하급수성과 ‘조금씩 그러다 갑자기’라는 두 가지 요소를 이해해야 한다. 이 책의 핵심 메시지이기도 하다. ‘조금씩 그러다 갑자기’란 보잘것없는 데서 시작해서 엄청난 기회가 되거나 위협이 되는 것을 말한다. 그것은 어느 순간 갑자기 사라져 잊히고 말거나, 상상했던 것보다 훨씬 거대한 형태로 눈앞에 존재하게 될 것이다. _43쪽기술이 기하급수적으로 좋아질 것은 분명하지만, 인간이 존재하거나 사물을 경험하는 방식과 기술이 그 순간을 포착하는 방식에는 여전히 차이가 있을 것이다. 사진이나 동영상, 데이터 기록이 아무리 최 상의 것이라 해도 실제 상황에 대한 근사치에 불과할 것이기 때문이 다. 어떤 식으로든 우리 안에는 고유한 순간의 맥락과 체화와 완결성이 존재한다. _71쪽인간과 기계 사이에 닥칠 충돌은 다음의 10가지 대전환이 합쳐지면서 더 격해지고 기하급수적으로 증폭될 것이다. 10가지 대전환은 이렇게 명명된다. 1. 디지털화(Digitization)2. 모바일화(Mobilization)3. 스크린화(Screenificaion)4. 탈매개화(Disintermediation)5. 변형(Transformation)6. 지능화(Intelligization)7. 자동화(Automation)8. 가상화(Virtualization)9. 예견화(Anticipation)10. 로봇화(Robotization) _78쪽특히 정치인과 공무원, 정부 기관 등은 자동화가 야기하는 문제를 정확하게 이해해야 한다. 그래서 더 뛰어난 관리자가 되어야 한다. 지금 사회는 모두 그 방향으로 질주하고 있기 때문이다. 사려 깊은 리더십이 가장 결정적 요건이다. ‘미래의 관리자’를 이해하지 못하는 공무원은 미래를 설계할 때 도태되고 말 것이다. 이제 정치인을 뽑을 때 주요 투표 기준은 ‘현재 상황이 무엇인지(what is)’를 잘 파악하는 능력이 아니다. ‘앞으로 어떻게 될지(what might be)’ 미래를 내다볼 줄 아는 높은 이해력이 더 중요하다. _107쪽자동화 과정은 다음과 같은 다섯 가지 누진적 악화 단계를 거쳐 진행된다.1. 자동화(Automation)2. 영합(Assentation)3. 양위(Abdication)4. 악화(Aggravation)5. 혐오(Abomination) _108쪽조만간 소프트웨어가 ‘세상을 먹는’ 데만 그치는 게 아니라 점차 ‘세상을 속이려 들’ 것이다. 이미 나는 내 페이스북 뉴스피드를 볼 때마다 얼마간은 속았다는, 아니 이런 표현을 써도 될지 모르지만, 조작되고 있다는 느낌이 든다. _121쪽인간을 기계와 확연히 구분 짓는 특징은 질문하는 능력, 뭔가 달라질 수 있다고 상상하는 능력, 비판 능력, 사물을 다른 각도에서 보는 능력, 행간을 읽는 능력, 존재하지 않는 그 무엇인가를

2030년 세상은 천국일까, 지옥일까?미래는 우리 앞에 그냥 출현하는 것이 아니라 우리가 매일 만들어가는 것이며, 바로 이 순간 내리는 결정에 따라 변한다. 기하급수적 기술 발전으로 인류의 미래가 천국이 될지, 아니면 지옥이 될지는 전적으로 우리의 선택에 달려 있다. 그만큼 책임감 있는 우리의 선택이 중요하다. 먼저 일부 기술 대기업이 일방적으로 기술 발전을 주도해나가는 상황을 묵과해서는 안 된다. 또한 기술적으로 가능하다고 해서 무작정 실행해 나서는 것도 위험하다. 기술의 본질적 목적이 인간 행복임을 명심하고 어느 한 순간이라도 “인간이 도구를 만들지만 그 도구가 인간을 규정한다”라는 마샬 맥루한의 유명한 명제를 잊어서는 안 된다. 이를 위해 저자는 기술 변화의 속도와 수용 과정에 있어서 균형 감각과 책임 의식을 강조한다. 기술 발전은 늘 ‘조금씩 그러다 어느 순간 갑자기’ 들이닥치는 식으로 전개된다. 우리가 서서히 디지털 중독과 비만에 빠져드는 과정에서 어느 순간 자신은 알지도 못하는 사이에 돌이킬 수 없는 지점까지 가게 된다는 것이다. 저자는 인간적인 삶의 선택이나 사생활 보호의 자유조차 일부 초고소득자의 특권 내지는 사치품이 될 수 있다고 경고한다. 우리가 제대로 선택하지 못할 경우 기술 발전으로 인한 이득은 인류 전체의 번영이 아니라 특정 계층의 전유물로 전락하게 될 것이다. 기술 발전의 부작용을 최소화하기 위해서는 기술 발전으로 이익을 얻는 사람이 그 책임을 지게 만들어야 한다. 기술 발전으로 인한 부작용은 많다. 모든 것이 연결되고 노출되는 상황에서 발생할 수 있는 감시 문제나 프라이버시 침해 문제, 그리고 인류의 마지막 질환이 될 것으로 보이는 디지털 비만 문제까지 다양하다. 물론 이 같은 문제가 실제 의도했던 것은 아닐 것이다. 그렇다 하더라도 이런 문제에 대한 책임을 대중 혹은 개인에게 돌려서는 안 된다. 이는 총기 사고를 두고 “총기는 사람을 죽이지 않는다. 사람이 사람을 죽인다”라고 주장하는 것과 같다. 우리는 사물 인터넷이 전 지구로 퍼지고 있는 상황에서 다양한 엔진과 플랫폼, 인공지능 및 솔루션을 개발하여 돈을 버는 기업에 얼마나 더 큰 권한을 넘겨줄 것인지 의문을 제기해야 한다. 또한 이런 문제에 대한 보호 조치를 국제 합의나 효과적인 제재, 자율 규제나 공정한 감독 등을 통해 그 책임을 물을 수 있어야 한다. 이는 2030년을 지옥이 아닌 천국으로 만들기 위해 우리가 해야 할 최소한의 의무다.

회원리뷰 총 0개

리뷰작성 새 창

사용후기가 없습니다.

등록된 상품문의

상품문의 총 0개

문의작성 새 창

상품문의가 없습니다.

[반품/교환가능 기간]

변심반품의 경우 수령 후 14일 이내, 상품의 결함 및 계약내용과 다를 경우 문제점 발견 후 30일 이내

[반품/교환비용]

단순 변심 혹은 구매착오로 인한 반품/교환은 반송료 고객 부담

[반품/교환 불가 사유]

- 소비자의 책임 있는 사유로 상품 등이 손실 또는 훼손된 경우

(단지 확인을 위한 포장 훼손은 제외)

- 소비자의 사용, 포장 개봉에 의해 상품 등의 가치가 현저히 감소한 경우

예) 화장품, 식품, 가전제품(악세서리 포함) 등

- 복제가 가능한 상품 등의 포장을 훼손한 경우

예) 음반/DVD/비디오, 소프트웨어, 만화책, 잡지, 영상 화보집

- 소비자의 요청에 따라 개별적으로 주문 제작되는 상품의 경우 ((1)해외주문도서)

- 디지털 컨텐츠인 eBook, 오디오북 등을 1회 이상 다운로드를 받았을 경우

- 시간의 경과에 의해 재판매가 곤란한 정도로 가치가 현저히 감소한 경우

- 전자상거래 등에서의 소비자보호에 관한 법률이 정하는 소비자 청약철회 제한 내용에 해당되는 경우

* (1) 해외주문도서 : 이용자의 요청에 의한 개인주문상품으로 단순변심 및 착오로 인한 취소/교환/반품 시

‘해외주문 반품/취소 수수료’ 고객 부담 (해외주문 반품/취소 수수료 : ①양서-판매정가의 12%, ②일서-판매정가의 7%를 적용)

[상품 품절]

공급사(출판사) 재고 사정에 의해 품절/지연될 수 있으며, 품절 시 관련 사항에 대해서는 이메일과 문자로 안내드리겠습니다.

[소비자 피해보상, 환불지연에 따른 배상]

- 상품의 불량에 의한 교환, A/S, 환불, 품질보증 및 피해보상 등에 관한 사항은 소비자분쟁해결 기준 (공정거래위원회 고시)에 준하여 처리됩니다.

- 대금 환불 및 환불지연에 따른 배상금 지급 조건, 절차 등은 전자상거래 등에서의 소비자 보호에 관한 법률에 따라 처리함.