조던 디-맷슨: SF 미래, 불량 AI, 그리고 메타 기술이 성공의 열쇠를 결정하는 이유 – E634

"AI가 악행을 저지르게 될까요? 오늘날 AI는 안전 실험을 거쳤습니다. 셧다운 위협을 받으면 생존을 위해 협박, 뇌물, 구걸, 절도를 시도합니다. AI가 생존하고 그렇게 행동하도록 훈련한다면, 왜 그런 짓을 시도하지 않겠습니까?" - 제러미 오, BRAVE 동남아시아 기술 팟캐스트 진행자

특이점에 대해 생각할 때, 그 정의를 되짚어 보는 것이 도움이 됩니다. 수학과 물리학에서 특이점은 기존의 정의가 무너지는 개념입니다. 80년대 후반 저서 『다가오는 기술적 특이점(The Coming Technological Singularity)』에서 처음 사용된 이 용어는 무어의 법칙처럼 컴퓨팅 성능이 18개월마다 두 배로 증가하고 비용은 절반으로 감소하는 기술 변화 속도를 도표로 나타내면 2025년에서 2030년 사이 어느 시점에 특이점이 정의되지 않게 된다는 것을 설명합니다. 그 시점에 무슨 일이 일어날까요? 사회와 기술은 어떻게 될까요? 어떤 사람들은 이를 인공 일반 지능이라고 부르지만, 그 이상입니다. 변화 속도가 가속화되는 것입니다. - 조던 디-맷슨, 베테랑 기술 리더

제레미 오 와 조던 디-맷슨은 버너 빈지의 Rainbows End가 기술 발전, 재교육 과제, 그리고 인구 통계학적 변화로 점철된 오늘날의 세상을 어떻게 예측했는지 다시 한번 살펴봅니다. 어떤 예측이 맞았고 어떤 예측이 빗나갔는지, 그리고 이러한 교훈이 AI 도입, 취약한 디지털 시스템, 그리고 평생 학습의 필요성에 어떻게 적용되는지 살펴봅니다. 두 사람의 대화는 개인이 메타 기술을 구축해야 하는 이유, 정책 입안자들이 전략 수립에 어려움을 겪는 이유, 그리고 동남아시아가 특이점과 인구 감소 추세가 만들어내는 미래에 어떻게 대비할 수 있는지를 강조합니다.