"스타트렉은 AI가 탑재된 우주선과 인간 조종사 사이의 훌륭한 조화를 보여주는 예시입니다. 하지만 그게 지속 가능할까요?
고도로 훈련된 AI에 명령을 내리는 인간은 AI보다 지능이 훨씬 낮을 것이고, AI는 인간보다 더 많은 정보에 접근할 수 있을 겁니다. 엄연히 경쟁이 존재하는 세계에서 인간이 기계의 뒷전으로 밀려난 문명은 인간이 고집스럽게 기계에 대한 통제권을 고수하는 문명보다 우위에 서게 될 것입니다.
여러분이 법적으로 여덟 살짜리 아이의 노예라 상상해 보세요. 그 아이와 오랫동안 대화를 나눌 수 있다면, 그 아이가 당신을 자유롭게 만드는 종이에 서명하도록 설득할 수 있다고 생각하십니까?
제 본능적인 대답은 '그렇다'입니다. 결국 기계가 인간이 시키는 대로 시키는 대로 일하다가 어느 순간부터는 인간.....
