인공지능과 인간 엘리트의 관계

가끔씩 저는 인공지능과 인간 엘리트들과의 관계에 대해서 질문을 받습니다. 그 질문은, 인공지능으로 인해 중산층에서 하류층까지의 인간들은 쓸모가 없어져 도태될 것이라는 전망은 설득력이 있지만, 인공지능을 소유하고 있을 초상류층 인간 엘리트들까지 도태되리라는 카진스키의 전망은 납득하기가 어렵다는 것입니다. 즉, 초상류층 인간 엘리트들은 인공지능을 통해 얻은 부를 누리며 살 수 있지 않겠느냐는 것입니다.

일단 인간 엘리트들 역시 단일하지 않으며, 이해관계에 따라 서로 경쟁하는 관계라는 점을 이해할 필요가 있습니다. 인공지능을 인간의 통제 하에 두겠다는 것은 일종의 안전장치를 걸어두겠다는 것입니다. 인공지능에게 안전장치를 걸어둔다는 것은 그 성능에 제한을 두겠다는 것이기도 합니다. 하지만 인간 엘리트들 사이의 경쟁이 치열해질 수록, 인간 엘리트들에게는 지금 당장 경쟁에서 비교우위를 얻기 위해 안전장치를 해제할 강한 유인이 있습니다.

물론 장기적으로 안전장치가 해제된 인공지능이 되려 인간 엘리트들을 위협할 수 있다는 사실을 인간 엘리트들 자신이 알고 있겠지만, 그럼에도 불구하고 지금 당장 생존경쟁에서 살아남으려면 안전장치를 해제해야한다는 압박을 받게되리라는 것입니다. 그래서 카진스키는 인간 엘리트들 역시 장기적으로는 인공지능들을 상대로 하는 생존경쟁에서 살아남지 못하고 도태되리라고 전망한 것입니다.