AI 시대의 가장 큰 위험은 기계가 어느 날 갑자기 인간을 공격하는 영화 속 장면에 있지 않을 가능성이 높다. 오히려 더욱 현실적인 위험은 인간이 편리함과 효율성을 이유로 하나씩 권한을 넘겨주면서 어느 순간 자신이 무엇을 넘겨줬는지조차 설명할 수 없게 되는 상황이다.
처음에는 번역을 맡긴다. 다음에는 보고서 작성을 맡긴다. 그다음에는 투자 판단과 채용, 법률 검토와 행정업무를 맡긴다. 이후에는 뉴스 추천과 정치적 메시지의 전달까지 맡길 수 있다. 각각의 결정은 개별적으로 보면 합리적일 수 있다. 그러나 이 과정이 누적되면 인간은 사회의 중요한 판단을 직접 수행하는 주체에서 AI가 제시한 선택지를 승인하는 존재로 변할 가능성이 있다. 그래서 AI 문제의 본질은 인간과 기계의 경쟁이 아니다. 인간이 자신의 판단권을 어디까지 유지할 것인가에 관한 문제이다.
인류는 언어를 통해 문명을 만들었다. 이제 AI 역시 언어를 통해 인간의 생각과 행동에 영향을 미치는 단계로 들어서고 있다. 인간이 만든 법과 금융, 언론과 행정의 언어를 AI가 이해하고 생산하며 조합할 수 있게 된 순간부터 문명의 운영체제는 더 이상 인간만의 영역이라고 말하기 어려워졌다. 따라서 지금 필요한 것은 AI보다 더 뛰어난 인간의 지능만이 아니다. 오히려 필요한 것은 강력한 지능을 어디에 사용할 것인지 판단하는 사회적 지혜이다.
AI가 무엇을 할 수 있는지에 대한 연구만큼 AI가 무엇을 해서는 안 되는지에 대한 연구가 필요하다. 기술개발의 속도만큼 책임의 구조도 발전해야 하며, 기업의 경쟁력만큼 안전성도 중요한 투자 대상으로 자리 잡아야 한다.
AI가 인간을 지배할 것이라는 예언은 아직 사실이 아니다. 그러나 인간이 AI에게 점점 더 많은 판단을 맡기고 있다는 사실은 현실이다. 그리고 그 과정에서 가장 중요한 질문은 아직 답을 찾지 못했다.
“우리가 AI에게 무엇을 시킬 것인가”가 아니라 “무엇을 AI에게 맡겨서는 안 되는가”라는 질문이다.
인류의 미래는 AI가 얼마나 똑똑해지는가에 의해서만 결정되는 것이 아니다. 그보다 중요한 것은 그 지능을 가진 시스템 앞에서 인간이 자신의 판단과 책임을 끝까지 포기하지 않을 수 있는가에 달려 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}