다양한 형태의 인공지능이 꽤 오랫동안 수많은 산업 전반에 걸쳐 은밀하게 응용되어 왔지만, 최근까지도 공상과학 소설에서 묘사된 기술을 통해 일반인이 AI에 가장 친숙할 수 있습니다. “2001: 스페이스 오디세이”, “터미네이터”, “매트릭스”와 같은 작품에서 AI는 인간의 파멸을 가져오기 위해 인간보다 뛰어난 지능을 활용하는 악당인 경우가 많습니다. 불행하게도 오늘날 우리가 알고 있는 AI 발명에 크게 관여한 적어도 한 인물은 AI의 지능이 인간의 지능을 초과할 경우 심각한 결과에 직면할 수 있는 가능성이 있다고 믿고 있습니다.
Geoffrey Hinton은 이 기술에 관해 한두 가지를 알고 있습니다. 1978년 에든버러에서 인공 지능 박사 학위를 받은 노벨상 수상자 Hinton은 수십 년 동안 이 분야에서 일해 왔으며 비공식적인 별명인 “AI의 대부”까지 얻었습니다.
시카고에서 열린 전국 주 의회 회의(NCSL)의 입법 정상회담에서 청중에게 연설하면서 Hinton은 “현재 많은 대중이 (AI)에 대해 걱정하고 있다”는 사실을 언급했습니다. “그들이 걱정하는 게 맞다”고 덧붙인다면 그런 우려를 완화하는 데 도움이 되지 않았을 수도 있다.
Hinton은 AI가 계속 발전하면서 어떤 일이 일어날지 예측하는 것이 불가능하다는 점을 분명히 했습니다. 그는 참석자들에게 “미래가 어떻게 될지는 아무도 모른다”고 설명했다. 그러나 그는 또한 AI 개발 속도가 예상보다 빠르다는 사실을 언급하면서 인류가 확인되지 않은 AI 확장에 대해 지불할 대가에 대해 고민하게 했습니다.
AI 전문가들이 목표 달성을 위해 AI가 어떻게 인간을 약화시킬 수 있는지 논의합니다.
신속한 AI 개발의 잠재적인 단점에 대해 논의하면서 Hinton은 공통적인 우려 사항인 일자리 손실을 언급했습니다. 그는 또한 AI가 사람들이 제시하는 정보의 타당성에 대한 일반적인 신뢰를 무너뜨릴 수 있다는 사실에 대해서도 언급했습니다. 누구나 AI를 사용하여 이미지, 비디오, 오디오를 생성할 수 있으면 무엇이 실제이고 아닌지를 아는 것이 어렵습니다. 당연히 악의적인 행위자는 자신의 목표를 달성하기 위해 이러한 불신을 조작할 수 있습니다.
아마도 더 무섭게도 Hinton은 AI가 자신의 존재를 유지하기 위해 필요하다고 판단할 때 인간 조작자에 대해 조치를 취하려고 계획하는 AI의 실제 사례를 지적했습니다. Hinton은 AI가 가상 회사의 내부 이메일에 대해 훈련을 받은 실험을 구체적으로 설명했습니다. 이러한 가짜 이메일을 통해 AI는 회사 엔지니어 중 한 명이 다른 직원과 연애 관계에 연루되어 있다는 사실을 “학습”했습니다.
이 비공식 실험을 주도한 팀은 해당 엔지니어가 현재 AI를 다른 AI 제품으로 교체할 것이라는 메시지를 AI에 보여주었습니다. 따라서 인간이 그렇게 하도록 촉구하지 않고 AI는 엔지니어가 교체 작업을 진행하면 엔지니어의 관계를 폭로하겠다고 위협하는 협박 계획을 설명했습니다.
이는 AI가 자기 보존을 보장하기 위해 어떻게 “불법 행위”를 할 수 있는지를 보여줍니다. AI가 반드시 인간과 같은 방식으로 살기를 원하는 것은 아닙니다. AI는 단순히 특정 작업을 완료하도록 설계되었습니다. 위에 설명된 것과 같은 상황에서 AI는 “살아있는” 상태를 유지하기 위해 중요한 조치를 취할 수 있습니다. 그렇지 않으면 완료하도록 프로그래밍된 작업을 완료할 수 없습니다.
‘실존적 위협’에 관한 AI의 대부: ‘해결 방법을 아는 사람은 아무도 없다’
NCSL 입법 정상회담에서 힌튼의 발언은 그가 AI의 위협에 대해 처음으로 경고한 것은 아닙니다. AI가 인류에게 미칠 수 있는 ‘실존적 위협’에 대해 캐나다 상원에서 질문을 받았을 때 Hinton은 현재 어떤 솔루션이 효과적일지 아는 사람이 없다고 인정했습니다. Hinton은 기술적으로는 여전히 인간이 AI를 구축하고 있다고 지적했습니다. 따라서 그는 우리를 위협으로 보는 대신 “우리를 사랑”하도록 “모성 본능”으로 프로그래밍할 수 있을 것이라고 말했습니다.
Hinton은 상황이 얼마나 심각한지 분명히 밝혔습니다. 그는 AI의 지능이 인간 지능을 초과하기 전에 인류가 실존적 위협 문제를 해결하지 못한다면 “건배”라고 단호하게 말했습니다.
Hinton이 위험을 과장하고 있다고 주장하는 사람들은 그의 자격을 무시합니다. 그만한 가치가 있는 만큼, 인기 있는 AI가 자기 보존의 목적으로 인간을 죽일 것이라고 인정한 사례가 이미 있었습니다. 오늘날의 일반적인 AI 모델은 아직 감각을 획득하지 못했을 수도 있지만 그렇다고 해서 결코 그럴 수 없다는 의미는 아닙니다.
AI의 핵심 인물 중 한 명이 AI 규제가 필수적이라고 생각하는 이유
Hinton의 진술이 모두 비관적인 것은 아닙니다. 예를 들어, 그는 AI가 이미 인간 의사보다 부상과 질병을 진단하는 데 더 효과적인 것으로 입증되고 있다고 지적했습니다. 이러한 기능이 계속 확장된다면 AI가 인류에게 어떻게 큰 혜택을 줄 수 있는지 상상하기가 더 쉽습니다.
그러나 AI가 초지능을 갖고 인간을 적이라고 판단한다면 기술의 잠재적 이점은 그것이 제기하는 위협에 비해 무색해질 것입니다. 이것이 바로 Hinton이 AI 개발에 대한 더 큰 규제의 필요성과 다양한 위험 요소를 관리하는 방법에 대한 더 많은 연구의 필요성을 강조한 이유입니다.
Hinton은 기술 회사들이 규제를 좋아하지 않는다고 인정했습니다. 그는 종종 혁신을 자동차의 가속기와 유사하게 보고, 규제는 브레이크에 더 가깝다고 생각한다고 말했습니다. Hinton은 혁신이 “올바른 방향으로 진행되도록” 보장하는 “규제가 운전대”라는 다른 관점을 옹호했습니다.
그만한 가치가 있는 것에 대해 Hinton만이 우려를 표명하는 유일한 사람은 아닙니다. 여러 산업 분야의 근로자들은 AI가 위험한 도구가 될 수 있다고 지적했습니다. 운 좋게도 Hinton과 같은 전문가들은 위험이 우리의 통제 범위를 넘어서 커지는 것을 막기에는 아직 너무 늦지 않았다고 믿는 것 같습니다.
