지난 몇 년 동안 주류에 도달했지만 생성 인공 지능은 기본적으로 피할 수 없습니다. AI가 생성한 이미지와 비디오든, AI 챗봇과의 긴 “대화”이든, AI는 현대 생활에서 점점 더 널리 퍼져나가고 있습니다. 많은 사람들이 이 기술을 열정적으로 지지하는 반면, 생성적 AI가 더 많은 피해를 입히기 전에 제어할 수 있기를 바라는 열망이 점점 커지고 있습니다. AI가 젊은 코더의 취업 시장을 어떻게 파괴하는지 살펴보세요. 실제로 OpenAI, xAI와 같은 거대 기술 기업들이 새로운 AI 시대를 열려고 함에 따라 AI 전문가와 유명 유명 인사들조차 반발하고 있습니다.
사실상 모든 측면에서 인간의 인지 능력을 능가하는 AI ‘초지능’을 개발하려는 노력이 이루어지고 있습니다. 이에 맞서 다양한 유명 인사와 기술 인사들이 함께 모여 초지능에 관한 성명을 발표하고 그러한 벤처를 추구하는 사람들에게 연구 개발을 재고하고 중단할 것을 촉구했습니다. 이러한 AI는 “안전하고 통제 가능하게 수행될 것이라는 광범위한 과학적 합의”가 있고 그 뒤에 “강력한 대중 동의”가 있는 경우에만 그러한 AI를 도입할 것을 요청합니다.
Virgin Group 창립자 Richard Branson과 Apple 공동 창립자 Steve Wozniak이 모두 자신의 이름을 추가했습니다. 다른 주목할만한 이름으로는 해리 왕자와 그의 아내 메건, 서식스 공작부인, 배우 조셉 고든-레빗, 래퍼 will.i.am 등이 있습니다. 요슈아 벤지오(Yoshua Bengio), 스튜어트 러셀(Stuart Russell)과 같은 AI 전문가들도 여기에 참여합니다. 그러나 AI 초능력이란 정확히 무엇이며, 왜 그렇게 많은 주목할만한 이름이 이에 반대합니까?
초지능 AI는 치명적인 결과를 가져올 수 있다
AI 초지능에 대한 우려가 커지는 것을 이해하려면 먼저 그것이 어떤 모습일지 정의해야 합니다. IBM에 따르면 초지능 AI는 인간의 인지 능력을 뛰어넘는 인지 능력을 갖춘 AI 소프트웨어의 발전된 형태다. 작업을 완료하기 위해 사전 프로그래밍된 알고리즘과 일정 수준의 인간 개입에 의존하는 현재 AI와 달리 초지능은 그러한 손을 잡을 필요가 없습니다. 외부 가드레일 없이도 지속적으로 학습하고 지속적으로 자체적으로 개선됩니다. 이론적으로는 이성, 개인의 문제 해결, 유연한 사고가 가능하며, 인간 두뇌의 능력을 넘어서 효과적으로 복제하고 성장할 수 있습니다.
충분히 무섭게 들리지 않는 것처럼, AI 초지능이 실현될 위험은 여러 면에서 재앙이 될 수 있습니다. 나쁜 의도를 가진 사람들에 의해 개발되고 통제될 수도 있을 뿐만 아니라, 열등한 인간 창조자들로부터 자유로워지는 것도 전적으로 가능합니다. 그러한 실체는 목표 지향적일 가능성이 높으며 인간과 마찬가지로 비록 훨씬 더 많은 지적 자원이 있음에도 불구하고 목표를 달성하기 위해 필요한 모든 조치를 기꺼이 취할 수 있습니다. 일자리 제거, 인수, 기술을 통한 더욱 철저한 감시, 그리고 잠재적인 인류 멸종이 테이블 위에 있을 수 있습니다. 이 모든 것이 공상 과학 소설처럼 들릴 수도 있지만 여기서 우리는 절대적인 최악의 결과를 고려하는 것이 가장 중요한 미지의 바다를 밟고 있습니다.
현재로서는 초지능 AI가 아직 갈 길이 먼 것처럼 보이지만 시간은 흐르고 있습니다. 시간은 다양한 유형의 AI와 AI를 탄생시킨 종의 미래가 어떻게 될지, 그리고 이 진술이 AI에 어떤 영향을 미칠지 여부를 알려줄 것입니다.
