교사들은 학생들이 숙제를 하기 위해 AI를 사용하는 것에 대해 걱정하고, 출판사들은 AI를 사용하여 책을 완성하는 소설가들을 걱정합니다. 그러나 이제 생물보안 전문가들은 더 큰 걱정거리를 안고 있습니다. 바로 위험한 생물학적 작용제를 설계하는 AI의 능력입니다. 주요 기술 기업, 최고의 과학자, 국가 안보 옹호자들 모두가 같은 문제에 대해 걱정하는 것만으로도 충분합니다.
우려되는 점은 AI 시스템이 생물학적 분자를 설계하고 한때 고도로 훈련된 전문가들만이 할 수 있었던 복잡한 실험실 작업을 지원할 수 있을 만큼 능력이 생겼다는 것입니다. 이제 Microsoft에서 OpenAI, Anthropic에 이르기까지 경영진이 의회에 뭔가를 해야 한다는 요구에 동참했습니다. 특히, 정부가 악의적인 행위자가 위험한(잠재적으로 치명적인) 생물학 무기를 추구하는 것을 방지하기 위해 합성 DNA 및 RNA 명령에 대한 필수 검사를 요구할 수 있다는 희망이 있습니다.
현재로서는 일부 합성생물학 회사가 운영하는 선별 프로그램은 대부분 자발적입니다. 그러나 새로운 법안 초안 작성을 지지하는 사람들은 AI 기능이 더욱 발전하기 전에 이러한 심사가 전국적인 요구 사항이 되어야 한다고 말합니다. 국회의원들은 이미 2026년 생물보안 현대화 및 혁신법과 같은 유사한 제안에 대해 어느 정도 진전을 이루었습니다. 이 법안이 통과되면 합성 유전 물질을 판매하는 회사는 향후 조사를 지원하기 위해 기록을 유지하면서 고객과 주문을 모두 선별해야 합니다.
과학자들은 문제에 대한 최선의 해결책에 동의하지 않습니다.
하지만 위험이 얼마나 빨리 증가하고 있는지, 그리고 이에 대해 어떤 조치를 취해야 하는지에 대해서는 의견이 다릅니다. 광범위하게 말하면 생물학적 AI 시스템은 이미 단백질을 설계하고 바이러스 진화를 예측하며 새로운 분자 구조를 생성할 수 있습니다. 바로 여기서 많은 걱정이 나옵니다. 과학자들은 미래 버전이 독소를 조작하고, 기존 병원체를 강화하고, 심지어 새로운 생물학적 위협을 개발하는 데 사용될 수 있다고 우려하고 있습니다. 근거 없는 것도 아닙니다. 연구자들은 고급 언어 모델이 이미 사용자가 숙련된 과학자에 접근하는 수준에서 전문적인 생물학적 작업을 수행하는 데 도움이 될 수 있음을 보여주는 연구를 지적할 수 있습니다.
그러나 컴퓨터에서 유해 유기체를 설계하는 것은 첫 번째 단계일 뿐입니다. 생물학적 작용제를 제조, 테스트 및 배포하려면 여전히 대부분의 사람들이 접근할 수 없는 특수 장비, 기술 지식 및 다양한 기타 리소스가 필요하다는 점을 기억하는 것이 중요합니다. 그렇기 때문에 전문가들은 디지털 디자인이 물리적으로 구현되는 시점에 대한 감독을 강화하는 것이 가장 효과적인 방어라고 주장합니다. (즉, DNA 합성 회사입니다.) 궁극적으로 소프트웨어나 하드웨어에 가드레일이 올라가더라도 요점은 남아 있습니다. 아마추어가 AI와 무기를 혼합하는 것을 진정으로 막고 싶다면 업계와 연구자가 빠르게 움직여야 합니다.
