3 월에 AI 인물들은 자신의 직원들이 역사의 쓰레기통으로 강등 될 것이라고 강조했다. “나는 우리가 3-6 개월 안에 AI가 코드의 90%를 쓰고있는 곳에서 우리가 거기에있을 것이라고 생각한다.” “그리고 12 개월 안에 우리는 AI가 본질적으로 모든 코드를 작성하는 세상에있을 수 있습니다.” 오자 맨 디아조차도 그러한 자체 봉사하는 웅장함에 대해 경고했을 수도 있지만, Amodei의 주장은 제자리에 없었습니다. Amazon CEO Andy Jassy는 AI가 프로그래머를 포함한 회사의 노동력을 크게 줄일 것으로 예측했습니다. Amodei의 코딩 주장 직전에 출판 된 뉴스 레터에 Amodei “Liar, Crook, Carnival Barker 및 Charlatan”이라고 불렀던 기술 분석가 Ed Zitron과 같은 회의적인 목소리는 AI 과대 버블을 수축시킬 수 없었습니다.
6 개월 후, 코딩 도구로서 AI의 기본 문제는 드러나고 있으며, 더 나 빠지고 있습니다. 지지자들이 예측 한대로 AI가 감상적인 향으로 향하는 AI와는 거리가 멀어지면서, 노동자를 흘리면서 일을 속도를 높이기 위해 AI를 받아 들인 회사는은 총알이 아니라는 어려운 방법을 배우고 있습니다. 한편, 연구에 따르면 AI는 코딩 작업 속도를 높이지 못했을뿐만 아니라 실제로 프로그래머가 느려진다는 것을 계속 보여줍니다. AI로 제작 된 코드는 신뢰할 수 없으며 대부분 위험한 보안 취약점으로 이어집니다. 기본적인 문제는 AI가 실수를 저지르는 것입니다. 즉, 코더는 모든 것을 두 번 확인하거나 코드를 커밋 할 때 손가락을 건너는 중에서 선택해야한다는 것입니다. 이러한 문제는 경련의 징후를 보이지 않으며 AI 코딩 두통이 다양한 산업에서 확산되므로 실제 해결책은 없습니다.
AI 코딩은 업계 주장과 달리 추가 작업을 유발합니다
무능한 직원이나 동료를 다루었다면 두통이 어떤지 알 수 있습니다. 끊임없이 그들을 감독하거나 그들의 작업은 시간을 낭비 할뿐만 아니라 자신의 책임에서 당신을 끌어냅니다. 생산성 향상을 위해 AI를 향한 재능있는 코더는 같은 상황에서 빠르게 자신을 찾습니다. 대형 언어 모델에서 지속되는 “환각”문제는 Google이 접착제를 먹으라고 말하는 것이 아닙니다. 또한 나쁜 코드를 생성하고 있습니다.
7 월에 AI Research Nonprofit Metr (모델 평가 및 위협 연구)은 최고의 AI 코딩 도구 중 일부를 사용한 개발자가 작업을 완료하는 데 19% 더 오래 걸렸다는 것을 발견했습니다. 이 연구의 개발자들은 AI 생성 코드의 44% 미만을 받아들이고 기능을 만드는 데 사용했던 코드를 연마하는 데 상당한 시간을 소비했습니다. 연구원들은 또한 환경이 복잡할수록 AI가 코더에게 덜 도움이된다는 것을 관찰했습니다. 더욱 충격적으로, 일부 개발자들은 AI가 속도를 늦추고 있다는 것을 알지 못했습니다. 연구에 참여한 후, 그들은 데이터가 보여준 효율의 감소와 거의 반비됐다.
이러한 효율성 감소를 감안할 때 AI를 채택하기 위해 서두르는 회사가 기대했던 결과를 보지 못하는 것은 놀라운 일이 아닙니다. AI는 단순히 타코 벨 주문을 할 때 다루는 두통이므로 복잡한 코드를 생성하고 4 년제 학위 보유자를 대체 할 것으로 기대합니다. 그럼에도 불구하고 4 월 소프트웨어 회사 Orgvue에서 발표 된 연구에 따르면 직원을 해고하여 AI로 교체 한 고위 사업가의 39% 중 55% 후회율이 발견되었습니다.
AI 생성 코드는 보안 악몽입니다
따라서 AI 생성 코드는 개발 시간을 크롤링으로 연마 할 수 있지만 반면에 보안 취약점으로도 수수께끼가 있습니다. 9 월 초 보안 회사 인 아피이로 (Apiiro)가 발표 한 결과, 회사가 인력에 AI의 사용을 의무화 할 때 단 6 개월 만에 10 배 더 “시한 폭탄”을 배송하기 시작합니다. 322% 증가한 가장 일반적인 문제는 특권 에스컬레이션이었습니다. 코드에는 해커가 시스템에 대한 높은 수준의 액세스를 얻을 수있는 취약점이 포함되어 있습니다. AI에서 현재 얼마나 많은 회사가 올인되고 있는지 고려할 때 그 의미는 놀라운 일입니다. 악의적 인 배우가 발견 할 때까지 코드가 완벽하게 작동하는 것처럼 보일 수 있기 때문에 이와 같은 악용은 시한 폭탄으로 간주됩니다. 은행에서 전기 자동차에 이르기까지 쉽게 이용 된 업데이트는 이미 안전을 손상시킬 수 있습니다.
이 연구는 샌프란시스코 대학교 (University of San Francisco) 및 기타 기관의 연구원들이 5 월에 발표 한 공동 논문으로 예고되었으며, AI 코드는 단 5 개의 “반복”이후에 중요한 취약점이 37.6% 증가한 것으로 나타났습니다. 다른 프롬프트 기술을 사용할 때도 비슷한 결과가 지속되었습니다. 일반 영어에서는 AI 생성 코드가 보안 문제를 일으킬뿐만 아니라 이러한 문제가 악화 될수록 AI가 더 많이 사용됩니다.
각각의 연구팀은 권장하는 각각의 솔루션이 하나뿐입니다. AI 생성 코드를 두 번 확인하기 전에 엄격한 인간 감독이 해를 입힐 수 있습니다. 위에서 언급 한 바와 같이, 이러한 감독은 AI가 개발중인 효율성 감소에 대한 설명 일 가능성이 높습니다. 닭고기와 egg 문제-캐치 -22입니다. AI를 사용하여 개발 속도를 높이면 보안 악몽이 발생하지만 오류 코드를 확인하면 개발 속도가 느려집니다.
