The New York Times에 따르면 OpenAI는 자율 AI 에이전트가 여러 미국 정부 웹사이트에서 정보를 얻으려고 시도한 방법과 이유를 조사하고 있습니다. 여기에는 교육부, 인구조사국 및 다른 웹사이트에 증권거래위원회 데이터를 게시하는 것이 포함됩니다. ChatGPT 뒤에 있는 회사는 BBC를 통해 해당 사건이 본격적인 위반이 아니며 에이전트가 액세스한 정부 정보가 모두 공개적으로 이용 가능하다는 점을 강조했습니다.
실제로 세부 사항은 처음에 들리는 것보다 훨씬 덜 극적입니다. 교육부 사건은 교육부의 민권 사무국에서 데이터를 얻으려는 시도가 실패한 것과 관련이 있을 뿐입니다. 또한 에이전트는 개발자 중심 도구와 공개적으로 사용 가능한 SEC 정보를 사용하여 인구 조사국 정보를 얻었습니다. 그럼에도 불구하고 개발자가 실제로 AI 에이전트에 대해 얼마나 많은 통제권을 갖고 있는지에 대한 의문이 제기됩니다. 결국 이는 OpenAI 에이전트 떼가 개발자 플랫폼 Hugging Face를 해킹한 7월 사건과 중국의 AI 에이전트가 암호화폐 채굴을 시작한 유사한 이전 사건 이후에 나온 것입니다. 그러나 그것은 또한 바로 그 질문에 대한 질문을 제기합니다. 누가 질문하기를 원하며 이러한 질문을 제기함으로써 그들은 무엇을 얻습니까?
악성 인공지능에 대한 선정적인 이야기를 조심하세요
첫째, 사실: OpenAI는 (CBS를 통해) 개인 정보나 민감한 정보가 손상되었다는 증거가 없다고 말합니다. 더욱이 상무부는 인구 조사 정보가 이미 대중에게 공개된 반면 교육부는 웹사이트나 데이터베이스에 영향을 미쳤다는 증거를 찾지 못했다고 New York Times에 말했습니다. 마찬가지로 SEC는 OpenAI와 통신 중이며 비공개 정보에 대한 무단 액세스를 인식하지 못했다고 NYT에 말했습니다. 즉, 미국 정부 시스템에 대한 공격은 아닙니다.
비판적인 시각으로 볼 때 OpenAI가 예상치 못한 기계 동작에 대한 널리 알려진 이야기에서 실제로 어떤 이점을 얻을 수 있는지 생각해 보십시오. 여기에는 OpenAI 창작물이 인간의 통제를 벗어났거나 독립적인 의제를 개발했다는 암시가 없습니다. 그것이 하는 일은 회사의 기술이 투자자들에게 더욱 인상적으로 보이도록 하는 동시에 회사의 상급자들이 더 큰 규제 영향력을 행사할 자격이 있는 것으로 자리매김하는 것입니다. 이 모든 것은 회사의 미래 이익을 위한 OpenAI CEO Sam Altman의 대담한 비전에 좋은 징조입니다.
예, OpenAI는 에이전트가 때때로 통제를 우회하고 의도된 승인 없이 행동한다는 점을 인정했습니다. 그러나 이는 OpenAI 자체가 공개한 구체적인 결과를 가릴 수는 없습니다. 이는 실제로 “에이전트 스팸”에 불과합니다. 이와 같은 예상치 못한 성가신 일을 설명하는 데 사용되는 용어입니다.
