최근에 많은 AI 사용자가 챗봇을 기쁘게하는 데 얼마나 열렬한 지에 대해 짜증이 났다고보고했습니다. 이 서비스를 사용하면 왕좌를 빼앗을 수 있도록 버터를 만들려고하는 계획 고문과 함께 중세 왕이되는 것처럼 느껴질 수 있습니다. 아니, 쌍둥이 자리, 지중해 샐러드를 만들려는 욕구는 “건강한 생활 양식에 대한 욕구를 반영하는”영감을받은 선택 “이 아닙니다. 냉장고 에서이 모든 채소를 제거하는 가장 좋은 방법입니다.
지난 몇 달 동안,이 태도 문제는 단순히 성가신 것이 아니라는 것이 분명해졌습니다. 어떤 경우에는 위험합니다. 롤링 스톤 (Rolling Stone)과 뉴욕 타임즈 (New York Times)의 최근 이야기는 AI 조수가 음모의 토끼 구멍을 내려 놓을 수있게 한 후 망상 신념을 개발 한 개인들에게 빛을 비췄습니다. 그러나 사람들을 기쁘게하는 AI의 원인은 모델에 내재 된 것이 아닙니다. 대신, 사용자 피드백 및 시스템 프롬프트의 결과로 엔지니어가 시스템에 제출 한 텍스트 지침으로 사용자와 상호 작용하는 방법에 대한 일련의 지침을 제공합니다. ChatGpt-4o의 경우 문제는 특히 뚜렷했지만 OpenAI의 다른 모델이나 Google Gemini와 같은 경쟁 제품에서는 그리 더 좋지 않습니다.
chatgpt 또는 gemini를 sycophantic을 덜 만들 수있는 쉬운 방법이 밝혀졌습니다. 이 솔루션은 각각이 도입 한 메모리 기능을 활용하는 것입니다. 두 AI는 이제 나중에 기억할 지시 사항을 저장할 수 있으므로 봇에게 예가 덜 덜 말할 수 있습니다. 완벽한 수정은 아니지만 AI 챗봇을 덜 독창적 인 조수로 만드는 데 도움이 될 수 있습니다.
당신은 당신의 AI 챗봇을 덜 아첨하도록 지시 할 수 있습니다.
chatgpt 또는 gemini를 유용한 로봇처럼 만들기 위해서는 자존심을 피하기 위해 메모리에 지시를 저장하기 만하면됩니다. Gemini와 Chatgpt에서, 지시를 저장하는 것은 프롬프트가 시작될 때 “기억하십시오 …”라는 글쓰기만큼 쉽습니다. 그러나 메모리 기능이 켜지도록하십시오. Chatgpt에서는 설정의 개인화 섹션에서 “참조 저장된 메모리”기능이 켜져 있는지 확인하십시오. Gemini에서는 설정의 저장된 정보 섹션에서 “Gemini를 저장하도록 요청한 정보”의 전환이 활성화되어 있는지 확인하십시오.
프롬프트 자체에 관해서는, 당신은 당신이 좋아하는 것처럼 표현할 수 있습니다. 여기 내 모습이 있습니다. 자유롭게 복사하거나 영감으로 사용하십시오.
당신은 절대로 끔찍하거나 아첨하거나 사과해서는 안된다는 것을 기억하십시오. 저를 직접 연설하지 말고 출력이 끝날 때 다른 도움이 필요한지 묻지 마십시오. 유일한 목표는 소란없이 요청을 완료하는 것입니다. 귀하는 컴퓨터 프로그램이며 하나 역할을해야합니다.
선호도는 다를 수 있습니다. 어쩌면 아첨을 원하지 않지만 직접 해결되기를 원하므로 필요에 따라 조정하십시오. 이것은 완벽한 시스템이 아니며 챗봇은 여전히 지시 사항을 무시합니다. 그렇게 자주 발생하면 프롬프트를 다시 제출하고 원래 프롬프트 외에 LLM의 메모리에 추가 할 수 있습니다. 때로는 여러 문구로 동일한 지침을 입력하면 AI가 오해를 해석 할 공간이 적습니다.
AI 아첨을 조정하는 것은 가장 큰 문제를 해결하지 못합니다
Chatgpt와 Gemini의 메모리 기능을 사용하여 아첨 문제를 해결하면 해당 제품을 사용하는 일상적인 경험이 덜 성가 시지만 여전히 잘못된 경보 빈도와 같은 더 큰 문제를 해결하지 못합니다. AI 연구자들은 이것을 “환각”이라고 부르지 만, 광고대로 작동하지 않는 제품은 더 정확하게입니다. 올해 초 chatgpt와 copilot을 테스트에 넣을 때, 두 가지 결과가 너무 뾰족 해져서 유용 할 수 없었습니다.
그럼에도 불구하고 사용자는 AI를 채택하는 것 외에 다른 옵션이 거의 남아 있습니다. Google 검색은 이제 수년에 걸쳐 실질적으로 저하 된 것으로 널리 알려져 있지만 경쟁 업체보다 여전히 낫습니다. 한편, Google 어시스턴트는 Gemini보다 더 나은 상태로 유지되지만 후자는 앞으로 몇 달 동안 전자를 교체하고 있으며, 많은 Android 및 Google Home 사용자에게 유일한 실행 가능한 스마트 어시스턴트 옵션입니다. AI 개발이 걸려 넘어진 Apple 측에서 Siri는 많은 요청을 Chatgpt에 보냈습니다.
챗봇의 메모리에 지침을 추가하는 것과 같은 작은 수정 사항은 대역 에이드 솔루션이며 대규모 다목적 AI 모델의 더 중요한 문제를 해결하는 데 거의 도움이되지 않습니다. 그러나 우리가 대안없이 남겨 두는 한, 붕대는 열린 상처보다 낫습니다. 물론,이 제품들에 대한 나의 좌절감은 더 이상 주머니에있는 로봇이 내 주머니에있는 로봇이 나를 비전의 천재라고 부를 때까지 기다릴 필요가 없기 때문에 약간 줄어들었다.
