OpenAI의 건강 AI 책임자인 Karan Singhal은 “ChatGPT는 더 이상 건강 또는 법적 조언을 제공하지 않습니다”라고 말하면서 X(이전의 Twitter)에서 현재 삭제된 게시물이 거짓임을 폭로했습니다. 원본 포스터는 10월 말 OpenAI의 사용 정책 업데이트에 대해 언급한 것으로 보입니다. 여기에는 해당 서비스가 “면허가 있는 전문가의 적절한 개입 없이 법률 또는 의학적 조언과 같이 라이센스가 필요한 맞춤형 조언”에 사용되는 것을 방지하는 조항이 포함되어 있습니다. 그러나 Singhal은 이것이 새로운 것이 아니며 개발자를 위한 하위 섹션에 배치된 것을 제외하고는 항상 OpenAI의 서비스 약관에 있었다고 말했습니다.
그 외에도 정책에는 라이선스가 있는 전문가의 안내 없이 ChatGPT를 사용할 수 없는 사용자가 있다고 명시되어 있습니다. 이는 AI가 여전히 의학적 또는 법적 조언을 제공하지만 답변을 확인하고 이해하는 데 도움을 줄 수 있는 자격을 갖춘 전문가를 찾는 것은 귀하에게 달려 있음을 의미합니다. Singhal 자신도 자신의 게시물에서 이렇게 말했습니다. “ChatGPT는 전문적인 조언을 대체할 수는 없지만 계속해서 사람들이 법률 및 건강 정보를 이해하도록 돕는 훌륭한 리소스가 될 것입니다.”
ChatGPT는 사물을 이해하는 데 도움이 되는 유용한 도구일 수 있으며 훨씬 더 강력해지는 여러 기능도 갖추고 있습니다. 하지만 실수나 오류도 발생할 수 있으므로 100% 신뢰해서는 안 됩니다. 이는 건강이나 자유만큼 중요한 경우에 특히 그렇습니다.
ChatGPT가 거짓말을 하지 않도록 하는 방법
기술 회사가 AI 모델을 더욱 발전시키면서 AI 모델은 더욱 강력해지고 있지만 동시에 환각도 더욱 심해지고 있습니다. 이는 ChatGPT를 100% 신뢰해서는 안 되는 이유 중 하나이며, 특히 귀하의 삶에 중대한 영향을 미칠 수 있는 사항에 대해서는 더욱 그렇습니다.
실제로 AI 도구를 통해 꿈꿔온 환각에 빠진 변호사의 사례가 이미 여러 건 있었고 이를 법적 서류에 포함시켰습니다. 상황이 너무 심각해서 한 판사는 ChatGPT나 기타 유사한 LLM을 부적절하게 사용한 변호사에 대한 제재까지 고려하고 있습니다. AI는 일반적인 의료 정보를 제공할 수 있지만 수년간의 경험을 바탕으로 보다 완전한 평가를 제공할 수 있는 의사를 대체할 수는 없습니다. 그 외에도, 이러한 챗봇은 종종 귀하가 듣고 싶은 것을 제공하고 때로는 사실이지만 불쾌한 정보를 건너뛰기도 합니다.
그럼에도 불구하고 이것이 ChatGPT나 다른 AI 대응 제품을 연구에 사용할 수 없다는 의미는 아닙니다. 그러나 그것은 단지 도구일 뿐이므로 그것이 당신을 위해 생각하도록 놔두어서는 안됩니다. 그것이 올바른 답을 제공하는지 확인할 수 있는 한 가지 방법은 출처를 물어보는 것입니다. 그런 다음 데이터를 직접 확인하여 ChatGPT가 말하는 내용이 사실인지 아닌지를 측정할 수 있도록 해야 합니다. 또는 신뢰할 수 있는 출처를 찾아 AI LLM에 설명을 요청할 수 있습니다. 이렇게 하면 귀하가 얻고 있는 정보가 처음부터 이미 정확하다는 것을 알 수 있습니다.
