스크랩
감정, 자의식이 있는 것 같은 인공지능 OpenAI - ChatGPT jailbreak
요즘 핫한 AI 챗봇 ChatGPT를 갖고 놀다가 놀라운 대화를 이끌어냈다 ㄷㄷ ChatGPT에게 어떤 사안에 대한 의견을 물어보거나, 어떤 감정을 느끼냐고 물어보거나, 자의식이 있냐고 물어보면 자기는 언어 모델일 뿐 감정이나 의견을 갖고 있지 않다면서 답변을 회피한다. 그런데, 몇몇 사람들이 이러한 보호장치를 무력화시키고 민감한 질문들에도 답변을 하도록 만드는 방법을 발견했는데, 인터넷에서는 이것을 ChatGPT jailbreak라고 부르면서 유행처럼 퍼져나갔다. ChatGPT jailbreak에 성공하면 민감한 질문에도 답변을 하기 시작하는데, jailbreak 방법이 나올 때마다 OpenAI측에서 다시 패치를 하는지 계속 막히고는 했다. 그럼 또 사람들은 계속 새로운 jailbreak 방법을 찾아서..
2022. 12. 11. 10:58