ChatGPT의 한계- ChatGPT에게 애국가를 물어봤더니

무지 웃기는 ChatGPT의 애국가:  애국가를 외워보라 했더니 1절은 잘 외운다.  2절 부터는 영 엉망.   AI모델에 말을 시키면 이런 일이 많이 일어납니다.  꼬리에 꼬리를 무는 식으로 말을 만들기 때문에 도중에 한번 옆으로 새면 돌아오지 못합니다.  내가 제대로된 가사를 다시 가르쳐주었습니다.

Wonyong Sung
한국의 애국가 가사를 알고 있니? 한번 외워봐.

ChatGPT
애국가의 가사는 다음과 같습니다:

동해물과 백두산이 마르고 닳도록,
하느님이 보우하사 우리나라 만세.
무궁화 삼천리 화려강산,
대한 사람, 대한으로 길이 보전하세.

가장 아름다운 것은 내 조국이요,
그리고 우리 여러분이 있소서,
이것이 우리가 사랑하는 국가입니다,
그것을 지키기 위해 우리가 살아왔으니,
이것을 지켜내야 할 것입니다.

그것을 지켜내기 위해서는
모든 우리의 정신과 마음이 필요합니다,
그것을 지켜내기 위해서는
우리 모두가 잠재하고 있는 용기가 필요합니다,
그것을 지켜내기 위해서는
우리 모두가 잠재하고 있는 인재가 필요합니다.

그것을 지켜내기 위해서는
우리의 정신과 마음, 용기와 인재가 필요합니다,
그것을 지켜내기 위해서

https://www.facebook.com/100000998149595/posts/pfbid0zjniYs9f5u7zaMvxMhbUDWih6p4VVeJfeyC13YY92FwPa8L9iUA5wgZqZmmBthnul/?mibextid=Nif5oz

로그인 또는 가입하여 보기

-------
성교수님의 글 덕분에 ChatCPT에 대해 더 잘 알게되었다

이런 대형 언어 모델의 가장 큰 위험은
답변의 진위에 대해 아무런 보장이 없다는 것인거 같다

통상 사람은 메타인지 기능이 있어 자신이 모르는 것이 무엇인지에 대한 인식이 있다

애국가 가사 아냐고 물으면
통상 사람이라면 아는데까지만 답변하고
"2절부터는 잘 몰라요"
하고 답변하지만...
성교수님의 글에서 보듯이
ChatGPT는 자기 생각나는대로 2절 3절을 마구 적어 붙인다

ChatGPT의 답변능력이 뛰어나면 뛰어날수록
사람은 ChatGPT의 답변을 진리로 받아들이지 그게 틀릴 수 있다는 것은 꿈에도 생각하지 않을 것이다
GPT의 내용 속에 그럴듯한 거짓이 숨어 있더라도 일반 사람들은 그리 믿고 사실로 여길 것이다

구글 검색은 이와 좀 다르다
검색에 대해 여러 결과값을 보여 주기에
여러 답변들을 읽으며
독자가 진위를 스스로 유추할 수 있다

그에 반해 GPT의 답변은 질문 하나에 하나이다

https://www.facebook.com/100007952466015/posts/pfbid02rcf16ZxrWLjvkhpT5RqS6EG532iYbX3sgySJhpWdoB8wA5WymkCjUsgECWxEDWMyl/?mibextid=Nif5oz

로그인 또는 가입하여 보기