스크랩 / / 2023. 2. 26. 13:41

테드 창이 말하는 ChatGPT의 한계

반응형

<ChatGPT가 아무리 그럴듯하게 이미지를 잘 만들어도, ‘정확한 이해’를 대체할 순 없습니다>

1. 요즘 ChatGPT가 가진 놀라운 가능성에 대해 찬사를 보내는 사람들이 많은데요. 그런데 말이죠. 그동안 <숨>, <당신 인생의 이야기> 등의 과학 소설로 호평을 받은 테드 창(Ted Chiang)은 ChatGPT를 보고 "손실 압축 복사기를 닮았다"고 주장했습니다.

2. 쉽게 말해, ChatGPT는 진실을 있는 그대로 전달하는 장치가 아니라, 어떤 정보를 임의대로 흐릿하게 처리해서 그럴듯하게 답변하는 것에 굉장히 능하다는 의미인데요. 즉, 현재 ChatGPT가 인간이 받아들일 수 있을 정도로 적당히 흐릿하게 잘 답변하기 때문에 큰 주목을 받고 있다는 겁니다.

3. 바꿔 말하면, 현재 ChatGPT는 인간의 질문에 그럴듯한 근사치의 값을 생성해내는 데 탁월하다는 것이죠.

4. 이를 테드 창은 '적당히 블러 처리된 흐릿한 이미지'라고 부릅니다. 손실 압축 복사기도, 압축하는 과정에서 다소 손실이 일어난다고 하더라도 큰 문제가 없는 경우가 많기 때문에, 용량을 줄이고 효율성을 높이기 위해 많이 활용되고 있는데요. 그런 면에서 ChatGPT와 유사하다는 것이죠.

5. 다만, 테드 창은 아무리 ChatGPT가 그럴듯한 이미지를 잘 만들어낸다고 하더라도, 인간이 살아가면서 필요한 '정확한 이해'는 대체할 수 없다고 말합니다. 포토샵을 아무리 잘 해도, 진실을 대체할 수 없는 것과 같은 원리죠.

6. 따라서 ChatGPT는 흐릿하더라도 적당한 가이드를 원하는 사람들에게는 꽤나 유용할 수 있지만, 양질의 정보, 정확한 사실 관계, 진실을 찾으려는 사람들에게는 그렇게 좋은 툴은 아닐 수 있어요.

7. 그런 의미에서 향후 관건은 '앞으로 나올 ChatGPT-4가 과연 이전 버전의 ChatGPT들이 만들어낸 정보들을 학습에 활용하느냐?'일 수 있는데요.

8. ChatGPT조차도 자신이 만들어낸 결과물이 흐릿해서 기술을 더 발전시키는 데 그다지 도움이 되지 않는다고 판단한다면, 그렇게 ChatGPT조차도 자신들이 만들어낸 데이터를 학습에 활용하지 않는다면, 이 말은 곧 인간이 쓰기에도 ChatGPT가 만들어낸 정보의 품질이 그다지 훌륭하지 않다는 뜻일 수 있으니까요.

9. 따라서 앞으로 ChatGPT가 그동안 생성해낸 자료를, 학습하는 데이터로 활용하는지를 지켜볼 필요가 있습니다.

10. 더불어 ChatGPT가 다소 흐릿하더라도 다양한 영역에서 놀라운 답변을 해내는 것을 보고 창작자들의 미래를 걱정하는 사람들이 많습니다만, 테드 창은 이 또한 그리 걱정할 수준은 아니라고 주장합니다.

11. 사람들은 창작이라고 하면, 독창적이고 뛰어난 결과물을 먼저 떠올리지만, 사실 독창적인 작품을 만들려면 그전에 수많은 독창적이지 않은 작품을 써야 하는 비효율의 시간을 견뎌내야 하기 때문인데요. 그리고 창작의 관점에서 보면, 이런 비효율의 시간과 노력은 낭비가 아니라, 독창적인 작품을 만드는 밑거름 역할을 합니다. 또한, 누군가는 이런 과정을 '창작의 고통'이라고도 부르고요.

12. 즉, ChatGPT가 아무리 그럴듯한 결과물을 내놓더라도, 독창적인 창작물을 만들어내는 과정에서 겪어야 할 '창작의 고통'을 대체할 수는 없을 겁니다.

13. 더불어 앞서 ChatGPT는 인간이 받아들일 수 있도록 적당히 손실 압축을 하는 복사기 같다고 이야기 드렸는데요. 디지털의 가장 큰 장점 중 하나는, 클릭 몇 번으로 원본 혹은 오리지널 콘텐츠에 접속할 수 있다는 겁니다. 손쉽게 원본에 접속할 수 있는데, 과연 그 원본을 흐릿하게 복사해는 것이 얼마나 쓸모가 있을까요?

14. 물론 인생을 살다 보면, 너무 막막하여 적당히 흐릿한 이미지라도 필요한 순간이 있을 수 있습니다. 이건 사람마다, 시점마다 다 다르겠죠. 그리고 그런 순간에 ChatGPT가 도움이 될 수도 있을 겁니다.

15. 하지만 ChatGpt가 아무리 훌륭하게 '흐릿한 이미지'를 만들어낸다고 해도, 세상에 대한 정확한 이해, 삶의 진실, 그리고 독창적인 오리지널 콘텐츠를 대체할 수는 없을 겁니다.

16. 특히나 본인이 1) 삶에서 정확한 이해를 중요시 여기고, 2) 삶의 진실을 찾기 위해 노력하며, 3) 자신만의 독창적인 결과물을 만들고 내고 싶은 사람이라면 더더욱 말이죠.

17. 그리고 어쩌면 이것들이 앞으로 창작자에게 주어진 사회적 역할인지도 모르고요.

++ 노안주 님께서 Ted Chiang의 <ChatGPT Is a Blurry JPEG of the Web>를 번역해주셨습니다


https://nosettling.notion.site/ChatGPT-2d91c01982c9407aac4f97e6c227b560

ChatGPT가 아무리 그럴듯하게 이미지를 잘 만들어도, ‘정확한 이해’를 대체할 순 없습니다

뉴요커(Newyorker)의 ‘ChatGPT Is a Blurry JPEG of the Web’를 번역, 정리했습니다.

nosettling.notion.site



https://www.facebook.com/100000921646788/posts/pfbid0EnrRAtDQWfxYj1wSPCD83tFGRb6jFCTuEVZtDT5Fv8EPVLzMTNQ9dSTz7WNoFTxcl/?mibextid=Nif5oz

로그인 또는 가입하여 보기

Facebook에서 게시물, 사진 등을 확인하세요.

www.facebook.com

반응형
  • 네이버 블로그 공유
  • 네이버 밴드 공유
  • 페이스북 공유
  • 카카오스토리 공유