AI 알파고, 카타고로 살펴보는 인공지능의 맹점, 한계

@ailover22
이현욱TV[프로바둑9단]님이 고정함
@ailover22
2주 전
알파고는 인간이 생각하듯이 돌의 놓여진 형태를 보고 사활을 판단하는 것이 아닙니다. 이길 확률이 높아 보이는 곳들에 모두 두어 보아서, 승률이 가장 높은 점에 두는 것입니다. 문제는 바둑의 형태를 보고 어떤 위치가 승률이 높은 지를 어떻게 알 수 있느냐 하는 점인데, 여기에 CNN이라고 하는 인공지능을 사용하게 됩니다. CNN은 이미지에 대해서 분류를 잘 하는 기능인데, 처음 보는 형태라 할 지라도, 그와 유사한 형태에서의 승률을 기반으로 두어지지 않은 위치에 대해서 점수를 부여하는 것입니다. 그래서 이런 방식으로는 사람을 이기기 어려울 것이라 생각한 사람들이 많았는데, 의외로 이러한 접근 방식으로 프로까지 이기게 되는 상황이 된 것입니다. 방송을 보면 자꾸 알파고가 인간처럼 수 읽기를 하는 것처럼 해설을 해서 답답한 경우가 많은데, 수읽기를 하는 것이 아니라, 현재 바둑 형태와 유사한 형태에서 확률이 높은 곳 몇 곳을 찾아서 두고, 그 형태에서 다시 확률이 높은 곳을 찾아서 두고 이렇게 계속 두어서 끝까지 두어 나갈때 승률이 높은 지점을 찾아서 두는 것 뿐입니다. 즉 결국 알파고는 근본적으로는 모두 두어보는 방식입니다. 물론 모든 곳을 둘수 있다면 누구나 컴퓨터가 이기는 것은 당연할 것이라 여기겠죠. 다만, 실제로 모든 곳을 두는 것이 아니고, 확률이 높아 보이는 곳을 모두 두어보는 것이고, 확률이 높아 보이는 곳은, 기존에 두어진 바둑과 유사한 형태에서 승률이 높았던 값들을 CNN 분류를 통해서 구하는 것입니다. 따라서, 전혀 두어지지 않을 형태의 바둑 모양이 나온다면, 그 형태에서 계산 되어지는 빈 곳의 확률정보는 엉터리가 될 수 있고, 그런 식으로 계속 확률이 높은 곳을 끝까지 두게 된다면, 계속 엉뚱한 결과를 얻게 될 수 있는 것입니다. 알파고, 또는 요즘 유행하는 chatGPT등이 전혀 논리적인 사고를 하지 않고, 확률에 의한 분류를 기반으로 인간을 이기는 바둑을 두기도 하고, 마치 인간처럼 대화를 하지만, 인간과 같은 논리적이나 추상적인 사고에 기반하지 않기때문에 전혀 엉뚱한 결과도 나올 수 있습니다. 앞으로 이런 AI와 인간이 공존해야 하는 상황에서 인간은 좀 더 AI에 대해서 생각을 많이 해야 합니다. 알파고가 바둑계의 흐름에 거대한 영향을 주었듯이, chatGPT는 아마도 인간의 삶의 방식을 바꾸어 놓을 것입니다. 아무런 바둑에 대한 논리적 사고나 추상적인 이해도 없이 프로바둑을 이기듯이, 아무런 논리적 사고나, 추상적인 생각도 할 줄 모르는 컴퓨터가, 소프트에어 개발뿐만 아니라 인간이 하는 거의 모든 업무를 대신할 수 있게 되어 가는 지금, 일을 통해서 자신의 가치를 부여했던 흐름에서, 일은 컴퓨터나 로봇같은 기계에게 넘기고,  일보다는 다른 삶의 가치를 추구해야하는 세상을 준비해야 합니다.
85
@moveforward8380
@moveforward8380
2주 전
👍
@gaibarhongkong
@gaibarhongkong
2주 전
신경망 없이 두어 보는것만 구현한게 2010년대 초의 젠을 비롯한 몬테카를로 트리 검색 기법을 사용한 인공지능입니다. 인간 프로는 못 이겼지만 인터넷바둑 9단을 갈 수 있고 프로들에게 5점으로 박빙 내지 앞서는 승부를 할 수 있었죠.
2
@gimgankoomg4168
@gimgankoomg4168
2주 전
결론은 인공지능은 자연지능과 질적으로 다르다....
1
@ailover22
@ailover22
2주 전
 @gaibarhongkong  네... 저도 그 당시 몬테카를로 방식의 바둑 프로그램과 바둑을 둔 적이 있었는데, 그 실력에 충격을 받았았습니다. 아무런 바둑에 대한 학습이나 사고도 없이 아무 곳이나 random 하게 몇 군대를 선택해서 끝까지 두는 방식으로 승률이 높은 곳에 두는 것 만으로도, 아마추어 단 실력이 될 수 있는 지 참으로 의문이었습니다. 물론 그래도 이런 방식으로 절대 프로는 이길 수 없을 것이라 생각하고 관심을 끄고 살았는데, random하게 선택하던 것을 승률이 높은 곳으로 바꾸면서 인간을 이기게 될 줄은 정말 몰랐습니다.
1
@rockugotcha
@rockugotcha
2주 전
저도 이 문제 관심이 좀 있는데, 사실 이게 버그가 아닌 거죠?
근본적인 결함인 거죠?
왜냐하면 카타고는 스스로 사고할 수 있는 게 아니라 인간이 이미 선택한 데이터들을 모방하는 것에 불과하니까 데이터가 없는 낯선 상황에서는 제대로 된 답이 나오지 않는 것 같아요.
루만계 학자가 인공지능을 연구한 뒤 이건 지능이 아니라 소통의 한 방식이라고 했던 책이 기억나네요.
아주 좋은 도구일 뿐이지 이게 우리 미래를 말해주거나 선택을 대신할 순 없다는 걸 다시 한번 알려준 일화 같습니다.
8
@rockugotcha
@rockugotcha
2주 전
저도 이 문제 관심이 좀 있는데, 사실 이게 버그가 아닌 거죠?
근본적인 결함인 거죠?
왜냐하면 카타고는 스스로 사고할 수 있는 게 아니라 인간이 이미 선택한 데이터들을 모방하는 것에 불과하니까 데이터가 없는 낯선 상황에서는 제대로 된 답이 나오지 않는 것 같아요.
루만계 학자가 인공지능을 연구한 뒤 이건 지능이 아니라 소통의 한 방식이라고 했던 책이 기억나네요.
아주 좋은 도구일 뿐이지 이게 우리 미래를 말해주거나 선택을 대신할 순 없다는 걸 다시 한번 알려준 일화 같습니다.
1
@rockugotcha
@rockugotcha
2주 전
저도 이 문제 관심이 좀 있는데, 사실 이게 버그가 아닌 거죠?
근본적인 결함인 거죠?
왜냐하면 카타고는 스스로 사고할 수 있는 게 아니라 인간이 이미 선택한 데이터들을 모방하는 것에 불과하니까 데이터가 없는 낯선 상황에서는 제대로 된 답이 나오지 않는 것 같아요.
루만계 학자가 인공지능을 연구한 뒤 이건 지능이 아니라 소통의 한 방식이라고 했던 책이 기억나네요.
아주 좋은 도구일 뿐이지 이게 우리 미래를 말해주거나 선택을 대신할 순 없다는 걸 다시 한번 알려준 일화 같습니다.
@ailover22
@ailover22
2주 전
 @rockugotcha  네.. AI에 관련된 얘기를 하다보면 조심스러울 수 밖에 없는데요... 일단 현재의 알파고나 카타고 등은 인간이 선택한 데이타들을 모방하는 것은 아닙니다. 알파고 리와 알파고 마스터 까지는 인간이 둔 바둑의 형태를 참조했지만, 알파고 제로, 릴라 제로 등은 컴퓨터 간의 대국 정보만을 활용한 것으로 알고 있습니다.  CNN의 특징은 처음 나오는 형태라도 기존에 나온 형태와 유사한 형태로 분류를 잘하는 기능이 있으며, 알파고는 그것을 이용하여, 그 유서한 형태의 승률 정보를 얻어 몬테카를로 방식으로 모두 두는 방식입니다. 현재 사용되는 대부분의 AI가 이렇게 자동 생성된 빅 DATA 혹은 인간이 만들어낸 빅 DATA를 이용하여, 다음에 나타날 것을 예측하는 방식이며, 이런 방식으로는 인간과 같이 추상적 혹은 논리적 사고를 하는 것으로 쉽게 할 수 있는 일을 못 하거나 오류를 낼  수도 있지만, 그러한 방식으로도 바둑에서 프로를 이길 수 있듯이, 인간이 하는 대부분의 일들을 대체할 수 있게 될 것이며, 우리는 이에 빨리 정신적 혹은 제도적 대비를 해 나가야 합니다.
2
@user-yw8py2jo6o
@user-yw8py2jo6o
2주 전
알파고가 인간이 둔 바둑을 바탕으로 승률 최적화된 수만 두었던 것이라면 정석에서 벗어난 수를 두었던 이유는 머죠?
이세돌사범님과의 대결에서도 정석에서 벗어난 수를 뒀던걸로 기억합니다만
@ailover22
@ailover22
2주 전
 @user-yw8py2jo6o  일단 알파고 리의 경우, 사람들의 바둑을 기반으로 확률을 계산하였고, 그렇게 만들어진 알파고 리 들끼리 바둑을 두면서 강화 학습을 통해 조금씩 승률이 높은 쪽으로 확률을 바꾸어 나가는 방식으로 만들어진 것입니다. 그 후 알파고 제로는 인간의 바둑을 전혀 참조 하지 않고 컴퓨터 끼리두는 것에서 시작하여, 계속 강화학습을 통해 인간의 바둑을 참조하지 않고 72시간 만에 인간의 포석을 뛰어넘는 새로운 포석들을 두기 시작하게 되었다고 들었습니다.
2
@user-jo2cd7nz2x
@user-jo2cd7nz2x
13일 전
글치만 결국 알파고가 이세돌 이겼잖아요.
@JSBACH-yv9sx
@JSBACH-yv9sx
12일 전
알파고도 mcts할텐데요.
@user-pp2sd5hk3q
@user-pp2sd5hk3q
11일 전
정말 좋은 글입니다
아무래도 해설하는 분이나 바둑기사들은 프로그램에 대한 이해도가 떨어지니까 자꾸 본인들 기준으로 ai를 해석하려고 하더라구요 ㅎㅎ 전혀 다른데 말입니다 
철저하게 알고리즘으로 수학적인 계산만 하죠
@user-wl2ug4hr8o
@user-wl2ug4hr8o
10일 전
저도 궁금한게 있는데,, 문과라서 잘은 모릅니다만 ,, AI 는 결국 데이터기반이기에, 누적된 데이터가 많으면 좀 더 나은 선택을 할 수 있는거잖아요 ? 지금 바둑계에서 인공지능의 허점 내지는 오류라고 하면서 AI 에게 이기는 방법을 신나게 말하고있습니다만,,, 사실 이 자체가 AI 에게 기존에 AI 에게 없었던 데이터를 제공함으로써 결국 이 방법도 봉쇄를 당할 것이고, 인류는 또 다른 방법을 찾아야하는 수레바퀴인 것이죠 ?
@ailover22
@ailover22
10일 전
 @user-wl2ug4hr8o 사실 어려운 질문인데요... 답변을 드리려면, 책한권 써야할 것 같습니다. AI는 사실 분야가 다양한데, 현재는 Deep Learning을 사용한 뉴럴 네트워크가 대세가 되었죠. 알파고에서는 바둑판에 놓여진 형태의 분류를 통해 다음에 두어야할 곳을 예측하는 것과, 현재 형태의 형세 판단에 CNN을 사용하였는데, 이러한 뉴럴 네트워크 방식은 아무런 논리를 사용하지 않고, 수십만, 수백만 개의 변수를 적당히 조절하여, 잘 분류하도록 하는 방식입니다. 하지만 이런 방식은 변수가 많아지면 시간이 너무 많이 걸려서, 예전에는 쓸모가 없었지만, 2010년 경에 CNN이 등장하고, 또 GPU와 CPU가 발전하면서, 수백만개의 변수를 높은 확률로 빠른 속도로 찾게 되었고,  마침내 하사비스에 의해 이러한 CNN과 강화학습 등이 몬테카를로 방식의 AI 바둑 프로그램에 접목되면서 컴퓨터가 프로를 이기는 충격을 주게 된 것입니다. 이러한 사실을 잘 모르는 사람들은 알파고가 마치 인간처럼 사고를 하고, 사고하는 AI시대가 바로 올 것 처럼 우려하는 사람도 있었지만, 사실 알파고 방식만 바라보면 그냥 빠른 계산만 하는 것입니다. 즉 바둑은 가지수가 너무 많아서 컴퓨터로 다 두어볼 수 없기에, 인간의 사고가 꼭 필요하다고 생각했던 것인데, 알파고는 전혀 인간적 사고를 하지 않고도, 인간을 이겨버린 것입니다. 다시 말해서 정말 우리가 우려해야하는 것은 바둑처럼 인간의 고도의 논리가 필요해 보이던 모든 분야가 사실 많은 data가 모이게 되면, 비슷한 이유로 인간을 대체할 수 있을 것이란 점입니다. 인류가 준비해야할 것은 이번에 등장한 버그처럼  보이는 것들에 관심을 가지거나 대비하는 것이 아니라, 로봇이 빠르게 인간의 일을 잠식해갈때,  향후 어떤 식으로 인류가 이러한 것들을 어떻게 받아들이면서 공존할지에 대한 대비가 필요합니다.
@lactaldig9536
@lactaldig9536
10일 전
가독성 빵점
@nam79762
@nam79762
9일 전
사고를 한다는 것과 그동안의 모든 기보를 통해서 가장 승률이 높은곳에 두는 것과의 차이점이 뭘까요? 프로기사들이 수 읽기를 하는것도 결국 경험에서 나오는 것인데 그 수들중에 새롭다고 할수 있는게 있을까요.
@ailover22
@ailover22
9일 전
 @nam79762  가장 승률이 높아 보이는 것에 두려고 한다는 것은 알파고나 인간이나 마찬가지 이고, 그 이후 다음 몇 개의 수들을 추론 하는 방식 자체는 인간과 큰 차이가 없습니다. 다만 차이가 나타나는 것은 승률이 높아 보이는 형태에 대한 판단인데, 이 부분에서 컴퓨터는 이전 훈련한 값을 사용하여 직접 두어나가는 것이고, 인간의 경우도 이전에 훈련한 값들을 조합해서 머리에서 두어나가는 것인데, 이때 인간이 사용하는 기법에, 돌들이 살아 있는지, 살 수 있는 지, 집이 될 가능성이 있는 지, 연결되어 있는 지, 끊을 수 있는 지 등에 대한 전략과 전술 등 인간이 어떠한 상황을 분석하는 고도의 추상화 능력이나 추론하는 능력이 사용되는데 반해, 알파고의 경우는 이러한 추상화 능력을 전혀 사용하지 않는 다는 것입니다. 즉 예를 들자면, 혹시 프로그램이란 것을 아시는 상황에서, 바둑을 짜 보려고 한다면, 바둑에서 가장 먼저 코딩해야 하는 것이 돌들의 형태를 보고, 돌들을 분리하고, 살 수 있는 형태인지, 집이 얼마인지 등을 구현해야 할 것입니다. 즉 우리가 바둑을 두면서 배운 우리의 지식을 바둑 프로그램에 담아야 한다고 생각할 수 있습니다. 알파고는 이런 식의 인간적인 사고를 전혀 사용하지 않는 다는 것입니다. 그냥 끝까지 두어서 이기는 형태와 유사한 형태에 점수를 많이 부여해서 가장 승률이 높은 곳에 두는 것입니다. 이런 것도 사고하는 것이라기 보다는 단순 계산이라고 보아야 하겠죠. 더구나 이런 계산 방식은 유사한 형태가 한 수만 삐끗해서 문제가 발생하는 사활이나, 축 등에서는 더 심각한 문제를 발생하게 되는 것이고, 그 것이 이번 9점 바둑에서 드러난 것입니다.
@user-gr4iq2xu3l
@user-gr4iq2xu3l
4일 전
이거 chatGPT로 쓴 댓글인가요 

https://youtu.be/01oFFmrvBJU