딥러닝은 한계에 직면했다

• 글에서 설명하는 한계들은 : GPT-3는 문장을 이해하지 못하고 그저 자연스럽게 이어가는 데에 초점에 맞춰져있음. 테슬라의 자율 주행 모델은 STOP 표지판을 든 사람을 구분하지 못함. 눈에 파묻힌 버스를 제설차로 분류함. 이 원인은 딥러닝이 생각하는 게 아니라 암기한 다음 분류하는 것이기 때문.

• 그렇기에 치명적이지 않고 이미 결정된 분야에 대해서, 다음 결과를 예측할 수 있는 분야에서는 딥 러닝이 탁월한 효과를 보이지만. 그러지 못하는 영역에서는 문제가 많음. 글쓴이는 NetHack을 예로 듬. 해당 게임을 플레이해서 클리어하는 AI를 고전적인 AI와 딥러닝 AI. 두 가지로 테스트를 했고. 고전적인 AI가 더 탁월한 성능을 보였음.

• 고전적인 AI, 심볼 AI는 의미를 이해하고 진행할 수 있었음. 그렇기에 새로운 패턴이 등장해도 빠르게 대응함. 하지만 딥러닝은 기존 것에서 빈 것들을 분류하는데에는 유용하지만. 자동 생성되는 던전을 잘 해치우지는 못했음. 왜냐면 그게 무슨 의미를 가지는지는 알 수 없기 때문에.

• 글쓴이가 대안으로 제시한 건 하이브리드 AI. ( 참고 : AI의 과거를 통해 AI의 미래를 본다 - MIT Technology Review ) 고전 AI의 심볼 분석과 정의가능한 규칙들로 딥러닝 AI의 한계를 극복하는 것임. 이렇게 하면 내부 동작 원인을 통제할 수 있을 것이고 부분적인 관계와 전체적인 관계를 좀 더 정확하게 다룰 수 있음.

• 이런 AI는 단지 글쓴이의 주장 속에만 있는게 아니라 알파고와 AlphaFold2도 하이브리드 AI. 다른 기업들도 그런 방향으로 가고 있음.

[xguru]

이거 어케 요약해서 올려야 하나해서, 아래 처럼 저자 소개만 적어놓고 고민중이었는데.. 감사합니다 ㅎㅎ

Robust AI의 CEO이자 Rebooting AI 책의 처자인 Gary Marcus의 글입니다.

[ffdd270]

이번 글이 다루는 부분이 엄청 많고, 재미있는 부분도 엄청 많아서 쉽지 않더라고요. 그래서 저자가 왜 하이브리드 AI가 필요한지 생각하는 가로만 요약을 했습니다.

본문에는 딥러닝 AI와 전통적인 AI의 관계와 신경전(... ) 에 대해서도 다루고, 재미있는 이야기가 많아 읽으니 본문을 안 보신 분들은 본문도 보셨으면 좋겠습니다. (__ )/