컴퓨터
16/02/01 01:43(년/월/일 시:분)
요즘 기계학습을 공부중인데, 재미있는 글을 봤다.
http://www.andreykurenkov.com/writing/a-brief-history-of-neural-nets-and-deep-learning-part-4/
A 'Brief' History of Neural Nets and Deep Learning, Part 4
지금이야 신경망이 기계학습의 대세로 떠올랐지만, 불과 2000년대 초반까지만 해도 암흑기였다. 그때 요슈아 벤지오는 "신경망(Neural Network)"이라는 제목만 써도 저널에서 거절당했다고 한다. 그래서 "신경망"이라는 말이 거부감이 들어서 그런가 싶어서, "심층학습(Deep Learning)"이라는 말을 새로 만들어서 제출했더니 통과되었다고 한다.
물론 정말 신경망이라는 말에 편견이 있어서 거절되었을지는 정확히는 모른다. 나중에 쓴 논문이 훌륭해서 통과되었을지도 모른다. 그래서 저 글에서도 음모론이라고 했다. 하여튼 신경망은 실제로는 동작하지 않는 아이디어 수준의 논문이 너무 많아서, 심층학습이라는 신조어로 이런 편견을 깨려는 시도도 훌륭했다고 생각한다.
사실 지금의 심층학습도 옛날 신경망의 구조를 거의 동일하게 사용한다. 계산 방법의 세부적인 차이로 80년대에는 안 돌아가던게 요즘에는 잘 돌아가는 것이다. 그래서 "신경망은 아무리 해도 잘 안 돌아가더라"는 편견을 극복하기 위해 심층학습이라는 말을 만들어낸 셈이다.
나도 심층학습 강의를 들으며 구현해보니, 너무 지저분하고 전혀 직관적이지 않아서 이게 과연 돌아는 가는 걸까 싶었다. 오히려 옛날 80년대 방식이 좀 더 이해가 가고, 요즘 2000년대 방식이 이해가 안 가고 틀린 느낌이다. 막상 돌려보면 돌아가는게 신기하다. 그동안 괜히 헤멘게 아닌 것 같다.
컴퓨터 쪽에 이런 식의 신조어들이 많다. 유비쿼터스, 웹 2.0, 빅데이터, 사물인터넷(IoT)... 개념은 새로울 게 없지만, 섹시하게 잘 포장해서 사람들의 관심을 끌고 돈을 모은다.
순수하게 성과로만 인정을 받고 연구비가 잘 들어오면 모르겠지만, 정 안되면 이렇게 다른 방식으로 포장해서 파는 것도 필요하다고 생각한다.