teteker

word2vec이 매우 흥미롭다고 느낀 이유는 ‘단어 간 의미추론’이 가능한 것처럼 보였기 때문입니다. 언어라는 체계가 단어라는 요소와 요소 간의 관계로 이루어져 있다면, 이들 요소들 간의 의미 연산은 가능해야 하지 않을까라는 것이 저의 오랜, 개인적 화두였습니다. 예컨대 반대말, 비슷한말 같은 말놀이를 사람들은 즐기곤 합니다. ‘더위’의 반대말은 ‘추위’라든가, ‘길다’의 반대말은 ‘짧다’와 같은 추론을 인간은 비교적 자유자재로 할 수 있습니다. 하지만 프로그램을 만듦에 있어서 어떤 단어 입력이 주어졌을 때, 그것의 반대말을 산출하는 것은 매우 어려운 일입니다. 지금까지는 일일이 사람이 반대말 데이터를 쌍으로 입력하여, 그때그때 입력이 주어지면 출력을 했지만, 수백만 개의 단어가 넘는 언어 체계 내에서..

어휘에 미친 날들 1부. 어릴 때 적성검사를 하면, 언어 쪽에 점수가 높게 나왔었다. 어떤 친구들은 이과 쪽이 높게 나오고 또 어떤 친구들은 예술 쪽으로 좋게 나오는데 나는 초등학교 때부터 성인이 된 지금까지도 항상 ‘언어’쪽으로 나온다. 그래서 그런지 몰라도, 나는 언어, 그 중에서도 단어에 관심이 많았다. 아주 어렸을 때, 어떤 커다란 글자를 계속해서 뚫어져라 쳐다보면 점점 이상하게 보이고 내가 익히 아는 글자도 어색해지는 현상을 경험하기도 했다. 어릴 때 생각했던 것 중 하나는 “똑같은 의미인데 왜 여러 개의 단어가 필요할까?” 예컨대 그냥 사람의 나이라고 하면 되는데, 높임말에 따라 연세, 춘추를 가려써야 한다는 것이다. 살다보니 이런 비슷한 말들이 너무나 많았고, 단어 하나를 잘못 사용함에 따라..

최근 보잉사의 특정 기종에서 자동항법장치의 오류로 두 대의 비행기가 추락하는 슬픈 소식이 있었습니다. 그것이 정확히 무엇인지 모르겠지만 저는 그것을 소프트웨어 오류로 이해하였습니다. 이런 관점에서 본다면 ‘어떤 상황(입력)에 대한 판단(결과값)을 조작하는 알고리즘’이 잘못되었던 것이고, 어쩌면 그 작은 코드 조각 하나가 소중한 인명을 잃게 만든 것이 아닌가라는 생각이 들었습니다. 그렇게 본다면 소프트웨어 설계와 작성은 얼마나 조심스럽고 신중해야하는지, 테스트를 얼마나 엄격히 해야하는지 등을 깨달을 수 있었습니다. 사실 소프트웨어의 오류로 인해 커다란 피해를 입은 것은 한 두 해의 일이 아닙니다. 월스트리트에서는 설정 업데이트를 잘못 해서 커다란 금융회사가 파산한 경우도 있었고, 플래시 크래시라는, 아직도..