AI는 인간 언어를 ‘이해’하지 못한다

인간은 의미를 만들기 위해 구어와 수화를 사용해 주변 세계를 이해한다. 하지만 챗GPT와 같은 생성형 인공지능이 등장하면서 ‘의미’의 정의 자체가 다시금 논란이 되고 있다.

노벨상 수상자이자 AI 선구자인 제프리 힌튼(Geoffrey Hinton)은 AI 신경망이 자연어를 이해하는 능력이 예상보다 훨씬 빠르게 발전했으며, 실제로 자신들이 생성하는 내용을 ‘이해’한다고 평가했다. 그는 노벨 프라이즈 아웃리치(Nobel Prize Outreach)의 최고과학책임자 아담 스미스(Adam Smith)와의 인터뷰에서 AI 신경망이 노엄 촘스키(Noam Chomsky)의 언어학 이론보다 언어 처리를 더 잘한다고 주장했다.

그러나 1990년대부터 인간의 언어 이해를 연구해온 한 신경언어학자는 이러한 주장에 동의하지 않는다. 그는 20년 넘게 사람들의 문장 이해 과정을 뇌파 측정을 통해 분석해왔으며, AI가 언어를 ‘이해’한다고 보기는 어렵다고 지적한다.

많은 사람들이 화면에 나타나는 텍스트를 자연어와 혼동하지만, 문자로 된 텍스트는 언어 자체와는 다르다. 예를 들어, 힌디어와 우르두어는 구어 수준에서는 상호 이해가 가능하지만, 서로 완전히 다른 문자 체계를 사용한다. 세르비아어와 크로아티아어도 마찬가지다.

언어는 대부분 대면 상황에서 전달되며, 환경적 맥락과 함께 음성의 억양, 시선, 표정, 감정 표현 등 다양한 단서가 결합된다. 단어만을 이해하는 것은 언어 이해의 일부에 불과하다. 심지어 언어에 미숙한 유아조차도 맥락 단서를 파악할 수 있다. “나는 임신했어”라는 문장은 누가, 어떤 상황에서 말하느냐에 따라 전혀 다른 의미로 해석된다. 발화자의 연령이나 관계에 따라 청자의 반응도 달라진다.

최근 연구에 따르면 개인의 정서 상태 또한 문장 의미를 처리할 때 뇌파에 영향을 미친다. 인간의 뇌와 사고는 항상 감정이라는 맥락 안에서 작동한다. 반면 컴퓨터 코드는 텍스트 형태의 언어에 반응할 수 있을 뿐, 인간의 뇌가 구현하는 수준의 ‘이해’에는 도달하지 못한다.

AI 연구자들이 ‘신경망’이라고 부르는 것은 실제 생물학적 뇌의 신경망이 아니라 컴퓨터 알고리즘이다. 예컨대 ‘flight’라는 단어가 새의 이동을 뜻하는지 항공편을 의미하는지 구분하지 못하면 오해가 발생할 수 있다.

생성형 AI의 언어 처리 능력이 주목받고 있지만, 인간처럼 맥락과 감정을 반영한 진정한 이해와는 근본적인 차이가 있다는 비판이 제기된다. 언스플래쉬

힌튼이 AI 신경망이 촘스키 언어학파보다 언어 처리를 더 잘한다고 주장하는 것도 재고할 필요가 있다. 촘스키 언어학파는 모든 인간 언어가 문법 체계와 맥락을 통해 이해될 수 있으며, 이 문법이 선천적인 보편문법과 연결되어 있다고 본다. 그러나 촘스키는 문장 처리나 이해의 심리학적·신경학적 메커니즘에 대한 실험을 직접 수행하지 않았다. 그의 이론은 유아가 어떻게 언어를 손쉽게 습득하는지를 설명하려는 데 초점이 있다.

전 세계에는 약 7,000개의 언어가 존재하며, 인간은 자신이 태어난 지역의 언어를 습득하게 된다. 이는 인간의 뇌가 태어날 때부터 특정 언어를 배울 준비가 되어 있어야 함을 뜻한다. 촘스키는 이를 바탕으로 언어 학습을 위한 추상적이고 선천적인 모듈을 가정했지만, 이 개념은 언어 처리 메커니즘과는 구분된다.

유아의 언어 특화 현상은 분명하지만, 그 정확한 신경학적 메커니즘은 아직 밝혀지지 않았다. 다만 과학 용어가 오용되면 연구 대상이 ‘알 수 없는 것’으로 전락할 수 있다. 따라서 AI와 인간의 언어 이해를 혼동하는 것은 매우 위험하다는 점이 지적된다.