챗GPT(ChatGPT)란 무엇인가 (2) | 언어 모델

챗GPT란?

챗GPT(ChatGPAT)는 오픈AI에서 만든 인공지능 챗봇입니다. 2022년 12월 1일 세상에 처음 공개된 이후 현재까지도 화제의 중심에 서 있는데요, 바로 엄청난 성능과 속도 때문입니다. 특히 챗GPT는 대규모 언어 모델인데요, 오늘은 언어 모델이란 무엇인지 알아보겠습니다.

언어 모델 (Language Model)

언어 모델이란 무엇일까요? 언어 모델은 텍스트(또는 음성) 형태의 맥락 정보가 있을 때 이를 바탕으로 다음에 나올 단어나 글자 등을 예측하는 모델입니다. 언어 모델은 방대한 텍스트 정보를 학습 데이터로 활용하는데, 가장 일반적으로 활용되는 objective는 특정 단어나 글자를 지운 뒤에 해당 빈칸에 들어갈 내용을 예측하게 하는 방식입니다.

이는 빈칸 맞추기라고 생각하시면 편한데요. 예를 들어, "나는 음식을 ㅁㅁㅁ" 라는 문장에서 ㅁㅁㅁ에 들어갈 단어를 찾는다고 가정해봅시다. 한국어를 할 줄 안다면, 누구나 쉽게 예측이 가능하죠? 인공지능은 이 빈칸을 맞추는 objective를 달성하기 위해, 즉 빈칸을 추론하기 위해 파라미터를 계속 수정해나가는 방식으로 학습합니다. 실제로 인간이 언어를 학습하는 방식도 이 언어 모델과 유사합니다.

챗GPT의 한계

챗GPT가 가진 한계는 결국 데이터가 계속 필요하다는 점입니다. 위에서 챗GPT는 본 언어 모델 기반 AI이기 때문에, 학습할 데이터가 없어지면 새로운 데이터도 만들어내지 못합니다. 결국 챗GPT는 인간의 능력인 무에서 유를 창조하는 추론 능력 자체를 가지고 있는 게 아니라 엄청난 데이터 처리 능력을 갖추고 있다고 볼 수 있죠.

챗GPT의 가능성

그럼에도 불구하고, 챗GPT는 앞으로 검색 엔진 세계를 완전히 바꿔놓을 것으로 보입니다. 앞으로는 정보를 얻고 싶다면 구글이 아닌 챗GPT에 물어보는 세상이 올 수도 있을 겁니다. 바로 어제(7일), 마이크로소프트(MS)에서는 AI 기반의 빙(BING)과 엣지(EDGE)를 공개했습니다. 마이크로소프트의 검색 엔진인 빙과 엣지에서 바로 대화형 AI를 사용할 수 있는데요. 이렇듯 거대 IT 기업에서도 너 나 할 것 없이 언어 모델 AI에 뛰어들고 있습니다. 앞으로 검색 엔진의 모습이 어떻게 변화할지 더욱 궁금해지네요!

참고자료

https://www.upstage.ai/blog/insight/the-present-and-future-of-chatgpt
https://www.wsj.com/articles/i-tried-microsofts-new-ai-powered-bing-search-will-never-be-the-same-11675799762?mod=hp_lead_pos9&mod=tech_lead_pos5