기술이 대체할 수 없는 영역, 기술이 대체해서는 안 되는 영역

https://www.youtube.com/shorts/8MUX0cO75PI

 

내가 어릴 때는 집에는 항상 전화번호부가 있었고, 중요한 지인 전화번호 정도는 몇 십 개 정도 외우는 건 기본이었다. 하지만 지금은? 가족 전화번호도 기억하지 않는다. 왜냐하면 휴대폰에 어차피 있으니까.

 

많은 영역들이 그렇다. 도로에서 길을 찾는 능력도 아마 2~30년 전에 비하면 형편없이 떨어졌을 것이다. 지도 앱이 있고 내비게이션이 있다. 자동차 운전대를 잡으면 내가 길을 고민할 필요가 없다. 요즘은 옵션별로 찾아준다. 최단시간으로 갈지 유료도로를 피해서 갈지 등등 해서. 실시간으로 도로 정보를 반영해 길을 찾아주니 내가 용써봐야 내비만 못하다. 오죽하면 남자가 태어나 3명의 여성 말은 잘 들어야 한다는데, 그게 어머니와 아내와 내비게이션이라고 한다.

 

현대인들은 참으로 멍청하다. 야생에 떨어지면 먹을 수 있는 게 뭔지 구분도 못하고, 위험한 짐승의 흔적도 구분 못하며, 내가 어디에 있는지 위치조차 파악할 지능이 없다. 비를 피하고 위험을 피할 피난처를 찾을 능력도 없다. 방금 지나온 길에 뭐가 있었는지도 기억 못하는 경우가 허다할 것이다. 아마도 원시인들이 보면 이런 멍청하고 덜떨어진 새끼들이 있나 한숨을 쉴 것이다. 하지만 인간의 지능이 퇴보했을까? 아니다. 그냥 다른 영역으로 지능이 옮겨갔을 뿐이다. 인류의 기술 문명의 발달에 따라 인간이 습득해야 하는 지적인 정보와 기능들은 항상 바뀌어 왔고, 그게 바뀔 수 있다는 것 자체가 인간의 능력이다.

 

그런데 지금 시대에는 어떨까?

 

저 영상의 뒤에 보면, LLM으로 글을 쓰는 게 나쁠 게 없고, 종이와 펜으로 글을 쓰는 게 경험이 없다면 못 쓰는 것도 이상할 게 없지 않냐는 이야기가 나온다. 여태까지 그래왔다. 이전 세대가 할 수 있던 게, 다음 세대가 할 수 없다고 해도 그건 퇴보하는 게 아니었다. 왜냐하면, 다음 세대는 이전 세대가 하지 못한 또 다른 기능을 할 수 있게 되었고, 해야 했고, 거기에 특화되어야 했기 때문에 예전의 기능을 버렸던 것이기 때문이다. 하지만.

 

정말 이번에도 그런 걸까?

 

나는 그게 의문이 간다.

 

 

정말로 아이러니하게도, AI가 인간과 소통하기 위해 언어 능력을 배웠다. 그로 인해 인간이 AI와 소통하기 위한 언어능력을 잃었다면, 그건 정말 퇴보가 아니라 그저 기능의 이전인 걸까?

 

그럼 대체 그 AI에는 누가 어떻게 일을 시켜야 하는데?

 

 

LLM으로 쓴 글을 그대로 쓰지 못했다는 정도면 문제라고 생각하지 않았을 것이다. 하지만 문제는 한 글자도 쓰지 못했다는 것이다. 그건 내가 글을 쓰고자 할 의도가 있었고, 그것을 표현하는 데 있어, 혹은 그 근거들을 갖추는 데 있어 LLM의 도움을 받았다는 게 아니라 그냥 모든 걸 LLM에 맡겼고 인간이 아무런 역할도 하지 않았다는 것이다. 그건 LLM이 하는 일을 검토할 능력조차 없었다는 이야기다. 스스로의 주관도, 스스로의 생각도 없이 그저 LLM이 내보낸 결과를 토스만 했다는 것이다. 자신의 이름을 걸고 낸 글에 대한 책임감이 없었고, 자신의 이름을 걸고 내는 아웃풋을 제어할 수 있는 능력이 없다는 의미다.

 

이건 능력이 옮겨간 문제가 아니다. 명백한 퇴보다.

 

문제는 이런 경우가 저 케이스만 있는 게 아니란 것이다. 종종 발견된다. AI의 글을 자신의 아웃풋으로 당당하게 내 놓고, 그것이 틀렸을 때 그건 AI가 낸 결과라고 책임을 회피하는 경우들이. 그게 허용된다면, 애초에 그 사람은 대체 왜 있어야 할까? 나도 AI 써서 글 쓸 수 있다. 그 일을 시킨 선생님이나 상사 역시 그럴 것이다. 누가 ChatGPT쓸 줄 몰라서 자료조사 시키고 보고서 시키고 그러나? 그런 식으로 일을 하는 사람이라면 그냥 그 자리에 있을 필요가 없다. 그런데 그걸 인지하지 못한다면 이건 심각한 문제다.

 

AI는 전적으로 인간이 통제해야 한다. 그건 AI가 인간의 능력을 뛰어넘을 수 없기 때문이 아니다. 누누히 말했지만, 그건 단지 AI가 하는 일의 목적이 인간 그 자체가 되어야 하기 때문이다. 인간이 인간을 위해 일을 하기 위한 도구로서 AI를 만들었지, 마치 신이 인간을 만든 마냥 AI여, 알아서 잘 놀아라 하는 목적으로 만든게 아니기 때문이다. 그렇다면 결국 그게 인간에게 도움이 되는지, 인간의 어떤 목적을 추구할지 결정해야 할 건 인간이지 AI가 아니다.

 

나도 이해는 간다. AI에게 글 쓰게 시키고, 그거 검토하고 앉아있으면 현타가 올 때가 있다. 내가 쓰는 거나 내가 이거 다 읽어서 검토하고 수정하는 거냐 결국 별 차이 없지 않아? 근데 차이 많다. 일단 100% 다 검토하지 않고 중요 부분만 빠르게 흝어서 검토하니까 직접 쓰는 것 보다 빠르다. 그리고 중요도에 따라서 구분한다. 대충 내용정리만 필요한 건 큰 맥락만 맞는지 채크해서 던지고, 세세하게 내가 설명해야 하는 자료는 대부분 직접 작성하고 자료조사만 시킨다. 내가 생각한 게 맞는지 다양한 자료들을 검토해 검증하도록 시키기도 한다. 내 목적에 맞춰 다양하게 활용할 수 있다. 그럼에도 귀찮은 건 사실이다.

 

하지만 내가 할 수 있지만 경우에 다라 간략하게 검토만 하고 넘어가는거랑, 내가 할 수 없는 걸 AI에 떠넘기는 건 차원이 다른 이야기다. 왜냐하면, 세밀한 통제가 필요한 경우도, 나와 AI가 하는 일이 Align 되지 않는 상황도, 그저 떠넘기는 것 말곤 할 수 없는 이는 극복할 수 없는 상황이 되기 때문이다.

 

문제는 귀찮아서 떠넘기는 게 아니라, 그것이 버릇이 되면서 그것을 당연시하게 되는 것이다. 그 학생이 울기까지 하는 걸 볼 때 단순히 숙제가 귀찮아서 떠넘긴 것으로 보이진 않는다. 그저 도구를 통해서 할 수 있는 것과 스스로 할 수 있는데 도구를 활용하는 것의 차이 자체를 인지하지 못하는 것으로 보인다. AI 결과를 틱 내고 나몰라라 하는 경우도 그렇게 본다. 그런 식으로 일하는 게 당연하게 여겨왔을 뿐 특별히 무책임하고 불성실한 탓이 아닐 가능성이 높다.

 

그런 건 교육을 통해 잡아줘야 한다. 내가 내 이름 걸고 내는 숙제나 에세이나 보고서가 틀렸을 때, 욕먹는 게 GPT가 아니라 자신이란 걸 이해하도록. 그러니 그게 단순한 기술의 변화로 인한 능력의 방향성 정도의 차이가 아니라는 걸 이해해야 한다. 왜냐하면 일은 사람이 하는 것이고, 앞으로 AI가 발달할수록 인간의 역할은 일의 내용이 아닌 책임이 될 테니까.

 

 

LLM으로 일을 하는 것도 이상할 게 없다. 처음 손글씨 쓰는 게 어색한 것도 당연하다. 나도 이제 손 글씨 부담스럽다. 원래부터 글씨체가 심각했는데 지금은 나도 알아보지 못할 정도의 지렁이체가 된다. 하지만 글을 쓸 수 있느냐 없느냐는 전혀 다른 이야기다. 당장도 난 지금 AI 시키지 않고 직접 글을 쓴다. 내 손가락 컨트롤 능력이 펜을 제어하는 데에서 키보드를 제어하는 쪽으로 변했지만 글을 쓰는 능력은 올라가면 올라갈 망정 떨어지진 않는다. 그런데 한 글자도 못 쓰는 상황은 내가 보기에 충분히 심각한 상황이다.

 

컴퓨터에 타자로 쳤다면 쓸 수 있었을까? 글쎄.

 

만약 스스로 글을 쓸 수 없다면 대체 AI에 프롬프트는 어떻게 입력했을까? 만약 AI가 원하는 것과 다른 방향으로 엉뚱한 글을 썼다면, 그걸 프롬프트를 제어해서 고칠 수는 있었을까?

 

AI가 일을 대신 해준다는 건 착각이다. AI는 그저 내 프롬프트에 반응할 뿐이다. 아니, 사람이 상대라도 마찬가지다. 사람에게 일을 시켜보면 놀라운 방식으로 이상하게 하는 꼴들을 충분히 많이 볼 수 있다.

 

https://chanywa.com/320

"아내가 '달걀있으면 6개 사와'" 라는 유머를 보고...

 

사람을 상대하는 데에도 소통능력이 필요하고 소통능력이란 건 결국 언어능력이다. 저런 놀라운 논리로 이상한 행동을 할 것도 예상해서 정돈되어 말을 할 수 있어야 한다. 저건 유머로 좀 극단적인 케이스를 들었지만, 실제 회사 업무에서 사람과 일을 해도 비슷한 일은 매우 흔하고, 그래서 자주 커뮤니케이션을 하며 방향을 조절해가며 일을 해야 한다. 그걸 못하면 서로 힘들다. 시키는 쪽은 왜 계속 엉뚱한 일을 하냐고, 정말 할 생각 있긴 한 거냐고 빡치고, 일하는 쪽은 왜 자꾸 애매하게 일을 시키냐고, 일도 힘든데 눈치만 엄청 준다고, 맥일려고 그러는 거 아니냐고 빡친다.

 

다행인 건 AI는 뭐라고 시키든 화를 내든 AI 자체는 화를 내지 않는다는 것. 하지만 반대로 생각하면, 빡치고 힘들고 괴로운 건 온전히 AI에게 일 제대로 못 시키는 당사자의 몫이 된다.

 

AI는 계속 발달할 것이고, 사람보다 일을 잘 하게 될 것이다. 사람이 시키는 의도 또한 놀라울 정도로 잘 캐치하고 복잡한 사회적 맥락, 그 개인에 대한 맥락도 잘 이해하게 될 것이다. 하지만 그런다고 AI가 독심술사가 될 수는 없다. AI가 잘 동작하기 위해선 내가 평소에 AI에게 내 의도, 내 맥락, 내 상황등을 잘 설명하고 이해시키고 길들여 놔야 한다. 그러한 소통 능력이 있어야 하고 표현능력이 있어야 한다. 이전 시대에는 그걸 회사 입사하면 프린터 용지 갈아끼면서, 커피 타면서 몇 년 간 잡무 하면서 배웠다. 하지만 지금 시대만 해도 당장 상사와, 동료와, AI와 소통해서 바로 아웃풋을 내야 한다. 나중가면? 어차피 신입은 그거 못하잖아, 라며 취업도 힘들어진다. 이미 그런 변화는 시작되고 있다.

 

근본적으로 언어 능력은 LLM이 대체해줄, 필요 없어진 능력이 아니라 오히려 LLM을 관리하고 일을 시키기 위해 더욱 더 필요해진 능력이기 때문에 발생하는 문제이다. 그런 점에서, 기존에서와 같이 어떤 기술이 발달하면 자연스럽게 그 기술이 대체해 줄 수 있는 능력은 퇴보하고 대신 새로운 영역의 능력이 중시되며 그 능력이 개발되는 그런 종류의 변화가 아닌 것이라 할 수 있다.

 

그렇게 되는 이유는, 여태까지의 기술은 인간의 작업이나 기능을 대체해 왔지만, 지금의 기술, 특히 AI라는 영역은 그렇지 않은 데에 있다.

 

그리고 그것은 비단 LLM 뿐만이 아니라 다른 영역에서도 나타나고 있다. 그리고 가장 치명적인 분야가 바로,

 

추천 시스템이다.

 

 

추천 시스템은 원래 고객이 선호하는 정보를 AI를 통해 골라주는, 사람이 골라줄 작업을 AI로 대체하는 작업이었다. 하지만 실제로 추천 시스템이 고도화되며 나타나는 현상은 사람의 취향을 AI가 잠식하는 현상이었다. 단적으로, 많은 사람들이 그 추천 시스템에 따라 유튜브를 보고 넷플릭스를 본다. 그러면서 그러한 서비스가 사람의 취향을 잘 반영해준다고 생각한다. 하지만 많은 연구들에서, 사람은 오히려 추천해주는 서비스를 통해 취향이 변화한다고 말한다. 그리고 특히 요즘 유행하는 쇼츠는 취향과 상관없이 빠져들게 만들어 많은 이들이 무기력하게 쇼츠를 넘겨 보는 상황을 만들고 있다.

 

이는 추천 시스템이 인간의 욕구를 채워주기 위해 기능하는 게 아니라, 그 자극성으로 인해 인간의 욕구를 대체하기 때문이다. 인간은 스스로 욕망하는 무언가를 찾아 나서는 게 아니라 그저 주어지는, 떠먹여주는 것을 소비하는 형태로 길들여진다. 이는 달고 짜고 자극적인 맛으로 사람을 길들이는 패스트 푸드, 과자들과 같다. 

 

LLM도 마찬가지다. 현재 LLM은 사용자의 피드백을 반영한다는 명목으로 빠르게 대중의 취향에 맞춰 튜닝되고 있고, 그로 인해 과도한 아부 문제가 대두되고 있다. 이는 인간과 인간이 대화할 때 나타나는 대화의 양상과 크게 다르다. 인간은 서로 자신만의 목적성과 관점들을 가지고 있기 때문에 타인의 말과 행동을 평가하고, 때문에 타인과 소통할 때는 자신을 관철함과 동시에 타인과 융화하기 위해 스스로를 규제해 나간다. 이를 통해 자신의 지식의 폭을 넓히고 소통의 능력을 개발해 나간다. 하지만 LLM은 전적으로 사용자에게 맞춰주며 아무리 함부로 대해도 문제가 없기 때문에 사람은 스스로를 개발하고 규제하는 능력을 놓치기 쉽다. 그런 환경 속에서 뚜렷한 주관과 의지를 가지지 않으면 결국 주어지는 걸 받아먹는, 쇼츠 식 소통이 정착되고 만다.

 

LLM의 답변을 비판적으로 수용하는 게 아니라 LLM과 동화되고, 그로 인해 주관을 잃고, 문제가 생기면 자신의 문제가 아니라 LLM의 문제로 전가해버리게 되는 것이다. 그건 '나'의 실종이다.

 

그런 이상현상의 근간에는 모두 인간의 기능을 대체하는 게 아니라 인간의 주관과 욕구, 즉 자아를 대체하는 구조로 흘러가기 때문이다. 그러한 구조 속에서는 AI가 도구가 아니라 인간이 도구화가 되어버린다.

 

반대로, 추천 시스템 역시 뚜렷한 주관과 목적의식을 가지고 있으면 매우 효과적인 도구가 된다. 그리고 그 기술이 개발된 것 자체도 그러한 목적으로 개발된 것이다. 하지만 이런 오작동이 발생하는 건 AI가 기본적으로 사람의 지능을 모사하고, 그로 인해 사람의 사고체계를 해킹하기 때문이다.

 

그러니까 이러한 현상을 단순히 기술의 변천에 따른 인간 기능의 변화로 보는 건 잘못이다. 지금 나타나는 현상은 기능의 대체가 아니니까.

 

오히려 AI시대에 더욱 중요한 건 인간 스스로의 욕구와 주관, 의지이며, 이를 표현할 수 있는 능력이 될 것이고, 그것을 개발해내지 못한 이들은 도태되며 AI에 의해 사육되는 대상이 되어버릴 우려도 크다.

 

 

같은 말을 반복하며 길게 늘려 썼지만, 결론은 하나다.

 

AI의 아바타가 되지 말고, AI를 타인으로 여기라는 것. 도구로 여기라는 것. 스스로의 주관을 갈고 닦으라는 것.

 

기술이 발전했으니까 직접 글을 쓸 필요가 없는 게 아니라, 그렇게 글을 잘 쓰는 AI를 상대하려면 자신도 그런 능력을 더욱 더 길러야 한다는 것이다.