AI 에이전트의 미래

https://www.itworld.co.kr/article/4042621/ai-%ec%97%90%ec%9d%b4%ec%a0%84%ed%8a%b8-%ec%96%b4%eb%94%94%ea%b9%8c%ec%a7%80-%ec%99%94%ea%b3%a0-%eb%ac%b4%ec%97%87%ec%9d%b4-%eb%82%a8%ec%95%98%eb%82%98.html

AI 에이전트, 어디까지 왔고 무엇이 남았나

내 전공은 ML이다. 휴머노이드 로봇을 중심으로, Regression과 Optimization을 위주로 했고 강화학습으로 졸업했다. 큰 맥락으로 치면 비슷비슷하다. 강화학습은 동적 시스템의 Optimization으로 볼 수 있고 또 policy의 Regression으로 볼 수도 있다. 그리고 Optimization은 어차피 ML 전반의 기본툴로 사용되며, 딥러닝, LLM을 학습시키는 것도 결국 Optimization이다.

그래서 회사 들어와서는 수치 최적화를 전담으로 하는 팀에 있기도 했다. 그리고 전에 몇 번 칭얼댄, 국내 제조 AI의 한계를 보기도 했다.

오늘도 결국 그 이야기다.

LLM, 그리고 AI의 눈부신 발전은 많은 것을 변화시키고 있지만 언제나 Principal은 변하지 않는다. 그 때 못한건 지금도 못하는 법이다.

우리가 공부를 해야 하는 이유다.


일이란 건 기본적으로 문제를 푸는 일이다. 예를 들면, 일기예보를 하는 예보관은 날씨 측정 데이터를 보고 내일 날씨를 맞추는 일을 한다. 프로그래머는 고객 사양서를 보고 코드를 만드는 문제를 풀고, 인사 담당자는 이력서와 면접 데이터를 보고 이 놈이 회사에 들어와 일을 제대로 할 놈인지 판단하는 문제를 푼다.

 

일단 육체노동은 제끼자. 거기까지 들어가면 복잡해진다.

 

아무튼, 문제를 푸는 일을 하는 것이 '일'이라고 한다면, 자동화는 '(문제를 푸는) 문제를 푸는' 일이다. 상황이 A이면 a를 하고, B면 b를 하는 게 일이라면, f(A) = a, f(B) = b 가 되는 f를 찾아내는 게 바로 이 일이다. 그러면 (A, B, a, b) 가 새로운 문제가 되고 f가 새로운 답이 된다.

 

여기서 나오는게 바로 데이터다. 저 (A, B, a, b) 라는 데이터가 있으면 우리는 f를 찾아낼 수 있다. 그리고 나면, 우리는 f에다가 일을 시키면 된다. 자동으로 A와 B에 대한 일을 해주는 것이다. 그것을 자동화라고 한다.

 

제조업, 각종 산업 현장도 마찬가지다. 예를 들면, 공장에서 원재료를 가지고 부품을 깎아 만드는 일을 한다 치자. 그럼 그 다음은 원재료를 부품으로 만들어주는 기계를 만들 수 있다. 그러면 자동화 단계가 하나 오른다. 거기에서 이제 기계가 제대로 동작하는지, 어떻게 하면 효과적으로 동작할지를 계속 모니터링하고 설정해줘야 한다. 예를 들면, 기온이 오르면 재료 품질이 떨어질 수 있으니 냉방장치를 가동해야 한다거나, 절삭 도구가 일정 이상 쓰면 마모되니 갈아줘야 한다거나. 이제 일은 기계를 만들고 관리하는 것으로 바뀌었다. 그러면 이제 그 기계의 상태들을 넣고, 관리하는 업무를 답으로 매칭시켜주면 새로운 일이 된다.

 

예를 들어 데이터 센터에서는 온도를 유지해주기 위해 냉방을 계속 해야 한다. 하지만 과잉 냉방하면 에너지가 낭비되니, 현재 온도에 따라 적절히 조절해 줘야 한다. 그럼 이제 온도와 냉방기기 작동을 연결해 자동으로 냉방기기를 가동하게 만들면 자동화가 되는 것이다. 산업현장의 자동화란 건 다 이런 식이다.

 

그리고 저런 자동화 과정에서 최소한의 자원으로 최대 효율을 내도록 하는 것이 최적화다. 위 사례 같은 경우, 그냥 냉방을 열라 쎄게 틀어도 된다. 평균 온도 10도면 뭐 어떤가. 그 온도에 서버 고장 안 난다. 하지만 고장나는 건 그 데이터 센터의 운영비와 예산을 담당하는 담당자의 뒷목이다. 그러니 그러기 전에 최소한의 전기로 문제가 안 생길 적정 온도를 유지하도록 해야 한다. 온도라는 건 서버 작동 상황에 따라 달라지고, 부하가 걸린 시점과 실제로 온도가 오르는 시점, 그때 냉방기를 틀어 온도가 도로 내려가는 시점은 모두 다르다. 예측이 필요하다. 이러면 문제가 어려워진다.

 

상황과 대응간에 관계가 복잡해지면 문제가 어려워진다. 그리고 위에서처럼 상황과, 그 이변이 감지되는 시점과, 대응하는 시점이 동떨어져 있으면 그거도 대단히 문제가 복잡해지는 요소다. 그래서 저런 문제를 해결하는 데에는 전문가가 필요하다. 위 케이스는 전형적인 강화학습 문제로, 당연히 강화학습을 공부한 ML, 최적화 전문가가 필요하다.

 

하지만 무엇이 온도에 영향을 주고, 냉방기를 틀면 얼마만에 온도가 낮아질 지를 아는 건 현업이다. ML 전문가는 모른다. 그들은 숫자만 보고 숫자 맞추기하는 모델들만 돌려본다. 따라서 현업과 ML 전문가가 협업해야 하는 포인트가 생긴다. 모든 문제들이 그렇다.

 

어떤 데이터가 의미가 있는지는 현장 전문가만이 알 수 있다. 그것을 푸는 방법은 ML, 나아가 AI 전문가이다. 둘 중 하나라도 빠지면 답이 나오지 않는다.

 

AI 에이전트는 다를까?

 

AI 에이전트는 전혀 새로운 게 아니다. 단지, 정형 데이터, DB나 엑셀같은 수치 나열형 데이터만 가지고 풀 수 있던 기존의 ML 모델과는 달리, 현재 AI 에이전트의 중심에 있는 LLM은 비정형 데이터, 텍스트나 이미지도 분석해 풀 수 있게 바뀌었을 뿐, 구조는 같다.

 

문제를 푸는 문제를 푼다. 그게 핵심이다.

 

그럼 문제를 푸는 문제를 정의하고, 그 데이터를 가지고 와야 한다. 그건 현업만이 할 수 있다. 그건 새로운 영역이 아니다.

 

기존의 제조업에서 어떤 기업들은 큰 성공을 거두었고, 어떤 기업들은 실패했던, 바로 그 자동화 게임이 조금 다른 필드에서 지금 벌어지기 시작했을 뿐이다.

 

그건 대단히 심각한 일이다. 왜냐하면.

 

우리나라는 이전 게임에서 그다지 성공적이지 않았기 때문이다.

 

 

AI 에이전트라고 해서 뭔가 스마트하게 완전 새로운 일을 자율적으로 할 수 있을거라고 착각하는 사람들이 많다. 맞다. 그렇다. 일을 할 수 있다. 하지만 잘한다고는 안 했다. 기존의 ML 모델도, 많은 현장 문제들을 다 다룰 수 있었다. 다만 데이터가 부족하거나, 결함이 있거나, 그 시스템의 특성이 모델과 맞지 않으면 전혀 엉뚱한 결과를 낼 뿐이다.

 

https://www.digitaltoday.co.kr/news/articleView.html?idxno=584731

CoT 기법, 논리적 사고 아닌 '패턴 복제'…LLM 한계 드러나 - 디지털투데이 (DigitalToday)

 

난 이 글에 전적으로 동의하진 않는다. 하지만 전적으로 부정하지도 않는다. 실제 LLM의 파인튜닝은 정말 바로 그 문제유형을 해결하는데에만 효과가 한정되는 경향이 있다. 방대한 데이터를 통한 파인튜닝은 좀더 범용적인 효과를 내지만, 그게 어느 정도까지 가능한지는 검증되지 않았다.

 

이 그림은 ML 또는 AI 모델 학습에서 Extrapolation의 위험성을 알려준다. 한정된 영역에서의 데이터만 학습할 경우, 모델은 전혀 엉뚱한 값을 가질 수 있다. 위에서는 실제 데이터 분포는 3차함수 곡선을 따라 형성되지만, 그 중 극히 일부 구간만 선형으로 학습될 경우 예측값 (Prediction)과 실제 값이 크게 달라지는 것을 보여준다. 그건 모델을 통해 데이터가 학습된 영역이 아니라 다른 곳의 값을 뽑아내려 해서 발생한 일이다.

 

위 그림을 보면 전문가가 아니더라도 저게 얼마나 바보같은 추론 방법인지 알 수 있다. 하지만 저런 일이 ML과 AI에선 수시로 발생한다. 수치 데이터는 이러한 분석이 쉽다. 하지만 복잡한 다차원 데이터는 저런 식으로 분포를 볼 수가 없다. 하물며, 문자로 되어 있는 LLM의 경우 저런 식으로 표현하는 것 자체가 불가능하다.

 

하지만 본질은 같다. LLM은 언어의 놀라운 추상화 능력을 통해 전문가들의 예상 이상의 일반화 능력을 보여주었다. 학습되지 않은 문제도 능숙하게 풀어내는 것이다. 문제는, 그렇다고 해도 저 문제를 원천적으로 차단하는 건 불가능하다는 것이다. 예를 들면, 저기에 1차 함수가 아니라 2차 함수를 사용해 맞췄다면, 좀 더 넓은 구간에서 실제와 유사한 예측값을 얻을 수 있었을 것이다. 하지만 결국 두번째 꺾이는 부분을 넘어가면 쓸모없어지는 건 매한가지다.

 

결국 AI 에이전트가 할 수 있는 영역도 마찬가지다. 학습된 영역에서만 성능을 낼 수 있다. 학습되지 않은 영역에 대해서는 불안정하다. 그렇다면.

 

결국 내가 풀고자 하는 문제에 대해, 그 범주의 데이터가 충실하게 준비되어야 AI 에이전트도 제 기능을 한다. 물론 AI 에이전트는 우리가 예상한 것 보다 더 범용적이고 일반화된 문제에 대해 좋은 성능을 낼 수 있을지 모른다. 하지만 그것이 정상 작동하는 범위도 우리가 알기 힘들다.

 

그리고 그 범위를 벗어나는 순간, 모델은 오작동 할 것이다.

 

 

AI 에이전트 무용론을 설파하려는 게 아니다. 오히려 그것은 유용하고, 혁신적일 것이다. 하지만 기본 원리를 벗어날 수는 없다. 환상을 가지면 안 된다.

 

그리고 우리는 그것의 한계를 매우 잘 알고 있다.

 

대학교를 졸업한 학생들은 수십 년 간 온갖 다양한 문제들에 대해 파인튜닝 된 고급 모델들이다. 이들은 어지간한 대형 LLM 뺨치는 크기의 모델을 매우 콤팩트하게 탑재하고 있다. 이들은 아마 최신 LLM들처럼 테라, 혹은 페타 급의 텍스트 데이터를 학습하진 않았을지 모른다. 하지만 훨씬 적은 데이터로도, 예를 들면 수십 메가의 텍스트 데이터로도 새로운 언어를 배울 수 있는 엄청난 고성능 모델이며, 이들이 학습하는 비전, 음성, 후각 등등 다양한 멀티모달 데이터의 볼륨은 최신 LLM들 뺨치는 어마어마한 규모일 것이다.

 

하지만, 그런 엄청난 고성능 모델들이 듣는 말은.

 

신입사원들, 대학생처럼 좀 굴지 마라, 이다.

 

기껏 학교에서 열심히 현장에 가깝다는 고도화된 기술들과 그 문제들을 해결하는 프로세스를 학습해 온 신입사원들에게, 기존에 배운 거 다 쓸데없다며 갈구는 것이다. 그리고 기업에서는, '대학에서 쓸데없는 것들만 가르친다'며 볼멘소리를 한다.

 

기업이 땡깡을 부리는 건가? 아니다. 맞는 말이다. 대학공부, 현장과 하나도 안 맞는다.

 

그럼 대학이 바보같은 건가? 아니다. 어느 기업, 어느 현장에 투입될 지 모르는 대학생에게 범용 지식을 가르치는 건 매우 정상적인 일이고, 그 이상 할 수 없는 일이다.

 

당연히 현장에서 새로 공부하고, 새로 적응하고, 새로 훈련해야 한다. 그런데.

 

AI 모델은 안 그럴까? 당연히 그렇다. AI 에이전트가 당장 기업에 도입되어 일을 할 수 있기를 바라나?

 

그러면 당신은 당신 기업의 정보가 그 AI 에이전트를 서비스하는 기업에 유출된 게 아닐까 의심해야 한다.

 

 

괜히 현재 AI 에이전트가 코딩을 중심으로 적용되고 있는 게 아니다. 그걸 개발하는게 전산쟁이들이기 때문이다. 그들은 AI 에이전트가 자신의 자리를 대체하고, 회사에서는 AI 모델을 빌미로 해고하려 하는 줄 안다. 알면서 할 수밖에 없다. 왜냐하면.

 

문제를 푸는 문제를 푸는 게 원래 그들의 일이기 때문이다.

 

문제를 푸는 문제를 푸는 문제도 푸는 게 그들의 일이기 때문이다.

 

숫자를 계산한다. 그걸 자동으로 해주는 게 컴퓨터다. 숫자를 계산하는 프로그램을 짠다. 그 프로그램을 빠르게 만들기 위한 패키지와 툴들을 짠다. 그것을 통합하는 툴을 짠다. 프로그램을 자동으로 만들어 배포하는 프로그램을 짠다. 그 프로그램을 자동으로 만들어 배포하는 코딩 AI를 짠다. 그 코딩 AI의 작업을 자동으로 하는 AI 에이전트를 만든다.

 

이미 멈출 수 없는 굴래를 이미 걷고 있다. 하지만 이들만의 일이 아닐 것이다.

 

다음은 다른 업무 영역의 차례다. 이제 그들의 면상에 AI 에이전트를 들이밀면서, 당신들이 일하던 워크플로우와 데이터들을 내놓으라고 할 것이다. 당신들의 자리를 대체할 AI 에이전트를 만들어야 하니까. 누군가는 내놓을테고, 누군가는 안 내놓을테고, 누군가는 못 내놓을 것이다.

 

그리고 성공하는 기업은 내놓은 기업이 될 것이다. 그리고 성공하는 사람은, 문제를 푸는 문제를 푸는 데에서, 문제를 푸는 문제를 푸는 문제도 푸는 쪽으로 넘어간 사람들이 될 것이다.

 

 

AI 에이전트는 갑자기 생겨난 완전히 새로운 변화가 아니다. 이미 영혼이 없는 ML 모델로 하던 자동화 작업을, 영혼이 있는 척 하는 LLM으로 하는 것이다. 따라서, 기존에 트렌드를 따라가기 위해 애쓰던 이들은 이번에도 새로운 바람을 타고 도약할 것이다. 하지만 그러지 못하던 이들은 더 큰 격차를 맞이할 것이다.

 

그러니, 문제를 푸는 문제를 풀어라.

 

일을 하지 말고 일을 시키는 법을 배워라.

 

그 단계로 넘어가는 자만이 승자가 되는게, AI 에이전트가 가져올 미래다.