솔루션 없는 시행사와 나몰라라 하는 고객사

인터넷 언론에선 우리나라의 AI 기술은 이미 첨단이다. 한국 LLM에 일론 머스크가 공포에 떨고 있으며 국가적으로 소버린 AI구축에 막대한 투자를 하고 있고 최신 모델들이 쏟아져나오며 조만간 사회 전반에 한국 AI가 자리잡게 될 것이 명확해 보인다. 하지만 현실은...

뭐 다들 아시겠지.

https://www.hankyung.com/article/2025072745961

[다산칼럼] 충격적인 국가경쟁력 하락의 민낯

한경은 기본적으로 기업측을 대변하긴 하지만 이런 건 좀 들어둬야한다.

"인프라 분야에서 ‘기술 인프라’는 작년에 16위였으나 올해 39위로 내려앉았다. 일반 국민의 믿음과 다르게 통신 분야 대부분 지표에서 만성 부진을 보이고 있고 순위도 급락했다. 예를 들면 디지털 기술의 사용 용이성(28위→59위), 수준급 엔지니어 공급 정도(29위→46위), 법적 환경이 기술 개발 및 응용을 지원하는 정도(43위→55위) 등이다. 한때의 정보기술(IT) 강국이 이제는 하위 4분위의 나라로 주저앉은 것이다."

응, 조졌어... ㅜ.ㅜ

위기의식을 가져야한다. K-컬쳐가 세계적이 되고 우리나라의 위상이 선진국들 빰친다고? 한때 선진국 반열에 올랐다가 몰락한 나라가 한둘인가? 근데 대개 그런 나라들도 자원이 많다거나 하다못해 오래된 유적이라도 많다거나 자연경관이 좋아서, 관광업이라도 한다. 우리나라는?

각설하고, AI로 돌아가자. 다른 산업은 모르고 관심도 없고 내가 빡치는 이유의 8할은 AI니까.

https://www.lg.co.kr/media/release/29178

미디어 > 보도자료

② 고품질 데이터 생산하는 AI 공장 ‘엑사원 데이터 파운드리’
  - 데이터 생산성은 최소 1,000배, 품질은 평균 20% 이상 높이는 기술


그래도 요즘 헬지가 제일 잘하는갑다. 저거 내가 하고싶었던건데...

https://www.mk.co.kr/news/society/11378004

중국은 공대에 미쳤는데…20년째 ‘○○쏠림’ 한국의 인재양성 민낯 - 매일경제

이유를 모르겠나? 기술자가 기술하고 싶어도 시켜주는 데가 거의 없다. 누가 이공계가나. ㅅㅂ 막말로 내가 뭐 의사처럼 돈벌고 싶다고 했나? 그냥 앉아서 기술하고 싶다고.

엘지 AI연구원이 얼마나 저걸 잘했는지 몰라도, 일단 필요한 기술 필요한 타이밍에 한 건 박수 쳐주고 싶다. 그거도 안하는 곳들도 천지니까. 그리고 엑사원3.5, 저번 실험에서 제법 잘했잖아.

근데 대부분은 아니다. 연구직 인원도 현장보내느라 바쁜데, 정작 본진엔 기술이 없다. 현장에 들고와서 돌리는데 돌아가는 솔루션이 없다. 솔루션 까는 데 한 달 넘게 걸리면 솔루션을 왜 하나? 당신이 마이크로소프트 워드 까는데 한 달 씩 걸린다고 생각해봐라.

진짜 고객이 모르니까 넘어가는거다. 혹은, 달리 선택지가 없으니까 넘어가는거다.

하다못해 그 솔루션 하나로 퉁칠 수 있으면 모른다. 근데 그것도 아니다. 그런데도 솔루션 개선따윈 안하고 있는 기술자들 다 현장 내보낸다. 남아있는 이들은 현장에 필요한 거 안하고 엉뚱한 거 하고.

현장에서 가장 필요한 거? 챗봇이랑 데이터다. 요즘 AI사업 전부 챗봇 깔아주는거다. 근데 챗봇 솔루션이 있어야지. 최신 기능 전부는 아니라도 기본적인 것들은 빠르게 설치가 되어야지. 그 기본적인 거 밑바닥부터 개발하겠다고 하고 앉아있는데 생산성이 어떻게 나오나.

그리고 데이터도. 이미 LLM이 LLM 데이터 만들기 시작한 건 작년부터다. LLM 성능개선에 대단한 트릭따윈 없다. 그냥 사용자가 어떤거 물어볼지, 그거 어떻게 답변할지, 그 데이터만 주구장창 많으면 일단 된다. 그래서 그거 자동으로 만드는 거 하자고 그렇게 말해도 안한다. 꼬아서 내가 만들었다. 작년에 파인튜닝 연구할 때 별짓을 다했는데 점수 쥐뿔도 안오르다가 그냥 기출문제 만들어서 풀이 외우게 했더니 바로 오르더라. 그것도 안한다.

이래도 생산성 낮은게 노동자 탓인가?

그런데도 이공계에 사람들이 가길 바라나?

전산과 후배들, 요즘 AI뜬다고 해서 고액 연봉 받으며 모셔가지고들 있나? 아닐걸? 요즘 대세가 코드 AI로 개발자 대체하는 거잖아. 그리고 개발자들은 순진하고, 그거 하면 자기도 편해지고 해피 회사 라이프 보낼 수 있다고 믿고 다 했잖아. 그리고 잘렸잖아.

아니라니까. AI는 사람을 대체하지 않는다. 지금 AI론 어림도 없다. 바뀌어야 할건 인건비 소모 줄이는 게 아니라 기업의 업무 프로세스와 전략과 5년을 써도 이해를 할수 없는 뭣같은 행정과 ERP시스템이다. 개발자에게 필요한 건 해고가 아니라 안정적으로 개발할 수 있는 환경과 교육이다.

근데 파인튜닝 어떻게 해야하는지 RAG가 어떻게 돌아가는지도 모르는 사람들을 현장 내보내고 있다. 그 사람들이 모자라서 모르는 게 아니다. 어제까지 전혀 다른 주제 연구하던 사람이 교육 없이 무슨 수로 다 아나.

그걸 위에서는 유연성과 효율성으로 안다. 우리는 그걸 노가다 또는 인밀레로 부른다. 노가다의 본고장인 건설업도 바뀌고 있는 마당에 그걸로 경쟁이 될까?

보내면서 핑계는 좋다. 현장의 난제를 이해하고 해결할 수 있어야 진짜 가치있는 기술을 연구할 수 있다고. 그래서 현장 문제 가져왔잖아. 해결해주기로 약속 한거잖아. 왜 자꾸 어려운 문제 컷 안하고 가져왔냐고 하는건데? 지금 그게 중요하다니까?

생산성 개선하자고 이렇게 말하면 뭐라고 할까? 꼬우면 나가라고 하겠지. 그래서 꼬아서 나간거다. 들어오기도 전의 학생들이. 그네들은 선배가 이런 걸로 속터지고 망가지는 걸 봐왔다. 그러니까 이걸 안한다. 나는 바보라서 이 길에 들어온거고.

의대, 왜 가는지 몰라? 대기업에서 기술자들이 파업하면 떼쓴다고 까며 우리나라 국가 경쟁력 운운하면서, 의사들이 환자 버리고 파업해도 어떻게든 다 챙겨주는 이 사회를 보면서?


AI가 안되는 또 다른 이유.

국가가 열심히 AI 도입한다고 난리지만 GPU클러스터 사업은 표류중이고 AI개발 사업은 파편화 되어있다. 솔루션 없는 업체가 수십, 수백 억 들여 구축한다는거 다 오케이 해주는데 누가 솔루션 개발하나. 중복 개발도 오지게 많을거고 시스템 파편화의 폐해도 심각할거다. 나중에 통합하려면 기존 시스템 다 들어내야 한다.

그래, 그건 그렇다 치자. 어차피 정부 돈 산업계에 퍼주는 돈이니까.

근데 그럼 과제라도 좀 편하게 할 수 있게 데이터라도 봐주든가. 담당자가 이쪽 신경 쓸 시간이 없다. 말했지만, 파인튜닝은 진짜로 물어볼 질문, 원하는 답변, 그거 세트 만드는 게 A to Z다. 그걸 기술자가 어떻게 만들어주나. 내가 쓸 시스템인가?

챗GPT 프롬프팅을 하든 직접 깎아만들든 해야할 거 아닌가. 우리가 만든 데이터로 검증하면 그게 실제 니네 프로세스에서 잘 돌아갈 거라고 누가 보증하는데? 평가 데이터 하나도 안 만들어주고 품질 운운하면 우리더러 어쩌라고.

미안하지만 우리도 챗봇 프로토타입도 못 들고오고 데이터 자동생성 툴도 없이 들어왔다. 하지만 그거 다 있어도 고객이 배째라 하면 우린 할 수 있는 게 없다. 우린 전산쟁이지 니네 업무 전문가가 아니라고.

세상엔 신묘한 마법같은 기술따윈 없다. 전부 지루하고 구질구질한 일들이 쌓여 놀라운 결과를 내는 것이다. 우린 마법사가 아니다. 아니, ㅅㅂ, 판타지에선 마법사들도 마법 쓰려면 자본이 엄청나게 드는데 이건 뭐...

세계 탑급의 AI인재들, 그들은 두말할 거 없이 뛰어나겠지. 하지만 그들도 이런 환경에서 성과낼 수 있을까? 오픈 AI도 그 많은 사람들 써서 데이터 라벨링해서 여기까지 왔고, 오죽하면 하청업체가 다시는 그짓 안한다고도 했다고 할 정도다. 세계적인 AI를 만들고 싶은가? 방법은 이미 다 까발려졌다. 더 쉬운 방법들도 천지다. 그냥 그걸 하면 된다. ㅅㅂ 일반인도 이해할수 있는 방법이다.

근데 그거도 안하면서 소버린 AI?

https://www.dt.co.kr/article/12007057

[기획] 트럼프 “美것 써라”… 韓 AI주권 ‘시험대’

이런 건 위기가 아니다. 트럼프가 뭘 어쩔건데? 국가적으로 AI사용에 규제 때리게 하기라도 할까? 우리가 무슨 중국이냐? 기껏해야 관세나 규제 철폐 안하면 우리도 관세 규제 때린다겠지.

근데 그 이전에, 우리나라에 지금 챗 GPT 대체할 AI는 있나? 3년 정도 안에 나올 수는 있을까?

대체제가 못 나오면 트럼프의 엄포도 아무 의미 없다. 어차피 미국 AI쓸거고 그거 말고 쓸 수 있는 것도 없는데 뭘. 근데.

챗 GPT의 엄청난 추론성능? 즐. 내가 쓸땐 헛소리 엄청나게 해대며 그간 올린 나 실험들로 대충 알것이다. 어차피 잘하는 모델도 틀릴 땐 틀린다. 하지만 그 이전의 문제다.

이제서야 챗봇만 겨우 올려 서비스 시작하는 수준의 우리로서는 따라갈 수가 없다. 기술력의 차이때문이 아니다. 오히려 기술력 차이가 별로 없는데 그러니까 더 문제인 것이다.

챗봇에 RAG, 웹검색 API만 연결해도 사용성은 엄청나게 커진다. 개인 RAG만 도입해도 더 유용해진다. 하다못해 내가 멀티모달이니 이미지 생성이니 그런 거 말하고 있는 것도 아니잖아. 다 오픈소스 갖다붙이면 된다. 안정화시킬 엔지니어들 좀 붙이고 서버 확보하면 된다. 돈과 약간의 시간만으로 거기까진 따라갈 수 있다. 그 다음부터는 데이터 모으고 고도화하면 되는 건데.

그걸 여태까지 하는 곳이 없는거다.

작년에도 가능했던 그걸 아무도 안하는거다.

그런데 무슨 수로 AI가 발전하는데?

그거 똑같이 해서 빅테크 어떻게 이기냐고? 근데 그거말고 달리 참신한 것도 안하잖아.


이 글을 쓰는 건 그냥 월요병이 도져서다.일하려니 짜증나서... 어차피 싸질러봐야 나라가 바뀌지도, 기업들이 바뀌지도 않는거 안다.

그래서 꼬아서 내가 직접 하나씩 하고 있다. 혼자 가긴 머나먼 길이지만... 아니, 혼자가 아니다 나에겐 챗GPT도, 클로드도, 잼미니도 있다!

...

뭐, 이렇게 말하지만 기사로 보면 나름 참신한 것들 개발하는 스타트업이나 기술자분들도 있다. 그분들은 잘하고 있다. 엘지도 생각보단 잘하는 거 같고... 그런 쪽들은 그대로 잘하면 된다. 다만.

대세가 하락세인거 같아서 하는 말이다.

우리나라가 성장할 땐 돈을 통장에다만 박아놔도 삶의 질이 올라갔다. 하지만 이제 아니다. 내가 피땀흘려 벌어도 사라질 수도 있다. 남의 일이 아닌 것이다.

심지어 문제는, 우린 잘 나갈때도 저 생산성 문제를 못 고쳤다. 그리고 지금은 더 안나갈 시기다. 사람도 줄어드는데 그나마도 젊은이들이 취직을 못해 쓸 사람들은 더 줄어드는 판국이다.

기업들은? 저대로 대충 하다가 해외로 이전하면 그만이다. 문제는 남는 우리들이다.