AI 시대의 역설...

https://news.hada.io/topic?id=29549

지금 많은 기업이 AI 집단 광기에 빠져 있다고 믿는다 | GeekNews

나는 LLM이 Agent로 발전했을 때 사람의 많은 노가다성 작업을 대신해주는 툴이 될 거라 믿었다.

하지만 사람들은 여전히 노가다를 하고 오히려 의사결정을 AI에 맡기는 듯 하다...

코딩의 영역에서도 아키텍처 설계와 검증 파이프라인의 설계가 개발자들의 핵심 역량이 될거라고 믿었다.

현실은 AI라는 가챠 머신을 무한히 돌리며 거기서 나온 게 쓰레기인지 쓸만한지를 검토하는 부속품이 되어가는 듯 하다...

신기술은 나왔지만 그것을 제대로 활용할 수 있는 워크플로우는 나오지 않았고, 극소수의 스타 개발자들만이 그런 걸 가지고 있는 것으로 믿어지지만 그마저도 검증되지 않았다. 오히려 기존에 효율성과 신뢰성을 확보하기 위해 존재했던 많은 기반들이 무너지고 있는 느낌.

이제는 오류에 대해 스택 오버플로우에 질문하지 않는다. AI가 더 답변 잘 해주니까. 재활용 가능한 라이브러리 개발도 퇴보할 수 밖에 없다. 반복 사용하는 단순한 로직은 AI가 잘 짜줄 뿐 아니라 미세한 커스터마이즈까지 훌륭히 해주니까. 하지만 거기에 매번 오류의 가능성이 생기고 사후보완도 이루어지지 않는 부분은 간과된다.

난 AI의 빠른 도입을 주장해왔다. 사람들이 일자리 줄어든다고 AI를 거부하지 말고 빨리 자신의 워크플로우에 결합해야 한다고 말이다. 하지만 또 한편으로는 기업의 탐욕에 대해서도 비판해왔다. AI의 활용법은 커녕, 그게 뭔지도 모르면서, 무작정 인력을 대체하고 기한을 줄이려는 시도 말이다. 그런 건 파멸적인 결과로 이어질 수 밖에 없고, 지금 그런 메시지들이 끊임없이 나온다.

관련된 글로벌 리더들의 잘못도 있다. 엔비디아에서도 조직이 생산하는 토큰이 그대로 가치가 될거라는 약팔이를 했다. 맞는 말이면서 틀린 말이다. 모두가 그걸 적절한 효율로 쓴다면 타당한 말이겠지만 세상에는 놀랍도록 비효율적으로 돌아가는 조직이 무수히 많다. 대개의 경우 당장 계산되지 않는 비용을 간과하며 폭탄을 쌓아둔다. 위 글에서 말하는 게 그런 거다. AI가 더 빠르게 디버깅할거라고? 그 디버깅 로직에도 버그가 있으면 어쩔건데?

AI가 생산하는 코드의 분량, 그 속도는 사람이 따라갈 수 없다. 그렇다고 사람을 그저 AI의 관리자이자 책임져야할때 책임지는 아바타로만 쓰는 건 멍청한 일이다. 더 적은 샘플만 분석해도 전체 시스템의 안정성을 유지할 수 있는 방법들이 있다. 100%가 되지 못하는 AI로 100% 가 되지 못하는 AI의 작업 결과를 보완하는 것은, 그 1%의 오류를 다시 100분의 1로 할 수도 있고 반대로 2%, 3%, 수십 % 로 증폭시킬 수도 있다. 그걸 좌우하는 건 올바른 워크플로우와 그걸 통제할 수 있는 전문화된 사람이다. 사람이 올바른 기준을 세워주지 않으면 AI는 표류할 뿐리며 어디로 날아갈지 모르는 오발탄 같은 존재가 될 뿐이다.