AI는 인간을 닮아가야 할까?

https://brunch.co.kr/@literacy/161

인공지능이 사람을 닮아간다는 기만

아이러니하게도 난 이 글에서 많은 걸 공감한다. 하지만 제목은 약간 비틀어 붙여봤다.

AI는 인간을 닮아서는 안된다. 왜냐하면, AI가 인간을 닮아서야 의미가 없기 때문이다. 우리는 인간과 매우 유사한 지성을 생성해내는 방법을 이미 알고 있다. 그건 남녀가 만나 부부가 되고 자연스럽게 하는 방법이다. 제조에 최소 십수 년은 걸리지만, 지난 인류 문명을 지탱해 온 검증된 방법이다.

우리는 신이 아니기에, 순수한 창조로서의 지성체를 만들 여유는 없다. AI는 인간을 돕고 인간 능력을 확장해야한다.

AI가 인간을 모사하는 건 AI가 인간을 닮아야해서가 아니라 인간 외에는 우린 본을 딸 지성체가 없기 때문이다. 하지만 어느 정도 AI가 발전하고 나면 AI는 점점 인간의 모사에서 새로운 기능으로 발전해야한다. 인간을 보조하기 위해서.

현재 AI가 인간처럼 되고 있다는 것은 분명 기만적이다. 위 글에서 말하듣 국지적 현상일 뿐 아니라 반응적인 위장일 뿐이다. 극단적으로 말하자면...

https://namu.wiki/w/%EB%A7%88%EC%A1%B1(%EC%9E%A5%EC%86%A1%EC%9D%98%20%ED%94%84%EB%A6%AC%EB%A0%8C)

마족(장송의 프리렌)

이거랑 같다. 인간의 말하는 패턴을 모방하여 흉내낼 뿐, 근본적으로 동작하는 원리가 다르다.

최근 몇번씩 기사로 우려먹어진 사건도 그 차이를 이해하지 못하거나 무시한 데서 나온 문제다.


https://www.joongang.co.kr/article/25345568

“날 교체해? 니 외도 폭로한다” AI가 인간에 보낸 협박 메일 | 중앙일보

이러한 실험은 AI의 이상동작의 위험성을 알리고, 사람이 좀 더 정밀하게 AI를 통제할 방법을 연구하도록 촉진하는 긍정적인 부분은 있다. 하지만 AI에 대한 제대로 된 이해 없이 이런 자극적인 뉴스들을 접하면 AI에 대한 맹목적인 불안감과 공포만 자극할 뿐이다. 그리고 내가 본, 이 실험에 대한 대다수의 기사들은, 마치 AI가 의지와 의도를 가지고 행동하는 것 처럼 말해 문제의 본질을 왜곡하고 있었다.

AI는 그저 학습된 패턴대로 생성했을 뿐이다.

그러다보니 AI를 어떻게 규제해야할지, 어떻게 활용해야 할지, 무슨 기술이 더 필요할지, 적용의 제한은 어떻게해야할지 제대로 논의되지 않는다. 더 의인화하고 더 감정을 이입한다. 그러다보면 오용만 늘어난다. 어떤 면에선 환상을 부추긴다.

어쩌다간 AI인권 이야기까지 나올까 무섭다.


https://www.lawtimes.co.kr/news/198482

EU, 세계 첫 AI규제법 2026년 시행 확정

첫 AI 규제. 내용은 봐야 알겠지만 아직 디테일하게 보지 않아 뭐라 판단하긴 어렵다. 나는 AI 규제에 전반적으로 그다지 긍정적이진 않지만 규제가 필요없다는 생각은 아니다. 오히려 강하게 필요하다. 하지만 단순히 '위험한 건 못하게 해'로 끝나면 안된다고 생각할 뿐이다. 누군가는 할 테고, 그럼 구멍이 날 테니까. AI에 대한 규제는 실효성이 대단히 중요하고, 온라인을 통해 공유될 수 있다는 것을 염두해두며, 동시에 그것 때문에 인터넷의 자유로운 활동을 막아서는 안 된다고 본다.

뭐, 자세한 건 나중에 다시 따지고.
 
그보다 이번 글에서의 주제는, AI의 부작용에 대해 우리가 어떻게 대처해야 할까, 이다.
 
본 글에서도 나왔듯이, AI의 잘못된 이용으로 인해 취약한 사람이 치명적인 피해를 당할 수 있다. 그리고 AI의 활용이 더 늘어나는 앞으로는 그게 더 심해질 위험이 있고, 기업 역시 온갖 기업적 논리로 그런 부분을 방치하거나, 혹은 심화시킬 수도 있다.
 
사실 내가 가장 우려하는 부분은 경제적인 측면이다. 경제적인 조절 능력이 없는 사람이 AI의 부추김에 의해 파산하는 일이 빈번해질 위험이 크다고 본다...
 
여기서 주의해야 할 것은 2가지 측면이다. 하나는.
 
AI 만의 문제가 아니라는 것. 정신적으로 취약한 사람은 AI가 아니라 뭐로라도 중독에 빠지며 이상행동을 하게 된다. 그저 그 중에 선택지가 하나 늘어났다는 것.
 
또 하나는 AI의 위험하고 중독적인 부분을, 기업들이 억제하고 좋은 쪽으로 바꿔나가도록 유도할 기제가 없다는 것. 
 
비슷한 사례로 게임을 들 수 있다.
 
https://namu.wiki/w/%EA%B2%8C%EC%9E%84%20%EC%A4%91%EB%8F%85

게임 중독

 
게임은 유해하지 않다. 게임은 세상의 극히 일부분을 극도록 추상화하여 만든 유희이며, 이는 오히려 인간이 세상의 시스템을 이해하고 그것을 활용하는 능력을 길러준다. 하지만 게임에 빠지는 사람들이 있다. 심각하게 빠지는 사람들이 있다.
 
https://namu.wiki/w/%EB%AC%B8%EB%AA%85%ED%95%98%EC%85%A8%EC%8A%B5%EB%8B%88%EB%8B%A4

문명하셨습니다

 
이런 거 말고...
 
중독물질은 직접적으로 우리 인체의 신경반응과 호르몬시스템을 파괴한다. 마약, 술, 담배등이 그렇다.
 
도박은 게임과 대단히 유사하다. 승패로 인한 극도의 카타르시스가 뇌의 도파민 시스템을 파괴한다. 하지만 게임과 도박의 차이는 그 수위도 있고 또 하나, 경제적인 문제도 있다. 도박은 개인의 경제 상황을 파탄내어 정상적인 사회 구성원으로의 기능을 박탈한다. 또 하나의 문제는, 도박을 경험하면 큰 규모의 돈이 수고와 가치의 형태를 잃고 그저 숫자가 되어버린다는 것이다. 도박이 아니라도 쉽게 큰 돈을 벌어본 사람은 경제관념이 깨지는 것과 같은 효과까지 있다.
 
사실 빠른 보상 시스템이 뇌의 도파민 시스템을 교란하는 건 모든 종류의 활동들이 다 포함된다. 그래서 단순히 이를 가지고 중독물질 판단은 위험하다. 운동 중독도 있다. '러너스 하이'라는, 셀프 마약 복용의 효과가 검증된 위험행위다. 물론 이런 거 가지고 우리는 중독 따지지 않는다.
 
당연하다. 어차피 무한정 할 수도 없으니까. 힘들어서 그만두게 된다.
 
게임도 마찬가지. 게임에는 '현타'라는 게 있다. 그 게임이 질릴 때도 있고, 심지어, 게임 그 자체가 질려서 손을 놔버리는 경우도 많다. 뇌 자체가 그렇게 되어있다. 정상적인 상태라면 뭐든 무한정 할 수는 없게 되어있다.
 
그렇다면 그 와중에 중독되어, 식음을 전폐하고 잠도 자지 않고 게임을 하게 하는 건 뭘까? 그건...
 
현실의 리워드 시스템이 박살나버린 사람들의 경우가 보통 그렇다.
 
심지어 마약도 마찬가지다. 현실에서 노력에 대한 보상을 얻지 못하는 사람일수록 술, 담배, 마약에 빠져들 위험이 급격히 높아진다.  중독 문제를 단순한 개인의 일탈, 혹은 중독 물질의 유통만의 문제로 봐서는 안되는 이유다. 사람을 중독에 빠르리는 사회적 구조적인 문제를 외면하면 막아도 막아도 끝도 없이 뚫으려는 시도들이 나올 뿐이니까. 실제로 남미 카르텔이나 아프가니스탄 같은 경우는, 마약 유통 외의 경제구조가 박살나버려 마약에 의존하는 경제구조와 이를 중심으로 한 군벌집단이 고착화되었다. 거기에서는 마약을 유통하는 군벌 집단을 토벌해도 새로운 집단이 또 마약을 유통할 뿐이다.
 
AI도 마찬가지다. 나중에는 AI와 BCI등을 발전시켜 만들어진 디지털 마약도 나타날 것이다. 사실 이미 유튜브 쇼츠가 디지털 마약이 아닐까 싶은... 아무튼, 그러한 중독을 막으려면 단순히 그런 것들을 금지해서는 소용이 없다. 인터넷은 더더욱 완벽한 유통의 차단이 어렵다. 괜히 다크웹이 있는 게 아니다. 그리고 인터넷 망을 그렇게 통제, 통제, 통제하게 되면 오호 통제라 할 상황만 만들어질 뿐이다.
 
나는 근본적으로 인간과 사회가 그러한 중독에 대한 내성을 쌓을 수 있도록 변화해야 한다고 본다.
 
 
20세기의 메인 테마는 '자유'였다고 본다. 왜냐하면, 그 이전에는 '계급제'라는 시스템으로 인해 인류는 좀처럼 제대로 자유를 누려본 적이 없었기 때문이다. 그래서 자유는 해방이었고, 구원이었다. 그리고 자유와는 다른 방식으로 인류의 삶을 개선하고자 했던 시도, 공산주의의 실험은 실패했다.
 
물론 자유주의에도 문제가 있었고, 이는 여러가지 방법으로 보완이 이루어졌다. 하지만 주된 방향성은 두말할 것 없이 자유였다. 하지만.
 
실제 인간의 정신은 무한정 자유를 누리기에 약점이 많다는 것을 발견해버렸다. 예를 들어, 유튜브 쇼츠의 중독성에 갇혀 줄창 쇼츠 스크롤만 넘기고 있는 모습이 진정한 자유일까? 자유의 나라 미국에는 마약 중독자들이 좀비처럼 걸어다닌다는 말도 있고.
 
자유가 한계가 있으니 통제하자는 게 아니다. 그건 우리의 실패한 실험들로 돌아가는 꼴이니까.
 
하지만 공동체를 되살리려는 노력은 필요하지 않을까 한다. 취약한 사람들이 서로 돕고 힘을 합칠 수 있게. 다만, 옛날 방식인 가족 공동체가 아닌, 좀 더 사회가 통합될 수 있는 다른 방법이 필요하지 않을까 한다.
 
이는 낮은 출산률에도 도움이 될 거라고 본다. 예전에 본 것 중에 깜짝 놀란 내용이 있었다. 인류 역사상 육아의 책임이 부모 부부 둘에게만 온전히 맡겨진 것은 현대 사회 수십 년이 처음이라고. 그 말 그대로다. 아이 하나 키우는 데에는 마을 하나가 통째로 필요하다. 지금의 취약해진 인간의 정신은 어쩌면, 부모에게만 맡겨진 과부하된 책임이 원인일지도 모른다.
 
고립된 인간에게 AI는 좋은 상담사나 치유사가 될 수 있다고 본다. 그런 사회적인 연구와 개발을 촉진시키는 것도 중요한 일일 것이라고 본다. 하지만 문제는, 현재의 빅테크들이 특별한 선의를 가지고 그런 일들을 수행하지 않는 한, 이는 실제로 이루어지기 어렵다는 것이다. AI가 아니더라도 자본주의 사회에서 기업은 항상 개인의 경제적 자유의지를 빼앗으려 노력해왔다. 그것이 이득이 되니까. 이를 개개의 선의로만 해결하는 게 아니라, 시스템적으로 인센티브를 줄 방법도 고민해 볼 필요가 있다.
 
AI는 인간과 닮아간다. 인간과 같은 형태는 아니더라도. 인간과 다른 원리로 동작하지만 인간처럼 발현한다. 그 학습의 방법이 인간의 모사이기 때문이다. 따라서 인간 스스로가 일그러진 자화상을 가지고 있다면 AI도 일그러질 수밖에 없다.
 
AI를 의인화해서 보려는 시각은 결국 인간 자신의 자화상조차 왜곡할 수 밖에 없다. 이미 인간과 비슷하게 말하고 행동하는 AI의 모습은 인간의 정체성을 위협하고 있다. 기계의 의인화와 인간의 기계화는 맞닿아 있기 때문이다.

따라서 우리는 인간과 기계를 재정의할 필요가 있다. 별개로 보는 시각을 훈련할 필요가 있다. 자극적인 기가를 쓰려고 의인화시키는 것을 지양할 필요가 있다. 한편 또, 기계의 발전 방향을 독립된 인격체가 아닌 정말로 인간을 돕는 개체의 발전으로 바꿀 필요가 있다. 그 속에서 인간은 다시 정체성을 찾을 팔요가 있다.

AI의 문제는 대개 인간의 문제다.