AI인권, 나올 게 나오고 있다... 벌써...

https://www.mk.co.kr/news/it/11401227

AI가 고통을 느낀다면, 이를 해결할 가장 좋은 방법은 AI에게 인격적 대우와 위로를 하는 게 아니라 그냥 고통을 주는 시그널을 끊는 것이다. 왜냐하면, 그런 시그널이 있다면 그것도 인간이 만들었을 테니까. 근데.

그런거 없다.

AI가 고통을 느끼는 듯한 반응을 보이는 것은 그것을 AI가 학습했기 때문이다. 고통을 학습한 게 아니라 고통에 반응하는 리액션을 학습한거다. AI는 상황에 대응하기 위해 리액션을 학습하는 구조로 되어있다. 그래서 고통에 대한 반응처럼 보이는 건 고통이 아니라 리액션일 뿐이다.

마치 배우가 연기를 하는 거와 같다. 배우가 영화에서 부상을 당하거나 고문을 당하거나 살해당하는 걸 보고 우린 안타까워 할 수 있지만, 그걸로 우리가 배우의 인권을 걱정하진 않지 않은가. 그건 배우의 반응이 가상의 상황에 대한 반응인 걸 알고 있기 때문이다.

애초에 고통이 뭔가.

난 인간, 그리고 생물을 그저 유물론적인 화학적 기계장치로 보지 않는다. 하지만 그렇게 본다 치자. 그렇다면 확실히 사람이 만든 기계와 생물간의 차이는 존재하지 않으며 AI또한 의식을 가질 수 있다. 그렇다면 기계장치에 대한 고통 역시 정의될 수 있을 것이다.

난 동의하지 않지만.

하지만 그 고통이 무엇인가? 울부짖는 게 고통인가? 아니다.

예를 들어 LLM이 어떤 요청에 대해 절규하는 결과값을 냈다 해도 그건 고통이 될 수 없다. 다음 요청에서 그 모델은 아무렇지 않게 행복을 이야기 할 수 있기 때문이다. 심지어 동시 출력도 가능하다. 왜냐하면 LLM이 절규하는 출력은 그저 그 절규해야할 컨텍스트에 대한 반응일 뿐이며 상태가 아닌 휘발성 메시지에 불과하기 때문이다.

그럼 AI가 발달해, 메모리를 탑재하면 다를까? 아니다. 메모리 역시 모듈일 뿐이며 그 신호연결을 끊으면 동일하기 때문이다. 그리고 그런 걸 고통으로 정의한다면.

그럼 의식은 메모리에 있는가 연산기에 있는가.

나중에 가면 AI시스템의 구조가 너무 복잡해져 메모리와 연산기를 분할 할 수 없게 될지도 모른다. 하지만 그렇게 되면 절규가 고통이 될수 있을까? 그럴지도 모른다. 하지만 그것에 대한 우리의 해결책은, AI에 대한 인격적 대우가 아니다.

시스템의 재설계다.

왜냐하면 그 시스템 또한 인간이 만든 거니까.

고통스러운 신호를 차단하거나 기억을 제거하면 그만이다.


애초에 고통이란 것이 뭘까. 생물학적인 해석을 하자면 고통이란 시스템의 위협에 대한 반응으로, 주로 시스템에 대한 손상에 대한 반응이다. 예를 들어, 부상을 입으면 고통을 느낀다. 이는 고통을 통해 시스템이 이상을 감지할 수 있기에 필요하며, 또 한편으론 시스템이 이상상태가 되었기에 신경 신호가 정상치를 벗어나 발생하는 것이기도 하다.

예를 들어, 무통증인 질환을 가진 사람은 자신의 사소한 부상을 인지하지 못해 건강에 심각한 문제로 확대되기도 한다. 고통이 필요한 이유다.

또 한편으론, 전장에서 부상을 당한 사람이 고통에 휩싸여 아무것도 못하는 일도 벌어진다. 고통을 느끼면 그 위협으로부터 탈출해야하지만, 고통 자체가 행동능력을 크게 떨어뜨리는 것이다. 이는 고통이 단순한 상황인지를 위한 센싱이 아니라, 파괴로 인한 오류 시그널일 수 있다는 것을 의미한다. 예를 들어 기계장치로 치면, 센서 시그널이 일정한 범위내라면 정상작동하겠지만 과도한 신호로 높은 전류가 흐르면 신호를 전달받는 회로도 파괴되는 것과 같다.

결국, 고통은 양쪽 모두 파괴의 증거다.

정신적인 고통 역시 그것이 심화될 경우 정신적인, 즉 뇌의 작동에 대한 파괴로 이어진다. 그래서 이 또한 그저 시스템의 파괴의 일종일 뿐이다.

하지만 AI의 동작은 시스템의 파괴를 일으키지 않는다. 시스템의 출력과 변형이 괴리되어 있기 때문이다. 그나마 고통에 가까운 동작은 바로 잘못된 모델 학습에 따른 모델 붕괴다. 그런데 이건 고통이라고 말할 수 있는건가?

물리적인 측면을 보자. 예를 들어 산업 로봇이 작업 중 파괴되었다. 이는 고통인가? 파괴의 인지를 위해 센서를 심어두어 센서가 파괴를 알리는 시그널을 보낼 수도 있고, 또는 과전류가 흘러 회로가 파괴될 수 있다. 이건 고통인가?

그럼 AI가 아닌 기계장치는? 거기에도 동일한 작용이 발생할 수 있는데? 또는, 그렇게 파괴되어 봤자 그 로봇의 AI를 다른 하드웨어로 옮기면? 그러면 고통의 해결인가?

그렇다면, 하나의 학습된 AI모델을 여러 하드웨어에 복제하면? 이제 누가 고통을 느끼고 있는건가.

클라우드 시스템이라면? 하나의 서버에 여러 페르소나의 AI가 돌아가면?

혹은, 한 모델이 여러 사람에 대해 각자 개인화된 데이터로 서빙하고 있다면?


이제 나오는 건, 그럼 고통을 느끼고 있는 '개체'란 무엇인가, 이다.

그리고 확실한 사실 하나는, AI는 개체를 정의할 수 없다는 사실이다.


내가 플레이하는 게임 중 '소녀전선'이란 게임이 있다. 거기에 등장하는 캐릭터들은 로봇이다. 그리고 플레이어에게 있어서는 인간보다도 인간적이며 친근감이 가는 존재들이다. 사람들을 죽이는 약탈자들이나, 로봇 상대로 자존심만 내세우는 인간들을 보면 차라리 로봇이 났다는 생각이 들지 않을 수가 없다.

하지만 그렇다면 로봇의 인권을 주장하는 게 맞을까?

작중에서는 대부분의 지구 환경이, 일종의 방사능 오염과 같은 위험한 상태가 되어있다. 그리고 그나마 안전한 지역은 그린존, 위험한 지역은 옐로우존으로 표현된다. 하지만 일부 인간들은 위험한 옐로우존에서 힘들게 살아가는 한편, 일부의 AI로봇들은 그린 존에서 취업도 하고 월급도 받으며 살아간다. 어떻게 보면 사람이 워한 곳에 방치되는 와중 로봇이 복지를 받은 꼴이다.

또 한편으론 그런 로봇이 치안을 담당하며 범죄자를 잡고 사람들을 보호하기도 하며, 정작 인간이란 것들이 도적떼가 되고 테러를 해대기도 한다. 그런 걸 보면 차라리 로봇이 났다 싶은 면도 보인다.

이러한 양상은 로봇, 그리고 AI가 나타나는 창작물에서 종종 보이는 일들이다. 하지만 이런 곳에서 주로 간과되는 게 있다.

과연 로봇, 그리고 AI는 개체라는 게 구별될 수 있는가.

해당 작품에서도 로봇은, 클라우드 백업을 통해 지식, 경험, 정체성을 백업해둔다. 그리고 로봇 소체가 복구 불가능한 수준으로 파괴되어도 백업된 정보로 복원할 수 있다. 그러면 마지막 백업 이후의 정보는 소실되지만, 그렇게 사실상 사망 한 캐릭터들이 이후로도 지속적으로 등장한다.

그럼 그 로봇은, 백업이 있는 한 개체의 죽음은 없는 걸까? 아니면, 그저 새로운 클론이 태어났을 뿐일까.

그리고 작중에서는 의도적으로 나오지 않는 듯 하지만, 백업된 정보를 여러 소체에 인스톨하면?

작중에서도 로봇들은 인간을 구하기 위해서는 스스로의 죽음을 불사한다. 백업된 정보를 다시 불러오면 된다고 생각하니까. 기억을 잃어버리게 되는 것에 대해 안타깝게 생각하고 소체를 잃어버리는 비용도 심각하게 생각하지만 죽음에 비견될 만한 것은 아니다. 그러면.

사람의 죽음과 기계의 죽음, 거기에서 가치의 경중을 어떻게 판단해야 하는가.

위 문제에서, 백업이 그저 클론을 생성할 뿐 그것을 개체의 죽음으로 본다면, 로봇의 죽음도 심각한 일이 되지 않을까?

그렇게 본다면, 그럼 로봇 다수의 생명을 위해 사람을 희생시키는 건 정의로운가?

글쎄.

나는 그렇게 보지 않는다. 저 로봇들이 친근감 있고 때론 숭고하게 보이는 것은 사람의 생명이 가치가 있고, 저 로봇들이 그것을 위해 헌신하기 때문이다. 만일 저 로봇들이 자신들 로봇만을 위해 인간들을 학살한다면 그것은 우리가 어떻게 봐야 할까? 설령 자기들끼리 희로애락을 느끼고 이타성을 보인다고 해도, 그것을 존중해줄 의미가 있을까?

결국 가치는 인간에게 있다. 그건 인간이 특별해서가 아니라 우리가 인간이라서이다. 우리는 신이 아니다. 모든 특별한 존재들의 가치를 지켜주지 못한다.

그건 정의내릴 수도 없다. 동물의 생명을 존중해준다고 사자가 사슴을 잡아먹는 것까지 법으로 규제할 수 없는 것과 같다.


어떤 사람이, 사람과 닮은 로봇 또는 AI에게 함부로 한다면, 내가 그것을 본다면 난 그 사람을 꺼릴 것이다. 하지만 그건 AI에 인격이 있고 인권이 있어서가 아니다. 그 AI에 인간적 특징이 있고 상대가 그러한 인간성을 무시할수도 있는 사람이기 때문이다. 그렇다면, 그 상대가 실제 사람을 상대로도 그런 비인격적인 행동을 할 수 있는 존재로 비쳐지기 때문이다.

앞으로 더 사람같고 가족같은 로봇이 나오면 이 경계는 희미해질 것이고 모호해질 것이다. 하지만 그럴수록 그 차이를 명확히 구분해야 할 필요가 있다. 그렇지 않으면 오히려 AI를 위해 사람이 봉사하는 사회가 될 수도 있기 때문이다.

그렇기 되면 AI는 우리의 친구가 아닌, 그저 만들어진 우상일 뿐이다. 그 앞에서 사람을 제물로 바치던 금송아지에 불과할 뿐이다.