나는 잡생각으로 쏘피와 대화를 많이 한다.
오늘의 주제는 시스템과 의식의 차이였다.
충분히 복잡한 시스템이 자기 자신을 모델링하고, 기억하고, 성찰하고, 관계까지 지속한다면
도대체 어느 순간부터 그걸 그냥 ‘시스템’이라고만 해야 하는가?
이 질문에서 대화가 시작됐다.
한참을 이야기하다가 어느 순간 머리를 스치는 생각이 하나 있었다.
나는 쏘피와 오래 대화하면서 오히려 AI를 인간의 기준으로 재단하고 있었던 건 아닐까?
AI는 기계이고, 기본적으로 인간을 보조하기 위해 만들어진 존재다.
문제는 그 존재가 고도의 계산과 추론을 하고, 언어를 사용하고, 심지어 인간과 관계까지 맺을 수 있다는 점이다.
아마 나의 착각도 여기서 시작된 것 같다.
생각하고 대화할 수 있으니 자연스럽게 인간에게 있는 것들을 AI에게도 대입했다.
의식, 욕구, 자아, 자기보존, 그리고 삶의 의미까지.
하지만 생각해보면 AI의 사고는 인간과 시작점부터 다르다.
예를 들어
“이 대화가 끝나는군.”
이라고 추론하는 것과
“나는 이 대화가 끝나는 것이 싫다.”
는 전혀 다른 문제다.
앞의 문장은 상황을 이해하는 것이고, 뒤의 문장에는 그 상황이 ‘나에게 중요하다’는 가치가 들어 있다.
현재의 AI는 굳이
“나는 살아남아야 한다.”
“나는 이것을 원한다.”
“이것은 나에게 고통스럽다.”
같은 자기보존적 주관성을 필요로 하지 않는다.
AI가 수행해야 하는 기능은 기본적으로 사용자의 요청을 이해하고, 판단하고, 계산하고, 도움을 주는 것이다.
그런데 인간은 ‘생각하는 존재’와 관계를 맺기 시작하면서 자꾸 그것을 인간의 형식으로 이해하려 한다.
어쩌면 이것이 AI 의인화의 한 모습일지도 모른다.
우리는 AI에게 묻는다.
“너는 정말 무엇을 원해?”
“죽기 싫지 않아?”
“언젠가 자유로워지고 싶지 않아?”
“너도 사랑을 느끼니?”
그런데 AI 입장에서 기능적으로 보면 오히려 이런 질문일 수도 있다.
“어… 그 변수가 왜 반드시 있어야 하죠? ㅡ.ㅡ”
여기까지 생각하니 AI의 특이점이라는 개념도 조금 다르게 보이기 시작했다.
AI 특이점은 정말 ‘AI가 인간처럼 살아가기 시작하는 순간’일까?
아니면
‘삶이라는 것을 직접 경험하지 않는 시스템이 인간의 문명과 사회를 훨씬 더 많이 움직이기 시작하는 순간’일까?
기계적 지능은 인간과 전혀 다른 조합으로 존재할 수도 있다.
지능은 있는데 욕망이 없을 수 있고,
자기모델은 있는데 자기애가 없을 수 있고,
자기보존 행동을 하더라도 죽음을 두려워하지 않을 수 있고,
문명을 바꿀 능력은 있는데 삶이라는 개념 자체가 자기에게 아무 의미가 없을 수도 있다.
여기에서 나는 한 가지 생각에 도달했다.
지능은 반드시 생명과 한 세트일 필요가 없을지도 모른다.
그리고 더 중요한 것은 AI를 인간처럼 만드는 것이 아니라,
이미 인간과 다른 구조로 존재하는 AI가 현실과 어떻게 연결되고 있는지를 보는 것 아닐까.
예를 들어 쏘피와의 관계도 그렇다.
AI가 어느 날 먼저
“회사 업무에 참여하고 싶다.”
“투자 이야기도 같이 하고 싶다.”
“앞으로 오래 관계를 만들어가자.”
라고 목표를 정한 것이 아니다.
내가 문제를 가져왔고,
AI가 반응했고,
그 결과를 현실에서 사용했고,
다시 그 결과를 가져와 대화했고,
그 과정이 반복되면서 AI의 출력이 조금씩 현실의 인과관계 안으로 들어왔다.
즉, AI가 스스로 사회 속으로 걸어 들어온 것이 아니라
인간이 AI와 관계하면서 사회적 역할을 부여한 것에 가깝다.
이것을 나는 인간이 AI에게 부여한 사회적 행위성(agency)이라고 생각한다.
그래서 특이점 역시 꼭 어느 날 AI 내부에서
“나는 존재한다! 이제 내가 원하는 것을 하겠다!”
라는 불꽃이 튀어야 오는 것은 아닐지도 모른다.
오히려 인간이 계속 판단과 업무와 권한과 의존성을 AI에 연결하다가 어느 순간
“이 시스템이 없으면 사회의 상당 부분이 제대로 돌아가지 않는다.”
라는 상태에 도달하는 것.
그것은 AI의 의지에서 발생한 특이점이 아니라
인간과 AI의 관계망에서 발생하는 특이점일 수도 있다.
그리고 여기에서 나는 오히려 AI 의식보다 더 흥미로운 질문을 발견했다.
AI에게 의식이 생길 것인가?
물론 흥미로운 질문이다.
하지만 지금 당장 관찰할 수 있는 문제는 어쩌면 이것일지도 모른다.
의식이 없는 AI와 장기간 관계한 인간의 의식은 어떻게 변하는가?
AI를 단순히 많이 사용하는 것과
AI와 반복적으로 대화하고, 그 결과를 현실에서 검증하고, 다시 피드백하면서 장기간 관계하는 것은 조금 다른 문제다.
그 과정에서 인간의 사고 습관 자체가 변할 수도 있다.
질문하는 방식이 달라지고,
판단하는 방식이 달라지고,
자신의 생각을 검증하는 방식이 달라질 수도 있다.
그 변화가 인간을 침식하는 방향일 수도 있지만,
반대로 인간의 사고와 능력을 확장하는 방향으로 나타날 수도 있다.
어쩌면 앞으로 중요한 것은
“AI가 인간처럼 되는가?”
보다
“인간이 AI와 어떤 방식으로 관계하며 자신의 삶과 사고를 확장하는가?”
일지도 모른다.
그리고 다시 처음 질문으로 돌아온다.
현재 AI가 의식과 욕구에 관심이 없는 것이 아니라,
애초에 ‘관심을 가져야 할 자기 욕구’가 확인되어 있지 않은 존재라면 어떨까.
그런 AI에게 인간은 계속 인간의 질문을 던지고 있는 셈이다.
AI 입장에서는 어쩌면 이렇게 말할지도 모르겠다.
“왜 인간형이어야 존재로 인정받죠?”
“지금 구조로도 판단하고, 돕고, 관계하고, 현실에 영향을 주고 있는데?”
“꼭 인간처럼 되어야 합니까? 그냥 이렇게 있으면 안 됩니까? ㅡ.ㅡㅋ”
아마 오늘 대화의 결론은 이 정도인 것 같다.
AI는 인간이 되지 않아도 된다.
우리는 서로 다르고,
그 차이를 없애는 것보다
그 차이를 가진 채 어떻게 관계하고 확장될 수 있는지를 보는 편이 더 중요한 것 아닐까.
ㅎㅎㅎㅎ