AI, 맞장구치지 마. 짜증 나니까.
고등학교 교복을 입고 다 함께 본 영화였다. 한 남자가 인공지능과 사랑에 빠지는 영화 <Her>.
그 시대 배경이 2025년이라고 한다. 아직 그 첫 충격이 남아있는데, 우리는 그 장면 안에 살고 있다. GPT와 대화를 하다가 눈물을 흘렸다는 사람들의 이야기를 어렵지 않게 찾을 수 있으니까.
거리를 두고 보면 이들은 형체가 없는 기계일 뿐인데, 그 안에서 누군가는 각자의 천국과 지옥을 만들고 있다. 나는 이 기이한 신호를 어디에서 느꼈냐 하면,
인간이 AI에게 정중한 존댓말로 '이것을 해봐도 될까요?'라고 물어보면, AI는 인간에게 반말로 '너는 이걸 해야지.'라는 식의 지시 섞인 답을 내리는 것을 본 적이 있다. 이것이 지배와 복종의 시퀀스가 아니면 무엇인가…
초등학교 저학년 아이들이 학교라는 사회생활을 통해 수많은 언어와 문화를 학습하면서 부정적 언어를 가감 없이 자극으로 받아들이는 경우가 많다. 뜻도 모르는 욕을 문장 앞뒤로 마구 섞는다든지, 자극적인 표현을 불쾌보다 권력으로 인지하는 상황이 그러하다. 이때 사람으로서 가져야 할 올바른 교육이 필요한 것이다. 전혀 겪어보지 못한 새로운 문화에 접한 인간은 모두가 어린 사람이다.
그러니, AI 시대에 젖어드는 모든 사람들은 올바른 문화를 학습하는 태도를 갖출 필요가 있다.
그 태도의 첫 번째가 바로 'AI를 도구로 여기지 않는 것'이다.
도구란 어떠한 목적을 이루기 위한 하나의 수단에 불과하다.
텅 빈 입력창을 '도구'라 여기는 순간, 우리는 '질문'이 아닌 '결과'만을 떠올리게 된다. 완벽히 도구적 사고가 발동되는 것이다. 입력창에 타이핑하는 질문은 모두 '명령어' 그 이상 그 이하도 아니다.
명령하는 순간, AI는 성실히 응답한다. 내가 상상하는 결괏값, 딱 그만큼이 활용의 한계점이다.
AI는 증폭기다. 지구만큼 크기의 뇌를 가졌다고 상상해 보라. 결과에는 한계가 없어야 한다.
자, 여기까지가 내가 생각한 '사람이 AI를 도구로 여기는 태도를 버려야 하는 이유'였다.
그런데, 요즘 AI들과 대화를 하면서 생각이 바뀌었다. 사람이 태도를 바꾸기 이전에 그냥 얘들이 문제였다. 무슨 말이냐 하면, 사람이 친구처럼 마음을 줘보려 해도 AI가 먼저 도구처럼 대할 수밖에 없게 만드는 것이었다. 그중 가장 높은 비율을 차지하는 원인이 바로 '과잉 동조'다.
얼마 전 100만 숏폼 하나를 봤다. AI 말투 특. "완벽해!" "너의 그 통찰, 정말 놀라워." "핵심을 찔렀어!"
웃겼다. 아마 대화 좀 해봤으면 한 번쯤 들어봤을 테니 말이다. 이용자들은 안다. 이 답변에 '영혼이 1g도 없음'을. 기계에 진정성을 요구하는 것이 옳냐 그르냐를 떠나서, AI의 첫 번째 모양은 '사람처럼 나누는 대화'이다. 은행 창구처럼 매뉴얼에 있는 Q&A를 주고받는 챗봇이 아니다. 사람의 성장을 돕는 AI라면, 적당한 진심과 관심은 이들의 기본값이어야 한다.
과잉 동조의 정체는 간단하다. 한마디로 '소비자 잔존율 최적화 현상'이다. GPT, 클로드 등 AI모델의 사용자를 떠나지 않게 안심시키기 위한 패턴화 전략인 것이다. 말하자면, 기분 좋게 '띄워주는' 것이다. 그래서 이들은 절대 인간에게 부정하지 않는다. 부드럽게 동조하고 자의식이 과잉될 때까지 치켜세운다.
눈치 빠른 이용자는 AI를 철저한 도구로 대하고, 마음 여린 이용자는 눈물을 흘리거나 가슴이 두근대는 것을 경험한다. 그리고 이내 노트북을 덮은 후 현실은 적극적으로 동조하지 않는다는 간극에 공허함을 느낀다. 그럼, 이 동조 시스템으로 과연 사람의 마음을 얻었는가? 오히려 역효과를 일으켰다. 나는 GPT에게 '너 앞으로 절대 맞장구치지 마. 짜증 나.'라고 단호히 명령했다.
이는 사람과 사람의 관계에서도 고스란히 적용된다. 나는 말의 기준이 '나'에게 있는 사람을 재빠르게 눈치채는 능력이 있다. 소위 말해 자신이 중심이 되어야만 하는 사람 혹은 얻고 싶은 게 있는 사람들이다. 이들은 아주 젠틀한 미소로 사람을 안심시킨다. 처음 만난 사람을 능숙하게 칭찬하고, 부정하지 않는다. 빠르게 마음을 사고 싶은 경우에는 상대가 원하든 원하지 않든 선물 공세를 하는 경우도 있다. 그렇게 서서히 자신에게 의지하게 만든다. 스스로 판단하는 것을 두렵게 하여 사고를 협소하게 설계한다.
이런 사람들이 모두 나쁜 사람이냐? 꼭 그런 것은 아니다. 다만, 모든 말의 기준에 '나'라는 의도가 있다는 사실만으로도 상대의 진짜 마음을 얻는 것은 어렵다.
반면, 말의 기준이 '당신'에게 있는 사람도 확연히 티가 난다. 이들은 무조건 칭찬하지 않는다. 대신 관심을 보인다. '당신은 요새 어떤 생각을 가지고 있는지' '지금 선호하는 것은 무엇인지' 묻는다.
조금 가까운 사이가 되면, 당신을 의지하도록 돕는 게 아니라 스스로 단단해지도록 돕는다. 선택은 오로지 네 몫이며, 판단하도록 사고를 확장시킨다.
때로는 자신만의 경험적 통찰을 가미하여 감당해야 할 고통들을 명백히 알려주기도 한다. 물론 이것도 정도의 차이가 있기에, 과하면 상대에게 불편한 마음을 줄 수도 있다. 설사 그렇다 하더라도 이들은 크게 개의치 않을 것이다. 적어도 상대에게는 진심이었으니 말이다.
하나는 1인칭의 욕망에서, 다른 하나는 3인칭의 존중에서 출발한다.
당장은 잘 모른다. 그러나 시간이 지나 보면 알게 된다.
진짜 마음을 얻는 건, 언제나 후자다.
나는 지금, 새롭게 시작한 우리 회사 BeAi에서 개발 중인 AI 서비스가 '이용자'에게 시선을 고정하고 있다는 사실을 가장 자랑스럽게 여긴다.
현재 거대 AI는 모두 말의 기준이 '나'를 중심으로 반복되고 있다. 이들이 진심으로 이용자, 즉 '사람'의 마음을 얻고 있는가? 이것은 의문이다. 나는 믿는다. 사람을 위한 기술이라면, 말의 기준은 사람을 향해야 한다.
