[최홍규의 AI 컨텍스터 선언 25] 텍스터는 이름값에 흔들리고, 컨텍스터는 제 생각만 남긴다

[프라임경제] 세 번 연속 약속을 어긴 사람에게, 이번엔 믿어보라는 조언이 온다면 우리는 따를까. 웬만해선 아닐 것이다. 그런데 그 조언 옆에 '인공지능(AI)의 판단입니다'라는 문구 하나만 붙으면 사람들의 대답이 뒤집혔다.

독일의 마르틴 루터 할레비텐베르크 대학교(Martin Luther University Halle-Wittenberg) 연구팀이 2024년 11월 발표한 논문이 밝혀낸 사실이다. 연구팀은 참가자들에게 실제 돈이 걸린 신뢰 게임을 시켰다. 상대방이 앞선 세 번 모두 신뢰를 저버렸다는 기록을 뻔히 보여준 뒤 그래도 상대를 믿어보라는 조언을 건넸다. 

조언이 사람 전문가의 것이라고 알렸을 때는 반응이 거의 바뀌지 않았다. 원래대로라면 아무 조언 없이도 열에 아홉은 상대를 믿지 않았는데, 그 조언이 'AI의 판단'이라고 알리자 열 명 중 예닐곱이 상대를 믿어버렸다. 조언의 내용은 토씨 하나 다르지 않았다. 달라진 것은 그 조언에 붙은 이름표뿐이었다.

AI가 내놓는 답이면 무조건 따르는 사람을 이 연재에서는 텍스터라 불러왔다. 반대로 그 답에 자신의 맥락과 판단을 더해 다시 세우는 사람이 컨텍스터다. 방금 소개한 실험은 텍스터의 가장 적나라한 모습을 보여준다. 조언의 내용을 따지지 않고, 이름값만으로 넘어가는 모습이다.

그렇다면 질문이 하나 남는다. 이름값에만 속지 않으면, 다시 말해 AI가 답을 그냥 던져주지 않고 옆에서 생각을 거들어주기만 하면 우리는 안전할까. 얼핏 그럴듯한 기대다. 정답을 곧장 내놓는 AI보다 옆에서 생각을 거들기만 하는 AI가 더 낫다는 것은 이 연재가 거듭 확인해 온 내용이기도 하다. 그런데 캐나다 토론토 대학교(University of Toronto) 연구팀이 2025년 4월 국제 학술대회에서 발표한 논문은, 그 믿음직해 보이던 원칙에도 예외가 있다는 것을 보여준다.

연구팀은 참가자 1100명에게 두 가지 과제를 냈다. 하나는 물건 하나를 주고 그것으로 할 수 있는 새로운 쓰임새를 최대한 많이 떠올리는 과제였다. 예를 들어 타이어 하나를 주면 그것으로 할 수 있는 색다른 일을 계속 생각해내는 식이다. 다른 하나는 서로 관련 없어 보이는 세 단어를 주고, 그 셋 모두와 이어지는 한 단어를 찾는 과제였다. 참가자들은 각각 챗지피티(GPT-4o 모델, 이하 챗지피티)가 답을 그냥 알려주는 조건, 챗지피티가 답 대신 스스로 생각하도록 이끄는 질문만 주는 조건, AI 없이 혼자 하는 조건에 무작위로 나눠 과제를 반복했다.

의미있는 결과는 AI의 도움이 끝난 뒤 아무 도움 없이 혼자 과제를 다시 풀 때 나왔다. AI가 이끄는 질문을 받으며 연습했던 사람들은 AI 없이 혼자 했던 사람들보다 새로운 아이디어를 떠올리는 힘이 눈에 띄게 떨어졌다. 그 차이는 우연이라 보기 어려운 수준이었다. 

더 놀라운 것은 이 사람들이 만든 아이디어들끼리 서로 닮아 있었다는 점이다. 챗지피티의 도움이 끝난 뒤에도 그 여운은 각자의 생각 속에 남아 서로 다른 사람들을 비슷한 생각을 하는 사람들로 만들어 놓았다.

두 실험은 무대가 다르지만, 그 안에서 벌어지는 실패는 결국 하나로 겹친다. 이름표만 보고 내용을 확인하지 않거나, 도움받은 흔적을 자기 생각인 줄 착각하는 것이다. 두 경우 모두 사람들은 판단을 실제로 하지 않았다. 판단했다는 느낌만 갖게 됐을 뿐이다. 이 착각의 가장 무서운 점은 본인에게는 보이지 않는다는 사실이다. 이름값에 넘어간 사람도, 남의 틀을 고스란히 물려받은 사람도, 스스로는 누구보다 합리적으로 생각했다고 믿는다.

그러므로 텍스터와 컨텍스터를 가르는 것은 지능도, 성실함도 아니다. 하나의 습관이다. 컨텍스터는 조언을 받을 때 이름표부터 떼어내고 그 안의 근거만 남겨 다시 따진다. 도움에서 손을 뗀 뒤에는 남아 있는 생각 가운데 어디까지가 정말 자기 것이고 어디부터가 AI에게서 넘어온 것인지 가려낸다. 이 두 번의 확인 중 단 한 번이라도 건너뛰면, 스스로는 신중했다고 믿는 순간에도 이미 텍스터의 자리로 돌아가 있는 것이다. 컨텍스터는 한 번 도달하면 계속 유지되는 상태가 아니라, 매번 다시 선택해야 하는 태도이기 때문이다.

AI는 두 가지 방식으로 우리를 길들인다. 하나는 이름표를 붙여 신뢰를 얻어내는 것이고, 다른 하나는 도움을 거둔 자리에 여운을 남겨 우리를 자신과 닮게 만드는 것이다. 두 힘 모두 요란하게 오지 않는다. 조용한 습관처럼 스며들기에 더 위험하다. 이름표에 흔들리지 않고, 여운에 물들지 않고, 끝까지 제 생각만 남기는 사람. 그 사람만이 AI 시대에도 자기 판단의 주인으로 남는다. 그 자리를 지키는 것은 AI가 아니라, 결국 우리 자신이다.

최홍규 EBS 연구위원 / 미디어학 박사