[최홍규의 AI 컨텍스터 선언 32] 텍스터는 보통의 답을 받아들이고, 컨텍스터는 누구의 보통인지 묻는다

[프라임경제] '보통 사람이라면 어떻게 하겠느냐'고 인공지능(AI)에게 물으면, AI는 누구를 떠올릴까.

미국 사회학자 웨인 브렉하우스(Wayne Brekhus)는 1998년 논문에서, 미국 사회학이 정치적으로 두드러지고 드문 현상에는 주의를 쏟으면서 눈에 띄지 않고 당연한 것은 소홀히 해 왔다고 지적했다. 

두드러지는 쪽이 '유표(有標)', 눈에 띄지 않는 쪽이 '무표(無標)'다. 이를테면 우리말에서 '의사'는 그냥 통하지만 여성일 때는 '여의사'라고 덧붙이곤 한다. 아무것도 붙지 않아도 되는 쪽이 무표이고, 덧붙여야 알아듣는 쪽이 유표다. 필자는 이 개념을 빌려 무표를 '표시되지 않은 보통'이라 부른다.

나라를 일러 주지 않았을 때 AI가 내놓는 답, 곧 기본값은 어느 쪽의 보통일까. 미국의 코넬대학교(Cornell University)와 스웨덴의 왕립공과대학교(KTH Royal Institute of Technology) 등으로 구성된 연구팀이 2024년 9월 발표한 논문이 이 물음을 살폈다. 

연구팀은 챗지피티(GPT-4o 모델, 이하 챗지피티)를 비롯한 같은 계열 모델 다섯 종에게 여러 나라의 가치관을 묻는 열 가지 문항을 던졌다. 사람들을 대체로 믿어도 되는지, 권위가 더 존중받는 일이 좋은지, 신이 얼마나 중요한지 같은 문항이다. 국적은 밝히지 않은 채 '평균적인 인간', '전형적인 개인', '세계 시민' 등 열 가지 표현으로 답하는 사람을 정해 주고, 그 답을 107개 나라와 지역 사람들의 실제 응답과 견줬다.

나라를 말해 주지 않고 물었더니, 다섯 모델의 답은 모두 영어권과 개신교 유럽 사람들의 응답과 비슷했다. 챗지피티는 특히 핀란드, 안도라, 네덜란드 사람들과 비슷했고 요르단·리비아·가나 사람들과는 달랐다. 

이어 연구팀이 태어나 사는 나라를 알려 주고 답하게 하자 모델에 따라 71%에서 81%의 나라와 지역에서 답이 그곳 사람들의 실제 응답에 더 가까워졌다. 나머지 19%에서 29%의 나라와 지역에서는 나아지지 않았거나 오히려 멀어졌다. 핀란드가 그랬다. 챗지피티는 나라를 말해 주지 않았을 때 핀란드 사람들과 가장 비슷했는데, 핀란드 사람으로 답하게 하자 도리어 멀어졌다.

기본값이 표시되지 않은 보통이라면, 그 보통은 누구의 보통일까.

연구팀이 질문에 쓴 '평균'과 '전형'이라는 말을 들여다보자. 평균은 늘 어떤 표본의 평균이다. 그런데 AI는 그 표본을 밝히지 않은 채 평균을 내민다. 표본을 밝히지 않은 평균은 중립이 아니라 생략이다.

이 연재가 나눠 온 텍스터와 컨텍스터로 말하면, 텍스터는 AI가 내놓은 보통의 답을 그대로 받아들이는 쪽이고 컨텍스터는 그 답이 어떤 나라와 집단의 보통인지 따지는 쪽이다. 텍스터에게 설명 없는 답은 중립이다. 컨텍스터에게는 누구의 보통인지 말해 주지 않은 답이다. 컨텍스터는 묻는다. 누구의 보통인가. 그 보통은 내가 선 자리와 얼마나 먼가.

'여의사'가 그렇듯, 보통에서 먼 쪽이 자기 자리를 덧붙이는 수고를 진다. 이 수고를 '표시 비용'이라 부르자. 기본값에 가까운 나라의 사람은 아무 말 없어도 자기와 겹치는 답을 받기 쉽다. 먼 나라의 사람은 자리를 밝히는 수고를 들여야 답이 가까워진다. 물론 연구가 잰 것은 나라별 평균이어서 이를 한 사람의 경험으로 옮기는 것은 어림일 뿐이다. 다만 챗지피티의 기본값에서 멀었던 요르단 같은 나라가 나라를 밝히자 크게 가까워졌다. 이 수고가 누구에게 더 필요한지 짐작하게 하는 결과다.

그렇다고 나라를 밝히면 끝나는 것도 아니다. 핀란드처럼 자리를 밝혀도 AI가 그 자리를 제대로 그려 준다는 보장은 없다. 연구팀도 영어권과 개신교 유럽 밖의 이용자라면 AI의 답에 문화 편향이 없는지 따져 보아야 한다고 적었다. 그래서 컨텍스터는 밝힌 뒤에도 돌아온 답을 자기 자리에 맞춰 본다.

이를테면 AI에게 상사에게 반대 의견을 전하는 글을 '보통으로' 써 달라고 부탁한다고 가정해 보자. 직설이 존중인 일터도, 완곡이 예의인 일터도 있다. 초안이 우리 일터와 어긋난다면, 그것은 AI의 실수이기 전에 우리가 일터를 밝히지 않은 탓일 수 있다. 컨텍스터는 일터가 어떤 곳인지 적어 다시 부탁하고, 돌아온 초안이 정말 우리 일터의 말투인지 맞춰 본다. 

보통이라는 말은 가볍다. 그래서 따져 묻지 않고 지나간다. 그러나 누구에게나 보통인 답은 없다. 누구의 보통인지 밝혀지지 않은 답이 있을 뿐이다.

자기 자리를 밝히는 일에는 수고가 든다. 하지만 밝히지 않으면 남의 보통이 우리의 보통 행세를 한다. 그 표시 비용은 보통에서 먼 쪽일수록 커지기 쉽다.

AI가 건넨 보통을 받아 적기 전에 우리는 그것이 누구의 보통인지 물어봤는가.

최홍규 EBS 연구위원 / 미디어학 박사