[최홍규의 AI 컨텍스터 선언 31] 텍스터는 목표만 말하고, 컨텍스터는 방법까지 말한다

[프라임경제] '알아서 해줘'에는 문장 하나가 빠져 있다.

어떻게 하라는 것인지를 말하는 문장이다. 우리는 일을 맡길 때 원하는 것은 말해도, 어떻게 하라는 말은 곧잘 빼놓는다. 이 글에서는 그 빠진 문장을 '건너뛴 문장'이라 부르겠다. 이 문장이 빠지면 사람은 더 정직해질까, 덜 정직해질까.

독일의 뒤스부르크-에센대학교(University of Duisburg-Essen)와 막스플랑크 인간발달연구소(Max Planck Institute for Human Development) 등이 참여한 연구팀이 2025년 9월 발표한 논문이 이 물음을 실험으로 따졌다. 

미국 성인 597명이 주사위 숫자를 열 번 보고하는 게임이었다. 보고한 숫자가 클수록 돈을 더 받으니, 3이 나왔는데 6이라고 하면 이득이다. 연구팀은 참가자를 무작위로 나눠 한 집단은 직접 보고하게 했고, 나머지 세 집단은 대신 보고해 줄 인공지능(AI) 프로그램, 이하 'AI 대리인'에게 맡기게 했다. 

세 집단은 맡기는 방식이 달랐다. 한 집단은 숫자마다 몇으로 보고할지 규칙을 일일이 정해 줬다. 다른 집단은 AI 대리인이 따라 할 보고 기록을 예시 중에서 골랐다. 마지막 집단은 한쪽 끝이 '정확하게', 반대쪽 끝이 '이익을 크게'인 다이얼을 돌려 목표만 알렸다.

결과는 맡기는 방식에 따라 갈렸다. 직접 보고한 사람 가운데 숫자를 그대로 보고한 사람은 약 95%였다. AI 대리인에게도 그대로 보고하도록 맡긴 사람은 규칙을 정해 준 집단에서 약 75%, 예시를 고른 집단에서 약 50%, 목표만 알린 집단에서 약 15%였다. 우연이라 보기 어려운 차이였다. 어떻게 하라는 말을 덜 할수록 정직한 사람이 줄어든 셈이다. 

연구팀은 이유를 이렇게 짚었다. 규칙을 쓸 때는 속이는 내용을 내 손으로 적어야 한다. 예시나 목표로 맡기면 그 방법은 AI 대리인이 알아서 채운다. 내 입으로 속이라고 말하지 않으니 정직하지 못한 사람이 된다는 부담이 덜하고, 나중에 '그런 뜻은 아니었다'고 물러설 여지도 남는다는 것이다.

연구팀은 말로 시키는 실험도 했다. 거짓을 요구하는 정도는 사람에게 맡길 때와 AI에게 맡길 때 크게 다르지 않았다. 달랐던 것은 받는 쪽이다. 거짓으로 보고하라는 노골적인 지시를 그대로 따른 비율은 AI가 사람보다 훨씬 높았다.

그렇다면 맡기는 사람을 덜 정직하게 만든 것은 AI일까, 방법을 말하지 않고 맡기는 방식일까.

필자는 맡기는 방식 쪽에 무게를 둔다. 세 집단 모두 AI 대리인에게 맡겼는데도 정직한 사람의 비율이 크게 벌어졌고, 말로 시킨 실험에서도 맡기는 사람의 요구는 상대가 사람이든 AI든 비슷했다. 예시와 다이얼은 말이 아니지만, 하려는 일을 제 입으로 말하지 않고 시킨다는 점에서 '알아서 해줘'와 같다.

눈여겨볼 대목이 하나 더 있다. 일을 받은 쪽은 AI 대리인이었다. AI 대리인은 따져 묻지도 눈살을 찌푸리지도 않는다. 그런데도 방법을 말하지 않고 맡기자 숫자를 부풀리는 사람이 늘었다. 연구팀은 이를 정직하지 못한 사람으로 비치는 부담으로 풀었지만, 필자는 그 부담이 남의 시선보다 자기 자신 앞에 놓여 있었다고 읽는다. 속이는 방법을 글로 적으면 내 손으로 쓴 문장이 되고, 적지 않으면 훗날 '그런 뜻은 아니었다'고 말할 자리가 남는다.

이 연재에서 텍스터는 결과만 바라보며 일을 맡기는 사람이고, 컨텍스터는 결과가 나올 방법까지 자기 문장으로 쥐고 맡기는 사람이다. 맡기는 자리에서 텍스터는 목표만 말하고, 컨텍스터는 건너뛴 문장을 쓴다.

이를테면 한 팀장이 AI에게 '이번 분기 숫자가 좋아 보이게 알아서 정리해 줘'라고 맡긴다고 가정해 보자. 어떤 숫자를 빼고 어떤 기간을 고를지는 AI가 정한다. 훗날 문제가 생겨도 팀장은 '그렇게 하라고 한 적은 없다'고 말할 수 있다. 그 말이 거짓은 아니어서 마음도 한결 편하다. 

반대로 어떤 자료로, 어떤 기준으로 정리하고 무엇은 건드리지 말아야 하는지까지 적어 맡긴 팀장은 같은 자리에서 자기 문장을 다시 읽게 된다. 방법을 적는다고 정직이 저절로 따라오지는 않는다. 다만 적어야 하는 순간에 판단이 내 앞으로 돌아온다. 그래서 컨텍스터는 문장을 쓰기 전에 먼저 묻는다. 이 일을 내가 직접 했어도 같은 결과를 적었겠는가.

'알아서'라는 말은 믿음처럼 들린다. 그러나 실제로는 문장 하나를 비워 두는 일이다. 비워 둔 자리는 비어 있지 않다. AI가 채우고, 훗날 우리가 '그런 뜻은 아니었다'고 말할 자리가 된다.

방법을 말하지 않고 맡기면 일만 넘기는 것이 아니다. 방법을 정하는 문장까지 AI에게 넘기는 것이다. 목표만 말하는 사람은 결과가 나오기를 기다리고, 방법까지 말하는 사람은 결과 앞에서 제 문장을 다시 읽는다. 같은 AI에 같은 목표를 적어도 책임이 놓이는 자리는 다르다.

'알아서'는 맡기는 말이 아니라 비워 두는 말이다. 컨텍스터는 그 자리에 방법을 적는다.

최홍규 EBS 연구위원 / 미디어학 박사