[이윤선의 뉴인력경영] AI가 일하는 시대, 책임지는 사람은 누구인가

자율형 AI 에이전트의 확산, 이제 기업은 업무 위임을 넘어 권한과 책임을 설계해야 한다

[프라임경제] 인공지능(AI)이 사람의 업무를 대신하는 시대를 넘어 사람을 평가하고 해고까지 제안하는 시대가 시작됐다. 최근 미국의 한 AI 스타트업이 진행한 매장 운영 실험에서 AI 관리자 '루나'는 23차례 근무 중 17차례 지각한 직원을 해고 대상으로 판단했다. 실제 해고는 사람이 결정했지만, AI가 인사 판단에 참여했다는 사실만으로도 기업 경영의 새로운 변화를 보여준다. 그동안 AI는 인간의 판단을 돕는 도구였지만 이제는 스스로 업무를 수행하고 의사결정에 개입하는 '디지털 동료'로 진화하고 있다. 기업이 고민해야 할 문제도 달라졌다. AI에게 어떤 일을 맡길 것인가를 넘어, AI가 내린 결정의 책임을 누가 질 것인가라는 질문이다.

이러한 변화는 이미 기업 현장에서 현실이 되고 있다. KT는 문서 검토와 승인 요청, 시스템 입력 등 실제 업무를 수행하는 기업용 AI 에이전트를 선보였고, 오픈AI 역시 사람의 지속적인 지시 없이 여러 단계의 업무를 처리하는 자율형 에이전트를 확대하고 있다. AI가 단순히 자료를 검색하거나 보고서를 작성하는 수준을 넘어 업무를 계획하고 실행하는 주체로 등장한 것이다. 기업 입장에서는 생산성과 비용 절감이라는 매력적인 기회다. 실제 딜로이트가 소개한 금융권 AI 활용 사례에서는 결제 거래량이 50% 이상 증가하고 수작업 예외 처리 건수가 50% 이상 감소했으며 처리시간도 약 75% 단축됐다. 그러나 업무의 자율성이 높아질수록 인간의 통제 범위는 상대적으로 좁아질 수 있다. AI가 빠르게 처리한 업무가 반드시 올바른 판단을 의미하는 것은 아니기 때문이다.

최근 금융권에서 발생한 약 2만5000명의 고객정보 유출 사건 역시 AI 시대의 새로운 위험을 생각하게 한다. 해당 사건에서 AI 도구와 관련된 정황이 거론됐지만, AI가 직접 공격을 수행했다고 단정할 수는 없다. 중요한 것은 AI가 기업의 업무 시스템과 정보에 접근하는 범위가 넓어질수록 보안과 통제의 중요성도 커진다는 점이다. 미국 캘리포니아주가 AI의 판단만으로 직원을 해고하거나 징계하지 못하도록 인간 관리자의 검토를 요구하는 법률을 마련한 것도 같은 맥락이다. 기술이 아무리 정교해지더라도 고용과 평가, 징계처럼 인간의 삶에 직접 영향을 미치는 결정까지 기계에 전적으로 맡길 수는 없다는 것이다.

이제 인력경영(HRM)의 역할도 새롭게 정의돼야 한다. 사람의 채용과 육성, 배치와 평가를 중심으로 하던 기존 인력경영에서 나아가, 인간과 AI가 함께 일하는 조직에서 역량과 업무, 권한과 책임을 새롭게 설계하는 새로운 경영체계인 '뉴인력경영(New Workforce Management)'으로의 전환이 필요한 것이다. 지금까지 기업의 인력관리가 사람에게 업무를 배분하고 성과를 평가하는 일이었다면, 앞으로는 인간과 AI 사이의 권한을 설계하고 그 결과를 검증하는 일까지 포함해야 한다. 어떤 업무는 AI가 독립적으로 수행하고, 어떤 업무는 인간의 승인을 거쳐야 하며, 어떤 결정은 반드시 인간이 내려야 하는지를 구분해야 한다. 이를 위해 AI의 접근 권한과 의사결정 범위, 실행 기록, 예외 상황의 개입 기준을 명확히 해야 한다. 동시에 관리자에게도 새로운 역량이 요구된다. AI를 잘 사용하는 능력보다 AI의 판단을 검증하고 잘못된 결정을 바로잡으며 그 결과에 책임지는 능력이 중요해지는 것이다. AI의 생산성을 높이는 기술 투자만큼 인간의 감독 역량을 높이는 인적자본 투자도 필요하다.

AI 시대의 조직 경쟁력은 얼마나 많은 업무를 자동화했느냐만으로 결정되지 않는다. AI에게 일을 맡기면서도 인간의 판단과 책임을 유지할 수 있는 조직이 지속 가능한 경쟁력을 갖게 될 것이다. AI가 더 빠르고 정확하게 분석할 수는 있어도 그 결정이 사람과 사회에 미치는 영향까지 책임지는 주체가 될 수는 없다. 오히려 AI가 유능해질수록 인간 관리자의 역할은 줄어드는 것이 아니라 더욱 중요해진다. AI에게 업무는 위임할 수 있지만, 조직의 책임까지 위임할 수는 없다. 이제 기업이 설계해야 할 것은 단순히 AI가 일하는 조직이 아니라, AI가 일하더라도 인간이 책임지는 조직이다.

* 뉴인력경영이란?

인간의 채용·육성·평가·보상을 중심으로 하던 기존 인력경영에서 나아가, 인간과 AI 에이전트의 역량을 함께 조직하고 업무·권한·성과·책임을 설계하는 새로운 경영체계. 

이윤선 인력경영학자/원광대 미래인재개발처 초빙교수