보이지 않는 설계 속에서 이루어지는 선택

우리는 매일 수많은 선택을 하며 살아간다. 무엇을 읽을지, 볼지, 구매할지를 끊임없이 결정한다. 과거에는 이러한 선택이 주로 주변 사람들의 추천이나 대중매체의 광고에 의해 영향을 받았다. 그러나 인터넷과 디지털 플랫폼 활용이 일상인 오늘날에는 선택의 방식과 구조가 근본적으로 변화했다. 

온라인 쇼핑, 유튜브 시청, OTT 콘텐츠 선택과 같은 일상적인 활동에서 우리는 스스로 선택한다고 느낀다. 하지만 실제로는 이미 설계된 환경 속에서 선택을 하고 있는 경우가 많다. 디지털 플랫폼은 이용자의 행동 데이터를 지속적으로 수집하고 분석하며, 그 결과를 바탕으로 다음 행동을 예측한다. 이러한 예측은 단순히 정보를 제공하는 수준을 넘어, 이용자의 선택을 특정 방향으로 유도하는 방식으로 작동한다. 이 과정에서 인공지능(AI)은 핵심적인 역할을 수행한다.

이러한 현상은 행동경제학의 관점에서 보다 명확하게 이해할 수 있다. 행동경제학은 인간이 항상 합리적으로 판단하지는 않는다는 전제에서 출발한다. Kahneman(2011)은 인간의 사고 과정을 빠르고 직관적인 ‘시스템 1’과 느리고 분석적인 ‘시스템 2’로 구분했다. 대부분의 일상적 선택은 시스템 1에 의해 이루어지며, 이 과정에서 다양한 인지 편향이 작동한다. 예를 들어, 현재의 이익을 과도하게 중시하는 현재 편향, 기본값을 그대로 따르는 기본값 편향, 손실을 과도하게 회피하려는 경향, 그리고 다른 사람들의 선택을 따라가는 사회적 증거 등이 대표적이다. 이러한 인지적 특성은 인간의 판단이 얼마나 환경에 영향을 받는지를 보여준다.

AI는 이러한 인간의 비합리적 특성을 정밀하게 활용하는 기술적 도구로 작동한다. 추천 알고리즘은 단순히 ‘관련성 높은 정보’를 제공하는 것이 아니라, 이용자가 가장 반응할 가능성이 높은 정보를 선별하여 제시한다. 이는 이용자의 선택을 직접적으로 강제하지 않으면서도 특정 방향으로 유도하는 방식이다. Thaler와 Sunstein(2008)이 제시한 ‘넛지(nudge)’ 개념은 이러한 현상을 설명하는 데 유용하다. 넛지는 선택의 자유를 유지하면서도 선택 구조를 설계하여 특정 행동을 유도하는 방식이며, 디지털 환경에서는 알고리즘이 이를 더욱 정교하게 구현하게 한다. 

최근에는 이러한 경향이 더욱 발전하여 인간의 무의식적 반응까지 분석하려는 시도가 이루어지고 있다. 뉴로마케팅 연구에서는 뇌파, 시선 이동, 피부 반응과 같은 생체 신호를 통해 이용자의 감정과 관심을 측정하고자 한다(Ariely & Berns, 2010). AI는 이러한 방대한 데이터를 처리하고 패턴을 추출하는 데 매우 효과적이다. 그러나 이러한 기술은 이용자를 이해하는 수준을 넘어 이용자의 행동을 설계하고 조정하는 방향으로 확장될 가능성을 지닌다. 이 지점에서 ‘이용자 이해’와 ‘이용자 조작’ 사이의 경계는 점점 모호해진다.

이용자의 주의와 관심이 거래되는 작동 방식

이러한 변화는 현대 디지털 플랫폼의 경제 구조와도 밀접한 관련을 갖는다. 오늘날 많은 플랫폼 기업은 ‘주의 경제(attention economy)’를 기반으로 운영한다. Simon(1971)은 이미 오래전에 정보가 풍부해질수록 인간의 주의는 부족해진다고 지적했다. 현재의 디지털 환경에서 플랫폼 기업은 이용자의 시간과 주의를 확보하여 이를 광고 수익으로 전환한다. 이용자가 플랫폼에 더 오래 머물고 더 많이 상호작용할수록 기업의 수익은 증가한다.

이 과정에서 이용자의 행동 데이터는 중요한 자원이 된다. Zuboff(2019)는 이러한 현상을 ‘감시 자본주의(surveillance capitalism)’로 개념화하며, 인간 경험이 데이터로 수집되고, 예측 가능한 행동 패턴으로 가공되어 경제적 가치로 전환된다고 설명했다. AI는 이러한 데이터 수집과 분석, 그리고 예측 과정의 핵심 기술이다. 머신러닝 모델은 방대한 이용자 데이터를 기반으로 학습하며, 개별 이용자의 행동을 높은 정확도로 예측한다.

문제는 이러한 구조가 반드시 이용자의 복지나 공공의 이익과 일치하지는 않는다는 점이다. 실제로 플랫폼 기업 내부에서 알고리즘이 이용자의 정신 건강에 부정적인 영향을 미칠 수 있다는 사실을 인지하고도 기존의 설계를 유지한 사례가 보고된 바 있다(Wells et al., 2021). 또한 감정적으로 강한 반응을 유도하는 콘텐츠가 더 높은 참여를 이끌어낸다는 연구 결과도 존재한다(Bail et al., 2018). 이는 알고리즘이 이용자의 관심을 끌기 위해 특정 감정이나 콘텐츠를 우선적으로 노출할 가능성을 시사한다.

도서관은 무엇을 해야 할까: 인간의 의사결정을 지원하는 ‘인간 중심 AI’가 필요

이러한 상황에서 도서관 역시 중요한 전환점에 서 있다. 도서관은 전통적으로 공공성과 중립성, 그리고 이용자의 프라이버시 보호를 핵심 가치로 삼아왔다. 그러나 최근 도서관에서도 이용자 데이터를 활용한 서비스 개선을 확대하고 있다. 대출 기록, 검색 기록, 자료 이용 패턴, 전자자료 접근 로그 등 다양한 데이터를 수집하고 있으며, 일부 도서관에서는 머신러닝 기반 추천 시스템을 도입하여 맞춤형 서비스를 제공하고 있다.

이러한 변화는 분명 긍정적인 측면을 지닌다. 이용자에게 보다 적합한 자료를 제공하고 서비스 효율성을 높일 수 있기 때문이다. 그러나 동시에 근본적인 질문을 제기한다. 이러한 데이터 활용이 이용자의 자율성을 확장하는 방향으로 작동하는가, 아니면 특정 방향으로 제한하는가라는 문제이다. Pariser(2011)가 제기한 ‘필터 버블’ 개념은 이러한 우려를 잘 보여준다. 알고리즘이 이용자의 기존 선호를 강화하는 방식으로 작동할 경우, 이용자는 다양한 정보에 접근하기보다 제한된 정보 환경에 머물 수밖에 없다. 

또한 자동 추천이나 독서 유도 시스템이 이용자의 내재적 동기를 약화시킬 가능성도 존재한다. 외부에서 제공하는 추천에 지속적으로 의존할 경우, 이용자가 스스로 탐색하고 선택하는 능력이 감소할 수 있다. 이러한 문제는 단순한 기술적 문제가 아니라 도서관의 철학적 가치와 직접적으로 연결된다.

따라서 도서관은 AI 기반 이용자 분석을 도입할 때 명확한 윤리적 기준을 설정해야 한다. Nissenbaum(2010)이 제시한 ‘맥락적 무결성(contextual integrity)’ 개념은 이러한 논의에 중요한 기준을 제공한다. 정보는 생성 맥락에 적합하게 사용해야 하며, 도서관에서 수집한 이용자 데이터는 공공 서비스 개선이라는 맥락을 벗어나지 말아야 한다. 

구체적으로, 도서관이 고려해야 할 원칙은 다음과 같이 정리할 수 있다. 첫째, 목적 제한의 원칙이다. 이용자 데이터는 명확하게 정의한 서비스 개선 목적에만 사용해야 한다. 둘째, 최소 수집의 원칙이다. 필요 이상의 데이터를 수집하지 않으며, 가능한 한 익명화해야 한다. 셋째, 투명성의 원칙이다. 데이터 수집과 활용 방식에 대해 이용자에게 명확하게 설명하고, 이용자가 이를 통제할 수 있는 권리를 보장해야 한다. 넷째, 알고리즘 중립성의 원칙이다. 특정 정보나 관점이 과도하게 강조되지 않도록 설계해야 한다.

도서관이 AI를 전면적으로 배제하는 것은 현실적이지 않다. AI는 서비스 개선과 이용자 편의 증진에 중요한 역할을 할 수 있기 때문이다. 중요한 것은 AI를 어떻게 설계하고 운영하느냐이다. Shneiderman(2020)은 ‘인간 중심 AI(human-centered AI)’의 필요성을 강조하며, 기술이 인간의 판단을 대체하는 것이 아니라 인간의 의사결정을 지원해야 한다고 주장한다.

이러한 관점에서 도서관은 설명 가능한 AI(Explainable AI)를 적극적으로 도입할 필요가 있다. 예를 들어, 추천 시스템이 특정 자료를 추천한 이유를 함께 제시하면 이용자는 알고리즘의 작동 방식을 이해하고 자신의 선택을 보다 주체적으로 결정할 수 있다. 또한 이용자가 추천 기능을 조정하거나 비활성화할 수 있는 선택권을 제공하는 것도 중요하다.

더 나아가 도서관은 AI 리터러시 교육의 중심 역할을 수행해야 한다. 이용자가 자신의 데이터가 어떻게 활용되는지, 알고리즘이 어떤 방식으로 작동하는지를 이해할 수 있도록 돕는 것은 정보기관으로서 도서관의 중요한 책무이다. 이는 단순한 기술 교육을 넘어, 디지털 환경을 비판적으로 이해하는 능력을 기르는 과정이다.

결국 우리는 다음과 같은 질문에 직면한다. 우리의 선택은 얼마나 자율적인가? 우리는 스스로 선택하고 있는가, 아니면 보이지 않는 설계 속에서 움직이고 있는가?

AI는 우리의 선택에 영향을 미칠 수 있다. 그러나 그 AI를 어떻게 설계하고 활용할 것인지는 인간의 책임이다. 도서관은 이러한 변화 속에서 이용자의 자율성과 지적 자유를 보호하는 역할을 수행해야 한다. 이용자를 데이터의 대상이 아니라 주체로 존중하고, 기술을 통제 가능한 형태로 유지하는 것, 이것이 AI 시대 도서관이 지켜야 할 핵심 원칙이다.