어떤 선택이 자율적이려면 우선 타인이 강제로 그 선택을 밀어붙이지 않아야 한다. 이 관점에서 자유란 외부 간섭의 부재이다. 사람은 충분한 정보를 얻은 뒤 자신의 선호에 따라 결정할 수 있어야 하며, 결정 뒤 불리한 결과가 나타나더라도 선택의 책임을 스스로 부담한다. 선택지를 대신 정리해 주는 도구는 편의를 제공할 수 있지만, 특정 결론을 향하도록 선택 환경을 설계한다면 간섭이 시작된다. 당사자가 그 개입을 알아차리지 못했다는 사실은 간섭을 없애는 것이 아니라 오히려 비판하기 어렵게 만든다.
자율성은 선택지를 눈앞에 많이 놓는 것만으로 보장되지 않는다. 선택의 결과를 이해하고 자신의 장기적 목적과 연결할 능력이 없다면, 수많은 선택지는 부담이 된다. 따라서 사회는 사람들이 판단을 더 잘할 수 있도록 선택 환경을 설계할 수 있다. 예컨대 건강한 식품을 눈에 잘 띄는 곳에 두되 다른 식품을 금지하지 않는 방식은 선택 능력을 보완한다. 중요한 것은 설계자가 선택을 대신하는가가 아니라, 당사자가 숙고하고 수정할 기회를 더 많이 갖게 되는가이다.
개인화 시스템은 사용자가 남긴 클릭·정지·검색의 흔적을 다음 화면의 배열 규칙으로 바꾼다. 이 계산은 취향을 관찰하는 데서 끝나지 않는다. 앞에 놓인 항목이 달라지면 선택도 달라지고, 그 새 선택이 다시 다음 배열의 근거가 된다. 따라서 시스템 도입 이전의 선호와 반복 노출 뒤에 굳어진 선호를 선명하게 가르기 어렵다. 높은 예측 성공률은 취향을 정확히 포착했다는 신호일 수도 있지만, 화면이 만든 경로가 충분히 반복되었다는 신호일 수도 있다.
민서는 배달 앱을 켜자마자 가장 위에 뜬 식당을 눌렀다. 별점은 4.7이었고, ‘당신이 좋아할 메뉴’라는 문구도 붙어 있었다. 주문을 마친 뒤 동생이 왜 그 식당을 골랐느냐고 묻자 민서는 “그냥 제일 괜찮아 보여서”라고 답했다. 잠시 뒤 그는 지난달에도 같은 식당에서 같은 메뉴를 주문했다는 사실을 떠올렸다. 앱을 닫고 골목을 걷다가 처음 보는 작은 식당 앞에서 멈췄지만, 실패할지 모른다는 생각에 다시 휴대전화를 꺼냈다.
다음은 추천 서비스 이용자 800명을 네 집단으로 나누어 조사한 가상 자료이다.
만족도는 선택 직후 측정했으며, 정보 접촉 지수는 0~100이다.
Choice aids are useful when they clear away mechanical effort; they become corrosive when they also clear away the pause in which reasons are formed. A recommender may forecast a click with impressive accuracy. But when users cease to encounter rejected options, articulate why they prefer one path, or revise a settled taste, forecasting is no longer merely assisting deliberation. The key test is whether a user can see the steering, alter its settings, and choose against it without penalty.
번역은 학습 모드에서 확인할 수 있습니다.