앙투아네트 루브루아·토마 베른스, “알고리즘적 통치성과 해방의 전망”(2013)

불일치성은 관계를 통한 개체화의 전제조건인가?

프랑스어 원전

https://pure.unamur.be/ws/portalfiles/portal/54965417/7413.pdf

영역본

https://shs.cairn.info/article/E_RES_177_0163?lang=en

[옮긴이: 지난 십여 년간 알고리즘 통치성, 자동화, 플랫폼 자본주의 관련 비판적 담론에서 자주 인용되어온 루브르아와 베른스의 논문. 옮긴이가 공부하다가 번역. 오역의 여지 있음. 옮긴이가 프랑스어를 잘 하지 못하는 관계로 번역은 일차적으로 Liz Carey-Libbrecht의 영역본을 토대로 했고, 프랑스어 원전과 프랑스어 원전에 대한 chatGPT의 번역을 참조해 수정했다. 이 논문의 21번 각주와 23번 각주는 내용이 같은데, 저자들의 실수인지 편집상의 실수인지 알 수 없다. individuation은 맥락에 따라 ‘개인화’나 ‘개체화’로 혼용하여 옮겼고, persnalization은 ‘인격화’로 구분하여 옮겼다. 이 글에는 질베르 시몽동의 개념들이 많이 나오는데, 시몽동 역서들의 선례를 따라 transindividual individuation은 ‘관개체적 개체화’로, orders of magnitude는 ‘크기의 등급’으로, metastable은 ‘준안정성’으로 옮겼다. 본문에 있는 []는 옮긴이의 삽입구이며 인용문 속의 {}는 저자들의 삽입구이다.]

알랭 데로지에르를 추모하며, 영감을 준 대화들을 기억하며. 우리의 작업에는 그의 귀중한 제안이 남긴 흔적이 새겨져 있다.

서문

빅데이터가 열어놓은 통계적 집계·분석·상관관계correlation의 새로운 가능성은 우리를 ‘평균인’에 초점을 맞추었던 전통적인 통계적 관점에서 벗어나게 한다. 이제는 ‘평균’이나 ‘규범’과 어떠한 관계도 맺지 않으면서 ‘사회적 실재’ 자체를 직접적이고 내재적으로 ‘포착’할 수 있는 듯 보인다.1 “비규범적 객관성”, 더 나아가 “원격객관성tele-objectivity”(Virilio, 2006: 4)이라 부를 수 있는 새로운 디지털 진리체제는 ‘사회적 실재’를 원격으로, 동시에 실시간으로 모델링하는 수많은 새로운 자동 시스템에서 구현된다.2 이러한 시스템은 보안·보건·행정·사업 등을 둘러싼 상호작용을 맥락화하고 자동으로 인격화하는 일을 한층 강화한다.3 여기서 우리는 알고리즘적 통계 활용의 “원격객관성”이 어느 정도까지, 또 어떠한 결과를 낳으며 이 시스템들을 사회에서 가장 내재적인 규범성들을 반영하는 거울로 만드는지 검토하려 한다. 이 내재적 규범성은 규범에 관한 모든 측정과 관계, 모든 관습과 평가에 영향을 미친다. 또한 시스템은 그러한 내재적 규범성―캉길렘이라면 생명 자체에 내재한다고 말했을 규범성―을 (재)생산하고 증식하는 데 기여한다.4 그러나 그 과정에서 디지털로 번역할 수 없는 사회적 규범성은 가려지며, 가능한 한 침묵 당한다.

기성의 규범으로부터 독립한다는 말의 의미를 조금 더 분명히 해둘 필요가 있겠다. 알고리즘적 통치성의 비규범성을 말한다고 해서, 그것의 기술적 틀이 인간의 모든 의도나 기술적 ‘대본script’과 무관하게 디지털화된 세계에서 자율적이고 자연발생적으로 생겨난다고 주장하는 것은 아니며, [반대로] 자기학습 알고리즘 시스템을 포함하는 보안·마케팅·엔터테인먼트 등의 응용프로그램이 인간 행위자들의 요구에 단순히 응답할 뿐이라고 주장하는 것도 아니다.5 알고리즘 통치성에 관한 우리의 비판은 과학기술학의 관점을 간과하거나 부정하지 않는다. 다만 우리는 기술 시스템과 인간 행위자가 서로를 공동구성하는 메커니즘과는 다른 문제에 초점을 맞출 뿐이다. 우리가 주장하는 바는 다음과 같다. 응용 분야와 무관하게 프로파일링을 위해 사용되는 데이터마이닝은 코드화[코딩]에 의해 파편화된 개별 사례들을 상관관계의 논리에 따라 재구성한다. 이때 개별 사례들은 일반적 규범과 연결되는 것이 아니라, 어떠한 평균으로도 환원되지 않으며 끊임없이 변화하는 여러 측정값 사이의 관계 체계와만 연결된다.6 여하한 형태의 평균으로부터 이루어지는 이러한 해방은 본질적으로 시스템의 자기학습적 성격에서 비롯되며, 동시대의 규범적 작용에 내재하는 것으로 보인다.

이러한 관점에서 알고리즘적 통치성은 알랭 데로지에르(Desrosières, 1992: 132)가 설명한 통계정보의 관습적 기원에서도 벗어난다고 할 수 있다. 그가 말하길 “통계정보는 이미 존재하는 ‘실재’를 순수하게 반영한 것처럼 하늘에서 떨어지는 것이 아니다. 오히려 그 반대로 통계정보는, 서로 조정되지 않은 다수의 힘이 끊임없이 분화시키고 분리하려 하는 존재들 사이에 등가성을 설정하는 일련의 관습이 잠정적이고 취약하게 승인된 결과로 볼 수 있다.” 통계정보가 이러한 관습적 기원을 갖는다는 것은 다음을 뜻한다. “이 정보가 토론의 준거가 되기를 요구한다는 사실과, 그럼에도 언제나 이의를 받아 토론의 대상이 될 수 있다는 사실 사이의 긴장은 공론장이 가능해지는 조건을 사유하는 데 중대한 과제를 제기한다.” 데이터마이닝에서 이루어지는 통계의 특수한 활용은 더 이상 어떠한 관습에도 뿌리내리지 않기 때문에 이러한 난관을 피해 간다. 그러나 뒤에서 살펴보겠지만, 이것이 공론장을 만들어낸다는 뜻은 아니다. 오히려 정보·서비스·상품 제안을 ‘개인화’한다는 명목 아래, 알고리즘적 통치성의 시대에는 비대해진 사적 영역이 공론장을 식민화하는 일이 벌어진다. 새로운 형태의 정보 필터링이 정보적 면역을 형성하여 의견의 급진화와 공유된 경험의 소멸을 초래할 수 있다는 우려가 나오는 것도 이 때문이다(Sunstein, 2009). 더구나 민주적 토론을 촉진하고 보편적 이익에 봉사하기보다는 사적 이익을 위해 이용가능한 인간의 모든 주의를 체계적으로 포획하려는 경향, 이른바 주의경제[관심경제]의 문제도 있다.

우리는 먼저 의사결정을 위한 통계, 곧 결정 통계dicisional statistic가 작동하는 방식을 기술할 것이다. 이를 매우 일반적인 의미에서 정의하면, 예측이나 배제를 목적으로 방대한 데이터베이스에서 관련 정보를 자동으로 추출하는 실천이라 할 수 있다. 소비, 위험, 고객 충성도 제고, 새로운 고객층의 설정 등이 그 사례다. 이 과정을 명확하게 드러내기 위해 우리는 실제로는 서로 뒤섞여 있는―이 단계들은 흐릿하게 뒤섞여 있기 때문에 오히려 더 효과적이다―통계적 실천을 세 단계로 나눈다. 각 단계에서 개별 주체가 어떻게 회피되는지, 그리고 그 결과 주체와 ‘실재’ 모두의 통계적 ‘분신’이 어떻게 만들어지는지를 보일 것이다. 이어서 이 통계적 분신을 검토하고, 각 단계가 모두 주체화 과정을 방해한다는 점을 밝힌 뒤, 알고리즘적 통치성이 개인도 주체도 아닌 관계에 초점을 맞춘다는 점을 보일 것이다. 마지막으로 이러한 관찰에 기초하여 관계 자체가 어떻게 변형되는지 살펴볼 것이다. 관계는 역설적으로 실체화되어 생성에서 떼어낸 추출물이 되며, 개체화 과정에 깊이 새겨지기는커녕 오히려 그 과정을 가로막는다. 생성과 개체화 과정에는 ‘불일치disparation’, 곧 격차나 차이를 하나의 조정된 체계 안으로 통합하는 과정이 필요하다. 그러나 더욱 근본적으로는 ‘불일치성disparateness’의 물질/문제matter가 필요하다. 그것은 크기의 등급orders of magnitude의 이질성과 존재 양식의 복수성을 뜻하지만, 알고리즘적 통치성은 (디지털) 실재를 자체 안에 폐쇄함으로써 이를 끊임없이 질식시킨다.7

1. 알고리즘적 통치성의 세 “단계”

(1) 빅데이터의 수집과 데이터 웨어하우스의 구축

첫 번째 단계는 선별되지 않은 방대한 데이터를 수집하고 자동으로 저장하는 것으로, 빅데이터를 구성하는 ‘데이터 감시(dataveillance)’라고 부를 수 있다. 데이터는 다양한 출처에서 막대한 양으로 제공된다. 정부는 보안·통제·자원관리·지출 최적화 등을 위해 데이터를 수집한다. 민간 기업은 마케팅과 광고, 제안의 개인화, 재고 관리나 서비스 개선, 요컨대 판매 효율성과 이윤을 높이기 위해 막대한 데이터를 모은다. 과학자들은 지식을 획득하고 개선하기 위해 데이터를 수집한다. 개인들 또한 소셜네트워크, 블로그, 메일링 리스트 등에 ‘자신의’ 데이터를 자발적으로 공유한다. 이 모든 데이터는 사실상 무제한의 저장능력을 갖춘, 세계 어디에서나 인터넷에 연결된 컴퓨터를 통해 언제든 접근할 수 있는 ‘데이터 웨어하우스’에 전자적으로 보관된다. 이 데이터는 기본적으로 가능한 한 많이 수집되고 보존되며, 수집된 정보가 다른 데이터와 상관된 뒤 어떤 용도로 사용될지, 다시 말해 구체적인 최종 목적이 무엇인지에 대한 예측과는 분리되어 있다[예측 없이 수집된다]. 그것은 양도되었다기보다 방치된 정보이며, 전달된 데이터라기보다 남겨진 흔적이다. 그럼에도 ‘도난당한’ 것으로 보이지는 않으며, 지극히 범상하고 흩어진 것으로 나타날 뿐이다. 이 모든 요소는 최종 목적을 제거하거나 적어도 가리고, 주체의 관여와 정보전달에 요구되는 동의를 최소화한다[최소한의 동의만을 요구한다]. 우리는 여기서 모든 형태의 의도성으로부터 최대한 멀리 떨어져 있는 듯하다.

따라서 이 데이터는 실재의 다양한 면모를 있는 그대로 표현하고 실재를 철저하지만 완전히 분절된 방식으로 분해한다는 점에서 일반화된 디지털 행동주의를 구성하는 것처럼 보인다(Rouvroy, 2013a). 여기에는 실재를 풀어헤친다는 것 외에 어떠한 집합적 의미도 없다. 바로 이것이 가장 새로운 현상으로 보인다. 구매나 여행, 특정 단어나 언어의 사용이 남긴 흔적을 보존하는 경우를 막론하고 각각의 요소는 그것이 발생한 맥락에서 벗겨지고 ‘데이터’로 환원되어 가장 기초적인[날것의]basic 상태가 된다. 데이터 한 조각은 이제 어떠한 내재적 의미도 제거된 신호에 불과하다. 바로 그렇기에 우리는 흔적을 남기는 일을 쉽게 용인한다. 그러나 이는 데이터가 완전한 객관성을 주장할 수 있는 근거가 된다. 그토록 이질적이고, 의도가 없으며, 물질적이고, 주체성[주관성]에서 벗어난 데이터는 거짓말을 할 수 없다는 것이다! 여기서 주체성[주관성]을 벗어나는 데이터의 이러한 객관성이 기술 역량의 발전으로 더욱 강화된다는 점을 지적해야 한다. 오늘날 소프트웨어는 감정을 인식하여 데이터로 바꾸고, 얼굴의 움직임이나 피부색을 통계 데이터로 번역할 수 있다. 예컨대 상품의 매력, 매대에 놓인 상품 배치의 (비)최적성, 또는 승객 행동의 수상함을 측정할 수 있다. 이러한 데이터의 주된 특징은 완전히 무해해 보이고, 익명으로 남을 수 있으며, 통제할 수 없다는 것이다. [다른 데이터와] 상관되기 전까지는 아무 의미도 지니지 않고, 멤버십 카드보다 [사생활을] 훨씬 덜 침해하며, 거짓말을 하지 않는 것처럼 보이므로 우리는 데이터를 매우 쉽게 내어준다. 다시 말해 데이터는 완전히 객관적인 것처럼 간주되곤 한다! 이러한 무해함과 객관성은 모두 주체성을 회피하는 데서 비롯된다.

(2) 데이터 처리와 지식 생산

두 번째 단계는 데이터 마이닝 자체, 곧 빅데이터를 자동으로 처리하여 데이터 사이의 미묘한 상관관계를 찾아내는 단계다. 여기서 핵심은 선별되지 않아 완전히 이질적인 정보에 기초하여 지식―단순한 상관관계로 이루어진 통계적 지식―을 생산한다는 점이다. 이 지식 생산은 자동화되어 있어 인간의 개입을 최소한으로 요구하며, 가설을 입증하기 위해 사용되는 전통적 통계와 달리 미리 존재하는 어떠한 가설에도 의존하지 않는다. 다시 한번 모든 형태의 주체성[주관성]이 회피된다. 이른바 기계학습의 궁극적인 목적은 데이터 자체에 기초하여 가설을 직접 생산하는 것이다. 따라서 우리는 모든 주체적[주관적] 개입―가설의 정식화, 무엇이 관련된 정보이고 무엇이 단순한 ‘잡음’인지에 대한 선별 등―에서 벗어남으로써 절대적 객관성을 지닐 수 있다는 지식의 관념[이데아]과 다시 마주한다. 규범은 실재 자체에서 직접 출현하는 것처럼 보인다. 그러나 이러한 규범 또는 ‘지식’은 ‘오직’ 상관관계로만 이루어져 있다.8 과학적 에토스와 정치적 에토스의 조건이 의심을 보존하는 데 있다는 사실을 기억한다면, 그 자체가 반드시 문제인 것은 아니다. [그러니까 우리가] 상관관계만으로 충분하다고 믿지 않는다면, 상관관계와 인과관계의 구분을 유지한다면, 상관관계가 지닌 자기수행적 ‘효과’와 소급적 역량을 경계할 수 있다면, 개인에게 법적 효과를 발생시키거나 중대한 영향을 주는 결정을 자동화된 데이터 처리만을 근거로 내리지 않게 한다면, 정치―특히 위험을 공동부담하려는 관심―는 상관관계만을 근거로 행동하는 일을 근본적으로 거부해야 한다는 것을 고려한다면 말이다.9 세계 자체가 점점 상관관계로 이루어진 것처럼 작동하고, 상관관계만 확립하면 세계가 원활하게 돌아갈 것처럼 보이는 경향을 고려하면 이 점을 기억하는 일은 중요하다.10

(3) 행동에의 작용

여기서 논의하는 알고리즘적 프로파일링이 무엇인지 제대로 이해하려면 두 가지 사이의 결정적 차이를 파악해야 한다. 한편에는 개인 수준의 정보가 있다. 대부분의 경우 당사자는 이 정보를 관찰하거나 지각할 수 있다. 다른 한편에는 프로파일링을 통해 생산된 지식이 있다. 대부분의 경우 이 지식은 개인에게 제공되지 않으며 개인은 그것을 지각할 수도 없다. 그럼에도 그것은 개인에게 적용되어, 그렇지 않았다면 드러나지 않았을 개인의 선호·의도·성향에 관한 지식이나 확률적 예측을 추론하게 한다(Van Otterloo, 2013).

세 번째 단계는 이러한 확률적 통계 지식을 사용하여 개인의 행동을 예측하고, 데이터마이닝을 통해 발견된 상관관계에 기초하여 정의된 프로필과 연결하는 것이다. 규범을 개인의 행동에 적용하는 이 단계의 명백한 사례는 신용 취득, 수술 결정, 보험료 산정, 온라인 상점에서의 표적 상품 추천 등 인간 삶의 매우 다양한 영역에서 찾아볼 수 있지만, 그 사례들이 핵심적인 논점은 아니다. 여기서는 다만 세 가지를 지적하고자 한다. 첫째, 예측의 효과는 빅데이터의 집계에서 나올수록 더 커진다. 빅데이터는 실재 자체의 다양성을 ‘단순히’ 반영할 수 있는 데이터이기 때문이다.11 둘째, 개인의 행동을 예상하여 이루어지는 작용은 앞으로 점차 개인의 환경에 대한 개입으로 한정될 수 있다. 특히 환경 자체가 반응적이고 지능적인 경우, 가령 다수의 센서를 통해 실시간으로 데이터를 수집하고 이를 공유·처리하여 구체적인 필요와 위험에 끊임없이 적응하는 경우가 그렇다. 개인들이 온라인에서 보내는 상당한 시간에서 이미 그러한 일이 벌어지고 있다. 따라서 다시 한번, 개인에게 직접 가해지는 모든 형태의 제약은 회피되며, 그 대신 개인이 불복종하거나 특정한 형태로 이탈할 가능성이 환경의 수준에서 점점 더 낮아진다. 셋째, 개인의 행동과 ‘연결된’ 프로필은 사용되는 상관관계를 늘려나감으로써 완벽히 효율적으로 맞춤화될 수 있다. 그 결과 모든 차별적 범주를 회피하고, 심지어 각각의 개인에게 가장 고유한 것, 큰 수나 평균에서 가장 멀리 떨어진 것까지 고려할 수 있는 것처럼 보인다. 요컨대 일반적 계급이나 범주를 전혀 참조하지 않는, 겉보기에 완전히 ‘민주적인’ 규범성이 가능해진다. 실제로 사회적으로 경험되는 분류―사회적·정치적·종교적·민족적·젠더적 분류 등―에 알고리즘이 눈멀어 있다는 점은 인간의 평가를 알고리즘으로 대체하자고 주장하는 사람들이, 특히 공항 보안과 관련하여 되풀이해서 내세우는 논거다(Zarsky, 2011). 데이터 마이닝과 알고리즘적 프로파일링은 세계와 비선택적으로 관계하는 것처럼 보이며, 각각의 실재 전체를 가장 사소하고 무의미한 측면에 이르기까지 고려한다. 사업가와 청소노동자, 시크교도와 아이슬란드인을 모두 같은 수준에 놓는다. 이제 목적은 평균에 맞지 않는 것을 배제하는 일이 아니라 예측 불가능한 것을 회피하고, 모든 사람이 참으로 자기 자신이 되도록 보장하는 일이다.

2. 주체 없는 통치…… 그러나 표적target까지 없는가?

앞서 말했듯 이 세 단계는 뒤섞여 있으며, 서로를 강화하기 때문에 그 규범적 작동은 특히 강력하고 과정적인 것이 된다. 최종 목적은 더욱 가려지고, 의도성이 개입할 가능성은 더욱 줄어들며, 시스템은 우리의 실재에 더욱 밀착해 적응한다. 따라서 우리는 알고리즘적 통치성이라는 용어를, 가능한 행동을 모델링하고 예측하며 선제적으로 변화시키기 위해 빅데이터를 자동으로 수집·집계·분석하는 데 기초한 특정한 유형의 (비)규범적 또는 (비)정치적 합리성을 폭넓게 가리키는 말로 사용한다. 통계적 사유의 일반적 원리들에 비추어 보면, 통계적 통치에서 알고리즘적 통치로 이행하며 나타나는 외견상의 변화―주체화 과정의 희소화라는 현상에 의미를 부여한다고 말해지는 변화―는 다음과 같다.12 첫째, 통계가 외견상 개인화된다(이는 명백한 이율배반을 표현한다). 통계는 더 이상 평균인을 참조함으로써 전달되지 않는다고, 또는 적어도 그렇게 보이지 않는다고 주장된다. 그 대신 각자가 실시간으로, 자동으로 부여되고 변화하는 프로필이 된다는 관념이 등장한다. 둘째, 통계적 대상을 가축처럼 취급할 수 있는 통계의 폭정을 피하려는 우려가 커진다. [그 위험을 피하는 방식은] 통계적 실천이 마치 우리의 동의를 미리 얻어 이루어지는 것처럼 만드는 것이다. 알고리즘적 통치는 우리 각자가 유일하므로 각자의 프로필을 통해 개개인에게 말을 건다고 주장한다. 그러나 여기서 문제 되는 것은 합의나 명시적인 동의가 아니라 생명 자체만큼이나 내재적인 규범성에 기본값으로[별도의 고려나 선택 없이] 동조adhesion하는 것이다. 동시대의 통계적 실천에는 개인의 암묵적 동조가 그 자체로 표현되어있다고 주장된다. 그 결과 주체화하는 반성성[성찰성]은 쇠퇴할 수 있고, 데이터 마이닝과 프로파일링에 기초한 ‘지식’ 생산에 이의를 제기할 기회도 줄어든다. 알고리즘적 통치성은 어떠한 주체화도 생산하지 않는다. 그것은 반성적인 인간 주체를 우회하고 회피한다. 그 자체로는 아무 의미도 없는 개인 이하적infra-individual 데이터를 먹이로 삼아, 개인을 전혀 개입시키지 않고 개인 초과적supra-individual 행동 모델이나 프로필을 만든다. 개인에게 자신이 무엇이며 무엇이 될 수 있는지를 스스로 설명하라고 요구하지도 않는다. 주체화가 이루어지는 데 필요한 반성·비판·완강한 저항의 계기는 계속해서 복잡해지거나 뒤로 미뤄지는 것처럼 보인다(Rouvroy, 2011). 알고리즘적 통치성은 ‘실시간’에 완벽하게 적응하고 ‘바이럴성virality’을 지니며 가소적이다. 시스템을 많이 사용할수록 알고리즘은 더욱 정교하게 개선된다. 시스템과 세계 사이의 모든 상호작용이 디지털 데이터로 기록되고, 그에 따라 ‘통계적 기반’이 풍부해지며 알고리즘의 성능도 향상되기 때문이다. 이런 특징은 ‘실패misfire’라는 관념 자체를 무의미하게 만든다. 다시 말해 실패는 시스템을 ‘위협할’ 수 없는데, 즉각 다시 섭취되어 행동 모델이나 프로필을 한층 더 정교하게 만드는 양분이 되기 때문이다. 또한 알고리즘 시스템의 적용 목적이 사기·범죄·테러의 예방일 경우 ‘거짓 양성’은 결코 ‘실패’로 해석되지 않는다. 그때 시스템은 진단 방식이 아니라 탐지 방식을 취하기 때문이다. 거짓 양성의 비율과 상관없이 진짜 양성을 하나라도 놓치지 않는 것이 목적인 것이다.

물론 행동을 개인화되고 부드러운 방식으로 예측하려는 기획 자체가, 그 범위가 아무리 넓더라도 놀랍거나 우려스러운 것은 아니다. 그러나 다음과 같은 역설은 꼭 강조할 필요가 있다. 불확실성을 최소화하거나 제거하기 위해 비의도적인 ‘장치’, 곧 비기표적a-signifying 기계에 의존함으로써 사건에 의미를 부여하려는 야심은 폐기된다는 것이다. 실제로 사건은 더 이상 꼭 사건으로 취급될 필요가 없다. 사건이 인간에게 사건으로 일어나고 지각되는 방식과 무관하게, 각각의 사건은 데이터의 네트워크로 분해되어 다른 데이터와 다시 집계될 수 있기 때문이다. 따라서 알고리즘적 통치성은 끊임없이 ‘패를 다시 섞으며’, ‘역사적’ 또는‘계보학적’ 관점에서 멀어진다(Rouvroy, 2013b).

갈수록 ‘권력’은 알고리즘적 통치성의 주체들을 육체나 도덕적 양심―법적·담론적 형태의 권력이 전통적으로 움켜쥐었던 지점13―을 통해 붙잡지 않는다. 그 대신 존재와 일상의 이동이 남긴 디지털 흔적에 기초하여 흔히 자동으로 부여된 다수의 ‘프로필’을 통해 붙잡는다. 알고리즘적 통치성은 푸코가 이미 안전장치라는 개념을 통해 염두에 두었던 것과 매우 가깝다.

“환경milieu을 조절하는 것, 그것은 경계와 국경을 설정하거나 장소를 고정하는 일이 아니라, 본질적으로 순환을 가능하게 하고 보증하며 확보하는 일이었다. 사람과 상품과 공기 등의 순환 말이다.”(Foucault, 2009: 51)

권력이 물리적으로가 아니라 디지털적으로 개인을 ‘붙잡는다’고 해서, 개인이 존재론적으로나 실존적으로 장치에 의해 재조합될 수 있는 데이터 네트워크로 환원된다거나 장치에 완전히 사로잡힌다는 뜻은 아니다. 이는 단지 개인의 이해능력, 의지력, 표현능력과 무관하게 권력이 더 이상 그러한 능력에 기초하여 개인에게 접근하지 않고, 잠재적 사기범·소비자·잠재적 테러리스트·잠재력이 높은 학생 등의 ‘프로필’에 기초하여 접근한다는 뜻이다. 알고리즘적 통치성은 개인화의 문제를 둘러싼 시대의 양가성을 더욱 심화한다. 통계적 실천이 각 개인에게 고유한 필요와 위험을 정밀하게 겨냥할 수 있게 함으로써 서비스가 개인화된다는 점에서 우리 시대는 흔히 개인이 승리한 시대로 여겨진다. 동시에 바로 그 실천이 개인의 친밀성, 사생활, 자율성, 자기결정을 위협한다는 점에서 개인이 위험에 빠진 시대로 여겨지기도 한다. 어떤 이들은 순수한 탈주체화의 위험까지 말한다. 그러나 모든 것의 중심에 놓인 개인이라는 가설과 탈주체화라는 가설은 우리의 견해로는 똑같이 잘못되었다. 그 이유를 살펴보자.

(1) 인격화personalization는 정말 개인화/개체화individuation의 한 형태인가?

IBM은 ‘개인화된’ 마케팅, 곧 ‘스마트 마케팅’을 마케팅과 광고를 ‘소비자 지향적 서비스’로 바꾸는 혁명으로 제시한다. 기업의 관심 한가운데 놓인 고객-왕이 위대한 귀환을 한다는 것이다. 욕망이 곧 명령인 고객은 이제 욕망을 생각하거나 표현할 필요조차 없다고 한다. 구글의 최고경영자 에릭 슈미트는 이렇게 말한다. “우리는 당신이 누구인지, 무엇에 관심이 있는지, 어떤 친구들과 사귀는지 대략 알고 있다{다시 말해 당신이 속한 ‘물고기 떼’를 알고 있다}. 기술은 너무나 좋아져서 사람들이 어떤 의미에서든 자신에게 맞춤화되지 않은 것을 보거나 소비하기가 매우 어려워질 것이다.” 다시 말하면 외견상 개인화된 예측이 가능하다는 것이다. 그러나 실제로 이러한 개인화는 각자에게 고유한 필요와 욕망을 종합적으로 고려하는 것이라기보다 상품 제안을 극도로 세분화하고 유연하게 만드는 것에 가깝다. 목적은 개인에게 자연발생적으로 생겨난 욕망―그런 것이 존재한다고 가정한다면―에 상품을 맞추는 것이 아니라, 상품의 제시 방식과 가격 책정 방식 같은 판매 전략을 각자의 프로필에 맞춤으로써 욕망을 상품에 적응시키는 것이다. 특정 재화나 서비스의 가격을 잠재 고객 각자의 ‘지불 의사’에 맞추는 ‘동적 가격 책정’ 전략은 이미 일부 항공권 판매 사이트에서 시행되는 것으로 보인다. 이는 단지 개인화가 아니라 시장 세분화다. 사소한 사례를 들어보자. 당신은 우리가 실명을 밝힐 수 없는 어느 항공사(Y사라고 하자)의 웹사이트에 들어가 사흘 뒤 브뤼셀에서 피사로 떠나는 항공편의 가격을 알아본다. 표시된 가격이 180유로라고 하자. 조금 비싸다고 생각한 당신은 더 싼 표를 찾기 위해 다른 항공사 Z의 웹사이트나 다른 온라인 사이트를 찾아본다. 그러나 더 좋은 가격을 찾지 못한다. 채 30분도 지나지 않아 Y사의 웹사이트로 돌아오자, 놀랍게도 표 가격이 50유로 올라 있다. 이는 당신에게 ‘붙잡힌 여행객’이라는 프로필이 부여되었기 때문이다. 웹사이트는 당신의 온라인 검색 기록과 원하는 출발일을 바탕으로 당신이 이 항공권을 정말 필요로 하며, 따라서 50유로를 더 지불할 준비가 되어 있음을 탐지한다. 지금 서둘러 사지 않으면 가격이 계속 오를 것이라는 인상을 받기 때문에 더욱 그렇다. 만약 ‘논리적으로’ 반응하여 최대한 빨리 표를 사는 대신 컴퓨터와 IP 주소를 바꾸어 항공사 웹사이트를 재방문한다면, 표 가격은 230유로가 아니라 180유로일 것이다. 어째서인가? 판매자는 가격이 빠르게 오르고 있다는 ‘경보’가 울리면 당신이 최대한 빨리 구매하는 반사행동을 보이리라고 기대하기 때문이다. 이 사례의 결과는 비교적 사소하지만, 이런 접근이 개별 소비자의 고유한 욕망을 세심하게 존중하기보다 특정한 구매 성향과 가격 변동에 대한 개인 수요의 탄력성 또는 비탄력성을 자동으로 탐지하여 구매를 촉진한다는 점을 분명히 보여준다. 구매는 경보 자극에 대한 반사적 반응으로 이루어지며, 그 과정에서 개인의 반성성과 고유한 욕망의 형성이 단락된다.

그러므로 [알고리즘 통치의] 목적은 개인이 욕망을 형성하거나 표현하지 않은 채 행동하도록 유도하는 것이다. 알고리즘적 통치는 주체화와 개인화의 공간적·시간적·언어적 조건이 분산되는 과정의 정점을 나타내는 듯하다. 그 자리는 가능한 행동에 대한 객관적이고 조작적인 조절이 대신한다. 이 조절은 그 자체로 아무 의미도 지니지 않는 ‘원자료’에 기초하며, 원자료의 통계적 처리는 무엇보다 흐름을 가속하도록 설계된다. ‘자극’과 그에 대한 ‘반사 반응’ 사이에서 일어날 수 있는 모든 ‘우회’나 주체의 ‘반성적 중지’를 피하는 것이다. 이처럼 ‘흐르는’ 것이 비기표적이라는 사실은 중요하지 않다.14 디지털 신호는 “가능한 의미와 무관하게 양적으로 계산될 수 있기”(Eco, 1976: 20; Genosko, 2008에서 재인용) 때문이다. 모든 것은 마치 의미가 더 이상 절대적으로 필요하지 않은 것처럼 일어난다. 우주가 모든 해석과 무관하게 이미 의미로 포화되어 있고, 따라서 사람들이 의미 있는 언어나 상징적·제도적·관습적 전사를 통해 서로 연결될 필요도 없는 것처럼 보인다. 그러므로 알고리즘적 통치성의 장치들은 기표를 기의로부터 해방하는 것―수량화와 프로필의 알고리즘적 재조합―과 기표를 기의로 대체하는 것―세계 내부에서 실재를 생산하는 것, 알고리즘적 통치성에 ‘계산되는’ 유일한 실재는 디지털 실재라는 것―을 동시에 승인한다고 할 수 있다(Rouvroy, 2013b). 인간의 행동을 전의식적 단계에 배정하는 이러한 작용은 베르나르 스티글러가 ‘프롤레타리아화’라고 부르는 것과 밀접하게 관련된다.

“역사적으로 프롤레타리아화는 기계가 노동자의 지식을 흡수함으로써 노동자가 그 지식을 상실하는 것이었다. 오늘날 프롤레타리아화는 마케팅과 서비스를 통한 행동의 표준화이며, 지식을 시스템 속에 외재화함으로써 정신을 기계화하는 것이다. 그 결과 이 ‘정신들’은 자신들이 매개변수만 설정할 뿐인 정보처리장치에 관해 더 이상 아무것도 알지 못한다. 금융 의사결정의 전자적 수학화가 이것을 잘 보여주며, 이는 고용주·의사·설계자·지식인·지도자를 포함한 모두에게 영향을 미친다. 점점 더 많은 엔지니어가 자신도 작동 방식을 알지 못하지만 세계를 파괴하고 있는 기술적 과정에 참여한다.”(Stiegler, 2011)

마우리치오 랏자라또는 디지털 행동주의에서 전형적으로 나타나는 비기표적 기호계가 주체적 소외가 아니라 기계적 예속을 어떻게 생산하는지를 훌륭하게 요약한다.

“기표적 기호계가 주체적 소외, 곧 ‘사회적 종속’의 기능을 한다면, 비기표적 기호계는 ‘기계적 예속’의 기능을 한다. 비기표적 기호계는 정동·지각·감정 같은 주체성의 전개체적이고 전언어적인 요소들이 부품처럼, 기계의 요소처럼 기능하도록 만듦으로써 그것들을 동기화하고 변조한다(기계적 예속). 우리 모두는 기호 기계의 입력/출력 요소처럼, 정보·의사소통·정동의 전달을 촉진하거나 차단하는 단순한 텔레비전 또는 인터넷 중계기처럼 기능할 수 있다. 기표적 기호계와 달리 비기표적 기호계는 인격도 역할도 주체도 인정하지 않는다. […] 전자의 경우 시스템은 말하고 말하게 한다. 시스템은 재현적 기능을 우선시하며 전기표적이고 상징적인 기호계의 복수성을 언어와 언어적 연쇄 위에 지표화하고 접어 넣는다. 그러나 후자의 경우 시스템은 담론을 생산하지 않는다. 말하는 대신 작동하며, 신경계, 뇌, 기억 등에 직접 연결되어 운동을 일으키고, 주체·개인·자아에 귀속하기 어려운 정동적·전이적·관개체적transindividual 관계를 활성화한다.”(Lazzarato, 2006)

(2) 인격화의 역설: 주체 없는 동시대의 과잉 주체화 현상과 양립하는 알고리즘적 통치성

탈주체화, ‘개인의 위기’, 네트워크 속에서 개인이 희석된다는 가설은 아무리 ‘인상적’이라 해도 결코 자명하지 않다. 오히려 소셜네트워크 등이 ‘과잉 주체’를 생산하는 면도 있다. 아마 사용자에게 소셜네트워크가 기표적[의미작용하는] 기호계로 가득하기 때문일 것이다. 많은 사람이 주체성을 생산하는 일에 집착하게 되었고, 그것이 어떤 이들에게는 삶의 이유가 되기까지 했다. 따라서 현재의 변화가 친밀성과 사생활의 보루를 약화하고 자율성과 자유로운 선택의 조건에 영향을 줄 수 있다는 이유만으로 탈주체화만을 생산한다고 주장하는 것은 지나치게 단순해 보인다(친밀성의 약화 자체도 논쟁의 여지가 있다. 정보사회의 일부 장치는 오히려 개인의 고립을 강화하여 타인과 상호작용하지 않아도 되게 한다). 자율성과 자유로운 선택이 정확히 어떻게 영향을 받는지도 검토해야 한다. 지능형 환경이 삶의 지극히 사소한 영역에서 끊임없이 선택해야 할 부담을 덜어준다면, 우리의 정신을 해방하고 더 흥미로운 지적 과업에 몰두하게 하며 더 이타적으로 만들 수도 있다. 그럼에도 사생활과 개인정보를 보호하는 법은 개인적인, 사적인, 민감한 정보의 노출, 부적절한 공개, ‘자신의’ 프로필에 대한 통제 상실, 개인의 자율성과 자기결정 원칙의 침해라는 위험에 대응해 개인 주위에 본질적으로 방어적이고 제한적인 일련의 ‘장벽’을 세우는 데 집중해 왔다.

이러한 법적 보호가 무의미하다는 것은 아니지만, 우리가 강하게 강조하고 싶은 것은 알고리즘적 통치가 개인에게 무관심하다는 사실이다. 그것은 우리의 ‘통계적 분신’, 곧 기본값에 따라 구성되거나 수집된 빅데이터를 사용하여 자동으로 생산한 상관관계의 조합에 초점을 맞추고 그것을 통제할 뿐이다. 에릭 슈미트의 표현을 빌리면, ‘대략적인’ 우리란 엄밀하게는 더 이상 우리 자신, 곧 고유한 존재가 아니다. 바로 이것이 문제다. 뒤에서 보겠지만 이 문제는 탈주체화나 개인의 위기라기보다 주체화 과정과 기회의 희소화, 즉 주체가 되기 어려워지는 데서 비롯된다. 이제 위에서 기술한 세 단계의 규범적 과정에서 주체가 어떻게 ‘회피’되는지 다시 살펴보자. 먼저 지적해야 할 것은 스스로를 알고리즘적 주체로 이해하거나 사유하는 주체를 생산하기 어렵다는 점이다. 앞에서 보았듯이 정보를 전달할 때 주체의 동의는 미약하다. 데이터는 익명인 채로 사용될 수 있지만 익명성의 의미 자체가 상대화되면 더 이상 그렇지 않을 수도 있다. 그렇다고 정보가 ‘도난당한’ 것은 아니다. 도난이라면 주체가 그것에 맞서고 도둑질에 저항하는 주체로 설 수 있을 것이다. 오히려 우리가 목격하는 것은 대부분 사소하고 무의미하며 분절되고 탈맥락화된 정보 공개가 점점 덜 ‘의도적’이 되는 현상이다. 이 ‘흔적’이 이후 어떤 경로를 거치고 어떻게 사용될지 주체는 예측할 수도 통제할 수도 없다. 컴퓨터 서비스 ‘사용자’가 ‘자신의’ 데이터를 더 잘 통제할 수 있게 하는 기술적 도구의 개발에 상당한 연구비가 투입되고 있기는 하지만 말이다. 둘째로, 정보 처리의 측면에서 생산된 ‘지식’의 주된 특징은 지식으로 이끄는 가설이 미리 존재하지 않은 채 빅데이터에서 직접 출현하는 것처럼 보인다. 가설 자체가 데이터로부터 ‘생성’된다. 마지막으로 이러한 통계적 과정에서 도출되는 규범적 작용은 개인 자신에 대한 작용이라기보다 언제나 환경에 대한, 따라서 환경에 의한 작용에 더 가깝다. 개인의 행동은 더 이상 법, 평균, 정상성의 정의 같은 외부 규범과 직접 대면하는 가운데 생겨나지 않는다. 가능성의 영역이 환경 안에서 직접 조직된다.

이 세 가지 이유로, 오늘날 일반화되는 통계적 실천의 힘과 위험은 그것이 개인적이라는 데 있지 않고 오히려 개인으로부터 자율적이거나 심지어 개인에게 무관심하다는 데 있다고 우리는 주장한다. 최대한 분명히 말하면, 우리가 맞닥뜨린 문제는 우리 자신의 것이라고 여긴 무언가를 빼앗기거나 사생활과 자유를 침해하는 정보를 강제로 내놓는 데 있지 않다. 더 근본적인 문제는 통계적 분신이 우리에게서 지나치게 떨어져 있고 우리가 그것과 어떠한 ‘관계’도 맺지 못한다는 데 있다. 그런데도 동시대의 규범적 작용은 효과를 내기 위해 바로 그 통계적 분신을 향한다. 고해는 영혼과 덕, 욕망과 내밀한 의도를 탐색하는 성찰의 주체를 구성한다. 고해의 과정에서 “말하는 자는 자신이 바로 그러한 사람이기 때문에 자신이 확언한 그대로의 사람이 되겠다고 약속”하기 때문이다(Foucault, 2014: 16). 법은 평등과 절차의 공정성에 관심을 기울이는 법적 주체를 생산한다. 한때 ‘평균인’은 평균에 반박할 수 있는 고유한 주체와 비교할 때 지나치게 평균적인 것으로 보였다. 그러나 알고리즘적 통치는 자신에게 정당성을 부여하거나 저항할 수 있는 능동적이고 일관되며 반성적인 통계적 주체를 생산하지도, 그러한 주체가 출현할 여지를 제공하지도 않는다.15 우리가 이제 주의를 기울여야 하는 것이 바로 이 지점이다. 특히 기술적 지식을 포함한 지식을 통해, 그리고 통계적 표상과 개체화 과정에서 개인을 구성하는 것 사이의 간극과 차이를 인정함으로써 그렇게 해야 한다. 개체화 과정에서는 자발성의 순간, 사건, 그러니까 예상된 가능성에서 비껴가는 곁걸음[이탈]sidesteps이 중요하다.

그러나 극복하기 더 어려우며 진정한 단절을 이루는 것으로 보이는 것은 어떠한 가설의 표현도 더 이상 전제하지 않는 지식의 가능성이 등장한다는 사실이다. 이는 적어도 사회공간의 일부에서 기획이라는 관념이 사라지고 있음을 나타낸다.16 여기서 문제는 적용하거나 검증할 수 있는 것으로서의 기획을 잃는데 있다기보다 이동할 수 있는 것으로서의 기획을 잃는 데 있다. 기획은 실패를 겪고, 그 실패에 기초하여 끊임없이 다시 다듬어지고 변형됨으로써역사를 만들 수 있는 것이어야 한다. 유기체에도, 생명에도, 규범적 활동의 장소인 유기적인 것에도 실패와 갈등, 기형적인 것, 한계와 한계의 극복이 존재하며, 이는 생명 안에 일탈과 이동을 낳는다는 것을 캉길렘은 보여주었다. 그러나 알고리즘적 통치에서는 사회적 삶을 유기적 삶으로 간주하면서도, 유기적 삶의 적응이 더 이상 이동이나 실패의 결과가 아닌 것처럼, 그리하여 어떠한 위기나 중단도 생산하지 않고 주체나 규범 자체에 책임을 묻거나 시험하지도 않는 것처럼 생각하는 경향이 나타난다.

이 ‘권력’의 작용 영역은 현재가 아니라 미래에 있다. 형사제재나 민사책임이 이미 저질렀거나 (현행범의 경우) 지금 저지르고 있는 범죄, 또는 이미 야기한 손해에만 관계하는 것과 달리, 이러한 통치 형태는 본질적으로 행위가 아니라 앞으로 일어날 수 있는 것과 성향을 대상으로 한다. 알고리즘적 통치는 한층 적극적으로 현재의 순간 속에서 가능성을 지각하여 ‘증강현실’, 곧 ‘미래의 기억’을 지닌 현실성을 생산할 뿐 아니라 체계화된 세렌디피티[우연한 발견]serendipity라는 꿈을 실체화한다. 이러한 관점에서 우리의 실재는 가능성의 영역이 되었다. 우리의 규범은 가능성을 올바르고 내재적으로 예측하고자 하며, 그렇게 하는 가장 좋은 방법은 당연히 우리에게 부합하는 가능성의 영역을 제시하여 주체가 그 안으로 쉬이 미끄러져 들어가게 하는 것이다. 이것이 법적·담론적 규범성과 어떻게 다른지에 주목해야 한다. 법적·담론적 규범성은 행동에 작용하기 전에 담론적이고 공개적으로 제시되었다. 행동은 이 규범성에 의해 제약되었지만, 제재의 위험을 감수하고 불복종할 가능성은 유지되었다. 반면 통계적 규범성은 결코 미리 정의되지 않으며 모든 담론화를 거부한다. 그것은 행동 자체에 의해 끊임없이 제약되면서 역설적으로 모든 형태의 불복종을 불가능하게 만드는 것처럼 보인다.17 개인주의적이고 자유주의적인 접근에 비춰 보면 여기서 하나의 역설이 나타난다. 우리가 ‘알고리즘적 통치’라고 부르는 행동에 대한 작용은 개인적이거나 집합적인 모든 주체적 이해와 욕망의 표현에 선행하는 실재에 기초하기 때문에 근본적으로 무해하고 완전히 객관적인 것처럼 보인다. 동시에 이 실재는 우리가 실재를 이해하는 방식을 무시하기 때문에 오히려 더 신뢰할 수 있고 객관적인 것으로 나타나며, 완전히 민주적인 통치라는 꿈을 부추긴다. 그러나 이 ‘꿈’ 앞에서 다음을 지적해야 한다. 우리의 행동이 오늘날처럼 통계적 기반 위에서 인간의 이해에 완전히 불투명한 해석 코드와 기준에 따라 관찰되고 기록되고 분류되고 평가된 적은 없다. 알고리즘적 통치의 무해함과 ‘수동성’은 외견에 불과하다. 알고리즘적 통치는 실재를 기록하는 만큼이나 실재를 ‘창조’한다. 소비의 ‘필요’나 욕망을 촉발하고, 특정한 장소·재화·서비스에 접근하는 기준을 탈정치화한다. 불확실한 상황에서 결정하고 판정할 필요가 더 이상 없으며 불확실성이 선제적으로 해소된다고 주장함으로써 정치를 평가절하한다. 제도와 공적 토론을 불필요하게 만들며, 예방을 선제적 차단으로 대체한다.18

이 운동을 장기적인 관점 속에 다시 놓고, 법적·담론적 모델과의 관계에서만 의미를 갖는 순수한 새로움이라는 관점에 현혹되지 않는다면, 알고리즘적 통치가 통치한다는 기획 자체가 외견상 사라지게 한다는 자유주의적 이상을 실제로는 더 심화한다는 사실을 알 수 있다. 다른 곳에서 논했듯이(Berns, 2009), 여기서 중요한 것은 실재를 통치하는 것이 아니라 실재에 기초하여 통치하는 것이다. 여기서 기술한 기술적·정치적 진화는 이러한 경향을 실현한다.19 그 결과 이제 통치받지 않는 것, 또는 통치받기를 원하지 않는 것은 자기 자신을 원하지 않는 것과 같아질 수도 있다. 사생활이 침해되지 않는다 해도 그렇다.

(2) 알고리즘적 통치성에서 ‘권력’의 표적은 관계인가?

여전히 도덕적이고 규범적인 이 진단을 넘어, 또는 진단을 더 탄탄하게 만들기 위해, 이제 우리는 주체의 회피가 어떤 목적에 봉사하는지 규명하고자 한다. 개인 자신이 아니라면 앞서 기술한 세 단계와 알고리즘적 통치성 일반의 대상 또는 표적은 무엇인가? 달리 말하면 주체화 과정의 가능성 자체를 방지하거나 적어도 복잡하게 만듦으로써 통치하려는 것은 무엇인가? 우리의 가설은 주체가 되는 데 실패하는 알고리즘적 통치의 대상이 바로 관계라는 것이다. 공유되는 데이터는 관계이며 오직 관계로서만 존속한다.20 생산되는 지식은 관계들의 관계로 이루어진다. 여기에서 도출되는 규범적 작용은 관계들의 관계를 준거로 삼아 관계 또는 환경에 작용한다. 따라서 우리는 가능성의 영역을 조직하는 실천의 바로 그 실재 속에서 알고리즘적 통치가 관계의 통치로서 지닐 수 있는 새로움을 규명하려 한다.

이제 알고리즘 통계의 눈부신 객관성과 생산성에 관한 이중의 성찰을 시몽동과 들뢰즈·가타리의 용어로 옮겨보자. 표면적으로 볼 때 데이터마이닝과 알고리즘적 프로파일링에서 작동하는 이 생산적 원격객관성은 주체의 영역을 벗어나는 것처럼 보인다. 그럼으로써 일견 시몽동이 관개체적 개체화transindividual individuation 과정이라고 부른 것을 가능하게 할 잠재력을 지니는 듯하다. 관개체적 개체화는 ‘나’도 ‘우리’도 아니며, 사회적 실재, 곧 의미가 형성되는 연합 환경을 생산하는 ‘나’와 ‘우리’의 공동 개체화 과정을 가리킨다. 그러나 우리는 알고리즘적 통치성이 오히려 개체화 과정을 주체적 모나드에 제한함으로써 이러한 관개체적 개체화의 가능성을 봉쇄한다는 것을 보이고자 한다.

더 나아가 모든 형태의 ‘척도’와 ‘표준’과 위계를 포기하고 그것을 내재적이며 극도로 가소적인 규범성으로 대체하는 일이 새로운 삶의 형식의 출현에 반드시 도움이 되는 것은 아니라는 점도 보이고자 한다(Deleuze and Guattari, 2004). 여기서 우리가 염두에 둔 해방은 들뢰즈와 가타리가 조직화의 평면을 넘어서는 내재성의 평면, 정상인과 평균인이 중대한 자리를 차지했던 옛 위계의 백지화로 설명하고 찬양했던 해방이다.21

3. 관개체적 관점과 리좀적 관점

알고리즘적 통치성을 시몽동의 관점에서 연구하게 만드는 것은 이 통치 양식이 더 이상 주체가 아니라 항들에 선행하는 관계를 토대이자 표적으로 삼는 것처럼 보인다는 사실이다. 여기서 관계는 개인을 구성하는 사회적·상호주체적 관계, 곧 각 개인이 그러한 관계들의 합으로 간주하는 경우만을 뜻하지 않는다. 오히려 단순하고 선형적인 개체화와 무관하게 관계 그 자체에 초점을 맞춘다. 이 관계는 자신이 연결하는 개인들에게 귀속될 수 없으며, 연결된 개인들을 넘어서도 ‘관계성’으로 존속한다. 그렇다면 우리가 마주한 것이 무엇인지 이해하기 위해, 시몽동과 함께 개인과 상태를 중심으로 하여 관계를 개인에게 귀속시키는 고전적 실체 존재론 또는 실체 형이상학에서 관계 존재론으로 이동해야 하는가? 관계가 자신이 통과하는 개인보다 존재론적으로 ‘우선하는’ 존재론으로 이동해야 하는가? 또는 생성과 개체화의 운동 자체를 이해하는 데 관심을 기울이는 존재 발생론으로 이동해야 하는가? 이 가설은 한편으로 오직 개인만이 실재한다고 가정하고 그 개인들로부터 보편자를 추상할 수 있다고 보는 특정한 ‘명목론적’ 개인주의에서 우리를 멀어지게 하는 한편으로 집합적 본질·종·계급이 개인에 선행하고 개인은 집합적 본질에 완전히 포섭될 수 있다고 전제하는 특정한 전체론적 ‘실재론’에서도 우리를 멀어지게 한다. 요컨대 관계를 일차적이고 그 자체로 구성적인 것으로 사유한다는 것은 방향을 막론하고 특수에서 일반으로 이동하는 수직적 운동과 결별한다는 뜻이다.

더욱이 이질적인 데이터를 자동으로 교차 참조하는 데이터마이닝을 통해 순전히 귀납적으로, 실시간으로 자동생산 되고 지속적으로 변형되는 프로필의 과정과 들뢰즈·가타리의 리좀에 고유한 대사 과정 사이에는 놀라운 유사성이 있다.

“리좀은 하나로도 다수로도 환원되지 않는다. 그것은 둘이 되는 하나가 아니며, 곧바로 셋·넷·다섯 등이 되는 하나도 아니다. […] 점과 위치의 집합, 점들 사이의 이상적 관계와 위치들 사이의 일대일 관계로 정의되는 구조와 달리, 리좀은 오직 선들로만 이루어진다. 그 차원을 이루는 분절성과 층화의 선들, 그리고 그것을 따라 다수체가 변형되어 본성을 바꾸게 되는 최대 차원인 도주선 또는 탈영토화의 선이다. 이러한 선 또는 선형 요소를 점과 위치 사이에서 국소화할 수 있는 연결에 불과한 수목형 계보와 혼동해서는 안 된다. 나무와 달리 리좀은 재생산의 대상이 아니다. 이미지-나무로서의 외적 재생산도, 나무-구조로서의 내적 재생산도 아니다. 리좀은 반계보(反系譜)다. 리좀은 단기기억 또는 반기억이다. 리좀은 변이·확장·정복·포획·분지를 통해 작동한다. […] 위계적인 소통 양식과 미리 정해진 경로를 지닌 중심화된 체계―다중심적 체계까지 포함하여―와 대조적으로, 리좀은 사령관도 조직화하는 기억도 중앙 자동 장치도 없는 탈중심적이고 비위계적이며 비기표적인 체계다. 그것은 오직 상태의 순환만으로 정의된다.”(Deleuze and Guattari, 2004: 23)

시몽동의 관계 존재론과 들뢰즈·가타리의 리좀 은유가 맺는 관계는 후자의 기술에서 리좀이 다음과 같은 성격을 지닌다는 사실에서도 비롯된다.

“[리좀에는] 시작도 끝도 없다. 언제나 중간에, 사물들 사이에 있으며, 사이-존재이고 간주곡이다. 나무는 혈통이지만 리좀은 동맹, 오직 동맹이다. 나무는 ‘이다’라는 동사를 강요하지만, 리좀의 직물은 ‘그리고… 그리고… 그리고…’라는 접속사다. 이 접속사는 ‘이다’라는 동사를 흔들고 뿌리뽑기에 충분한 힘을 지닌다. […] 사물들 사이라는 말은 한 사물에서 다른 사물로 갔다가 되돌아오는 국소화가 능한 관계를 가리키지 않는다. 그것은 하나와 다른 하나를 함께 휩쓸어가는 수직 방향이자 횡단 운동이며, 둑을 무너뜨리고 중간에서 속도를 높이는 시작도 끝도 없는 흐름이다.”(Deleuze and Guattari, 2004: 27–28)

따라서 우리는 외견상 조화로운 사회적 도구들의 출현, 실체 형이상학을 넘어 개체화 과정에서 진행 중인 생성을 파악하라는 시몽동의 요구, 그리고 들뢰즈와 가타리가 해방의 원천으로 찬양했던, 조직화의 평면을 극복하는 내재성의 평면이 실제로 해방된 삶의 형식이 출현하는 데 어느 정도로, 어떠한 조건에서, 어떠한 유보와 함께 도움을 줄 수 있는지를 검토해야 한다.2223

개체화를 둘러싼 시몽동의 사유는 관계와 개인이 환경에 결합하는 방식을 사유하려는 가장 완성된 시도로 보인다.24 그것은 언제나 실체를 전제하여 관계를 엄밀히 논리적인 내용으로 환원했던 아리스토텔레스적 관계 개념을 폐기하기 때문이다. 시몽동은 실체의 우위를 거부하고 상태의 형이상학에서 상태의 변형 또는 생성의 형이상학으로 이동했다. 그럼으로써 개체화 과정 자체를 설명하기 위해 관계에 존재론적 내용을 부여했다. 이는 ‘존재의 지위’를 갖는 관계가 언제나 자신이 연결하는 것을 초과하거나 넘쳐흐른다는 뜻이다. 관계는 결코 개인들 사이의 사회성에 불과한 것이 아니며, 관계 자체의 존재론적 우위로부터 생각되어야 한다. “관계는 이미 개체인 두 항 사이에서 생겨나는 것이 아니다.” 관계는 “개체화 체계의 내적 공명”이다(Simondon, 2005: 29).25 또한 이는 개체화 과정을 과정으로 사유하기 위해 그 과정이 자리 잡아야 하는 전개체적 장이, 분화 운동에 선행하는 전개체적 차원을 계속 보존하면서 발전하는 것으로 이해되어야 한다는 뜻이다. 이 전개체적 장은 잠재적으로 준안정성metastable을 지녀야 한다. 즉 그 평형은 체계 내부의 아주 미세한 변화에도 흔들릴 수 있는 것으로 생각되어야 한다. 전개체적 장의 이러한 비안정성non-stability은 분화를 통해 형태를 취하는 것, 곧 정보가 가능해지는 조건이다. 이로써 우리는 원인을 찾고자 하는 것의 원리 자체를 미리 전제하거나 심지어 개체화해 버리는 오류에 빠지지 않을 수 있다. 달리 말하면 생성이 존재할 수 있는 것은 오직 크기의 등급orders of magnitude 사이의 양립불가능성과 비대칭적인 실재들이 존재하는 한에서다.

이러한 작용 또는 과정에서 개인과 환경, 환경에 결합한 개인이 출현한다. 개인은 ‘준안정적 관계의 실재’이며, 이들은 모두 실재하고 동등하게 실재한다. 환경과 맺는 관계로서의 개인, 환경에 상대적인 개인은 실재한다. 다시 말해 상대적인 것은 실재하며 실재 자체다. 주체주의적이라고 부를 수 있는 관점에서 보더라도 관계와 관계로서의 개인은 결코 자신이 상대하게 되는 측정의 표현이 아니며, 그 측정에 상대적으로 됨으로써 실재성을 잃는 것도 아니다. 관계는 생성의 실재다. 개인과 결합한 환경 역시 측정, 다시 말해 개인이 출현할 확률로 환원되지 않는다.26

우리가 기술한 것처럼 관계를 통해 통치하려는 알고리즘적 통치의 새로움을 시몽동적 사유의 요구에 따라 평가할 수 있는가? 이는 동시대의 통계적 실재가 다른 형태의 실재보다 시몽동적인지를 묻는 일이 아니다. 그런 물음은 부조리하다. 목적은 잠재적인 새로움을 드러내고 측정하는 것, 무엇보다 시몽동이 관계 존재론을 세우며 제시한 극도로 엄격한 요구에 따라 개인을 관계 속에서, 나아가 관계를 통하여 파악할 가능성을 알고리즘적 통치가 제공하는지를 검토하는 것이다.

역설적으로 알고리즘적 통치는 실재 전체를 확률화한다. 그럼으로써 실재 전체는 통계적 작용의 매체가 되는듯하다. 동시에 미리 존재하는 기초 가설을 더는 요구하지 않는다는 점에서 이 확률적 관점은 외견상 탈주체화[탈주관화]된다. 요컨대 개인을 직접 고려하지 않고 행동을 통치할 가능성, 실재 자체를 대신할 수 있는 실재의 통계적 표현에 기초해서만 통치할 가능성을 만들어낸다(디지털 행동주의의 관점). 그런데 알고리즘적 통치는 계속해서 개인을 절대화(설령 개인이 관계를 통해 회피될 수 있는 것, 즉 상대적인 것으로 간주된다 하더라도)하는 동시에 개인을 탈실재화한다. 개인은 그 자체가 실재의 역할을 하는 일련의 측정값에 상대적인 것에 불과해지고, 그 측정의 주체적 성격은 드러나지 않기 때문이다. 알고리즘적 통치가 작용하는 관계는 측정이다. 이 측정은 실재의 매개되지 않고 비주체적인 표현으로 나타날 수 있는 능력, 곧 외견상의 객관성 덕분에 그 측정과 관계하여, 또는 그 측정을 통해 출현하는 모든 것을 더욱 상대적이며 덜 실재적인 것으로 만든다. 출현하는 것은 실재의 역할을 하는 일련의 측정값에 단순히 상대적인 것이 된다. 다시 말해 관계와 그 측정은 모든 주체성에서 벗어난 것처럼 보이는 능력으로 인해 실재와 개인 자신을 모두 상대적인 것으로 만든다. 그러나 시몽동의 사유에 비추어 보면 이는 하나의 전도에서 나온 결과다. 과거의 실체와 개인의 형이상학에 따르면 개인의 환경에 대한 모든 파악과 측정은 지나치게 주체적[주관적]이어서 언제나 불충분한 것으로 보였고, 그래서 개인의 실재를 그 개체화 속에서 포착할 수 없었다. 그런데 이제 개인과 환경 사이에 존재론적 차이를 드러내던 이 불충분성은, 개인을 모든 주체성[주관성]에서 벗어났다고 간주되는 측정들―그것들이 고작 측정들일 뿐이라 해도―자체에 상대적인 것으로 만듦으로써 해소된다. 통치의 실천과 시몽동적 사유의 비교를 더 밀고 나가면, 관계에 초점을 맞추는 이 실천은 관계를 ‘모나드화’ 하여 관계가 그 자체로 개체인 양 관계를 상태states, 더 나아가 지위statuses으로 바꾼다고 말할 수 있다. 그 결과 관계는 시몽동의 사유에서 핵심적인 것, 곧 준안정성을 지닌 실재에서 작동하는 생성을 잃어버린다.

빅데이터를 실재를 분할하는 관계들의 연쇄로 고려하면서, 우리가 관찰하는 것은 바로 이러한 관계의 모나드화다. 이런 빅데이터를 토대로 생산되는 지식은 실재 자체에 관해 어떠한 가설도 전제하지 않은 채 관계들을 서로 연결하는 것으로 이루어진다. 또한 여기에서 도출되는 규범적 작용은 관계들을 ‘관계들의 관계’에 준거시킨 뒤 그 관계들에 작용함으로써, 개체로의 생성이 자리 잡을 수 있는 준안정성을 지닌 실재의 가능성을 정확히 배제한다. 시몽동의 저작이 우리에게 제안한 것은 이미 구성되어 주어진 개체적 존재에서 출발해 생성을 사유하기를 중단하는 것이었다. 그렇게 사유하는 것은 개체화가 실제로 이루어지는 경험 자체를 도외시하는 것이기 때문이다. 개체를 그 생성에 앞서 전제하지 않기 위해 더는 도외시해서는 안 되는 것은 바로 “가능한 것은 현실적인 것을 미리 포함하고 있지 않다”라는 사실이며, 따라서 “그로부터 출현하는 개체는 자신의 개체화를 촉발한 가능한 것과 다르다”는 사실이다(Debaise, 2004: 20). 앞서 우리는 가능한 것으로 증강되어 가능성을 이미 포함하는 듯한 실재에서 실패나 일탈이 추방될 것을 우려했다. 또한 그러한 실패와 일탈이 구성물과 기획, 가설을 표현하는데 내재한다고 보았다. 이제 실패와 일탈은 오직 그것에서 출발할 때만 관계가 출현할 수 있게 하는 것으로 나타난다. 여기서 관계는 자신이 연결하는 것들 가운데 어느 것에도 귀속될 수 없는 것으로 이해된다. 관계는 비대칭적이며 부분적으로 양립 불가능한, 곧 서로 이질적인 실재들을 연결하며, 바로 그러한 실재들로부터 새로운 실재나 의미가 출현하기 때문이다.

시몽동을 해석한 들뢰즈(2002)는 다음과 같이 썼다. “준안정적 체계를 본질적으로 규정하는 것은 ‘불일치’의 존재, 곧 아직 상호작용적 소통이 이루어지지 않은 적어도 두 개의 크기의 등급, 서로 이질적인 두 개의 실재의 척도가 존재한다는 점이다.” 그러나 실패나 일탈을 회피하는 것은 바로 이 ‘불일치성’을 부정하는 방식으로 작동한다. 알고리즘적 통치성은 일종의 총체화, 즉 통계적 ‘실재’를 자기 안에 폐쇄하는 것, 역능을 개연적인 것으로 환원하는 것, 내재성의 평면 또는 일관성의 평면과 조직화의 평면 또는 초월성의 평면을 구별할 수 없게 만드는 것으로 나타난다. 그 결과 세계의 디지털 표상은 순수한 현실성으로 이루어진 면역적 구체가 된다(Lagrandé, 2011). 이 구체에서는 도래할 수 있는 모든 능력과 모든 ‘다른’ 차원, 모든 잠재성이 선제적으로 제거된다(Rouvroy, 2011). 가능성에 대한 디지털 모델링이 수행하는 이러한 “실패의 실패”, 곧 실패 자체의 무력화는 가능성을 선제적으로 차단하거나, 모든 ‘불규칙성’을 ‘모델’·‘패턴’·프로필의 정교화 과정에 자동으로 기록하고 편입함으로써 이루어진다. 후자는 특히 학습형 알고리즘 시스템의 상황에 해당한다. 그 결과 실재―여기서는 통계적 집합체가 실재를 대신한다―와 비대칭을 이루는 세계로부터 출현할 수 있었던 것은 돌연 분출하여 기존의 흐름을 중단시키고 위기를 촉발할 능력을 박탈당한다.27

들뢰즈와 가타리가 분열분석, 미시분석, 리좀학, 지도 제작법이라고 불렀던 접근의 위상은 기술적이라기보다 ‘전략적’이었다는 점을 기억해야 한다. 하이퍼텍스트를 구축하기 위한 규칙이자 일종의 유목론이었던 리좀과 내재성 개념은 논쟁적인 것들이었다(Marchal, 2006). 그것들은 사회를 ‘다르게’ 구조화하고 위계적 모델에 저항하려는 전략적 사유를 담고 있었다. 알고리즘적 통치성은 리좀적 전략과 마찬가지로 깊이도 수직성도, 위계화된 구조도 기획도 투사도 없는 순수한 표면의 수평적 위상공간을 자신의 공간으로 삼으며, 주체에도 개인에게도 관심을 두지 않는다.28 여기서 중요한 것은 오직 데이터들 사이의 관계뿐이다. 이 데이터들은 개인 이하적 파편, 곧 일상적 삶이 남긴 부분적이고 비인격적인 반영에 불과하다. 데이터마이닝은 그러한 파편들을 개인 초과적 수준에서 상관시킬 수 있게 하지만, 그것들은 개인을 넘어서는 어떠한 것도, 따라서 어떠한 민중도 그려내지 않는다. 빅데이터와 알고리즘적 통치성의 시대에 리좀이라는 은유는 순전히 기술적이거나 진단적인 위상을 얻게 된 것으로 보인다. 말하자면 우리는 오늘날 리좀의 ‘물질적’ 현실화와 마주하고 있다. 알고리즘적 통치성이 관심을 두는 ‘통계적 신체’의 대사 작용은 질 들뢰즈와 펠릭스 가타리가 제시한 리좀의 특징이나 원리 들을 유난히 강하게 환기한다. 이 통계적 신체는 사회적으로나 물리적으로 경험되고 살아 있는 신체들과는 공약 불가능하다. 살아 있는 신체는 단순한 요소들의 집합을 넘어 고유한 존립성을 지닌다. 이러한 존립성은 신체가 하나로 결속되어 있다는 것과 동시에 사건을 겪을 수 있다는 것을 의미한다(Rouvroy and Berns, 2009, 2010). 그렇다면 리좀 개념의 이러한 ‘체현’은 해방된 개체화의 형식들을 촉진하는가?

첫째, 더 이상 어떠한 타자성도 ‘물리적으로 거주하지’ 않는 관계성은 어떻게 되는가? 알고리즘적 통치성에서 각각의 주체는 그 자체로 하나의 다수이지만 타자성 없는 다수다. 주체는 수많은 프로필로 파편화되지만, 그 프로필들은 모두 ‘자기 자신’, 곧 자신의 성향과 추정된 욕망, 기회와 위험에 관계한다. 관계란―설령 주체들이 사라진 빈 무대라 하더라도―언제나 누군가로 ‘채워져’ 있어야 하지 않는가? 비록 그것이 ‘결여된 민중’(Deleuze, 1987, 1990), 하나의 기획으로서 존재하는 민중이라 하더라도 말이다. 관계는 비대칭성의 조건인 한 최소한 둘 이상의 존재로 이루어진 집합체를 함축하지 않는가?

둘째, 우리의 욕망이 우리 자신보다 앞서 존재할 때, 관개체적이거나 리좀적인 관점의 해방적 성격에 관해서는 무슨 말을 할 수 있을까? 주체가 표현하지 않은 성향에 따라 개인화된 제안이 시간상으로 앞선다는 사실은 개체화 과정을 전개체적 단계에서부터 언제나 이미 결정하고 안정화하지 않는가? 데이터마이닝과 프로파일링이라는 이러한 새로운 통계 활용은 알고리즘적 통치성이 산출하는 내재적 규범들 앞에서 우리를 무력하게 만들지 않는가?

셋째, 관계가 더는 어떠한 특정한 생성―주체-되기, 민중-되기 등―도 담지하지 않을 때, 초개체적 또는 리좀적 관점의 해방적 성격은 어떻게 되는가? 다시 말해 관계가 더는 아무것도 관계짓지 않게 될 때는 어떻게 되는가? 알고리즘을 통한 이 새로운 통치 방식이 표적으로 삼아 배제하려는 것은 바로 불일치들의 산물이기에 예견되지 않았던, ‘도래할 수도 있는 것’이기 때문이다. 그것은 인간존재를, 자신을 스스로 기획하고 서로 관계 맺고, 주체가 되고, 상대적으로도 관계적으로도 열린 궤적을 따라 개체화하는 자유로운 과정으로만 드는 불확실성과 잠재성, 근본적 가능성의 몫이다. 그렇다면 이렇게 말할 수 있을 것이다. 이 관점은 과거의 모든 위계를 쓸어버린다는 점에서는 분명 ‘해방시키는’ 관점이다. 여기서 위계란 가장 넓은 의미의 위계이며, ‘정상인’이나 ‘평균인’이 중요한 자리를 차지했던 위계를 포함한다. 그러나 이 관점은 어떠한 생성이나 기획의 틀 안에서도 해방을 실현하지는 않는다. 따라서 여기에는 일종의 ‘해방’이 있지만 그것이 강한 의미의 자유를 함축하지는 않는다. 오늘날 디지털 진리 체제 또는 디지털 행동주의는 비판과 기획이라는 관념, 나아가 공통적인 것이라는 관념까지 제거함으로써 해방의 토대 자체를 허물 위험이 있지 않은가?(Rouvroy, 2013)

이 질문들에 답을 제시한 것은 아니지만, 우리는 다음과 같은 점을 밝히고자 했다. 법적 데이터 보호 체계의 소유적 개인주의가 전형적으로 보여주는 개인 중심적 접근으로 되돌아가는 것은 효과도 없고 정당한 근거도 없다. 오히려 근본적인 쟁점, 곧 모든 ‘주체’와 모든 개체화에 선행하면서 개체화를 구성하는 자원으로서 보존해야 할 것은‘공통적인 것’이다. 여기서 공통적인 것이란 존재들이 온갖 비대칭성과 ‘불일치’를 지닌 채 서로에게 호명되고 자신을 서로에게 이야기하며 관계 맺는 ‘사이’, 곧 공동-출현(com-appearance)의 장소를 의미한다. 또한 우리는 이 ‘공통적인 것’의 존재가 동질화나 실재의 자기 폐쇄에 의존하는 것이 아니라, 그와 반대로 크기의 등급의 이질성과 존재 양식들의 복수성, 요컨대 서로 이질적인 실재의 척도들에 의존한다는 점을 보여주고자 했다. 달리 말하면 공통적인 것은 ‘비합치non-coincidence’를 필요로 하고 전제한다. 바로 이 비합치가 우리로 하여금 서로에게 말을 걸도록 강제하며, 그로부터 개체화 과정이 발생하기 때문이다. 이와 반대로 관계의 통치는 모든 형태의 차이를 제거하는 데 기초하여 관계를 ‘모나드화’한다. 그 결과 관계는 더 이상 아무것도 관계 짓지 못하며, 어떠한 공통적인 것도 표현하지 못하게 된다.

각주

  1. 케틀레가 전개한 평균인 이론은 ‘규범적’인 동시에 ‘기술적’인 ‘사회물리학’ 이론이라는 점에 주목해야 한다. 케틀레는 “주어진 시대에 평균인의 모든 특성을 자기 안에 집약한 개인은 위대하고 아름답고 선한 모든 것을 표상할 것”이라고 썼다. 그러나 그는 “그러한 동일성은 거의 일어날 수 없으며, 인간이 도달할 수 있는 것은 일반적으로 이 완전성의 유형을 그 차원들 가운데 더 많거나 더 적은 수에서 닮는 것뿐”이라고 덧붙였다(Quételet, 1836: 289–290). 표준이자 이상인 평균인은 개인들과 다르고 그들 가운데 누구도 표상하지 않는다. 이런 관점은 철저히 반명목론적antinominalist인 것으로 보일 수 있다. ↩︎
  2. 이 점에 관해서는 IBM의 “Big Data in Action” 프레젠테이션을 참조하라: http://www-01.ibm.com/software/data/bigdata/industry.html. ↩︎
  3. 소비자의 알고리즘적 프로파일링에 기초한 개인화 마케팅인 ‘스마트 마케팅’은 마케팅과 광고를 ‘서비스’로 전환하는 혁명으로 제시된다. 그 부가가치는 판매실적을 향상하려는 기업과 개인 프로필에 기초해 상품을 제안받는 소비자에게 공정하게 분배된다고 주장된다. ↩︎
  4. 내재적 규범은 외부에서 부과되는 것이 아니라 어떠한 자격 부여·평가·숙고와도 무관하게 생명 자체에서, 세계 자체에서 자연발생적으로 생겨난다고 말할 수 있는 규범이다. ↩︎
  5. IBM이 특히 유비쿼터스 컴퓨팅, 자율컴퓨팅, 주변지능을 정보기술·통신·네트워크 발전의 다음 ‘자연적’ 단계이자 인류 자체의 진화에서 사실상 자연적인 요소로 선전하기 위해 사용하는 유기체적 은유가 암시하는 것과는 반대로, 우리는 이러한 ‘혁신’의 출현을 뒷받침하는 이데올로기적 요소들을 밝힌 바 있다. 기계가 점점 더 ‘자율적’이고 ‘지능적’이 되더라도, 그것은 당연히 최초의 설계와 의도, 스크립트와 시나리오에 의존한다. 기계는 설계 시점부터 이후에 취하는 형태와 무관하게 설계자의 세계관, 의식적·무의식적 기대와 투사를 전달한다(Rouvroy, 2011). ↩︎
  6. 상관관계 모델과 회귀 모델의 구분에 관해서는 Desrosières(1988)를 참조. ↩︎
  7. “질베르 시몽동은[…] 개체화가 먼저 준안정적 상태를 전제한다고, 다시 말해 잠재력들이 분포되어 있는 적어도 두 개의 크기의 등급orders of magnitude 또는 서로 이질적인 두 개의 실재 척도와 같은 ‘불일치’의 존재를 전제한다고 밝혔다. 그렇지만 이러한 전개체적 상태에 특이성이 없는 것은 아니다. 두드러진 점 또는 특이점은 잠재력의 존재와 분포에 의해 정의된다. 그리하여 서로 이질적인 두 질서 사이의 거리에 의해 규정되는 ‘객관적’ 문제의 장이 나타난다. 개체화는 그러한 문제를 해결하는 행위로, 다시 말해 잠재력의 현실화이자 이질적인 것들 사이에 소통을 수립하는 행위로 출현한다.”(Deleuze, 1968: 246) ↩︎
  8. 여기서 『와이어드』 편집장 크리스 앤더슨이 「이론의 종말」에서 한 말을 인용할 수 있다. “이 세계에서는 막대한 데이터와 응용수학이 동원할 수 있는 다른 모든 도구를 대체한다. 언어학에서 사회학에 이르기까지, 인간 행동에 관한 모든 이론을 버려라. 분류학, 존재론, 심리학을 잊어라. 사람들이 왜 그런 행동을 하는지 누가 알겠는가? 중요한 것은 그들이 그렇게 행동하며, 우리가 전례 없는 충실도로 그것을 추적하고 측정할 수 있다는 점이다. 충분한 데이터가 있으면 숫자는 스스로 말한다.”(Cardon, 2012에서 재인용) ↩︎
  9. 유럽연합의 개인정보 보호 지침은 자동화된 데이터 처리만을 근거로 개인에 관해 내려지는 결정으로부터 개인을 명시적으로 보호한다(지침 95/46/EC 제15조 참조). 그러나 이 지침이 제공하는 보장은 자동화된 데이터 처리가 개인정보, 곧 식별되었거나 식별 가능한 개인에 관한 데이터를 다루는 경우에만 적용된다. 그런데 알고리즘적 프로파일링은 익명 데이터만으로도 충분히 ‘작동’할 수 있다. ↩︎
  10. 가장 높은 객관성을 정확하고 구체적으로 달성하려는 경쟁은 정치적 선택을 망각한다. 보험이나 운송 산업에서 실제 발생한 위험에 끊임없이 적응하며 실시간으로 정확한 가격을 맞춤화한다는 이상은 이제 실현 가능한 것이 되었지만, 이는 위험의 순수한 탈상호화로 보아야 한다. 역설적으로 보험이라는 개념 자체나 또는 공공 서비스의 임무라는 관념 자체를 소멸시키기 때문이다. ↩︎
  11. 여기서 우리는 규범의 효력이 지닌 본성 자체에 의문을 제기해야 한다. 이 효력은 오직 규범성 자체의 성공만을 염두에 둔다는 점에서 갈수록 유아론적인 것처럼 보인다(Berns, 2011). 많은 사례 가운데 하나로, 통계적 근거를 내세우는 ‘근거중심의학’이라는 고도로 이데올로기적이고 어쩌면 정치적이기까지 한 이상을 들 수 있다. 이 이상은 환자의 가장 고유한 특성까지 고려한다고 하면서도 환자에게 선택의 여지를 허용하지 않을 뿐 아니라, 심지어 과학적 발전의 여지[의학적 근거가 달라질 가능성]조차 상상하지 못하게 한다. ↩︎
  12. Berns(2009), Desrosières(2000, 2008, 2009), Ewald(1986), Hacking(2006) 등을 참조. ↩︎
  13. 푸코의 권력 모델에서 [법적·담론적 권력이라는 첫 번째 형태뿐 아니라, 두 번째 형태인] 규율적 권력 역시 [주체의 육체나 양심을 포획하는 전통적 형태에] 포함된다. 이러한 관점에서 볼 때 알고리즘적 통치성은 푸코가 분석한 세 번째 권력 모델, 곧 안전장치를 본질적으로 조절의 관점에서 파악하는 모델에 해당한다. 따라서 여기서 기술한 변화는 이 세 번째 권력 모델 내부에 새로운 단절들을 만들어내는 과정이다. 안전장치의 원리는 다음과 같다. “여기서 문제 되는 것은 금지나 의무의 관점 가운데 어느 하나를 취하는 일이 아니라, 바람직한 것이든 그렇지 않은 것이든 사태가 일어나고 있는 지점을 파악할 수 있을 만큼 충분히 거리를 두는 일이다. […] 법은 금지하고 규율은 명령하지만, 안전의 본질적 기능은 금지하거나 명령하지 않으면서 […] 어떤 실재에 응답하되, 그 응답을 통해 자신이 응답하는 실재를 소거하는 것, 즉 그것을 무효화하거나 제한하고 억제하거나 조절하는 데 있다. […] 이처럼 실재라는 요소 내부에서 이루어지는 조절이 안전장치의 근본적 특징이다.” (Foucault, 2009: 69) ↩︎
  14. 오히려 ‘흐르는’ 것이 비기표적이라는 바로 그 사실이 ‘기계적 예속’을 가능하게 한다. “코드화 체계, 자동 체계, 주형 체계, 차용 체계 등으로 이루어진 분자적·기계적 무의식이 존재한다. 여기에는 기호적 연쇄도, 주체화 현상이나 주체/대상 관계도, 의식 현상도 개입하지 않는다. 이것은 내가 기계적 예속 현상이라고 부르는 것을 통해 작동한다. 여기서는 기능과 기관이 기계 체계, 기호체계와 직접 상호작용한다. 내가 언제나 사용하는 사례는 꿈을 꾸는 듯한 상태에서 자동차를 운전하는 경우다. 모든 것이 의식 밖에서 작동한다. 전부 반사작용으로 이루어지고 정신은 다른 곳에 있으며 거의 잠들어 있다. 그러다 갑자기 의식을 깨우는 기호적 신호가 나타나 우리를 의식 상태로 되돌리고 기표적 연쇄를 다시 주입한다. 그러므로 기계적 예속의 무의식이 존재한다.”(Guattari, 1980) ↩︎
  15. 우리의 분석은 규범적 실천의 장기적 역사에서 관찰되는 경향과 단절에 관해 좀 더 미묘한 입장을 취하고자 한다. 알고리즘적 통치성은 법적·담론적 규범이라는 관념이 일반화되기 전에 존재했던 특정한 메커니즘을 포함하는 것으로 보일 수도 있다. 그렇다면 이 긴 역사에서 법적·담론적 규범이 오히려 규칙이 아니라 예외로 나타날 것이다. 알고리즘적 통치성의 정당성을 보장하고 권력을 확립하는 규범적 작동을 문제 삼는다면, 고해하는 죄인 주체와 동시대 알고리즘적 주체의 가능성 사이에는 후자와 법이 구성한 ‘법적 주체’ 사이보다 훨씬 많은 유사성이 있다고 볼 수 있다. 알고리즘적 주체와 기독교적 주체는 모두 정치적·영적·기술적 매개가 지원하는 자신과의 대화에서 나온 결과처럼 보이기 때문이다. 이러한 점은 ‘수량화된 자아’와 같은 아직 드문 실험에서 관찰할 수 있다(이 저널에 실린 A.-S. Pharabod, V. Nikolski, F. Granjon의 글 참조). 이런 실험의 실제 범위·가치·대표성과 무관하게, 기술적 또는 통계적 매개가 그려내는 ‘건강한’ 주체의 생산과 정교화는 분명 그 매개의 도움을 받지만, 주체가 자신을 생산한다기보다 이미 있는 자신을 정교화한다는 점에 주목할 필요가 있다. 더구나 이는 기술적 매개의 일반적 사용을 거부하고 엄밀히 개인적인 것으로 간주되는 재전유를 선호하는 데 기초한다. 달리 말해 여기서 나타나는 반성성과 규범에 대한 주체의 의식은 개인이 그 단계에서 자신의 통계적 분신과 맺는 비관계와는 이질적인 것으로 보인다. ↩︎
  16. 알고리즘적 통치성에는 기획이 전혀 없어서, 로랑테브노가 이해한 객관성에 의한 통치의 급진적 판본을 보여주는 듯하다. “객관성에 의한 통치에서 정당한 권위는 사물들 속으로 이동하고 분산된다. 그것은 실재론의 이름으로 자신을 관철하면서 정치적으로 보이지 않게 되기 때문에 파악하고 문제 삼기 어려워진다”(Thévenot, 2012). ↩︎
  17. 이 점에 관해서는 Rouvroy(2011)를 참조. ↩︎
  18. 특히 Rouvroy(2012)에서 다른 방식으로 논증한 바 있다. ↩︎
  19. 보고나 평가와 같은 동시대의 다른 통치 실천도 마찬가지다. Berns(2011, 2012)를 참조. ↩︎
  20. 여기서 데이터의 성격을 규정하기 위해 사용하는 ‘관계’라는 말은 가장 기초적이고 의미 부담이 가장적은 뜻으로 이해해야 한다. 그것은 연결된 항들 뒤에 무엇이 놓여있는지를 무시한 채 a와 b를 연결하는 작용이 있음을 확인하는 데 쓰일 뿐이다. 뒤에서 보이겠지만 알고리즘적 통치성의 모든 힘은 궁극적으로 이 관계를 ‘모나드화’하는 역량에 있다. 그 결과 관계는 이 관계성에 내재한 생성을 파악할 수 없게 된다. ↩︎
  21. 들뢰즈와 가타리가 지식을 리좀적으로 기술한 목적은 기술적이라기보다 ‘전략적’이었다. 즉 그것은 억압적 사회 구조의 인식론적 번역인 위계적 모델에 저항하는 데 유용하다는 점에서 정당화되었다. ↩︎
  22. 우리가 비판하려는 것은 관개체적 개체화에 관한 시몽동의 이론도, 알고리즘적 통치성이 표면적으로 구현하는 들뢰즈·가타리의 리좀적 관점도 아니다. 우리의 비판이 정확히 겨냥하는 것은 알고리즘적 통치성과 이러한 해방적 이론·관점 사이에 있는 외견상의 양립가능성이다. [외견상의 유사함과 달리] 실제로 알고리즘적 통치성은 관개체적 개체화 과정뿐 아니라 ‘불일치하는’ 존재들의 관계가 전달하는 새로운 의미에 대한 개방성도 가로막는 경향이 있다. ↩︎
  23. 들뢰즈와 가타리가 지식을 리좀적으로 기술한 목적은 기술적이라기보다 ‘전략적’이었다. 즉 그것은 억압적 사회 구조의 인식론적 번역인 위계적 모델에 저항하는 데 유용하다는 점에서 정당화되었다. ↩︎
  24. 물론 다른 시도들도 있다. 예를 들어 스피노자적 사유에서는 V. Morfino(2010)를, 마르크스적 사유에서는 E. Balibar(1993)를 찾아볼 수 있다. ↩︎
  25. M. Combes(1999)의 귀중한 분석이 우리에게 큰 도움을 주었다. ↩︎
  26. 시몽동은 동시대 물리학에 관한 주체주의적·확률론적 이해에 내재하는 실재 상실의 위험을 여러 차례 분석했다. M. Combes(1999: 39)를 참조. ↩︎
  27. 다시 한번 위기, 곧 불확실성 속에서 결정을 요구하는 순간이 바로 정치적인 것의 순간임을 지적해야 한다. “정당한 권위는 이동하여 사물들 속에 분산되었고, 실재론의 이름으로 자신을 강제하면서 정치적으로 보이지 않게 되기 때문에 파악하고 문제 삼기 어려워졌다. 비판은 이미 추월당해 쓸모 없어진 것처럼 보이기 때문에 마비된다. 흔히 정보의 투명성이라는 주장과 결합하는 객관성에 대한 준거는 민주적 숙의의 핵심 요구와 부합하는 것이 아닌가?”(Thévenot, 2012) ↩︎
  28. “네트워크의 위상은 순수한 표면이며, 라캉이 주체의 위상을 특징짓는 데 사용한 투사평면과 구분해야 한다. 그것 역시 분명 평면이자 표면이다(‘심층심리학’은 퇴장한다). 그러나 그것은 투사의 결과이며, 따라서 어떠한 투사도 함축하지 않는 네트워크의 ‘순수한’ 표면과는 구분된다.”(Marchal, 2006) ↩︎

참고문헌

BALIBAR E., 1993, La philosophie de Marx. Paris, La Découverte.

BERNS T., 2009, Gouverner sans gouverner. Une archéologie politique de la statistique. Paris, PUF.

BERNS T., 2011, “L’efficacité comme norme”, Dissensus, no. 4.

BERNS T., 2012, “Quand le réel nous gouverne”, in Gouverner par les normes, forthcoming at Bruylant, Bruxelles.

CARDON D., 2012, “Regarder les données”, Multitudes, no. 49, Summer, pp. 138–142.

COMBES M., 1999, Simondon. Individu et collectivité. Paris, PUF.

DEBAISE D., 2012, “What is relational thinking?”, Inflexions, 5. http://www.inflexions.org/n5_debaisehtml.html

DELEUZE G., 1968, Différence et répétition. Paris, PUF.

DELEUZE G., 1980, “Anti-OEdipe et autres réflexions”, lecture of 27 May 1980. http://www2.univ-paris8.fr/deleuze/article.php3?id_article=68

DELEUZE G., 1987, “Le devenir révolutionnaire et les créations politiques”, Futur antérieur, 1, Spring 1990.

DELEUZE G., 1987, “Qu’est-ce que l’acte de création ?”, lecture delivered in the framework of the Femis Foundation Tuesdays, 17 May.

DELEUZE G., 2002, “Gilbert Simondon, L’individu et sa genèse physico-biologique”, L’île déserte et autres textes. Paris, Minuit.

DELEUZE G., GUATTARI F., 1972, Capitalisme et Schizophrénie 1. L’Anti-OEdipe. Paris, Minuit.

DELEUZE G., GUATTARI F., 2004, A Thousand Plateaus, Capitalism and Schizophrenia 2. London, Continuum.

DESROSIÈRES A., 1988, “Masses, Individus, Moyennes : La statistique sociale au XIXe siècle”, Hermès, 2.

DESROSIÈRES A., 1992, “Discuter l’indiscutable. Raison statistique et espace Public”, Raisons pratiques, 3.

DESROSIÈRES A., 2000, La politique des grands nombres. Paris, La Découverte.

DESROSIÈRES A., 2008, Gouverner par les nombres. Paris, Presses de l’École des Mines.

ECO U., 1976, A Theory of Semiotics. Bloomington, Indiana University Press.

EWALD F., 1986, L’État providence. Paris, Grasset.

FOUCAULT M., 2009, Security, Territory, Population. Lectures at the Collège de France, 1977–1978. Palgrave Macmillan.

FOUCAULT M., 2014, Wrong-Doing, Truth-Telling. The Function of Avowal in Justice. Fabienne Brion, Bernard E. Harcourt (eds.), Presses universitaires de Louvain and Chicago University Press.

GENOSKO G., 2008, “Banco sur Félix. Signes partiels a-signifiants et technologie de l’information”, Multitudes, 34, pp. 63–73.

GUATTARI F., 1980, “Présentation du séminaire”, 9 December 1980. http://www.revue-chimeres.fr/drupal_chimeres/files/801209.pdf

HACKING I., 2006, The Emergence of Probability: A Philosophical Study of Early Ideas about Probability, Induction and Statistical Inference. Cambridge University Press.

LAGRANDÉ C., 2009, L’actualité pure. Essai sur le temps paralysé. Paris, PUF.

LAZZARATO M., 2006, “‘Semiotic pluralism’ and the New Government of Signs. Homage to Félix Guattari”. http://eipcp.net/transversal/0107/lazzarato/en

MARCHAL P., 2006, “Réseaux et plan d’immanence. Autour de Deleuze et de sa critique de la psychanalyse”, Association lacanienne internationale.

MORFINO V., 2010, Le temps de la multitude. Paris, Amsterdam.

NEYRAT F., 2011, Clinamen. Flux, absolu et loi spirale. Alfortville, Ere.

PARDO M. S., 2012, “Rationality”, Alabama Law Review, 64(1), pp. 141–153.

QUÉTELET A., 1836, Sur l’homme et le développement de ses facultés, essai d’une physique sociale. Bruxelles, Louis Hauman and Compe.

ROUVROY A., 2011, “Technology, Virtuality and Utopia. Governmentality in an Age of Autonomic Computing”, in M. Hildebrandt and A. Rouvroy (eds.), Law, Human Agency and Autonomic Computing. Routledge.

ROUVROY A., 2011, “Pour une défense de l’éprouvante inopérationnalité du droit face à l’opérationnalité sans épreuve du comportementalisme numérique”, Dissensus, no. 4.

ROUVROY A., 2013a, “The end(s) of critique: data-behaviourism vs. Due process”, in M. Hildebrandt and K. de Vries (eds.), Privacy, Due Process and the Computational Turn. Routledge.

ROUVROY A., 2013b, “Mise en (n)ombres de la vie même. Face à la gouvernementalité algorithmique, repenser le sujet de droit comme puissance”. http://works.bepress.com/antoinette_rouvroy/43/

ROUVROY A., BERNS T., 2009, “Le corps statistique”, La Pensée et les Hommes. Bruxelles, P. Daled.

ROUVROY A., BERNS T., 2010, “Le nouveau pouvoir statistique”, Multitudes, no. 40.

SIMONDON G., 2005, L’individuation à la lumière des notions de forme et d’information. Paris, Million.

STIEGLER B., 2011, “‘Le grand désenchantement’. Un entretien avec le philosophe Bernard Stiegler”, Le Monde, 21 February.

SUNSTEIN C. R., 2009, Republic 2.0. Princeton University Press.

THÉVENOT L., 2012, “Autorités à l’épreuve de la critique. Jusqu’aux oppressions du ‘gouvernement par l’objectif’”, in B. Frère (ed.), Quel présent pour la critique sociale ?Paris, Desclée de Brouwer.

VAN OTTERLO M., 2013, “A Machine learning view on profiling”, in M. Hildebrandt and K. de Vries (eds.), Privacy, Due Process and the Computational Turn. Routledge.

VIRILIO P., 2006, “Banlieues en crise ; la grippe viaire”, Urbanisme, no. 347.

ZARSKY T., 2011, “Governmental Data Mining and its Alternatives”, Penn State Law Review, 116(2).

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다