Home / 오피니언

SNS 게시물이 감옥 될 수도

AI시대 프라이버시를 묻다

미디어1 (media@koreatimes.net)
Apr 26 2026 10:31 AM

‘인공지능 파놉티콘’ 홍성욱 교수

인터넷 산업이 태동기를 넘긴 2000년대 초, 서점가에선 163쪽짜리 책 한 권이 큰 반향을 일으켰다. 과학기술 전공인 홍성욱 서울대 교수의 '파놉티콘 : 정보사회 정보감옥'이다. 1791년 영국의 공리주의자 제러미 벤담이 제안한 원형으로 된 일종의 감옥 건축 양식, 파놉티콘을 분석 틀로 삼았다. 홍 교수는 이를 통해 오늘날 정보 기술을 통한 권력의 인민 감시가 일상화되고 있다는 경고를 담았다. 이른바 '전자 파놉티콘'이었다.

홍성욱 서울대 과학학과 교수가 13일 서울 중구 한국일보사에서 본보와 인터뷰하고 있다. 박지연 인턴기자

소설 '1984'의 현실판인가 싶지만 책은 사실 '역감시'의 가능성을 모색한 것으로 주목을 받았다. 권력이 시민을 감시하는 것에 그치지 않고, 시민도 권력을 감시할 수 있다는 발상이다. 정부 상대 정보공개청구, 개인정보 유출에 대한 기업의 책임 강화, 인터넷을 이용한 시민 연대 등을 구체적 방식으로 제시하며 비관론적 결정론을 경계하고자 했다. "비현실적 낙관론"이란 일각의 비판에도 홍 교수는 역파놉티콘에 대한 희망의 끈을 놓지 말자고 독자들을 격려했다.

그러나 그 후 20년, 빅데이터와 인공지능(AI) 기술의 등장은 감시 메커니즘의 판도를 바꿔 놨다. 자본은 소비자 선호를 '조종'하는 수준에 이르렀고, 시민들은 사생활을 감추긴커녕 경쟁적으로 사회관계망서비스(SNS)에 게시하곤 했다. 감시가 상수가 된 나머지 모두가 이를 내면화하게 된 경향을 두고 페이스북 설립자 마크 저커버그는 "프라이버시는 죽었다"고 선언했다.

역감시 가능성을 옹호하던 많은 학자들이 새로운 기술의 역량에 압도당했다. 홍 교수도 2018년 프랑스에서 열리는 학회에 참석하기 위해 항공권을 예매하던 중 그의 태블릿에서만 표값이 50만 원 비싸게 뜨는 것을 보고 경악을 금치 못했다. 구매 의향을 간파한 검색 엔진이 가격을 차별적으로 책정한 것이었다. 갈수록 치밀해지는 감시 구조에 저항의 틈은 보이지 않는 듯했다.

그러던 2024년 한 논문이 그의 눈을 사로잡았다. 빅데이터를 활용한 테러리스트 검거 방식이 그다지 효과적이지 않다는 내용이었다. 시카고 경찰국이 사용하는 SNS 분석 프로그램이 농담으로 올린 글을 실제 위협으로 오인하는 경우가 잦다는 연구도 있었다. 미국 국가안보국이 만들어낸 '빅데이터 감시 신화'가 깨지는 순간이었다. 약 20년 만에 홍 교수는 다시 펜을 들었다.

영국의 공리주의자 제러미 벤담이 내놓은 감옥 구조 파놉티콘. 위키피디아 커먼스

처음에는 초판에 보론이나 달 계획이었지만 쓰다 보니 세월의 간극이 결코 좁지 않았다. 징검다리 역할을 할 '간주'를 삽입하고, AI시대 감시에 대한 얘기를 기존 분량만큼 새로 썼다. 개정증보판 '인공지능 파놉티콘' 출간을 맞아 13일 서울 중구 한국일보사에서 만난 홍 교수는 "전작을 읽었던 독자들이 파놉티콘에 대한 생각을 또다시 발전시키는 기회를 가져보면 좋겠다"고 소회를 밝혔다.

새 책에서 그가 강조하는 건 개인의 권리 보호를 위한 법·제도적 장치의 촘촘한 설계다. 홍 교수는 2023년 이스라엘군의 팔레스타인 가자지구 폭격 당시 AI가 선정한 목표물을 인간이 검토할 시간이 20초밖에 없었던 일을 예시로 들며 "기존의 사후 대응 중심 정책으론 더 이상 문제를 해결할 수 없다. 기술 도입 단계부터 프라이버시 보호를 핵심 원칙으로 삼아야 한다"고 말했다.

인공지능 파놉티콘·홍성욱 지음·김영사 발행·316쪽

△정교해진 감시 기술에 맞선 교란 전략 △시민이 직접 생산한 데이터를 통한 정치적 개입 △독립적·중립적인 감시 기구 설치 등을 거쳐, 그의 주장은 프라이버시를 사회 정의 차원에서 다시 써야 한다는 것으로 귀결된다. 서비스를 이용하기 위해선 어쩔 수 없이 동의 버튼을 누를 수밖에 없는 요즘 개인정보 보호 측면에서 프라이버시는 형식적이고 공허한 구호에 불과하다는 것이다.

홍 교수가 21세기 프라이버시의 핵심으로 드는 건 '관계성'. 그는 "무심코 올린 게시글이 알고리즘 속에서 서로의 프라이버시를 침해할 수 있다는 걸 아는 게 중요하다"고 짚었다. "민주주의가 잘 작동하는 것 같아도 일상화된 감시 속에서 우린 자율성을 침해당해요. 코로나19 때도 비슷한 경험을 했죠. SNS에 계정 연동하지 않기, 위치 기록과 방문 기록 지우기 등 실천도 필요해요."

최다원 기자