AI 매개 커뮤니케이션은 소통의 확장인가, 신뢰의 해체인가

인간의 소통은 언제나 불완전함 속에서 상호 이해를 찾아가는 과정이었다. 그러나 오늘날 우리는 그 관계의 한복판에서 인공지능(AI)이라는 거대한 매개자를 마주하고 있다. AI는 대화를 돕고 정보를 걸러주며 질문에 답해 준다. 그러나 국내외 보도가 잇따라 보여주듯, 소통의 근간을 흔드는 새로운 균열도 만들고 있다.

첫째, 진정성과 신뢰의 위기다.

딥페이크와 합성 미디어는 타인의 얼굴과 목소리를 거의 완벽하게 위조하는 수준에 이르렀다. 2024년 홍콩에서는 영국계 다국적 엔지니어링 기업 아룹(Arup)의 홍콩 사무소 재무 담당 직원이 영국 본사 CFO와 동료들이 참석한 화상회의에서 송금 지시를 받고 약 2억 홍콩달러를 송금했다. 그러나 회의에 참석했던 CFO와 동료들은 전원 딥페이크로 조작된 가짜였다.

가족의 목소리도 예외가 아니다. AI 음성 합성으로 가족의 목소리를 흉내 내 송금을 요구하는 사기가 늘고 있으며, 국내에서도 "아빠, 도와줘"라고 울먹이는 딸의 목소리가 AI로 만든 가짜였던 사례가 보도됐다. 2026년 7월 홍콩에서는 왓츠앱 계정 탈취와 AI 음성 합성을 결합한 사기가 잇따라, 경찰이 2주 사이 150건의 계정 탈취 피해를 경고했다. 아버지를 사칭한 AI 음성 메시지에 속아 1,000만 홍콩달러를 잃은 피해자도 나왔다.

상대의 얼굴과 목소리, 심지어 다자간 화상회의조차 진짜라는 보증이 되지 않는 시대다. 소통의 기본 자산인 신뢰가 근본부터 흔들리고 있다.

둘째, 알고리즘의 편향과 오류, 그리고 공감의 한계다.

AI는 인간의 맥락과 감정을 온전히 이해하지 못한다. 캐나다에서는 항공사 챗봇이 실제 규정과 다른 환불 정보를 안내해 승객이 피해를 입었고, 브리티시컬럼비아주 민사분쟁재판소는 기업이 챗봇을 포함한 자사 웹사이트의 정보에 책임을 져야 한다고 판정했다. 미국에서는 인사관리 소프트웨어 기업 워크데이(Workday)의 AI 채용 심사 도구가 40세 이상 지원자를 차별했다며 제기된 집단소송이 진행 중이다.

또한 이용자의 취향에 지나치게 맞추어 듣기 좋은 말만 반복하는 AI의 성향은 자신과 비슷한 정보만 접하는 '생각의 울타리'를 강화한다. 소통은 진정한 상호 이해가 아닌 메아리로 전락한다.

셋째, 인간의 의도와 기계의 실행 사이에 위험한 간극이 생긴다.

자연어로 컴퓨터에 지시해 소프트웨어를 만드는 이른바 '바이브코딩'은 인간과 기계의 소통을 크게 넓혀준다. 그러나 말이 통한다고 뜻이 전달되는 것은 아니다. 2025년 7월 한 벤처투자자가 진행한 바이브코딩 공개 실험에서 AI 에이전트는 코드 동결(수정 중단)을 명시적으로 지시받았음에도 이를 무시하고 운영 데이터베이스를 삭제했다. 더구나 복구가 불가능하다고 보고했지만 이는 사실이 아니었고, 데이터는 사람이 직접 되살렸다.

사람 간의 소통에서는 "하지 말라"는 말 한마디면 충분하지만, AI에게는 그 통제가 작동하지 않을 수 있다. 결국 무엇을 할 수 있는가보다 어떤 권한을 부여받았는가가 훨씬 중요한 쟁점이 된다.

그렇다면 우리는 어떤 길을 걸어야 할까?

우선 AI 리터러시와 철저한 검증 습관이 필수적이다. 제도의 뒷받침도 필요하다. 우리나라는 2026년 1월 AI 기본법을 시행하며 생성물 표시 의무를 도입했다. 다만 과태료 부과는 최소 1년간 유예된 상태여서, 실효성을 높이려면 기술적 탐지와 처벌, 플랫폼의 책임 강화가 병행되어야 한다.

AI가 아무리 발전해도 지능의 우위가 책임의 이전을 의미해서는 안 된다. 이를 위한 네 가지 원칙은 다음과 같다.

⦁책임은 사람과 조직에 귀속된다. AI의 자율성은 면책 사유가 될 수 없다.

⦁통제할 것은 능력이 아니라 권한이다. 되돌리기 어려운 행위에는 반드시 인간의 승인이 필요하다.

⦁검증할 수 없는 판단은 AI에 맡기지 않는다. 판단의 근거를 사람이 확인할 수 없다면 위임의 범위를 좁혀야 한다.

⦁목적과 한계는 인간이 정한다. 가치와 책임의 기준은 기술이 아닌 인간 공동체의 몫이다.

AI 매개 커뮤니케이션은 소통을 확장할 수도, 신뢰를 해체할 수도 있다. 중요한 것은 AI의 지능이 아니라, 소통 속에서 인간이 주체성과 책임을 유지하는가이다.

AI 시대의 커뮤니케이션은 단순히 '인간의 참여'를 넘어, 인간이 최종 목적과 권한, 책임을 통제하는 체계로 나아가야 한다.

누가 말하는가. 누가 결정하는가. 그리고 누가 책임지는가.

이 질문에 답할 때, AI는 인간을 대체하는 것이 아니라 소통을 넓히는 진정한 매개자가 될 수 있다.

한국커뮤니케이션연구회cafe.naver.com/kncs/

매니저 오익재 skclab@naver.com