Who’s Really in Charge of AI’s Answers? Insights from Meta’s Former News Chief Campbell Brown

인공지능 시스템이 수십억 명의 사람들에게 정보를 전달하는 주요 관문으로 자리 잡으며, 근본적인 질문이 등장합니다. 바로 ‘이 시스템이 우리에게 어떤 정보를 알려주는지 누가 결정하는가?’입니다. 이 문제는 기술, 저널리즘, 민주적 참여가 교차하는 지점에 존재하며, 오늘날 가장 중대한 정보 거버넌스 과제 중 하나입니다.

전 NBC 및 CNN 기자이자 메타 글로벌 뉴스 파트너십 책임자였던 캠벨 브라운은 이 논쟁의 중심에 있습니다. 전통적인 편집 결정 구조와 소셜 미디어의 알고리즘 큐레이션을 모두 경험한 그의 시각은 AI가 기존의 편집자, 도서관, 검색엔진 역할을 대체해 나가는 흐름 속에서 더욱 주목받습니다.

AI 콘텐츠 거버넌스의 구조

AI가 생성하는 정보의 통제권을 이해하려면 여러 결정 단계와 방식에 주목해야 합니다. 오픈AI, 구글, 메타 등 거대 기술 기업들은 지식의 전례 없는 게이트키퍼로 자리합니다. 이들 대형 언어 모델은 방대한 학습 데이터, 설계, 운영 방식에 따라 결과를 결정하며, 외부의 점검이나 비판은 쉽지 않습니다.

브라운은 기존 뉴스룸의 편집 판단과 달리 AI 시스템은 편집적 결정을 코드와 데이터로 내재하는 점에 주목합니다. 즉, 기사 배치나 이슈 선정을 명확히 평가할 수 있었던 인간 편집자와 달리, 알고리즘은 그 판단 과정을 숨깁니다. 정보 유통 방식의 이 본질적 변화는 사회적 파급력이 큽니다.

내부 정책팀, 외부 자문단, 자동화된 콘텐츠 모더레이션 같은 거버넌스 장치가 마련되어 있지만, 그 실효성과 투명성은 기업마다 달라 통일된 기준 마련이 어렵습니다. 외부 자문단 역시 실제 거버넌스 권한이 부족하고, 내부팀도 대체로 비공개적으로 운영됩니다.

소셜 미디어에서의 교훈

AI 정보 거버넌스는 소셜 미디어 시대에 경험한 문제와 유사합니다. 페이스북, 인스타그램 등에서 시행된 콘텐츠 관리 시스템이 AI 환경에도 도입되고 있으나, 그 효과는 제한적입니다. 표현의 자유와 유해 콘텐츠 규제, 알고리즘 노출과 연관성 논쟁 등 기존 논쟁이 AI에서도 반복되고 있습니다.

캠벨 브라운이 메타에서 뉴스 파트너십을 총괄하며 겪었던 플랫폼, 미디어, 이용자 간의 긴장과 기대치 조율 경험은 AI 시대에서도 커다란 시사점을 줍니다.

특히 소셜 미디어는 기존 콘텐츠를 골라 노출하지만, AI 시스템은 질의에 맞춰 새로운 답변을 직접 만들어 냅니다. 그만큼 매 순간 편집적 판단을 수행하며, ‘무엇을 보여줄 것인가’를 넘어서 ‘어떤 정보를 생성할 것인가’까지 결정합니다.

투명성과 책임의 결함

가장 심각한 문제는 권한을 가진 기업들이 시스템 정보와 운영 과정을 공개하지 않는다는 점입니다. 스탠포드 HAI 등의 연구에 따르면, AI 업체들은 콘텐츠 관리 및 정책 설명에서 체계적 한계를 보이고 있습니다.

이용자는 어떤 학습 데이터가 활용되는지, 특정 답변이 왜 생성·거절되는지, 외부 압력이 어떻게 정책에 반영되는지 거의 알 길이 없습니다. 이런 불투명성은 연구자·규제기관·대중이 AI 시스템이 공익에 부합하는지 검증하는 것을 어렵게 만듭니다.

책임 문제는 투명성 부족을 넘어서, 이의 제기나 시정 절차가 부족하다는 데 있습니다. 기존 미디어는 오보 시 정정보도와 독자 의견, 규제 조사 등 대응 체계가 마련돼 있지만, AI 콘텐츠는 이런 시스템이 부재하거나 매우 제한적입니다.

공공 신뢰에 미치는 영향

AI 정보에 대한 신뢰는 편집의 중립성, 그리고 잠재적 편향 인식과 직결됩니다. AI에 정치적 또는 상업적 편향이 있다고 생각하는 사용자는 그 결과를 신뢰하지 않습니다. 하지만 ‘중립성’ 자체도 각 집단에 따라 해석이 달라 합의가 어렵습니다.

특히 AI가 검색, 고객센터, 교육 등 사회 핵심 시스템에 도입되며, 이용자들은 결과가 AI에 의해 생성된 것인지 사람이 편집한 것인지조차 알기 어렵습니다. 이는 단순한 신뢰의 문제를 넘어, 정보 질서의 근간을 위협할 수 있습니다.

향후 거버넌스 방향

이 복잡한 문제를 해결하기 위해선 다방면의 노력이 필요합니다. 규제체계는 혁신 방해 없이 실질적인 감독 권한을 갖춰야 하며, 업계 스스로는 공개적 정책 설명과 정보 공유 확대가 요구됩니다. 학계·시민사회가 독립적으로 시스템을 평가할 수 있는 접근성도 중요합니다.

브라운의 분석대로, 실질 변화는 실리콘밸리 내부 논의와 대중적 논의 간 간극을 좁힐 때 가능해집니다. 지금의 AI 정보 거버넌스 결정이 세대에 걸친 영향력을 미칠 것이기에, 상업적·기술적 기준이 아니라 사회 전체 가치가 반드시 반영되어야 합니다.

AI가 일상에 깊이 침투하는 시대, ‘누가 정보를 통제하는가’라는 문제는 이제 소수 기술자나 경영진의 전유물이 되어서는 안 됩니다. 전문가와 시민 모두의 참여와 민주적 토론이, AI 시스템을 공공의 이익에 봉사하게 하는 가장 중요한 출발점입니다.