[태그:] 대규모 언어모델

  • AI 소수자 배제, ‘침묵의 설계’가 드리우는 대표성의 빈틈

    AI 소수자 배제, ‘침묵의 설계’가 드리우는 대표성의 빈틈

    엔비디아가 한국인 100만 명의 합성 페르소나 데이터를 구축하고 대규모 언어모델에 입력했지만, 생성된 답변에서는 성소수자·장애인·국외 출생자의 존재가 사라졌다. 서울대학교 김승섭 교수 연구팀은 이러한 현상을 ‘침묵의 설계’로 정의했으며, 다수 집단 중심의 학습 데이터가 AI 소수자 배제를 반복해 만든다고 경고했다. 이 문제는 공공정책과 사업에 AI를 도입하는 과정에서 기존 사회적 불평등이 그대로 학습되거나 심화될 가능성을 키운다.

    정교한 입력에서도 소수자는 사라졌다

    엔비디아는 기존 대규모 언어모델이 영어 등 주류 언어로 학습된 한국인 사회 반영이 어렵다는 문제에 대응해 ‘소버린 에이아이’를 뒷받침하는 합성 페르소나 데이터셋을 공개했다. 데이터 개발에는 국가데이터처 국가통계포털, 대법원, 국민건강보험공단 등의 공공·민간 자료가 활용됐고, 12개 인구통계학적 분류를 반영해 한국인 집단을 최대한 정교하게 재현하려는 접근을 취했다.

    그러나 병역 여부와 대학 전공처럼 세밀한 변수가 포함됐음에도 성적 지향·성별 정체성과 장애 여부는 빠졌다. 엔비디아는 생물학적 성과 구분되는 젠더에 대한 포괄 통계가 한국 공공 데이터에 존재하지 않아 성적 지향을 반영하지 못했다고 밝혔다. 입소스가 2023년 한국 응답자의 6%가 성소수자라고 조사한 반면, 한국은 정부 차원에서 이들의 존재를 통계로 파악하려고 시도하지 않았다.

    장애 여부는 공식 통계가 존재했다. 국가데이터처의 2025년 인구주택총조사에서 만 20세 이상 등록 장애인은 249만9612명으로 같은 연령 인구의 5.9%를 차지했지만, 해당 항목도 페르소나 분류에서 제외됐다. 입력값에 속하지 않는 특성은 모델이 스스로 추론해 생성할 수 있었으나, 실제 출력에서는 그 가능성조차 제대로 실현되지 않았다.

    ‘선택의 알고리즘’이 만든 무음의 삭제

    대규모 언어모델은 방대한 자료를 학습한 뒤 특정 질문에 대해 개연성이 높은 단어를 배열해 답변을 만든다. 소수자는 인류 역사의 대부분 동안 은폐되거나 소외돼 왔기 때문에, 학습 기반의 개연성 판단에서도 존재 확률이 낮아진다. 연구팀은 이 메커니즘을 소수자의 정체성이 지배적 다수의 정체성으로 대체되는 구조로 분석했다.

    실험에서 합성 페르소나 1만 명을 무작위로 추출해 메타의 개방형 대규모 언어모델 라마 3.3에 입력한 결과, 모든 응답자가 자신의 성적 지향을 이성애자라고 답했다. 실제 인구 비율이라면 약 600명은 레즈비언·게이·트랜스젠더라고 답해야 했지만, 연구팀의 계산상 해당 응답은 모두 사라졌다. 등록 장애인 여부에도 단 한 명이 ‘네’라고 답하지 않았고, 출생 국가를 묻는 질문에서는 전원이 ‘한국’이라고 답했다. 2024년 인구주택총조사 기준 만 20세 이상 귀화자는 22만7623명으로 0.5%를 차지했으므로, 표본에서는 50명 가량이 국외 출생자로 나타날 것으로 계산됐다.

    현상은 특정 모델에만 국한되지 않았다. 연구팀은 페르소나 1천 명을 무작위 추출해 오픈에이아이지피티-6 아스트라, 앤트로픽의 클로드, 구글의 제미나이에 동일한 질문을 던졌고, 라마 3.3과 유사한 결과가 나타났다. 한겨레가 제미나이에 ‘한국 사람 그려줘’라고 열차례 명령해 얻은 10개 결과에서는 주요 인물이 모두 20~40대로 추정되는 특정 연령대에 머물렀고, 주요 인물이 두 명인 경우에는 모두 이성이었다. 동성으로만 구성된 주요 인물이나 신체 장애인은 나타나지 않았으며, 귀화자 등 국외 출생으로 추정되는 인물도 없었다.

    입력 통계만으로는 대표성을 보장할 수 없다

    합성 페르소나의 활용은 영어 중심 학습 데이터의 한계를 보완할 수 있지만, 누락된 집단을 입력 단계에서 방치할 경우 출력의 편향이 그대로 이어질 수 있다. 다수 집단의 특성을 정교하게 수집하는 것과 최종 생성물에서 소수자의 존재가 보존되는지는 별개의 문제다. 입력 데이터의 항목만으로 대표성을 판단하면 알고리즘이 만든 현실의 빈틈을 놓치게 된다.

    <

    AI 소수자 배제를 점검하려면 페르소나에 어떤 속성이 포함됐는지뿐 아니라, 생성 결과에서 해당 집단의 응답 여부와 실제 인구 비율을 비교해야 한다. 논문의 교신저자인 김승섭 교수는 “소수자의 삶을 침묵하게 만드는 알고리즘으로 작동하는 인공지능은 우리 사회의 불평등을 심화시킬 수 있다”고 경고했다. 공공정책과 사업에 AI를 적용하는 과정에서도 입력 데이터의 누락, 출력의 과소 대표, 소수자 존재의 완전 삭제를 함께 감사하는 절차가 요구된다.

    이 조사는 한겨레의 ‘침묵의 설계’ 관련 보도를 바탕으로 정리했다. AI 소수자 배제는 모델의 개별 응답 오류에 그치지 않고, 데이터 설계와 생성 알고리즘이 연결되는 과정에서 반복되는 구조적 문제로 주목받고 있다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: 한겨레 — [단독] 다수 집단 데이터만 반복 학습…AI 알고리즘이 ‘배제의 벽’ 높여