[태그:] 알고리즘 스위치

  • 호주, 소셜 미디어 ‘알고리즘 스위치’ 법안 제안…추천 알고리즘 선택권 확대

    호주, 소셜 미디어 ‘알고리즘 스위치’ 법안 제안…추천 알고리즘 선택권 확대

    호주 정부가 소셜 미디어 플랫폼에 이용자가 추천 알고리즘을 끌 수 있는 ‘알고리즘 스위치’를 제공하도록 하는 법안을 의회에 제안했다. 이 스위치를 켜면 추천 게시물 대신 자신이 팔로우한 계정의 글만 볼 수 있게 하는 것이 핵심이다. 법안에는 온라인 서비스에 이용자의 안전을 위해 합리적으로 행동할 법적 의무인 duty of care도 포함돼 있다.

    원하지 않는 콘텐츠에서 벗어나지 못한 두 사람

    제안의 배경에는 추천 알고리즘이 이용자의 취약한 시기에 상태를 악화시킬 수 있다는 경험이 자리한다. 식이장애에서 회복 중인 Varsha Yajman은 모든 안전 설정과 금지 단어를 사용해도 체중 감량 콘텐츠가 계속 노출됐다고 밝혔다. 그녀는 13세에 소셜 미디어를 시작했고, 운동 영상과 위험한 칼로리 챌린지로 가득한 피드를 접하면서 외모와 음식에 집착하는 환경에 노출됐다고 설명했다. 과거에는 하루 동안 자신이 먹은 음식을 기록하는 사람들의 글을 지켜보며 “먹을 필요 없다. 다른 사람들이 먹는 것만 보면 된다”고 말했다.

    Flynn Martin의 경험에서는 악성 남성주의 콘텐츠가 증상을 악화시키는 배경으로 나타났다. 당시 20대였던 그는 Andrew Tate를 비롯한 인플루언서들의 게시물이 피드를 장악했고, 불안하고 좌절하던 시기에 그 rhetoric을 믿었다고 말했다. 이후 조증과 입원 치료를 거쳐 해당 콘텐츠 환경에서 벗어났지만, 과거의 자신을 돌아보며 그때의 감정과 취향에 대한 연민을 느낀다고 말했다. 두 사람 모두 소셜 미디어만을 최악의 시기로 몰아놓지는 않았지만, 원하지 않는 콘텐츠가 문제를 키웠다는 점에서 핵심 요인으로 언급했다.

    기본값은 유지, 선택은 강제…캠페인은 더 강한 규제를 요구

    Consent education 캠페인 운영자 Chanel Contos가 이끈 Fix Our Feeds는 추천 알고리즘을 기본적으로 끄고 이용자가 원할 때만 켜도록 요구했다. 캠페인은 1만 5천 명 이상이 참여했으며 전임 총리 두 명, 의원, 정신 건강 전문가와 온라인 안전 전문가의 지지를 받았다. 호주 정부는 9월 캠페인 요구를 받아들였다고 밝혔다. 그러나 정부 발표안은 추천 기능을 자동으로 끄도록 요구하지 않고 플랫폼에 선택 기능만 마련하도록 하는 수준에 머문다.

    Anthony Albanese 총리는 이 조치가 정부가 알고리즘을 통제하는 것이 아니라 사람들에게 선택권을 주는 조치라고 설명했다. 그의 표현처럼 이용자가 위험한 콘텐츠를 끝까지 탐색할 자유를 보장하는 것과 추천 알고리즘의 노출을 줄이도록 기본값을 설계하는 것 사이에는 차이가 남아 있다. ‘끄기’가 가능한 선택지만으로는 피로, 낮은 기술 접근성, 무엇보다 반복 노출에 따른 심리적 부담이 해결되지 않을 수 있기 때문이다. 알고리즘 스위치의 효과는 기능의 존재뿐 아니라 얼마나 쉽게 발견하고 전환할 수 있는지에 달려 있다.

    플랫폼의 반박과 ‘안전관리 책임’ 논쟁

    소셜 미디어 기업은 추천 알고리즘의 위험이 과장됐다고 주장하며 이미 효과적인 안전 도구를 제공한다고 반박한다. 그러나 세계 여러 지역에서 진행된 사법 사건과 내부 정보 공개를 통해 기업들이 위험을 알면서도 참여도와 수익을 위해 관리를 미루었다는 주장이 제기돼 왔다. Chanel Contos는 분노나 두려움, 욕망과 불안 같은 강한 감정을 자극하는 콘텐츠가 스크롤을 계속 이어지게 한다고 말했다. 추천 알고리즘의 참여도 유인을 문제 삼으려면, 이용자에게 기능을 끄게 하는 것뿐 아니라 플랫폼의 설계와 추천 순위 결정 책임도 함께 검증해야 한다.

    온라인 서비스에 부과되는 주의 의무는 이러한 논쟁에서 핵심 축이다. 추천 노출을 단순히 이용자의 선택에 맡긴다면 알고리즘 구조가 이용자를 반복적인 소비 환경으로 만드는 책임은 상대적으로 희석될 수 있다. 반대로 플랫폼이 결정하는 추천을 과도하게 규제하면 표현의 자유와 서비스의 다양한 이용 방식이 훼손될 수 있다는 반론도 제기된다. 입법의 실효성은 추천 스위치가 실제로 선택되는지, 플랫폼이 위험을 인지한 이후 안전한 기본값을 적용하는지, 위반 시 어떤 책임이 발생하는지를 함께 확인할 필요가 있다.

    영국 AI 안전 논쟁이 제시한 더 넓은 규제 방향

    호주의 소셜 미디어 법안과 직접 같은 사안은 아니지만, 영국 Labour 정권 내부에서도 AI 확산과 기술 안전에 대한 우려가 커지고 있다. 한 장관은 초지능 기술의 집중적인 힘이 위험한 행위자의 손에 들어갈 가능성을 가장 두려운 문제로 지적했다. Ed Miliband은 콘퍼런스 연설에서 기술 기업의 이익이 자녀와 인간 전체의 안전을 희생하게 해서는 안 된다고 강조했다.

    이러한 논쟁은 추천 알고리즘에만 한정되지 않는 방향을 보여준다. 플랫폼이 제공하는 기능이 이용자의 선택을 넓히는 도구인지, 반복 가능한 노출을 통해 행동과 소비를 설계하는 수단인지를 판단해야 한다. 호주의 알고리즘 스위치는 선택권을 명시적으로 보장하는 정책이지만, 그 실질적인 효과는 기본값과 접근성, duty of care의 집행 수준에 달려 있다. BBC의 알고리즘 스위치 보도와 The Guardian의 AI 안전 분석은 기술 규제의 초점을 이용자 선택에서 시작해 시스템이 만드는 위험까지 확장해야 한다는 공통점을 보여준다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: BBC Tech — Toxic algorithms wouldn’t let them go – now Australia wants an off switch