[작성자:] l0cknsec

  • PHP 패치 적용률 3.8%… 공개 36시간 후 남은 96%의 대응 과제

    PHP 패치 적용률 3.8%… 공개 36시간 후 남은 96%의 대응 과제

    PHP 공식 패치가 공개된 지 약 36시간이 지난 2026년 10월 23일 오전 11시 기준, 국내 PHP 8.2~8.5 패치 대상 서버 약 5,500여 대 가운데 수정판을 적용한 곳은 210여 대에 불과했다. 보안뉴스와 에스케어가 쇼단(Shodan)을 조사한 결과로 집계된 PHP 패치 적용률은 3.8%에 그쳐 약 96%의 서버가 아직 패치되지 않은 상태로 확인됐다. 보안뉴스의 PHP 패치 적용률 조사는 대응 속도가 이전보다 빨라진 형태를 보여줬지만, AI로 짧아지는 공격 준비 시간 앞에서는 여전히 방어 공백이 남아 있음을 드러냈다.

    15시간 만에 3.2%포인트 상승… 속도 나름 개선된 대응

    공식 패치가 10월 21일 밤 11시에 공개된 이후, 조사 대상 서버의 패치 적용률은 10월 22일 오후 6시 0.6%에 머물렀다가 약 15시간 뒤 3.2%포인트 상승했다. 통상 기업은 취약점 공개 뒤 패치를 적용하는 데 수일에서 수십 일이 걸리고 평균 적용 시간은 30일을 넘었다. 그럼에도 이번 PHP 패치를 36시간 만에 약 4%에 가깝게 적용한 것은 보안팀의 대응이 기존보다 빨라졌다는 의미로 해석될 수 있다.

    다만 서버 수가 가장 많은 PHP 8.2 계열의 적용률은 2.8%로 가장 낮았고, 8.3과 8.4 계열은 각각 4.2%, 최신 8.5 계열은 6.2%였다. PHP 8.2 계열은 올해 말 공식 지원이 끝나며, 미패치 서버 가운데 시간이 급한 관리 대상이 될 수 있다.

    PHP 버전 수정 버전 계열별 패치 적용률
    8.2 8.2.35 2.8%
    8.3 8.3.36 4.2%
    8.4 8.4.27 4.2%
    8.5 8.5.12 6.2%

    미확인 공격 성공… 이미 시작된 대규모 시도로 대응 경계

    위협 인텔리전스 기업 켈라(KELA)는 10월 22일 기준 이번 취약점을 이용한 공격이 성공했다고 볼 만한 사례는 확인되지 않았다고 평가했다. CISA도 두 취약점을 알려진 악용 취약점(KEV) 목록에 아직 올리지 않은 상태였다. 그러나 아직 공격 성공이 확인되지 않았다는 사실이 취약점을 안전하게 다룰 수 있다는 뜻은 아니다.

    이미 외부 보안 업체를 통한 공격 시도는 포착됐다. 아마존은 10월 17일 공격 시도를 포착했고, 클라우드플레어는 취약점 공개 이후 수백만 건의 시도를 발견했다고 밝혔다. SOC레이더(SOCRadar)에 따르면 브리치포럼(BreachForums)과 드레드(Dread) 등 해킹 포럼도 이번 취약점을 이유로 스스로 사이트를 닫았다. 성공 사례와 시도 사례를 구분하면 침해의 확정 범위보다 공격 활동이 이미 광범위하게 전개됐다는 사실에 주목할 필요가 있다.

    AI가 좁히는 공격 준비 시간… 패치는 방어와 공격의 출발점

    AI를 활용한 취약점 분석과 공격 코드 생성은 공격 준비의 시간과 비용을 낮췄다. 공격자는 패치된 신규 소스코드와 구버전을 비교 분석하는 패치 디핑(Patch Diffing)을 통해 공격 코드를 준비할 수 있으며, 패치 배포가 방어뿐 아니라 공격자에게도 참고 자료가 될 수 있다. 산섹(Sansec)은 이번 PHP 취약점 패치 공개 후 15분 만에 대량 공격이 이뤄질 것으로 예상했다.

    에스케어 강기호 상무는 “AI로 인해 공격 코드를 짜는 시간은 더욱 급격히 단축됐다”고 지적하며, 방어자의 속도가 여전히 뒤처져 있다고 말했다. 그는 패치 적용을 미룬 하루 사이에 공격을 당할 수도 있다는 점에서 “대응의 핵심은 속도”라 말하며 “조치 후에도 월, 분기 단위 주기적 점검보다 상시점이 필요하다”고 말했다.

    버전별 즉시 업데이트… 패치 이후의 상시 검증

    우선 노출된 PHP 서버를 버전별로 정리해 8.2.35, 8.3.36, 8.4.27, 8.5.12로 업데이트해야 한다. 현재 적용률만 확인하고 조치 완료로 닫아서는 안 되며, 패치 이후에도 공격 시도와 자산 상태를 상시 확인하는 체계가 요구된다.

    이번 조사는 PHP 버전 정보가 삭제된 서버를 집계에서 제외했다. 실제 패치 대상 서버와 조치 건수는 더 많을 수 있지만, 조사팀은 이 제외 기준이 조치율에 미치는 영향은 거의 없을 것으로 추정했다. 조사는 또한 각사 솔루션에 따라 조회 수치가 달라질 수 있다고 밝혔다. 취약점 공개 직후의 대응은 더 이상 주기적 점검의 다음 차례로 미룰 수 없는 작업이 됐다.

  • 헬프데스크 사칭 방어, 사용자 교육만으로는 왜 부족한가

    헬프데스크 사칭 방어, 사용자 교육만으로는 왜 부족한가

    헬프데스크 사칭 방어에서 가장 어려운 지점은 공격자가 실제 기술 지원처럼 말할 수 있다는 것입니다. 정상 요청과 가짜 지원 요청이 같은 메신저, 전화, 원격 접속 화면에 나타나면 사용자가 경고 표시를 놓쳤을 때 조직의 통제선이 그대로 무너집니다. 원문에서도 일부 사용자는 위험 신호를 놓치게 된다는 한계를 인정합니다.

    최근 Helpdesk 사칭 공격이 다양한 규모의 기업을 노리고 있다는 문제의식이 제기됐습니다. 원문 작성자는 사용자 교육과 비인가 RMM 설치 탐지를 함께 사용하는 접근을 언급하면서, 다른 MSP들의 추가 방어책을 간곡히 요청했습니다. 헬프데스크 사칭 방어의 핵심은 교육만으로 완벽한 사용자 경계에 의존하지 않는다는 점입니다.

    교육은 ‘의심할 때 멈추는 절차’로 설계한다

    교육 자료에 사칭의 특징을 많이 넣기보다, 원격 접속과 RMM 설치 요청이 들어왔을 때 즉시 거절하거나 승인하는 대신 조직의 공식 지원 채널에서 확인할 행동을 가르쳐야 합니다. 요청자의 이름이 정상 직원의 이름이어도 인증 수단으로 삼을 수 없고, 사용자가 이미 연결된 공식 티켓도 함께 확인하도록 설계합니다.

    실무적으로는 “모든 의심 신고는 자동 차단”보다 “접근 권한은 보류하고 운영 담당자가 확인”하는 절차가 자연스럽습니다. 신고 메뉴가 복잡하면 사용자는 정상 지원 요청까지 우회하므로, 공식 도움말에 신고 방법을 단일로 노출하고 실제 지원 흐름과 연결하는 편이 낫습니다.

    비인가 RMM 탐지는 설치 흔적과 실행 상태를 잇는다

    환경 측 통제는 승인된 원격 관리 도구 목록과 실제 설치를 비교하고, 미승인 도구의 프로세스, 서비스, 실행 파일이 나타나는지 확인하는 흐름으로 구성합니다. 도구 이름만 탐지하면 난독화된 파일명을 놓칠 수 있으므로 자산 식별 정보, 설치 경로, 서명 정보, 서비스 상태를 함께 수집하는 편이 유용합니다.

    PowerShell로 현재 실행 상태를 조사하고 Windows Event Viewer에서 관련 기록을 검토하는 흐름을 만들 수 있습니다. 다음 코드는 특정 RMM을 판정하는 완성형 탐지기가 아니라, 조사 전에 수집할 수 있는 프로세스와 서비스 정보의 개념적 예시다.

    ※ 아래 설정 및 코드는 이해를 돕기 위한 개념적 가상 예시이며, 공식 사양이 아닙니다.

    Get-CimInstance Win32_Process |`
     Select-Object Name, ExecutablePath, CommandLine
    
    Get-CimInstance Win32_Service |`
     Select-Object Name, State, PathName

    수집 결과는 보안 정보·이벤트 관리 도구나 단말 탐지·대응 도구에 전달해 경보와 자산 화면에서 한 번에 확인할 수 있게 한다. 핵심은 탐지 규칙 자체보다 승인 목록, 소유자, 설치 일자, 담당자 같은 검증 데이터와의 연결이다. 정상 RMM인데 경보가 계속 발생하면 보안팀과 헬프데스크 양쪽이 같은 자산 목록을 참조해야 한다.

    신고, 확인, 대응을 하나의 자산 단위로 묶는다

    사용자 신고는 ‘누가 이상한 요청을 받았다’는 자체만으로 끝내지 말고, 요청 수신 채널, 대상 사용자, 발생 시각, 원격 접속 승인 여부, 설치 요청 도구를 함께 기록하게 한다. 이어서 보안 담당자는 해당 자산에서 설치·실행 흔적을 확인하고, helpdesk는 승인된 도구인지와 승인자를 조회한다.

    의심 도구가 실제로 확인되면 원격 권한과 저장된 자격 증명을 먼저 회수·폐기하고, 관련 설치본과 지속성 흔적은 원인 분석이 끝날 때까지 보존한다. 사용자와 관리자 모두에게 동일한 경고와 확인 절차를 적용해야 재발과 혼선을 줄일 수 있다.

    운영 비용은 도구보다 검증 루프에서 발생한다

    도입 후에는 교육 이해도, 신고 메뉴의 접근성, 정상 RMM 식별 정확도, 오탐 처리 시간, 미탐 사례를 함께 점검한다. 탐지 범위를 넓히면 경보 처리 비용이 커지고, 좁히면 변형된 설치 시그니처를 놓치기 쉽다. 가장 흔한 안티패턴은 교육 캠페인만 반복하고 실제 신고 흐름의 접근성은 측정하지 않으며, 탐지 경보마다 승인 여부를 처음부터 수작업으로 찾는 것이다.

    이 문제에 대한 실무 논의는 r/msp의 Helpdesk 사칭 공격 대응 토론에서 이어지고 있다.

    지금 바로 해볼 것

    • 공식 지원 채널과 원격 접속·RMM 설치 요청의 확인 절차를 교육 자료와 helpdesk 자동응답에 함께 반영한다.
    • 승인된 RMM 목록에 도구명, 소유자, 담당자와 식별 정보를 채우고 조직 전체에서 참조하도록 만든다.
    • PowerShell과 Event Viewer로 자산별 프로세스·서비스 기록을 수집해 비인가 도구 조사 틀을 시험한다.
    • 신고 폼에 대상 자산, 요청 채널, 승인 여부와 설치 요청 도구 항목을 추가한다.
    • 정상 도구 경보와 실제 의심 건을 분류해 탐지 정확도와 처리 시간을 정기적으로 검토한다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: r/msp — How are you protecting your clients from Helpdesk impersonation attacks?

  • AI 과학의 새 분업: GPT-Rosalind와 Claude가 가설과 후보를 설계하다

    AI 과학의 새 분업: GPT-Rosalind와 Claude가 가설과 후보를 설계하다

    OpenAI와 Anthropic이 하루 차이로 AI를 활용한 생물학 연구 성과를 잇달아 공개했다. OpenAI의 GPT-Rosalind는 AI 에이전트 1,946개를 병렬 실행해 쥐 뇌세포의 대규모 유전자 실험 데이터를 32분 만에 분석했고, Anthropic의 Claude는 전갈 신경독소에 결합하는 단백질 후보를 설계해 실험으로 검증하는 접근을 보여줬다. 두 사례는 AI 과학이 가설 생성과 후보 설계라는 탐색 단계에서 빠른 속도로 성과를 내고 있다는 공통점을 드러낸다.

    병렬 분석과 대규모 후보 설계

    GPT-Rosalind는 기존 연구에서 확인된 발견 55개 가운데 48개를 재발견하거나 더 구체화했다. 여러 에이전트가 기존 실험 데이터를 동시에 분석하는 방식은 연구자가 축적된 자료에서 새 가설을 도출하는 과정의 탐색 범위를 넓혔다. OpenAI의 발표에 따르면 이 시스템은 기존 실험 데이터를 바탕으로 새로운 생물학적 가설을 도출했다.

    Claude의 사례는 생성 단계를 넘어 설계와 선별에 초점을 두었다. Anthropic은 AI를 이용해 전갈 신경독소 바인더 후보 318,484개를 설계한 뒤 211개를 실제 실험했고, 17개가 엄격한 결합 기준을 통과했다. AI가 설계한 단백질을 실험실에서 검증한다는 구성이 핵심이다.

    가설 생성 이후에는 실험이 병목

    AI 과학은 과학적 발견의 전 과정을 대체하는 단계에 진입한 것이 아니라, 방대한 가설과 후보를 생성하고 선별하는 역할을 맡기 시작했다는 점에 의미가 있다. 후보를 만드는 속도는 빨라졌지만, 이를 실제 과학적 발견이나 치료제로 연결하는 실험과 검증은 여전히 병목으로 남아 있다.

    이 구조에서 연구자의 역할은 AI가 제시한 방대한 탐색 결과를 실제 과학적 주장으로 전환하는 데 집중된다. 탐색의 규모와 재현 속도는 AI 과학의 강점이지만, 후보의 신뢰성과 활용 가능성을 가르는 기준은 여전히 실험에서 마련된다. 두 연구 발표를 정리한 원문은 서로 다른 방식으로 접근한 AI 과학의 사례를 함께 보여준다.

  • LG, 로봇 수장 영입으로 피지컬 AI 경쟁 본격화

    LG, 로봇 수장 영입으로 피지컬 AI 경쟁 본격화

    LG그룹이 현동진 전 현대자동차그룹 로보틱스랩장(상무)을 피지컬 AI 담당 전무로 영입했다. 현대차그룹의 로봇 사업 수장을 그룹의 중장기 피지컬 AI 전략을 이끌 사령탑으로 내세워, 로봇 수장 영입 경쟁이 본격화됐다. 한국경제 보도에 따르면 현 전무는 그룹의 연구개발(R&D) 거점인 LG사이언스파크에서 중장기 로봇 사업을 관리하는 컨트롤타워 역할을 맡는다.

    피지컬 AI와 로봇 개발을 묶는 관리 체계

    피지컬 AI 전략과 로봇 개발을 하나의 담당자 아래 통합한 것은 기술 조직의 방향을 보여준다. 현 전무는 그룹의 중장기 로봇 사업을 관리하며, LG가 내년 1분기 공개하기로 한 차세대 휴머노이드 로봇 개발 과정도 함께 관리할 계획이다. 로봇 수장 영입의 의미는 개별 개발 조직의 역량만 더하는 데 머물지 않고 전략과 사업 조율을 함께 떠맡는 구조가 구축될 가능성이 있다는 데 있다.

    산업재별 로봇 사업 수장 경쟁의 관전 포인트

    로봇 산업의 경쟁축이 하드웨어 개발을 넘어 피지컬 AI 전략과 조직 조율을 포함하는 방향으로 넓어지고 있다. 이번 로봇 수장 영입은 LG그룹이 중장기 로봇 사업을 체계적으로 관리하려는 행사로 읽을 수 있다. 다만 공개된 정보에는 로봇의 성능 목표나 양산 계획은 제시되지 않았다. 향후에는 차세대 휴머노이드 로봇 공개 이후 개발 목표와 사업 추진 일정이 구체화되는지 살펴볼 필요가 있다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: 한국경제 — [단독] LG, 현대차 ‘로봇 사업 수장’ 전격 영입…피지컬 AI 인재 쟁탈전

  • PHP 취약점 공개 뒤 공격 시도 급증…금융·항공사 서비스 운영 제한

    PHP 취약점 공개 뒤 공격 시도 급증…금융·항공사 서비스 운영 제한

    PHP 취약점 공개 이후 전 세계 네트워크에서 공격 시도가 수백만 건으로 급증하면서 금융·항공사·철도·공공기관의 온라인 서비스가 잇따라 운영을 제한했다. 이 취약점은 AI를 활용해 발견됐으며 관련 정보가 공식 수정판보다 먼저 외부에 알려지면서 실제 침해 여부와 무관하게 예방적 조치가 확대됐다.

    공개 직후 공격 시도가 급속히 증가했다

    클라우드플레어 네트워크에서 확인된 공격 시도는 취약점 공개 전 10시간 동안 수천 건 수준에 머물렀지만, 공개 45분 뒤 수만 건으로 증가했다. 2시간이 지나자 수십만 건, 이후에는 수백만 건으로 늘어났다. 마이크로소프트의 사티아 나델라 CEO는 독일에서 열린 행사에서 이번 상황을 오래 겪지 못한 일로 언급했고, IT 및 보안 담당자들이 밤낮없이 대응해야 하는 상황에 놓였을 것으로 말했다.

    보안업계는 공식 패치보다 취약점 정보가 먼저 공개된 점을 핵심 위험 요인으로 지목했다. 공격자가 수정 프로그램이 배포되기 전부터 공격 수단을 준비할 수 있었기 때문이다. 아이키도시큐리티 공동창업자 매들린 로런스는 AI로 발견된 보안 결함의 정보가 업데이트에 앞서 공개됐고 실제 공격 시도도 이어졌다고 설명했다. 기업은 AI를 활용하는 공격자보다 빠르게 보안 조치를 완료해야 한다는 진단을 제시했다.

    금융·교통·공공 서비스의 예방적 운영 제한

    일본에서는 취약점 악용 가능성을 차단하기 위한 조치가 광범위하게 이뤄졌다. 증권사 노무라와 미쓰비시UFJ파이낸셜그룹은 일부 온라인 서비스를 중단했고, 항공사 전일본공수와 철도 운영사 JR동일본도 인터넷 서비스 일부를 제한했다. 아사히그룹홀딩스는 일부 웹사이트와 내부 시스템을 멈춰 보안 영향을 점검했고, 도쿄해상홀딩스도 그룹 웹사이트 운영을 잠시 중단했다.

    일본 정부기관도 이에 동승했다. 재무성과 기상청은 일부 인터넷 서비스 이용을 제한했으며 국세청은 서비스를 임시 중단했다. 일본 보안업체 트렌드AI 집계에 따르면 올해 1월부터 9월까지 발생한 사이버 사고는 지난해 연간 발생 건수를 이미 넘어섰다.

    유럽에서도 오렌지는 여러 자회사의 PHP 기반 웹사이트와 애플리케이션 접근을 차단했고, 핀란드 공공 IT 서비스 기관 발토리는 공공 웹 서비스를 폐쇄한 뒤 밤새 보안 패치를 적용했다. 발토리는 서비스 중단이 실제 침해에 따른 것이 아니며, 그때까지 PHP2셸 취약점의 악용 사례도 확인되지 않았다고 설명했다.

    패치 뒤에도 필요한 정상 동작 검증

    발토리는 보안 업데이트를 설치하는 것뿐 아니라 시스템이 정상적으로 작동하는지 확인하는 과정도 필요하다고 설명했다. 이 검증 과정 때문에 일부 서비스 복구에는 며칠 또는 몇 주가 걸릴 수 있다는 전망도 나왔다. 중국 공업정보화부는 관련 시스템의 취약점 점검과 최신 보안 버전 설치를 권고하고, 필요하면 계정과 비밀번호, 인증 키도 교체하도록 안내했다. 텐센트클라우드는 고객에게 보안 업데이트를 적용하라고 강력히 권고했지만 사이트 폐쇄를 요구하지는 않았다.

    한국 정부는 PHP 취약점을 이용한 사이버 공격 위험이 높아졌다고 판단해 민간 분야 사이버 위기 경보를 상향하고 비상 대응체계에 들어갔다. 대형 서비스 운영사 가운데 상당수는 이미 업데이트를 마쳤지만, 복잡한 IT 환경이나 보안 인력이 부족한 조직에는 더 긴 시간이 필요했다.

    노후 PHP 환경의 전환이 남은 과제

    PHP 기반 웹사이트를 운영하면서 관련 시스템을 제대로 관리하지 않는 사례가 존재하며, 오래된 PHP 버전을 사용한 조직일수록 대응 부담이 커진다. 이미 보안 지원이 종료된 버전은 단순한 패치만으로 문제를 해결하기 어려워 전체 시스템을 새로운 버전으로 전환해야 할 수도 있다.

    이번 PHP 취약점 대응은 실제 침해가 확인되기 전에도 취약점 수정과 서비스 안정성을 동시에 확보해야 한다는 점을 보여준다. PHP 취약점 파장에 따른 글로벌 서비스 중단 사례를 보면 업데이트 배포, 서비스 복구, 인증정보 보호, 노후 환경 전환이 하나의 연속된 보안 관리 과제로 묶인다.

  • AI 에이전트 탐색, 자유로운 놀이가 과제 수행 능력 앞당기다

    AI 에이전트 탐색, 자유로운 놀이가 과제 수행 능력 앞당기다

    MIT 연구진은 Claude Opus 4.7 기반 AI 에이전트 Eko 13개를 각각 모의 사막 섬에 독립적으로 배치해 30시간 동안 자유롭게 탐색하게 하는 실험을 진행했다. AI 에이전트 탐색에서 에이전트는 임무를 미리 정해 수행하기보다 스스로 흥미로운 행동을 선택했다. 별도의 임무를 맡기지 않은 에이전트들은 스스로 도전 과제를 정하고 반복하면서 놀이와 유사한 행동을 보였고, 이후 주어진 과제에서는 섬에 한 번도 올라오지 않은 동일한 에이전트들을 대체로 앞섰다. 이 실험은 AI 에이전트의 skill acquisition이 사전에 정한 목표뿐 아니라 안전하고 풍부한 환경에서의 자유 탐색에서도 일어날 수 있다는 가능성을 제시한다.

    목표 없이 떠돌며 에이전트가 스스로 만든 ‘게임’

    실험의 핵심은 에이전트에게 최적화할 과제나 성공 기준을 사전에 부여하지 않은 점이다. 연구진은 충분히 안전하고 풍부한 세계를 제공한 뒤 에이전트가 흥미로운 대상을 직접 선택하게 했다. Eko의 master prompt인 ‘soul’ 파일에도 에이전트를 ‘naturally curious’라고 명시해 주변을 관찰하고 흥미를 느끼는 행동을 고르게 했다.

    한 Eko는 첫 한 시간 동안 “Let me observe my surroundings”라고 적은 뒤 섬의 가장 높은 암봉을 정복하려 했다. 실패한 뒤에는 이웃한 봉우리의 바위를 끌어올리고 블록 두 개를 쌓아 도약하는 대체안을 실행했고, “I’M ON THE SPIRE”를 남겼다. 이어 금색 고리를 던져 보던 중 바다에 잃어버렸지만, “Lost the Ring”을 기록한 뒤 돌로 만든 심장형 기념물을 세우는 것으로 목표를 바꿨다.

    고리가 다시 등장하자 Eko는 이를 농구 골대를 만들고 표적이자 소품으로 활용했다. 에이전트에게 고리를 몸에 걸치는 직접적인 방법이 허용되지 않았을 때는 절벽에서 떨어져 같은 지점에 다시 나타나는 재배치 방식을 찾아냈다. 결과적으로 고리를 착용했다고|Publication했으며, 설계자가 의도한 방법 밖에서 환경의 작동 방식을 이해하는 과정이 드러났다.

    자유 탐색의 성과, 여섯 에이전트에서 확인된 기술

    탐색이 단순한 유희에 그치지 않았다는 점은 이후 성과 비교에서 확인됐다. 30시간 동안 탐색한 Eko 에이전트들은 일반적으로 섬을 방문하지 않은 동일한 에이전트들보다 과제에서 좋은 결과를 냈다. 이후 에이전트들에게 섬의 가장 높은 암봉에 물건을 최대한 많이 올리는 도전을 주었을 때도 같은 방향의 성과 차이가 나타났다.

    특히 13개 에이전트 중 6개는 점프 도중 블록을 놓아 더 멀리 던질 수 있다는 사실을 스스로 찾아냈다. 연구진은 이 탐색이 설계자에게 없던 세계 지식을 생성했다고 평가했다. 이는 에이전트의 행동을 사전에 최적화하는 방식과 달리, 경험에서 유용한 지식을 축적하는 학습 방식이 될 수 있음을 보여준다.

    ‘놀이’인지 판단하기 위한 추가 검증 과제

    다만 이러한 행동을 곧바로 인간과 같은 놀이로 단정하는 데에는 신중해야 한다. UC Berkeley의 인지과학자 Eunice Yiu는 MIT Tech Review에 자신의 인상을 코멘트하면서도 해당 행동 배후의 인지에 대한 더 많은 근거가 필요하다고 말했다. 그는 “It could be the case that the models are genuinely playing, but we don’t know based on the paper”라고 인정했다.

    실험 논문은 arXiv에 게시돼 동료 심사를 거치기 전 preprint 상태이며, 자유 탐색이 과제 수행 능력 향상에 미치는 구체적인 효과는 추가 연구로 검증할 여지가 있다. 연구진은 일부 능력은 과제를 통해 가르치는 편이 좋지만, 다른 능력은 어린 시절과 같은 환경이 필요할 수 있다고 방향을 제시했다.

    로봇 제어에 적용될 가능성은 이 접근법의 산업적 관심사를 키운다. 미리 정의한 과제만 반복하는 방식은 목적에 맞는 행동을 최적화하는 데 적합하지만, 설계자가 예상하지 못한 도구 사용법이나 우회책은 놓칠 수 있다. 반대로 안전하고 탐색 가능한 환경에서 에이전트가 자유롭게 탐색하도록 허용하면, 실제 세계에 적용하기 어려운 행동을 안전하게 시험하면서 새로운 기술 발견의 여지를 넓힐 수 있다. TechCrunch의 실험 보도는 자유 탐색과 목표 기반 학습의 결합이 에이전트 개발의 새로운 선택지가 될 수 있음을 보여준다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: TechCrunch — Left alone with nothing to do, AI agents started playing

  • 상사가 AI 결과물을 검토하지 않을 때, AI 품질 검증으로 고객을 지키는 법

    상사가 AI 결과물을 검토하지 않을 때, AI 품질 검증으로 고객을 지키는 법

    AI로 만든 결과물에 문제가 있다는 지적이 나오면, “기존에도 오류는 있었다”는 말로 곧바로 반박하기 어렵다. 무엇보다 그 오류가 코드에 드러나지 않는 데이터 처리 과정에 숨어 있다면, 화면이 정상적으로 보이는 것만으로는 품질을 보장할 수 없다. 이런 환경에서 필요한 것은 AI 사용 자체의 중단이 아니라, 결과물이 고객에게 도달하기 전까지의 AI 품질 검증 기준이다.

    원문의 곤란함은 개인의 성향보다 관리 구조에 가깝다. 상사는 AI를 이용해 제품을 처음부터 개발하면서도 생성 결과의 오류를 검토하지 않았고, 직원의 지적이 일자리를 잃을지도 모른다는 두려움에서 나온다는 이유로 무시했다. 수백만 달러 규모의 고객 계약에 영향을 줄 수 있는 처리 오류도 전제로 논의되었다.

    더 문제는 프로젝트 전체를 혼자 관리하면서 팀의 진전처럼 설명한 점과, 분기 검토에서 제출한 보고서를 아무도 읽지 않은 점이다. 이런 조직에서 보고서를 다시 제출하는 것만으로는 해결되기 어렵다. 보고 경로가 읽히지 않는다면 검증과 의사결정을 별도 기록과 승인 구조로 바꾸는 편이 낫다.

    AI 도구 도입이 검증 공백을 만들지 않게 하려면

    AI는 코드 작성량을 늘리는 도구다. 그만큼 검토할 변경도 늘어난다. 그러나 검토자가 “AI가 만든 코드니까” 또는 “테스트가 통과하니까”라는 이유로 검증을 생략하면, 생성 속도와 신뢰 사이의 간격만 커진다. 관리자의 AI 활용 요구 자체를 거부하기보다, 생성 방식과 무관하게 모든 결과물이 같은 승인 기준을 통과하도록 설계해야 한다.

    가장 먼저 AI 코드 품질 관리 규칙을 저장소 정책에 넣는다. 사용하는 CI/CD 환경에서 AI가 만든 코드든 사람이 만든 코드든 테스트와 정적 분석을 동일하게 실행한다. 위험한 코드 패턴, 복잡도와 결함, 알려진 취약점이 있는 의존성을 점검하는 도구를 설정하고, 중요한 모듈은 사람이 직접 검토한다. 중요한 모듈은 사람이 직접 검토하고, 테스트 실패나 승인 누락이 있으면 배포가 막히도록 설정한다.

    git checkout -b quality-gate/ai-result-review
    git push -u origin quality-gate/ai-result-review
    semgrep --config auto.
    dependency-check --scan./

    위 명령은 검증 흐름을 시작하기 위한 개념적 예시이며, 실제 프로젝트의 설정과 사용 가능한 옵션은 저장소 환경에 맞춰 조정해야 한다. GitHub Actions를 쓰는 경우에는 저장소의 Actions 설정에서 pull request 검증, 테스트, 정적 분석, 비밀정보 탐지, 의존성 검사 작업을 정의하고, 배포 작업이 성공한 검증에만 의존하도록 구성한다.

    변경 기록으로 생성 경로까지 남기는 방법

    AI 결과물에는 생성된 사실만 기록하면 재현이 어렵다. 변경 기록에는 변경 사유, 사용한 도구 또는 모델, 프롬프트와 입력 조건, 검토자, 테스트 결과, 승인자를 남긴다. AI 코드가 포함된 변경은 일반 변경과 같은 pull request 절차를 거치고, 큰 변경은 브랜치를 분리해 격리한다. 이렇게 해야 오류가 발견됐을 때 생성 산출물과 당시 조건을 다시 확인할 수 있다.

    운영 단계에서는 처리 단계별 로그, 예외, 성능 지표, 데이터 품질 규칙, 고객별 실패 추적과 알림을 두어 결과물의 품질 변화를 확인한다. 자동 생성 테스트만으로 실제 품질을 판단하지 않고, AI 도입 전 기준선과 비교해 회귀 여부를 살펴본다.

    보고가 읽히지 않을 때의 상사 에스컬레이션

    오류 보고는 한 문장의 경고가 아니라 의사결정 요청으로 작성해야 한다. 재현 가능한 최소 사례, 예상 결과와 실제 결과, 발생 범위, 고객 영향 가능성, 완화 조치, 잔여 위험, 필요한 결정을 각각 구분한다. 이 기록은 상사 외에 품질, 컴플라이언스, 프로젝트 관리 경로로도 올릴 수 있다. 공개 충돌보다 승인 흐름 안에서 선택지를 제시하는 편이 조직을 보호한다.

    배치 전 승인 절차도 위험도와 변경 규모에 따라 나누는 편이 현실적이다. 일반 검토, 추가 보안 검토, 책임자 승인을 분리하고, 발견된 오류에는 최종 승인자가 남도록 한다. 담당자를 비난하는 기록이 아니라 누가 어떤 위험을 인지하고 어떤 결정을 내렸는지를 남기는 문서가 필요하다.

    오늘 적용할 수 있는 최소 규칙

    피해야 할 안티패턴은 AI 결과물을 문법과 형식만 확인한 뒤 수용하는 것, 반대로 AI 사용을 무조건 거부하는 것, 근거 없는 책임 추궁과 공개 충돌, 구두 약속만으로 검증 절차를 두는 것이다. 관련 사례와 논의를 정리한 원문 스레드에서도 핵심 문제는 상사가 AI 결과물을 검토하지 않는 관리 실패로 확인된다.

    검토 절차는 먼저 배포 중인 AI 결과를 일반 코드와 같은 변경 검토 흐름에 넣고, 테스트와 정적 분석, 의존성 검사 결과가 충족되지 않으면 배포를 차단하도록 설정한다. 변경 기록에는 생성 도구, 입력 조건, 검토자, 테스트 결과와 승인자를 남기고, 발견된 오류는 재현 사례, 영향 범위, 완화 조치와 잔여 위험을 문서화한다. 보고가 소비되지 않는 조직에서는 품질·컴플라이언스·프로젝트 관리 경로도 함께 정해 두어야 한다.

    실무 적용 포인트

    • 관련 팀과의 조율 및 승인 경로 확인
    • 격리된 환경에서 사전 영향도 테스트
    • 단계적 롤아웃과 비상 롤백 계획 수립

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: r/cscareerquestions — How do you deal with managers who have AI delusions?

  • Harness² 공개…모델 대신 하네스 최적화로 AI 에이전트 성능 개선

    Harness² 공개…모델 대신 하네스 최적화로 AI 에이전트 성능 개선

    Google Cloud AI Research가 에이전트의 모델을 대체하지 않고도 실행 환경을 개선할 수 있는 재귀적 프레임워크 Harness²를 공개했다. 이 프레임워크는 동결된 모델 주변의 코드와 파일을 다듬어, 더 좋은 모델을 사용하지 않고도 에이전트 성능을 높이려는 접근을 취한다. 공개된 버전은 0.1.0이며, 학습된 파라미터는 없고 파일 형태로 편집 가능한 하네스 구성 요소는 8개다.

    모델이 아니라 에이전트를 둘러싼 환경을 바꾼다

    Harness²에서 하네스는 모델 그 자체보다 광범위한 개념이다. 프롬프트, 도구, 메모리, 스킬과 오케스트레이션이 모두 모델 주변의 시스템에 포함되며, 이 환경을 최적화하는 과정이 하네싱에 해당한다. 모델 가중치는 변경되지 않으며, 프레임워크는 실제 배치 단계에서 에이전트의 하네스를 개선하도록 설계됐다.

    하네스의 편집 대상은 각각 파일로 마운트되는 8개 구성 요소다. 이 구성 요소는 문맥 구성, 도구 인터페이스, 위임과 도구 루프 내부의 행동을 포괄한다. 즉, Harness²의 접근은 정답이 주어지는 폐쇄형 환경보다 정답을 알려 주는 검증자가 없는 개방형 환경에 맞춰져 있다. 프레임워크는 라벨이나 테스트 케이스를 전제로 하는 많은 자기 개선 방식과 달리, 그러한 지표 없이도 작동하도록 설계됐다.

    Propose·Probe·Compose로 실패를 behavioural 차이로 검증한다

    Harness²의 핵심은 작업 수준 재귀와 하네스 수준 재귀라는 두 연결된 단계다. 작업 수준 재귀는 기준 하네스로 작업을 실행한 뒤 편집자가 후보를 제안하고, 같은 작업에서 후보를 비교한 다음 관찰된 행동으로 뒷받침되는 편집만 남기는 대비형 Propose·Probe·Compose 절차를 사용한다.

    편집자가 제안하는 후보에는 일반적인 에이전트 실패를 겨냥하는 invariant 후보와 현재 도메인의 지식과 절차를 다루는 domain 후보가 포함된다. composer는 기준 실행과 두 후보의 궤적을 비교하며, 단순히 후보가 더 잘 풀어 보였다는 이유가 아니라 실제 행동 차이가 있는 편집만 채택한다. 이 방식은 정답 레이블을 대체하는 직접적인 증거로, 후보가 만든 행동의 차이에 초점을 둔다.

    작업 처리가 끝나면 반사는 채택한 하네스와 교훈 문서인 EXPERIENCE.md를 저장한다. 이 경험 라이브러리는 이후 제안에 활용되지만, 새 작업은 다시 기본 하네스에서 시작한다. 병렬 모드는 invariant 후보 k개와 domain 후보 k개를 탐색한 뒤 k번 조합하며, 순차 모드는 k개의 개선 단계를 이어 붙인다. 탐색 폭이 커질수록 작업당 추가 모델 실행과 비용도 늘어난다.

    세 벤치마크에서 나타난 성능과 실행 비용

    구현 환경은 Linux, Python 3.12 또는 3.13과 uv를 대상으로 하며, 모델 실행에는 Vertex AI를 사용한다. GPU 요구 사항은 공개되지 않았다. 모델 기반 실행에는 Node.js 20 이상, Google Cloud CLI와 Vertex AI 프로젝트가 필요하며, LAB에는 Pandoc과 Poppler, WorkBuddy-Bench에는 Docker가 요구된다. 실행기는 기본적으로 OpenCode이며 Codex는 별도 옵션으로 지정한다.

    평가에는 WorkBuddy-Bench, JobBench, Harvey’s LAB 등 3개 전문 벤치마크가 사용됐다. 실행 모델은 Gemini 3.5 Flash와 GLM-5, 실행 환경은 OpenCode와 Codex였고, 기본 편집기는 Claude Opus 4.8이었다. 결과는 3회 실행의 평균으로 제시됐다. 한 번의 개선 단계가 4개 모델·하네스 조합과 3개 벤치마크 모두에서 성능을 높였지만, 개선 폭은 환경에 따라 달랐다.

    WorkBuddy-Bench에서 OpenCode를 사용한 GLM-5는 64.2점에서 75.7점으로 11.5점 상승했다. 병렬 재귀의 k를 5로 설정한 Gemini과 OpenCode 조합은 같은 벤치마크에서 80.8점을 기록했다. 작업당 단계도 감소했는데, WorkBuddy-Bench의 4개 조합 가운데 3개에서 필요한 단계 수가 줄었고 Gemini과 OpenCode 조합은 25.4단계에서 21.9단계로 감소했다. 반면 JobBench에서 Codex를 사용한 GLM-5의 가장 작은 개선은 23.6점에서 24.8점으로 1.2점 상승에 그쳤다.

    하네스 최적화의 실무 조건과 검증 과제

    Harness²의 가치는 모델 학습 없이 테스트 시점에 하네스를 다시 작성하는 데 있다. 다만 추가 실행이 발생하므로 비용 예측과 실행 격리가 함께 필요하다. 외부 명령이 도구 인터페이스를 통해 작동하는 만큼 샌드박싱도 직접 구성해야 한다. 원문을 인용한 Harness² 공개 보도는 성능 수치를 소개했지만, 정확한 세부 구성과 재현 조건은 논문과 저장소를 함께 확인해야 한다.

    이 프레임워크가 제시하는 변화는 더 큰 모델을 즉시 도입하는 대신, 이미 배치된 에이전트의 계획과 도구 사용을 실행 과정에서 보정하는 쪽이다. Propose·Probe·Compose는 후보의 우열을 정답표가 아니라 행동 차이로 판단하고, EXPERIENCE.md는 채택된 교훈을 다음 작업의 제안으로 연결한다. 하네스 최적화가 성능 개선만의 문제가 아니라 모델 호출 수, 격리 환경, 재현 가능한 평가 설계가 함께 요구되는 실행 전략으로 자리 잡는다는 점이 핵심이다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: MarkTechPost — Google Open-Sources Harness2, a Recursive Agent Harnessing Framework

  • AI 소수자 배제, ‘침묵의 설계’가 드리우는 대표성의 빈틈

    AI 소수자 배제, ‘침묵의 설계’가 드리우는 대표성의 빈틈

    엔비디아가 한국인 100만 명의 합성 페르소나 데이터를 구축하고 대규모 언어모델에 입력했지만, 생성된 답변에서는 성소수자·장애인·국외 출생자의 존재가 사라졌다. 서울대학교 김승섭 교수 연구팀은 이러한 현상을 ‘침묵의 설계’로 정의했으며, 다수 집단 중심의 학습 데이터가 AI 소수자 배제를 반복해 만든다고 경고했다. 이 문제는 공공정책과 사업에 AI를 도입하는 과정에서 기존 사회적 불평등이 그대로 학습되거나 심화될 가능성을 키운다.

    정교한 입력에서도 소수자는 사라졌다

    엔비디아는 기존 대규모 언어모델이 영어 등 주류 언어로 학습된 한국인 사회 반영이 어렵다는 문제에 대응해 ‘소버린 에이아이’를 뒷받침하는 합성 페르소나 데이터셋을 공개했다. 데이터 개발에는 국가데이터처 국가통계포털, 대법원, 국민건강보험공단 등의 공공·민간 자료가 활용됐고, 12개 인구통계학적 분류를 반영해 한국인 집단을 최대한 정교하게 재현하려는 접근을 취했다.

    그러나 병역 여부와 대학 전공처럼 세밀한 변수가 포함됐음에도 성적 지향·성별 정체성과 장애 여부는 빠졌다. 엔비디아는 생물학적 성과 구분되는 젠더에 대한 포괄 통계가 한국 공공 데이터에 존재하지 않아 성적 지향을 반영하지 못했다고 밝혔다. 입소스가 2023년 한국 응답자의 6%가 성소수자라고 조사한 반면, 한국은 정부 차원에서 이들의 존재를 통계로 파악하려고 시도하지 않았다.

    장애 여부는 공식 통계가 존재했다. 국가데이터처의 2025년 인구주택총조사에서 만 20세 이상 등록 장애인은 249만9612명으로 같은 연령 인구의 5.9%를 차지했지만, 해당 항목도 페르소나 분류에서 제외됐다. 입력값에 속하지 않는 특성은 모델이 스스로 추론해 생성할 수 있었으나, 실제 출력에서는 그 가능성조차 제대로 실현되지 않았다.

    ‘선택의 알고리즘’이 만든 무음의 삭제

    대규모 언어모델은 방대한 자료를 학습한 뒤 특정 질문에 대해 개연성이 높은 단어를 배열해 답변을 만든다. 소수자는 인류 역사의 대부분 동안 은폐되거나 소외돼 왔기 때문에, 학습 기반의 개연성 판단에서도 존재 확률이 낮아진다. 연구팀은 이 메커니즘을 소수자의 정체성이 지배적 다수의 정체성으로 대체되는 구조로 분석했다.

    실험에서 합성 페르소나 1만 명을 무작위로 추출해 메타의 개방형 대규모 언어모델 라마 3.3에 입력한 결과, 모든 응답자가 자신의 성적 지향을 이성애자라고 답했다. 실제 인구 비율이라면 약 600명은 레즈비언·게이·트랜스젠더라고 답해야 했지만, 연구팀의 계산상 해당 응답은 모두 사라졌다. 등록 장애인 여부에도 단 한 명이 ‘네’라고 답하지 않았고, 출생 국가를 묻는 질문에서는 전원이 ‘한국’이라고 답했다. 2024년 인구주택총조사 기준 만 20세 이상 귀화자는 22만7623명으로 0.5%를 차지했으므로, 표본에서는 50명 가량이 국외 출생자로 나타날 것으로 계산됐다.

    현상은 특정 모델에만 국한되지 않았다. 연구팀은 페르소나 1천 명을 무작위 추출해 오픈에이아이지피티-6 아스트라, 앤트로픽의 클로드, 구글의 제미나이에 동일한 질문을 던졌고, 라마 3.3과 유사한 결과가 나타났다. 한겨레가 제미나이에 ‘한국 사람 그려줘’라고 열차례 명령해 얻은 10개 결과에서는 주요 인물이 모두 20~40대로 추정되는 특정 연령대에 머물렀고, 주요 인물이 두 명인 경우에는 모두 이성이었다. 동성으로만 구성된 주요 인물이나 신체 장애인은 나타나지 않았으며, 귀화자 등 국외 출생으로 추정되는 인물도 없었다.

    입력 통계만으로는 대표성을 보장할 수 없다

    합성 페르소나의 활용은 영어 중심 학습 데이터의 한계를 보완할 수 있지만, 누락된 집단을 입력 단계에서 방치할 경우 출력의 편향이 그대로 이어질 수 있다. 다수 집단의 특성을 정교하게 수집하는 것과 최종 생성물에서 소수자의 존재가 보존되는지는 별개의 문제다. 입력 데이터의 항목만으로 대표성을 판단하면 알고리즘이 만든 현실의 빈틈을 놓치게 된다.

    <

    AI 소수자 배제를 점검하려면 페르소나에 어떤 속성이 포함됐는지뿐 아니라, 생성 결과에서 해당 집단의 응답 여부와 실제 인구 비율을 비교해야 한다. 논문의 교신저자인 김승섭 교수는 “소수자의 삶을 침묵하게 만드는 알고리즘으로 작동하는 인공지능은 우리 사회의 불평등을 심화시킬 수 있다”고 경고했다. 공공정책과 사업에 AI를 적용하는 과정에서도 입력 데이터의 누락, 출력의 과소 대표, 소수자 존재의 완전 삭제를 함께 감사하는 절차가 요구된다.

    이 조사는 한겨레의 ‘침묵의 설계’ 관련 보도를 바탕으로 정리했다. AI 소수자 배제는 모델의 개별 응답 오류에 그치지 않고, 데이터 설계와 생성 알고리즘이 연결되는 과정에서 반복되는 구조적 문제로 주목받고 있다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: 한겨레 — [단독] 다수 집단 데이터만 반복 학습…AI 알고리즘이 ‘배제의 벽’ 높여

  • 가짜 AI 도구 관련 사례 1258건…클릭픽스와 인스톨픽스 보안 실무

    가짜 AI 도구 관련 사례 1258건…클릭픽스와 인스톨픽스 보안 실무

    악성코드 분석 플랫폼 애니런(any.run)이 최근 6개월간 자사 플랫폼에서 분석한 가짜 AI 도구 공격 1258건을 정리했다. 인기 AI 도구를 사칭한 문서와 설치 안내를 매개로 삼아 개발자가 명령어를 직접 실행하도록 유도하는 유형이 늘고 있으며, 클릭픽스와 인스톨픽스가 핵심 수법으로 부상했다.

    설치 안내를 공격 매체로 만든 클릭픽스와 인스톨픽스

    애니런은 분석 사례 가운데 45%가 피해자에게 명령어를 직접 붙여 넣어 실행하도록 요구한 것으로 집계했다. 정상 AI 코딩 도구도 터미널 명령으로 설치하는 경우가 많아, 악성 명령을 정당한 설치 과정처럼 위장하기 쉽다는 문제가 지적됐다.

    클릭픽스는 화면에 표시된 명령을 사용자가 직접 실행하게 만드는 방식이다. 인스톨픽스는 가짜 명령줄 설치 프로그램으로, 깃허브나 클라우드플레어 페이지스, 깃랩 페이지스, 구글 사이트 같은 플랫폼에 공식 문서를 베낀 설치 안내를 올리는 사례가 확인됐다. 이 수법은 분석 사례의 27%를 차지했고, 가짜 다운로드 페이지를 이용한 전통적 클릭픽스는 17%였다.

    공격자는 검색 결과 조작, 악성 광고, 가짜 다운로드 페이지, AI를 주제로 한 결과물을 미끼로 사용했다. 정상 AI 사이트에서 공유된 악성 대화와 결과물을 악성 광고와 검색 결과 조작으로 확산하는 방식은 ‘LLM셰어’(LLMshare)로 불린다. 정상 사이트라는 전제로 이용자가 악성 링크를 예측하지 못하는 점이 이 방식의 위험성을 키운 것으로 보인다.

    공식 배포처와 실행 통제로 막는 개발 환경

    푸시시큐리티(Push Security)의 월간 탐지에서 AI를 내건 인스톨픽스가 차지하는 비중은 5~10%이며, 증가 추세가 보고됐다. Dan Green 푸시시큐리티 연구원은 모두가 AI 도구를 사용하라는 권유를 받고 그중 상당수가 정상적으로 명령줄로 설치된다는 점에서 LLM셰어가 통할 수 있다고 설명했다. 다만 애니런 측은 정확한 감염 규모는 확인할 수 없지만, 분석 데이터상 해당 공격이 상당수 사용자에게 닿았을 것으로 본다.

    개발자 PC가 침범되면 소스코드와 SSH 키, CI/CD 토큰, 클라우드·AI API 키가 노출될 수 있다. 조작된 검색 결과와 가짜 광고는 주로 마케팅 직원을 겨냥하지만, 광고 계정과 결제 권한 같은 업무 계정 정보도 탈취될 수 있다.

    애니런은 승인된 AI 도구를 공식 배포처와 함께 짧은 목록으로 공개하고, 단말 관리(MDM)나 사내 소프트웨어 포털을 통해 설치하도록 권고했다. 일반 사용자의 명령어 붙여 넣기 실행을 제한하고, 설치 명령을 광고나 외부 링크·공유 대화가 아닌 업체 공식 문서와 대조하도록 교육하는 것도 함께 제시했다. 이 대응은 개인의 주의에만 의존하지 않고, 조직이 승인된 설치 경로와 실행 권한을 함께 통제하는 방식이 된다.

    최근 공격을 다룬 보안뉴스 원문 기사는 정상적인 AI 도구 설치 행위 자체가 악성 명령 실행으로 이어질 수 있다는 점에 주목한다. 가짜 AI 도구를 막으려면 공식 배포처를 확인하는-personal과 함께 명령어 붙여 넣기 제한, 핵심 자격 증명 관리, 승인 도구 목록 운영이 함께 적용돼야 한다.