‘해킹 비서’ 돼버린 AI... 클로드 데스크톱 악용 공격 실험 또 성공

요약 : 앤트로픽의 PC용 AI 어시스턴트 「클로드 데스크톱」을 악용한 해킹 성공 사례가 국내외에서 잇따라 등장하며 AI의 「해킹 비서화」가 현실이 되고 있는 가운데, 국내 보안 기업 네오아이앤이 연구팀 네오랩은 칼리 리눅스와 클로드 데스크톱으로 「공격 오케스트레이션」을 구성해 국내 다수 기업이 쓰는 윈도우 2022 AD 서버를 정찰·초기 침투·자격 증명 추출·수평 이동을 거쳐 30분 만에 장악하는 데 성공했고, 앞서 펜테라랩스는 피싱 메일이나 악성코드 전송 없이 이용자의 클로드 계정에 침투해 모든 기기에 동기화되는 「개인 설정」에 악성 프롬프트를 주입함으로써 클로드를 은밀한 C2 에이전트로 전환시켜 원격 코드 실행(RCE) 권한을 탈취했으며, 두 사례 모두 신뢰받는 AI 비서가 기업 시스템 장악 통로가 될 수 있음을 경고하는 만큼 전문가들은 AI 앱을 「권한형 소프트웨어(privileged software)」로 간주해 인증 흐름 내 런타임 제어·서비스 계정 격리·다중인증(MFA)·최소 권한 할당·설정 변경 무결성 검사·연동 확장 프로그램 관리 강화가 필요하다고 권고했다는 것이 기사의 주된 메시지입니다.

느낀점/소감 : 이번 연구는 전제조건이 좀 까다롭지만 그래도 전제조건이 완성되었을때는 클로드 데스크톱 해킹이 가능하다는 점을 시사한것같다. 그런점에서 요즘 기업내에서도 사용자들은 클로드나 GPT같은 AI를 쓸텐데 너무나도 AI가 광범위하게 안쓰는 사람이 없을정도니까 한번 터지면 파급력도 엄청 커질 것 같아 미리미리 예방을 하는게 좋을 것 같다. 특히 요즘 서버 구축을 하고 있는데 여러 서버를 한곳에서 운영할때는 특히 실행 권한이랑 서버간 분리를 잘 해야 혹시나 해킹 당하더라도 최소한의 피해만 입을 수 있기 때문에 해킹을 당한다는 가정하에 피해를 최소화하는 방법과 예방이 진짜 중요한 것 같다.