챗GPT에서 링크만 클릭했을 뿐인데... 신종 피싱 공격 ‘ChatGPhish’ 등장

요약 : 보안 기업 퍼미소 시큐리티가 챗GPT의 웹 요약 기능을 악용해 사용자를 피싱 사이트로 유인하는 「챗지피시(ChatGPhish)」 취약점을 경고했으며, 공격자들이 외부 웹사이트에 은밀한 악성 명령어를 삽입하는 「간접 프롬프트 주입(Indirect Prompt Injection)」 기법으로 AI 요약 결과에 피싱 링크를 생성시켜 금융 인증 정보와 계정 비밀번호를 탈취하는 정황이 확인되었고, 사용자가 신뢰하는 AI 답변 자체를 악용한다는 점에서 기존 이메일 피싱보다 교묘하므로 AI 개발사들은 응답 검증 필터(Validation Filter) 고도화를 추진 중이며 시스템 관리자들은 AI가 생성한 하이퍼링크의 실제 주소를 철저히 검증해야 한다는 것이 기사의 주된 메시지입니다.

느낀점/소감 : 아직도 AI는 완벽하지 않고 간접 프롬프트 취약점이 나오고 있다. 이렇기때문에 우리도 평소에 AI를 너무 신뢰하지말고 어느정도는 불확실하다는 가정을 생각하면서 조심해야할거같다.