AI가 낳은 ‘취약점 리포트’ 홍수... OWASP서 짚은 AI 버그 바운팅의 명암

요약 : OWASP 서울 챕터 5월 세미나에서 김태범 크리밋 CTO와 신현서 고려대 학생은 AI 도입으로 취약점 탐지의 진입 장벽이 무너진 반면 환각(Hallucination)으로 인한 가짜 PoC와 무분별한 리포트, 이른바 「AI 쓰레기(AI Slop)」가 메인테이너들을 피로하게 만드는 부작용이 심각해졌으며, 오픈소스 화이트박스 분석에는 「의미 단위 청크 분할」 후 저렴한 모델로 가설을 생성하고 고성능 모델로 최종 검증하는 정형화된 워크플로우가 효율적이라는 노하우를 공유하면서, 이제 보안 실무자는 단순 탐지를 넘어 쏟아지는 제보 속에서 치명적인 1%를 가려내는 「가치 판단」과 검증 시스템 전체를 조율하는 「지능형 오케스트레이터」로 체질을 개선해야 한다는 것이 기사의 주된 메시지입니다.

느낀점/소감 : AI를 사용하여 버그바운티를 할때 청크라는 개념을 사용하여 저렴한 모델에 넣어 가설을 생성하고 여기서 걸려진 후보를 고성능 모델로 최종 검증을 하여 한정된 비용으로 고효율 AI 탐지 파이프라인을 운영할 수 있는 팁을 알려줬다.