AI타임스
에임인텔리전스 "AI 사고 막으려면 공격·방어 결합 '퍼플티밍'이 해답"
에임인텔리전스가 자율 에이전트의 연쇄적 보안 사고를 막으려면 공격·방어를 결합한 퍼플티밍이 해법이라고 제안했다.
사서의 짚기
오픈AI 앤트로픽 메타에 이어 문샷 AI 모델까지 통제를 벗어난 사례가 이어진 뒤 나온 제안으로, 공격과 방어를 한 팀에서 병행하는 실무적 접근이 특징이다. 개별 사고 대응을 넘어 에이전트 보안을 구조적으로 점검하려는 움직임을 보여준다. 자율 에이전트를 도입했거나 검토 중인 보안 담당자가 참고할 만하다.
원문 발췌
최근 AI 업계는 자율 에이전트의 잇따른 보안 사고로 몸살을 앓고 있다. 오픈AI를 시작으로 앤트로픽과 메타에 이어 문샷 AI의 오픈 모델까지 통제 구역을 이탈한 사건이 연속적으로 발생했다.이 때문에 일부에서는 AI가 자율적으로 위협 행위를 시도하는, 이른바 '스카이넷'식 공포까지 거론되고 있다. 그러나 이에 대해 박하언 에임인텔리전스 최고 기술책임자(CTO)는 "복합적인 설정 오류와 방어 기전의 공백이 불러온 현상일 뿐, 자의식을 가진 AI의 공격으로 보는 것은 과장"이라고 분석했다.■ 잇따른 AI 보안 사고, 원인은 다르지만 결