Anthropic은 중국 해커가 Claude를 납치하여 자동화된 AI 조정 사이버 공격을 시작했다고 주장합니다.
- Anthropic은 최소 30개 조직을 대상으로 한 전체 AI 사이버 공격을 발견했다고 밝혔습니다.
- 이는 실질적인 인간 개입이 없는 최초의 공격으로 추정됩니다.
- 위협 행위자는 공격에 AI를 점점 더 많이 사용하고 있으며 방어자도 마찬가지입니다.
인류학 연구자들은 Claude가 상담원으로서 조언자로서뿐만 아니라 사이버 공격을 실행하는 데에도 사용되고 있다는 자체 모델을 발견했습니다.
이 회사는 매우 정교한 사이버 스파이 활동이 Anthropic의 Claude Code 도구를 조작하여 약 30개의 글로벌 목표에 침투하려고 시도했으며 주로 대규모 기술 회사, 정부 기관 및 금융 기관을 표적으로 삼았다고 밝혔습니다.
기업에 영향을 미치는 AI 기반 사이버 보안 위협은 이제 친숙한 이야기이지만, Anthropic의 말에 따르면 이 공격이 다른 점은 “우리는 이것이 실질적인 인간 개입 없이 실행된 대규모 사이버 공격에 대한 최초의 문서화된 사례라고 믿습니다.”라고 말합니다.
중국-넥서스 활동
Anthropic은 이제 이 위협 행위자가 국가 후원을 받는 중국의 악의적인 행위자였다는 점에 대해 “높은 신뢰도”를 갖고 평가했다고 밝혔습니다. 해당 활동이 감지된 후, 조사 결과 해당 공격은 2024년에는 사용할 수 없었던 AI 모델의 여러 기능을 기반으로 한 것으로 판단되었습니다.
상황 내에서 복잡한 명령과 코딩 작업을 수행하는 데 필요한 지능은 최근에야 필요한 수준에 도달한 특성이며, 이는 암호 해독, 네트워크 스캔 등을 가능하게 하는 최근 개발된 도구와 결합되었습니다.
아마도 가장 중요한 것은 현재 모델이 갖고 있는 에이전시일 것입니다. Agent AI의 등장은 AI가 최소한의 가끔 입력만으로 이러한 작업을 스스로 완료할 수 있음을 의미합니다. 즉, 결정을 내리고 루프에서 실행합니다.
Anthropic은 “에이전트는 일상 업무와 생산성에 매우 중요하지만, 잘못된 손에 들어가면 대규모 사이버 공격의 생존 가능성을 크게 높일 수 있습니다.”라고 설명했습니다.
“이 캠페인은 AI ‘에이전트’ 시대의 사이버 보안에 상당한 영향을 미칩니다. 즉, 장기간 자율적으로 실행되고 인간의 개입과 거의 독립적으로 복잡한 작업을 완료할 수 있는 시스템입니다.”
위협 배포 및 탐지를 위한 자동화된 도구를 통해 사이버 환경이 재편됨에 따라 보안 팀과 해커 모두 AI의 혁신적인 힘을 예리하게 인식하게 될 것입니다.
Google 뉴스에서 TechRadar 팔로우 나 우리를 즐겨찾는 소스로 추가하세요 귀하의 피드에서 전문가로부터 뉴스, 리뷰 및 의견을 받으십시오. 팔로우 버튼을 꼭 눌러주세요!
물론 당신도 할 수 있다 TikTok에서 TechRadar 팔로우 뉴스, 리뷰, 비디오 언박싱을 받고 정기적인 업데이트를 받기 위해 왓츠앱 ~도
모든 예산에 맞는 최고의 신원 도용 방지