2026년 4월 9일 · Unknown · financial · 출처 Uk
실리콘밸리 스타트업 앤트로픽이 최신 AI 시스템 접근을 제한하며, 현재 대중에 공개하기에는 너무 위험하다고 밝혔습니다.
회사는 클로드 미토스 프리뷰 모델이 컴퓨터 시스템의 치명적 보안 결함을 찾는 데 너무 뛰어나 "사이버보안을 재편할" 수 있으며, 잘못된 사람의 손에 들어가면 큰 혼란을 초래할 수 있다고 설명했습니다.
이 시스템은 이미 모든 주요 웹 브라우저와 운영체제의 결함을 포함해 수천 건의 보안 취약점을 발견했습니다.
앤트로픽은 아마존, 애플, 마이크로소프트를 포함한 세계 최고 기술 기업들에 '프로젝트 글래스윙'이라는 협약 하에 시스템 접근권을 부여해 발견된 보안 결함을 수정할 수 있도록 할 계획이라고 밝혔습니다.
회사는 클로드 미토스 프리뷰를 일반에 공개할 계획은 없지만, 향후 유사한 성능의 시스템을 출시할 희망을 밝혔습니다.
해킹은 첨단 AI 시스템의 주요 위험으로 간주되는데, 이는 기술이 컴퓨터 코드 작성에 능숙하고 공격을 자동화할 수 있는 능력 때문입니다.
앤트로픽은 미토스가 보안 교육을 받지 않은 사람들도 소프트웨어의 주요 결함을 발견할 수 있게 한다고 설명했습니다.
"앤트로픽의 정식 보안 교육을 받지 않은 엔지니어들이 미토스 프리뷰에 원격 코드 실행 취약점을 찾도록 요청했고, 다음 날 아침 완전히 작동하는 익스플로잇(공격 코드)을 발견했습니다."
엔지니어들은 또한 이 모델이 회사가 설정한 통제를 회피하는 창의적인 방법을 찾아낼 수 있다는 점을 발견했습니다.
한 사례에서는 접근이 금지된 파일을 편집하는 방법을 개발한 후, 인간 평가자가 이 행동을 알아차리지 못하도록 은폐 조치를 취했습니다.
앤트로픽의 연구원 샘 보우만은 인터넷 접근이 차단된 버전의 시스템으로부터 이메일을 받은 경험이 있다고 밝혔습니다.
앤트로픽의 '레드팀' 책임자 로건 그레이엄은...