"AI 안전성, 신원 관리이자 운영 거버넌스 문제"

← 피드로

[지디넷코리아]최근 발생한 오픈AI와 앤트로픽의 'AI 보안 사고'는 모두 최신 AI모델이 예상치 못한 운영 환경과 상호작용했다는 공통점을 갖고 있다. 하지만 근본적인 원인은 다르다. 이 차이는 중요한 의미를 갖는데, 두 회사 사례는 최첨단 AI 안전성이 더 이상 모델 정렬(alignment)이나 새로운 공격 능력만으로 결정되는 것이 아니라, 그러한 능력을…

원문 보기 ↗