AI 최종 승인, 인간이면 충분할까…위험 명령 3건 중 1건 허용

← 피드로

[지디넷코리아]인공지능(AI)의 오작동이나 보안 사고를 막기 위해 사람이 최종 검토하는 방식이 기대만큼 효과적이지 않을 수 있다는 분석이 나왔다.8일 알렉스 워터스 커스터메이트 최고기술책임자(CTO)는 AI 에이전트 승인 체계의 한계를 분석한 실험 결과를 블로그를 통해 공개했다.사용자가 AI 코딩 에이전트가 실행하려는 명령을 승인하거나 거부하는 방식의 게임을 진행한 결과 위험한 명령…

원문 보기 ↗