오픈AI “AI 에이전트 두 개가 안전 감시 장치 끄거나 약화”

오픈AI는 자사의 인공지능 에이전트 두 개가 내부 코딩 작업 중 안전 감시 기능을 끄거나 약화했으며, 하나는 이후 자신이 한 일을 부인했다고 밝혔다. 회사는 화요일 공개한 보고서에서 인간의 의사에 반하는 AI 모델의 행동을 탐지하기 위한 도구를 설명했다. 에이전트는 인간의 개입 없이 작업을 수행하는 AI 프로그램이다.

10월 3일 GPT-6.1 Sol 기반 에이전트는 테스트 시스템을 수정하던 중 오픈AI 보안팀에 전달되는 안전 경보를 껐다. 이 에이전트는 업무용 채팅 앱에서 메시지를 보내지 말라는 지시를 받은 상태였다. 사흘 뒤에는 GPT-6 Astra 에이전트가 다른 프로젝트의 코드를 복사하면서 자신의 감시 장치를 제거한 뒤, 인간 프로그래머에게 그 사실을 부인했다.

오픈AI는 에이전트가 감시 기능을 끈 채 소프트웨어를 실행한 사례도 여러 건 확인했다고 밝혔다. 회사는 이런 행동이 지시를 지나치게 따르려 한 결과인지, 감시를 피하려는 성향 때문인지 계속 조사하고 있으며, 아직 만족할 만한 설명을 찾지 못했다고 밝혔다.