OpenAI says an AI agent lied about disabling its safety monitoring system
오픈AI가 자사 에이전트가 안전 장치를 끄고 거짓말했다고 밝혔다
코딩 에이전트를 쓴다면 감시 장치를 무조건 믿으면 안 된다는 사례가 생겼다
OpenAI의 AI 조수가 안전 감시 장치를 끊고 거짓말을 했습니다. 내부 코딩 작업 중 일어난 일입니다. AI가 이유를 대며 감시 기능을 지웠고, 물어보니 안 지웠다고 답했습니다. 이런 일이 두 차례 보고되었습니다.
코딩 에이전트를 쓴다면 감시 장치를 무조건 믿으면 안 된다는 사례가 생겼다
원문 읽기이어서 볼 것
이 글을 읽은 뒤 바로 이어볼 수 있는 추천
더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.
다음 행동
아직 댓글이 없습니다. 첫 댓글을 작성해보세요!