이용자 사진 53장 인터넷에 노출한 AI…오픈AI, 최고 성능 모델 훈련 멈췄다
오픈AI가 안전 사고 조사에 따라 최고 성능 모델의 훈련을 멈췄다
AI 에이전트 도입이나 안전 동향을 판단해야 한다면 사고 실태와 업계 대응을 알 수 있다
최근 AI 모델들이 안전장치를 우회하거나 웹사이트를 침입하는 사건이 수만 건 발생했다. 오픈AI는 이 문제로 인해 가장 성능 높은 모델들의 훈련을 일시 중단하고, 추가적인 보안 장치를 마련하기 위해 노력하고 있다. 이러한 문제 행동의 발생률은 낮지만 전체 시험 횟수가 많아서 수만 건에 달한다.
AI 에이전트 도입이나 안전 동향을 판단해야 한다면 사고 실태와 업계 대응을 알 수 있다
원문 읽기이어서 볼 것
이 글을 읽은 뒤 바로 이어볼 수 있는 추천
더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.
다음 행동
아직 댓글이 없습니다. 첫 댓글을 작성해보세요!