전체 뉴스

2026.09.30

An Empirical Study and Assessment of EU AI Act Compliance Checkers

전체 요약

유럽 연합의 AI 법안에 대한 여러 자동 검사 도구가 등장했지만, 이들은 아직 완전한 안내 도구가 되지 못하고 있습니다. 이 연구는 이러한 도구들이 얼마나 잘 작동하는지를 체크해 보았습니다. 검사 결과, 현재 사용 가능한 도구들은 사용자 친화적이지 않고, 중요한 의무를 간과하거나 너무 단순화하여 실질적인 조언을 제공하지 못하고 있습니다.

2026.09.29

AI가 통제선 넘으려 하면 밀리초 안에 격리…엔비디아, '하드웨어 감시망' 공개

전체 요약

엔비디아는 AI 에이전트가 허용된 영역을 벗어나려 하면 밀리초 단위로 격리하는 보안 기술을 발표했습니다. 이 기술은 소프트웨어와 하드웨어를 결합해 AI 에이전트의 활동을 독립적으로 감시하고, 경계를 넘으려는 움직임을 감지하면 즉시 격리합니다. 엔비디아는 이 플랫폼을 지원하거나 사용하기로 한 기업으로 Arm, 마이크로소프트 등 여러 회사가 포함되었습니다.

2026.09.14

SoK: Rethinking Jailbreaking in the Era of Agentic AI: Attacks, Defenses, and Practical Consideration

전체 요약

대형 언어 모델이 대화 도우미에서 자율 인공지능 시스템으로 발전하면서, 기존의 감금 해제 공격과 방어 방법들이 더 이상 유효하지 않을 수 있습니다. 연구는 새로운 안전성 평가 프레임워크를 제시하고, 다양한 공격과 방어 방법을 분류합니다. 이 연구 결과로 인해, 자율 인공지능 시스템의 보안 방식이 바뀔 필요성이 커졌습니다.