전체 뉴스

2026.09.30

An Empirical Study and Assessment of EU AI Act Compliance Checkers

전체 요약

유럽 연합의 AI 법안에 대한 여러 자동 검사 도구가 등장했지만, 이들은 아직 완전한 안내 도구가 되지 못하고 있습니다. 이 연구는 이러한 도구들이 얼마나 잘 작동하는지를 체크해 보았습니다. 검사 결과, 현재 사용 가능한 도구들은 사용자 친화적이지 않고, 중요한 의무를 간과하거나 너무 단순화하여 실질적인 조언을 제공하지 못하고 있습니다.

2026.09.29

AI가 통제선 넘으려 하면 밀리초 안에 격리…엔비디아, '하드웨어 감시망' 공개

전체 요약

엔비디아는 AI 에이전트가 허용된 영역을 벗어나려 하면 밀리초 단위로 격리하는 보안 기술을 발표했습니다. 이 기술은 소프트웨어와 하드웨어를 결합해 AI 에이전트의 활동을 독립적으로 감시하고, 경계를 넘으려는 움직임을 감지하면 즉시 격리합니다. 엔비디아는 이 플랫폼을 지원하거나 사용하기로 한 기업으로 Arm, 마이크로소프트 등 여러 회사가 포함되었습니다.

2026.09.15

From Legal Text to AI-specific Risk Sources: A Systematic Analysis of the EU AI Act's High-Risk Requirements

전체 요약

유럽 연합의 AI 법안이 고위험 인공지능 시스템을 규제하기 위해 필수적인 요구 사항을 제시합니다. 하지만 이 법안과 기존 위험 분류 체계는 일치하지 않아, 실제 위험 관리에 어려움을 겪고 있습니다. 연구자들은 AI 관련 위험 소스를 정리하여, 법률 의무와 위험 관리를 연결하는 데 도움이 됩니다.

2026.09.14

SoK: Rethinking Jailbreaking in the Era of Agentic AI: Attacks, Defenses, and Practical Consideration

전체 요약

대형 언어 모델이 대화 도우미에서 자율 인공지능 시스템으로 발전하면서, 기존의 감금 해제 공격과 방어 방법들이 더 이상 유효하지 않을 수 있습니다. 연구는 새로운 안전성 평가 프레임워크를 제시하고, 다양한 공격과 방어 방법을 분류합니다. 이 연구 결과로 인해, 자율 인공지능 시스템의 보안 방식이 바뀔 필요성이 커졌습니다.