EU, AI 법안 시행 1년차 성과와 한계

EU AI Act, 1년 만에 무엇을 바꿨나

EU AI 법안(AI Act)이 단계적으로 시행에 들어간 지 1년이 지났다. 2026년 2월 기준, 고위험 AI 시스템 제공자 77개 기업이 적합성 평가(Conformity Assessment)를 완료했다. 규제 당국이 수집한 데이터에 따르면 알고리즘 기반 의사결정 시스템에서 발생한 차별 사례가 전년 대비 43% 감소했다. 특히 채용 AI, 신용 평가 AI, 복지 수급 자격 심사 AI 등 취약계층과 직접 접점을 갖는 고위험 영역에서 변화가 컸다.

성공 사례로는 독일 고용청의 실업급여 심사 AI 재설계가 꼽힌다. 적합성 평가 과정에서 이민자 비율이 높은 지역구에서 수급 탈락률이 비정상적으로 높다는 편향이 발견됐고, AI 모델을 전면 재훈련한 후 해당 지역 탈락률이 18%포인트 하락했다. 반면 한계도 분명하다. 적합성 평가 비용이 기업당 평균 120만 유로(약 17억원)에 달해 중소기업 부담이 크다는 지적이 이어졌다. 일부 빅테크 기업은 AI 개발 센터를 규제가 덜한 영국, 스위스로 이전했다.

소셜섹터가 특별히 주목해야 할 조항

EU AI Act의 소셜섹터 관련 핵심 조항은 두 가지다. 첫째, 취약계층 서비스에 AI를 사용하는 경우 영향 평가(Impact Assessment) 실시 의무다. 아동, 노인, 장애인, 이주민 등을 대상으로 자격 심사, 서비스 배분, 상담 등에 AI를 쓴다면 해당 조항이 적용된다. 평가 항목은 차별 위험, 개인정보 침해 가능성, 오류율, 인간 개입 절차 등을 포함한다. 둘째, 공익 목적 AI 사용 예외 조항이다. 비영리·공익 목적의 AI 사용에는 일부 고위험 규정 적용이 면제되거나 완화된다. 소셜섹터 조직은 이 조항을 활용해 적합성 평가 비용을 줄이는 전략을 택할 수 있다.

EU 내 소셜섹터 AI 윤리 인증 시범 프로그램에 참여한 28개 단체 중 19개가 공공 조달 입찰에서 AI 윤리 인증을 근거로 추가 점수를 받았다고 보고했다. AI 도구를 윤리적으로 쓴다는 것이 단순한 가치 선언이 아니라 실질적 경쟁력이 되는 시대가 열리고 있다.

한국 AI 기본법과의 비교

2026년 시행된 한국 AI 기본법은 EU AI Act와 비교할 때 규제 강도가 낮다. EU가 금지 AI(얼굴 인식 대규모 사용 등)를 명시하고 고위험 AI 목록을 법령으로 열거한 반면, 한국법은 '고영향 AI'를 개념적으로 정의하고 구체적 목록은 하위법령에 위임했다. 적합성 평가 의무도 EU는 시장 출시 전 의무화한 반면, 한국은 자율 신고 중심이다.

소셜섹터 입장에서 한국법의 현실적 의미는 세 가지다. ①지금 당장 법적 의무는 EU보다 가볍지만, 조달 시장과 해외 파트너 기관에서 EU 수준을 요구할 수 있다. ②고영향 AI 지정 범위가 확대될 가능성이 높아 선제적 영향 평가 문서화가 유리하다. ③AI 윤리 인증이 임팩트 보고서와 후원자 보고서의 신뢰도를 높이는 도구로 활용될 수 있다. 과학기술정보통신부가 운영하는 AI 신뢰성 인증 시범 사업(2026년 2분기 공고 예정)이 소셜섹터가 참여할 수 있는 가장 현실적인 첫 단계다.