소셜섹터에서 AI에 넣지 말아야 할 정보 10가지 — 금지 데이터 경계부터 정하자

AI 도입보다 먼저 정해야 하는 금지선

소셜섹터 조직에서 생성형 AI를 쓸 때 가장 위험한 순간은 도구를 늦게 도입할 때가 아니라, 어떤 정보는 아예 넣지 않아야 하는지 합의 없이 시작할 때다. 많은 팀이 “민감한 건 조심하자” 수준에서 멈추는데, 실제 실무에서는 이 문장이 너무 모호하다. 누군가는 회의록을 넣고, 누군가는 상담 기록을 넣고, 누군가는 계약서 전문을 넣는다. 그 순간부터 판단이 개인마다 달라지고, 리스크는 팀 전체로 번진다.

그래서 작은 팀일수록 긴 규정보다 먼저 금지 데이터 10가지를 적어두는 편이 좋다. 원칙은 단순하다. 사람을 특정할 수 있는 민감정보, 외부 유출 시 신뢰를 크게 해치는 문서, 법적·계약적 책임이 직접 연결되는 원문은 기본적으로 입력 금지 또는 별도 승인 대상으로 둔다.

1. 수혜자·내담자 실명과 연락처

이름, 전화번호, 주소, 이메일, 주민등록번호, 계좌번호처럼 개인을 특정할 수 있는 정보는 가장 먼저 금지선에 넣어야 한다. 특히 소셜섹터는 상담, 복지, 사례관리, 현장지원 업무를 통해 민감한 개인 정보를 일상적으로 다룬다. 이런 정보는 요약본조차 신중해야 하며, 원문 입력은 기본적으로 피하는 편이 맞다.

2. 상담 기록과 사례관리 원문

사람의 건강, 가정사, 경제상황, 학대 경험, 심리 상태처럼 깊은 맥락이 들어 있는 상담 기록은 단순 개인정보보다 더 높은 경계가 필요하다. 실명만 지운다고 안전해지는 것도 아니다. 서술 자체만으로 특정될 수 있고, 맥락이 외부로 노출되는 순간 조직의 신뢰를 크게 해칠 수 있다.

3. 후원자·기부자 상세 정보

후원자 이름, 연락처, 후원 이력, 금액, 상담 메모, 관계 정보는 입력 금지에 가깝게 보는 편이 안전하다. 후원 커뮤니케이션은 감정적 신뢰와 직결되기 때문에, 편의보다 신중함이 우선이다. 초안 작성이 필요하다면 개인을 특정하지 않는 패턴 수준에서만 다루는 편이 낫다.

4. 계약서, MOU, 협약서 원문

계약 상대방 정보, 금액 조건, 비밀유지 조항, 책임 범위가 들어 있는 문서는 원문 입력을 피해야 한다. “검토만 해달라”는 유혹이 크지만, 계약 문서는 작은 표현 하나가 책임과 비용을 바꿀 수 있다. 꼭 검토가 필요하면 핵심 조항을 사람이 요약하고, 그 요약본을 기준으로 질문하는 편이 맞다.

5. 미공개 예산안과 인건비 세부 내역

대외 공개 전의 예산 계획, 인건비표, 내부 배분 기준, 거래 단가표는 팀 내부에서도 접근을 제한하는 경우가 많다. 이런 자료는 “조직의 판단과 협상력”이 담긴 문서이기도 하다. 요약이 필요하다면 총액 구조만 사람이 다시 적어 넣는 편이 낫다.

6. 인사 평가, 채용 면접 메모, 징계 관련 기록

직원 평가 메모, 면접 의견, 내부 징계 기록은 사람의 경력과 평판에 직접 영향을 주는 문서다. AI로 정리하고 싶은 유혹이 크지만, 판단 책임과 차별 위험이 함께 커진다. 이런 문서는 초안 정리보다 접근 통제와 기록 관리가 먼저다.

7. 외부 저작물 전문

보고서 PDF 전문, 기사 전문, 유료 교육 자료 원문, 책 챕터 전체처럼 저작권 이슈가 큰 콘텐츠는 그대로 넣지 않는 편이 맞다. 필요한 것은 전문 입력이 아니라, 인용 가능한 범위 안에서 핵심만 사람이 추린 메모다. 소셜섹터 조직도 저작권 문제에서 예외가 아니다.

8. 대외 미공개 보도자료와 발표 초안

아직 공개하지 않은 캠페인 메시지, 보도자료, 행사 발표문, 파트너 공지문은 타이밍 자체가 정보다. 도구 편의보다 공개 시점 관리가 더 중요하다. 초안 생성이 필요하면 민감 숫자와 고유명사를 지우고 구조만 잡는 쪽이 안전하다.

9. 외부 발송 직전 메시지 원문

후원 요청, 수혜자 안내, 언론 대응, 기관 제출 메일처럼 외부 신뢰에 직접 닿는 메시지는 초안 작성까지는 가능해도, 원문을 그대로 넣고 수정 없이 보내는 흐름은 피해야 한다. 특히 자동 발송과 결합되면 작은 오류가 바로 대외 사고가 된다. 외부 발송은 항상 사람 검토 후 실행이 기본이다.

10. 법적 판단이나 민감 의사결정을 대신하게 만드는 기록

누가 지원 대상이 될지, 어떤 사례를 우선 지원할지, 누굴 채용할지 같은 판단을 그대로 맡기기 위한 입력도 금지선에 가깝다. AI는 보조 도구일 수는 있지만, 책임 판단의 최종 주체가 되어서는 안 된다. 이런 영역에서는 정리보다 기준표와 승인 구조가 먼저다.

작은 팀이 바로 쓸 수 있는 금지선 메모

팀 문서에 네 줄만 먼저 적어도 실수가 크게 줄어든다. ①사람을 특정하는 민감정보 원문 금지 ②계약·예산·인사 문서 원문 금지 ③외부 저작물 전문 금지 ④외부 발송은 사람 승인 후 실행. 그 다음부터는 “예외적으로 허용할 때 누가 승인하는가”를 붙이면 된다.

생성형 AI 도입에서 가장 강한 조직은 가장 많은 도구를 쓰는 조직이 아니라, 무엇을 넣지 않을지 먼저 적어둔 조직이다. 소셜섹터에서는 이 금지선이 곧 신뢰선이다. 그래서 Level 0의 핵심도 기능 소개보다 금지 데이터 경계부터 정하는 데 있다.