작은 팀이 AI를 도입하기 전에 정할 네 가지

모델을 비교하기 전에 운영 기준부터 정하자

AI 도입 이야기가 나오면 대개 도구 이름부터 거론된다. ChatGPT와 Claude 중 무엇을 쓸지, 어떤 모델의 답변이 더 좋은지 비교한다.

하지만 실무 성과를 좌우하는 것은 도구보다 운영 기준이다. 어떤 업무에 사용할지, 무엇을 입력하지 않을지, 누가 결과를 확인할지 정하지 않으면 구독하는 도구만 늘고 일하는 방식은 달라지지 않는다.

작은 회사와 가게도 고객 정보, 거래처 계약서, 급여 자료, 미공개 견적과 제출 서류를 다룬다. 생성형 AI는 초안과 요약에 유용하지만, 이런 정보를 아무 기준 없이 입력하면 시간 절약보다 더 큰 문제가 생긴다.

첫 질문은 “어떤 모델이 가장 똑똑한가?”가 아니라 “우리 팀은 어떤 업무까지 맡길 것인가?”여야 한다.

도입 전에 확인할 네 가지

1. 사용 목적

AI를 쓸 업무를 구체적으로 좁힌다. 다음처럼 결과를 사람이 쉽게 확인할 수 있고 반복이 많은 업무가 첫 시험에 적합하다.

• 회의 메모를 정해진 양식으로 정리하기
• 긴 공고문에서 신청 조건과 마감일 추출하기
• 보고서 목차와 초안 만들기
• 하나의 상품 설명을 여러 SNS 형식으로 바꾸기
• 고객 문의를 주제별로 분류하기

반대로 채용 탈락, 인사 평가, 대출, 지원 대상 선정, 의료·법률 판단처럼 한 번의 오류가 사람에게 큰 영향을 주는 일은 초기 적용 대상에서 제외한다. AI가 참고자료를 정리할 수는 있어도 최종 판단을 대신하게 해서는 안 된다.

“문서 작성에 활용한다”처럼 넓게 적지 말고 “주간회의 메모를 사내 회의록 양식으로 바꾼다”처럼 입력물과 결과물을 함께 적는 것이 좋다.

2. 금지 데이터

직원이 매번 혼자 판단하게 두지 말고 입력 금지 목록을 문서로 만든다.

• 고객과 직원의 이름, 연락처, 주소 등 식별 정보
• 건강, 상담, 신용, 급여에 관한 정보
• 미공개 계약서와 견적서 원문
• 영업비밀과 출시 전 제품 정보
• 이용 권한이 없는 외부 문서와 저작물의 전문
• 계정 비밀번호, 인증번호, 내부 시스템 접속 정보

자료가 꼭 필요하다면 이름과 연락처를 제거하고, 구체적인 회사명이나 금액을 범주로 바꾼다. 다만 가명 처리만 했다고 항상 안전한 것은 아니다. 다른 정보와 결합해 개인이나 거래처를 알아볼 수 있다면 입력하지 않는다.

3. 검수 책임

AI는 초안을 만들지만 외부로 나간 결과물의 책임은 사람과 조직에 남는다. 따라서 업무별 최종 검수자를 정해야 한다.

예를 들어 홍보 담당자가 AI로 게시물 초안을 만들었다면 상품 가격과 행사 기간은 판매 담당자가 확인하고, 실제 게시 여부는 홍보 책임자가 결정하는 식이다. 계약서나 법률 문서는 AI 답변을 전문 검토 대신 사용하지 않는다.

검수할 때는 다음을 본다.

• 이름, 날짜, 금액과 연락처가 원본과 일치하는가?
• 출처가 없는 통계나 존재하지 않는 사례가 들어갔는가?
• 확정되지 않은 내용을 사실처럼 표현했는가?
• 고객에게 오해를 줄 과장 표현이 있는가?
• 내부 정보나 타인의 저작물이 노출됐는가?

4. 효과 측정

도입 전에 현재 상태를 기록해야 도입 후 변화를 비교할 수 있다. 지표는 업무 하나당 두세 개면 충분하다.

• 초안 작성과 최종 검수에 걸린 시간
• 사람이 수정한 문장이나 항목의 수
• 날짜·금액·고유명사 오류 건수
• 같은 결과물을 다시 작성한 횟수
• 팀원이 재사용한 작업 양식의 수

처리량이 늘었다는 사실만으로 성공이라고 판단하지 않는다. 초안 작성은 빨라졌지만 검수 시간이 더 길어졌다면 작업 방식을 바꾸거나 AI 사용을 중단해야 한다.

기간과 인원은 업무 위험도에 맞춘다

작은 팀은 한 가지 업무를 짧게 시험한 뒤 범위를 넓히는 방식으로 시작할 수 있다. 예를 들어 실무자 한두 명이 회의록 정리를 2주 동안 시험해보는 설계다.

다만 2주와 한두 명이 모든 조직에 맞는 정답은 아니다. 반복 주기가 월 1회인 업무라면 한 달 이상 관찰해야 하고, 고객에게 바로 공개되는 결과물이라면 검수자와 책임자를 추가해야 한다. 위험이 낮고 매일 반복되는 내부 업무라면 더 짧은 시험도 가능하다.

파일럿 계획에는 다음 내용을 적는다.

1. 시험할 업무 하나
2. 참여자와 검수자
3. 시작일과 종료일
4. 사용 전 평균 소요 시간
5. 성공·중단 기준
6. 입력 금지 정보
7. 문제가 생겼을 때 보고할 사람

프롬프트보다 사용 맥락을 기록한다

좋은 프롬프트 한 줄만 저장하면 나중에 같은 결과를 재현하기 어렵다. 어떤 자료를 넣었고, 어떤 모델과 설정을 썼으며, 사람이 무엇을 고쳤는지 함께 기록해야 한다.

간단한 기록표는 다음과 같이 만들 수 있다.

잘된 결과만 모으지 않는다. AI가 내용을 지어냈거나 문맥을 반대로 이해한 사례도 남겨야 팀원이 같은 실수를 피할 수 있다.

도입을 막는 세 가지 착각

첫째, 좋은 AI를 사면 업무 방식도 저절로 바뀐다는 생각이다. 실제로는 사용 범위와 검수 구조가 있어야 도구가 반복적으로 쓰인다.

둘째, 시작 전에 완벽한 규정집이 필요하다는 생각이다. 처음에는 허용 업무, 금지 데이터, 검수자, 사고 보고 방법을 담은 한 장짜리 기준으로 충분하다. 파일럿에서 발견한 문제를 반영해 고치면 된다.

셋째, AI 도입은 IT 담당자만의 일이라는 생각이다. 생성형 AI 도입은 서버 구축보다 업무를 다시 설계하는 일에 가깝다. 해당 업무를 매일 수행하는 사람이 파일럿 업무와 성공 기준을 정해야 한다.

도구를 결제하기 전, 업무 하나와 책임자 한 명부터 정하자. 그다음 현재 소요 시간과 오류를 기록하면 AI가 실제로 일을 줄였는지 판단할 근거가 생긴다.