대화창에 넣으면 안 되는 것
기준을 하나로 잡으면 간단합니다. 모르는 사람에게 이메일로 보내지 않을 내용이면 넣지 않는 것입니다. 입력한 내용은 서비스 제공자의 서버로 전송되고, 설정과 약관에 따라 저장되거나 품질 개선에 활용될 수 있습니다. 사람이 검토하는 절차가 있는 경우도 있습니다. 그래서 "지워 달라고 하면 되지 않나"라는 접근은 통하지 않습니다. 이미 전송된 뒤이기 때문입니다.
구체적으로 조심해야 할 항목은 세 갈래입니다. 첫째는 본인의 민감한 식별정보입니다. 주민등록번호, 여권번호, 카드번호와 CVC, 계좌번호, 비밀번호, 인증서 파일 같은 것들입니다. 둘째는 타인의 정보입니다. 이게 의외로 자주 넘어갑니다. 고객 명단을 붙여 넣고 정리를 시키거나, 지인의 진료 기록이나 상담 내용을 올려 해석을 부탁하는 경우입니다. 본인 것이 아닌 정보를 다른 곳에 넘기는 행위가 되므로 성격이 다릅니다. 셋째는 회사 자료입니다. 미공개 재무 수치, 소스코드, 계약서, 고객사 자료는 영업비밀이나 계약상 비밀유지 대상인 경우가 많습니다.
| 넣으려는 것 | 판단 | 왜 | 대안 |
|---|---|---|---|
| 주민등록번호·카드번호·계좌·비밀번호 | 넣지 않음 | 유출 시 회복이 어렵고, 도구가 이런 정보를 다룰 이유가 없음 | 필요하면 형식만 물어보고 실제 값은 직접 입력 |
| 회사 계약서·미공개 실적·소스코드 | 규정 확인 전까지 넣지 않음 | 영업비밀·비밀유지의무 위반 소지 | 사내에서 허용한 도구를 쓰거나, 수치를 지우고 구조만 질문 |
| 고객·환자·학생 명단 | 넣지 않음 | 타인의 개인정보를 제3자에게 제공하는 셈 | 이름을 A, B로 치환하고 형식만 다룸 |
| 본인 진료기록·검사 결과 | 신중 | 민감정보. 용어 설명 정도면 몰라도 진단 목적은 부적절 | 궁금한 용어만 물어보고 판단은 의료진에게 |
| 가족·지인의 사진 | 신중 | 본인 동의 없이 타인의 얼굴을 올리는 것 | 본인 사진 위주로. 얼굴이 필요 없으면 가림 |
| 일반적인 글쓰기·요약·아이디어 | 대체로 괜찮음 | 식별정보가 없으면 위험이 낮음 | 고유명사만 한 번 훑어보고 넣기 |
회사에서 쓸 때는 개인 판단보다 사내 규정이 먼저입니다. 조직마다 허용하는 도구, 반입 가능한 자료의 범위, 결과물을 그대로 써도 되는지에 대한 기준이 다릅니다. 규정이 아직 없는 곳도 있는데, 그렇다고 자유롭다는 뜻은 아닙니다. 취업규칙이나 비밀유지 서약에 이미 포괄적인 조항이 있는 경우가 많습니다. 애매하면 팀장이나 보안 담당에게 한 줄 물어보고 답을 남겨 두는 편이 낫습니다.
답변을 그대로 믿지 않는 습관
AI 도구는 그럴듯한 문장을 만드는 데 능하고, 그 능력이 틀린 내용에도 똑같이 적용됩니다. 존재하지 않는 법 조문을 만들어 내거나, 있지도 않은 논문을 저자와 연도까지 붙여 제시하거나, 계산을 중간에 틀리고도 결론을 자신 있게 쓰는 일이 있습니다. 문제는 이런 답이 틀려 보이지 않는다는 점입니다. 형식이 완벽하기 때문입니다.
그래서 검증은 능력이 아니라 습관의 문제입니다. 세 가지만 몸에 붙이면 대부분 걸러집니다. 첫째, 출처가 나오면 그 출처가 실제로 있는지 확인합니다. 링크를 눌러 보고, 법 조문이면 국가법령정보센터 같은 원문에서 조문 번호를 확인합니다. 둘째, 숫자는 직접 다시 계산합니다. 세금, 이자, 비율처럼 결과가 돈으로 이어지는 것은 특히 그렇습니다. 셋째, 기준 시점을 묻습니다. 요율이나 제도는 해마다 바뀌는데 도구가 알고 있는 시점이 과거일 수 있습니다.
실무적으로는 용도를 나눠 두면 편합니다. 초안을 잡거나 표현을 다듬거나 무엇을 찾아봐야 할지 방향을 잡는 일에는 잘 맞습니다. 반면 최종 수치, 법적 판단, 의료적 판단처럼 틀리면 손해가 큰 영역에서는 출발점으로만 쓰고 확인을 따로 합니다. 특히 "이 계약서 문제없나요" 같은 질문에 나온 답을 근거로 서명하는 것은 위험합니다.
만든 결과물을 쓸 때
이미지나 글을 생성해 개인적으로 쓰는 것과, 판매하거나 홍보에 쓰는 것은 무게가 다릅니다. 상업적 이용에서 문제가 되는 지점은 대체로 세 가지입니다.
| 쟁점 | 어떤 상황에서 | 실무적 판단 |
|---|---|---|
| 실존 인물의 얼굴 | 연예인·정치인, 또는 아는 사람의 사진을 넣어 변형 | 초상권·퍼블리시티 문제. 광고나 판매에 쓰면 특히 위험. 본인 동의 없이는 쓰지 않음 |
| 상표·캐릭터 | 브랜드 로고, 유명 캐릭터가 비슷하게 등장 | 상표권·저작권 문제. 결과물이 특정 캐릭터를 연상시키면 상업적 사용은 피함 |
| 특정 작가의 화풍 | "○○ 작가 스타일로" 요청 | 화풍 자체의 보호 여부는 논의가 진행 중이지만, 특정인을 명시해 만든 결과물을 영리 목적에 쓰는 것은 분쟁 소지가 큼 |
| 서비스 이용약관 | 상업적 이용 허용 범위, 요금제별 차이 | 같은 도구라도 무료·유료에 따라 조건이 다른 경우가 있음. 약관에서 상업적 이용 조항 확인 |
| 저작권 등록·권리 주장 | 생성물을 내 저작물이라고 주장 | 사람의 창작적 기여가 없는 순수 생성물은 저작권 인정이 제한적이라는 견해가 우세. 타인의 무단 사용을 막기 어려울 수 있음 |
| 표시 의무 | 광고·콘텐츠에 AI 생성물 사용 | 플랫폼별로 AI 생성 표시 기능을 두는 곳이 늘고 있음. 소비자를 오인하게 하는 표현은 별도로 문제 |
정리하면, 개인적으로 쓰거나 내부 자료로 쓰는 정도는 대체로 문제가 되지 않지만, 돈을 받거나 대외에 공개하는 순간 기준이 올라갑니다. 실존 인물, 상표, 특정 작가를 지목하지 않는 것만으로도 위험이 많이 줄어듭니다.
목소리와 얼굴을 더 이상 믿을 수 없다
사기 수법 쪽에서 변한 게 있습니다. 예전에는 "엄마 나 폰 액정 깨졌어" 같은 문자로 시작했다면, 지금은 짧은 통화에서 자녀의 목소리가 들리거나 영상통화 화면에 얼굴이 나오는 경우가 생겼습니다. SNS에 올린 짧은 영상만으로도 음성을 흉내 내는 것이 가능해졌기 때문입니다. 그래서 판단 기준을 바꿔야 합니다. 목소리와 얼굴은 이제 신원 확인 수단이 아닙니다.
| 신호 | 왜 의심스러운가 | 대응 |
|---|---|---|
| 모르는 번호로 걸려 온 가족의 목소리 | 번호가 다른 것 자체가 첫 번째 이상 신호 | 끊고 원래 알던 번호로 직접 건다 |
| 지금 당장, 아무에게도 말하지 말라 | 확인할 시간을 뺏는 것이 수법의 핵심 | 급할수록 확인. 정상적인 일은 몇 분 늦어도 됨 |
| 영상통화로 얼굴을 보여 주며 송금 요구 | 영상도 조작 가능. 오히려 신뢰를 만들기 위한 장치 | 가족끼리 미리 정한 확인 질문을 쓴다 |
| 유명인이 등장하는 투자 권유 영상 | 얼굴과 목소리를 합성한 광고가 흔함 | 공식 채널에 같은 내용이 있는지 확인 |
| 기관·회사를 사칭한 자연스러운 안내 | 문장이 매끄러워졌다고 진짜는 아님 | 공식 대표번호로 다시 확인 |
| 내 얼굴이 들어간 합성물로 협박 | 허위영상물 제작·반포는 처벌 대상 | 캡처·주소를 보존하고 경찰에 신고. 삭제 지원 기관 상담 |
가족 단위로 정해 두면 좋은 것이 하나 있습니다. 전화로 돈 이야기가 나오면 무조건 끊고 원래 번호로 다시 건다는 규칙, 그리고 서로만 아는 확인 질문 하나입니다. 어릴 때 살던 동네 이름처럼 SNS에 없는 정보가 좋습니다. 실제로 전화를 받았을 때의 대응 순서는 보이스피싱 대응에, 문자로 시작하는 유형은 스미싱 문자 대응에, 부모님 세대가 자주 겪는 수법은 노년층 사기 유형에 정리돼 있습니다. 친밀함을 쌓은 뒤 송금을 유도하는 유형은 로맨스 스캠 쪽입니다.
학교와 직장에서의 표기, 그리고 설정
과제나 업무 문서에서 AI를 쓴 사실을 밝혀야 하는지는 소속에 따라 다릅니다. 대학과 학교마다 방침이 갈리는데, 크게 세 유형입니다. 전면 금지, 조건부 허용(어디에 어떻게 썼는지 명시), 자유롭게 사용하되 결과의 책임은 작성자. 그래서 먼저 확인할 것은 해당 수업의 안내나 기관 지침입니다. 명시가 필요하다면 "초안 작성에 생성형 AI를 사용하고 내용은 직접 확인·수정했음" 정도로 어느 단계에 썼는지 적는 방식이 일반적입니다. 어느 쪽이든 공통되는 원칙은 하나입니다. 제출한 문서의 내용에 대한 책임은 제출한 사람에게 있습니다. 도구가 틀렸다는 것은 변명이 되지 않습니다.
대화 내용이 모델 학습에 쓰이지 않게 하는 설정을 제공하는 서비스가 많습니다. 설정 메뉴의 데이터 관리, 개인정보, 데이터 제어 같은 항목에 "대화 기록을 개선에 사용" 같은 스위치가 있는 경우가 일반적입니다. 명칭과 위치는 서비스와 버전에 따라 다르니 설정 안에서 데이터 또는 개인정보로 검색해 보세요. 다만 이 설정을 껐다고 해서 입력한 내용이 서버로 전송되지 않는 것은 아닙니다. 학습에 쓰지 않는다는 것과 저장하지 않는다는 것은 다른 이야기입니다. 그래서 앞서 정리한 "넣지 않을 것" 기준은 설정과 무관하게 그대로 유지하는 편이 안전합니다. 대화 기록을 지우고 싶다면 삭제 기능과 보관 기간을 함께 확인하세요.
마지막으로 노인과 아동이 쓸 때입니다. 부모님이 AI 도구를 쓰시는 경우 가장 흔한 문제는 답을 사실로 받아들이는 것입니다. 특히 건강 정보나 복약 관련 질문은 위험합니다. "이건 참고용이고 병원에서 다시 확인해야 한다"는 점을 반복해서 이야기해 두는 편이 좋고, 결제나 개인정보 입력이 필요한 화면이 나오면 일단 멈추고 물어보시라고 정해 두면 사고가 줄어듭니다. 아이의 경우는 반대로 무엇을 물어봤는지가 남는다는 점과, 대화 상대가 사람이 아니라는 점을 이해시키는 것이 먼저입니다. 서비스마다 미성년자 이용 조건과 연령 제한이 다르고 보호자 동의를 요구하는 곳도 있습니다. 아이 계정과 기기 설정 전반은 청소년 스마트폰 이용 규칙에, 계정 보안 쪽은 비밀번호 관리 실전과 SNS·스마트폰 개인정보 설정을 함께 보면 됩니다.
자주 묻는 질문
회사 자료를 AI에 붙여 넣어 요약해도 되나요?
사내 규정을 먼저 확인해야 합니다. 조직마다 허용 도구와 반입 가능한 자료의 범위를 정해 둔 곳이 많고, 규정이 명시적으로 없더라도 취업규칙이나 비밀유지 서약에 포괄 조항이 있는 경우가 흔합니다. 미공개 실적, 계약서, 고객사 자료, 소스코드는 영업비밀에 해당할 수 있어 외부 서비스에 입력하는 것 자체가 문제가 될 수 있습니다. 꼭 필요하다면 회사가 승인한 도구를 쓰거나, 구체적인 수치와 고유명사를 지우고 구조나 표현만 물어보는 방식으로 범위를 좁히세요. 애매하면 담당자에게 확인하고 그 답을 메일이나 메신저로 남겨 두는 편이 안전합니다.
AI가 알려 준 법 조문이나 통계를 그대로 써도 되나요?
확인 없이 쓰는 것은 권하지 않습니다. 존재하지 않는 조문이나 논문을 그럴듯한 형식으로 제시하는 경우가 있고, 형식이 완벽해서 오히려 걸러내기 어렵습니다. 최소한 세 가지는 하세요. 법령이면 국가법령정보센터 같은 원문에서 조문 번호와 내용을 확인하고, 통계는 발표 기관의 원자료를 찾아보고, 계산이 들어간 숫자는 직접 다시 계산합니다. 그리고 기준 시점을 물어보세요. 요율이나 제도는 해마다 바뀌는데 알고 있는 시점이 과거일 수 있습니다. 제출물의 책임은 결국 작성자에게 있으므로, 도구는 초안과 방향 잡기에 쓰고 최종 확인은 따로 하는 것이 안전합니다.
AI로 만든 이미지를 상품 판매에 써도 되나요?
개인적으로 쓰는 것과 판매·광고에 쓰는 것은 기준이 다릅니다. 먼저 사용한 서비스의 약관에서 상업적 이용이 허용되는지, 요금제에 따라 조건이 다른지 확인하세요. 그다음은 결과물 자체입니다. 실존 인물의 얼굴이 들어가면 초상권 문제가, 상표나 유명 캐릭터를 연상시키면 상표권·저작권 문제가 생길 수 있습니다. 특정 작가를 지목해 만든 결과물을 영리 목적으로 쓰는 것도 분쟁 소지가 있습니다. 또 하나 알아 둘 것은, 사람의 창작적 기여 없이 생성된 결과물은 저작권 보호가 제한적이라는 견해가 우세해 타인이 그대로 가져다 써도 막기 어려울 수 있다는 점입니다.
자녀 목소리로 전화가 와서 급하게 돈을 보내 달라고 합니다.
먼저 끊으세요. 짧은 영상이나 음성만으로도 목소리를 흉내 내는 것이 가능해졌기 때문에, 목소리가 맞다는 것은 더 이상 본인 확인이 되지 않습니다. 영상통화로 얼굴을 보여 주는 경우도 마찬가지입니다. 대응 순서는 통화를 끊고, 평소 알던 번호로 직접 전화를 걸어 확인하는 것입니다. 연결되지 않으면 다른 가족이나 친구를 통해 확인하세요. 지금 당장, 아무에게도 말하지 말라는 요구는 확인할 시간을 없애려는 전형적인 신호입니다. 이미 송금했다면 즉시 은행 고객센터나 112에 신고해 지급정지를 요청해야 합니다. 시간이 지날수록 회수가 어려워집니다.