AI 기초 상식 퀴즈 12문제 - 머신러닝과 규칙 기반, 학습 데이터와 편향, 환각 현상, 토큰과 컨텍스트, 파인튜닝과 프롬프트, 잘하는 일과 못하는 일, 딥페이크 탐지의 한계, 저작권 쟁점, 개인정보 입력, 설명가능성, 자율주행 단계, 튜링 테스트

정답과 해설

1. 머신러닝이 기존의 규칙 기반 프로그램과 다른 점으로 맞는 것은? — 정답: 사람이 조건을 하나하나 적어 넣는 대신, 많은 사례에서 패턴을 찾아 판단 기준을 스스로 만든다. 규칙 기반 프로그램은 사람이 조건과 결과를 직접 적습니다. 조건이 분명한 일에는 지금도 이 방식이 낫습니다. 머신러닝은 사례를 많이 보여 주고 그 안의 규칙성을 모델이 찾아내게 하는 방식이라, 사람이 말로 옮기기 어려운 일에 강합니다. 얼굴 사진을 구분하는 기준을 글로 적기는 어렵지만 예시는 많이 모을 수 있는 것이 그런 경우입니다. 대신 판단의 근거가 데이터에서 나오기 때문에 데이터가 없거나 치우치면 결과도 그렇게 됩니다.
2. 학습 데이터의 편향이 문제가 되는 이유로 맞는 것은? — 정답: 모델은 데이터에 담긴 치우침까지 함께 배우기 때문에, 과거의 차별이 자동화된 결정으로 되풀이될 수 있다. AI는 옳고 그름을 판단하는 것이 아니라 주어진 자료에서 통계적 규칙성을 찾습니다. 그래서 과거 기록에 특정 집단이 적게 담겨 있거나 불리하게 다뤄진 흔적이 있으면 그 경향까지 그대로 배웁니다. 데이터를 늘리는 것만으로는 해결되지 않고, 오히려 원래 있던 치우침이 더 강해지기도 합니다. 그래서 데이터 구성 점검, 집단별 성능 비교, 사람이 결과를 검토하는 절차를 함께 두는 방식이 쓰입니다.
3. 생성형 AI가 사실이 아닌 내용을 그럴듯하게 말하는 현상을 무엇이라 부르며, 이유는? — 정답: 환각이라 부르며, 사실을 조회하는 것이 아니라 문맥상 그럴듯한 다음 말을 이어 붙이는 방식으로 답을 만들기 때문. 언어 모델은 질문의 답을 어디선가 찾아오는 것이 아니라, 학습한 패턴을 바탕으로 이어질 말을 확률적으로 골라 문장을 만듭니다. 그래서 잘 모르는 영역에서도 형식이 그럴듯한 문장이 나오고, 존재하지 않는 논문이나 조항이 자연스럽게 섞이기도 합니다. 이것을 환각이라고 부릅니다. 검색이나 문서를 함께 붙여 근거를 대게 하면 크게 줄지만 완전히 없어지지는 않습니다. 숫자, 날짜, 법령, 인용문처럼 확인 가능한 항목은 원 출처에서 다시 확인하는 편이 안전합니다.
4. 토큰과 컨텍스트에 대한 설명으로 맞는 것은? — 정답: 토큰은 모델이 글을 다루는 최소 단위이고, 컨텍스트는 한 번에 다룰 수 있는 토큰의 양이라 넘어가면 앞부분이 밀려난다. 모델은 글을 통째로 다루지 않고 토큰이라는 조각으로 나눠 처리합니다. 조각은 글자 하나일 수도, 짧은 단어 하나일 수도 있고, 언어와 표기에 따라 같은 길이의 글이라도 토큰 수가 달라집니다. 컨텍스트는 모델이 한 번에 볼 수 있는 토큰의 총량으로, 대화가 길어져 이 한도를 넘으면 앞쪽 내용이 밀려나 참고하지 못합니다. 긴 대화에서 앞에 말한 조건을 잊은 것처럼 보이는 이유가 대개 여기 있습니다. 중요한 조건은 요약해 다시 붙여 주면 됩니다.
5. 파인튜닝과 프롬프트의 차이로 맞는 것은? — 정답: 파인튜닝은 추가 데이터를 학습시켜 모델 자체를 조정하는 것이고, 프롬프트는 모델은 그대로 두고 입력하는 지시와 자료만 바꾸는 것. 프롬프트는 무엇을 어떤 형식으로 해 달라고 입력에 담아 전달하는 것이고, 필요한 자료를 함께 붙여 주는 방식도 여기 들어갑니다. 모델 자체는 그대로입니다. 파인튜닝은 준비한 데이터로 추가 학습을 시켜 모델의 반응 방식 자체를 바꾸는 작업이라 자료와 비용, 검증 절차가 필요합니다. 특정 말투나 형식을 일관되게 지켜야 하는 경우가 아니면, 대체로 프롬프트를 다듬고 참고 자료를 붙이는 쪽이 먼저입니다.
6. 지금의 생성형 AI가 잘하는 일과 조심해야 하는 일을 바르게 구분한 것은? — 정답: 긴 글의 요약이나 초안 작성, 형식 변환에는 유용하지만, 최신 사실이나 정확한 수치처럼 확인이 필요한 내용은 그대로 믿기 어렵다. 패턴을 다루는 일에는 확실히 유용합니다. 요약하고 다시 쓰고 형식을 바꾸고 아이디어를 늘어놓는 작업이 그렇습니다. 반면 어떤 사실이 맞는지 보증하는 일은 성격이 다릅니다. 모델이 아는 범위는 학습 시점에 묶여 있고, 검색 도구를 붙여도 무엇을 근거로 삼았는지 확인하는 몫은 사람에게 남습니다. 그래서 결과를 초안으로 놓고 사실 부분만 따로 확인하는 방식이 현실적입니다. 책임을 지는 결정에서는 특히 그렇습니다.
7. 딥페이크 영상을 판별하는 일에 대한 설명으로 맞는 것은? — 정답: 탐지 기술이 발전하면 생성 기술도 함께 발전해 완벽한 판별은 어렵고, 만들 때 출처를 표시해 두는 방식이 함께 논의된다. 탐지 기술은 어색한 흔적을 찾는 방식이라, 그 흔적을 없앤 새 생성 기술이 나오면 다시 뒤처집니다. 쫓고 쫓기는 구조라 어떤 도구도 완전한 판별을 보장하지 못하고, 짧은 음성 몇 초로 목소리를 흉내 내는 사례도 이미 문제가 되고 있습니다. 그래서 만들어질 때 제작 정보나 워터마크를 넣어 출처를 확인할 수 있게 하자는 논의가 함께 진행됩니다. 개인 차원에서는 영상 자체를 감정하기보다 출처를 확인하고, 급하게 송금이나 인증을 요구하면 다른 경로로 본인에게 확인하는 편이 확실합니다.
8. AI와 저작권을 둘러싼 논쟁의 쟁점으로 가장 정확한 것은? — 정답: 저작물을 학습에 쓰는 것이 허용되는지와, AI가 만든 산출물을 저작물로 볼 수 있는지가 나뉘어 다뤄진다. 쟁점은 크게 입구와 출구로 나뉩니다. 입구는 저작물을 학습 자료로 쓰는 행위가 어디까지 허용되는지이고, 나라마다 예외 규정과 소송 진행 상황이 달라 정리되지 않았습니다. 출구는 산출물의 지위입니다. 우리나라 저작권법은 저작물을 인간의 사상이나 감정을 표현한 창작물로 정의하고 있어, 사람의 창작적 관여 없이 AI가 만들어 낸 결과물 자체를 저작물로 보기는 어렵다는 것이 현재의 설명입니다. 다만 사람이 어느 정도 손을 댔을 때 어떻게 볼지는 사안별로 판단이 갈립니다.
9. AI 서비스에 개인정보나 회사 자료를 입력할 때 주의할 점으로 맞는 것은? — 정답: 입력한 내용이 서비스의 정책에 따라 저장되거나 검토, 학습에 쓰일 수 있으므로 남의 개인정보와 기밀은 넣지 않는 것이 원칙이다. 입력한 내용을 어떻게 다루는지는 서비스와 요금제, 설정에 따라 다릅니다. 학습에 쓰지 않도록 선택할 수 있는 경우도 있지만 기본값은 제각각이라, 무엇에 동의했는지 확인하지 않으면 알기 어렵습니다. 특히 남의 개인정보를 동의 없이 외부 서비스에 넘기는 것은 개인정보 처리 문제로 이어질 수 있고, 회사 자료는 사내 규정 위반이 되기도 합니다. 이름을 지우더라도 남은 정보의 조합으로 사람이 특정될 수 있으니, 넣지 않아도 되는 정보는 애초에 빼고 쓰는 편이 안전합니다.
10. 복잡한 AI 모델의 판단 근거를 설명하기 어려운 이유로 맞는 것은? — 정답: 수많은 수치 연산이 겹쳐 결과가 나오기 때문에 사람이 이해할 말로 근거를 재구성하기 어렵고, 모델이 내놓은 이유가 실제 계산 과정과 같다는 보장도 없다. 깊은 신경망은 수많은 수치의 조합으로 결과를 냅니다. 그 과정을 사람이 따라갈 수 있는 이유로 옮기는 일이 쉽지 않아서 흔히 블랙박스라고 부릅니다. 모델에게 이유를 물어 그럴듯한 답을 받아도, 그것이 실제 계산 과정을 반영한다는 보장은 없습니다. 그래서 어떤 입력이 결과에 크게 작용했는지 추정하는 기법들이 연구되고, 채용이나 대출처럼 개인에게 큰 영향을 주는 자동화된 결정에는 설명을 요구할 수 있게 제도를 두는 흐름도 있습니다.
11. 자율주행 단계 구분에서 레벨 3에 해당하는 설명은? — 정답: 정해진 조건 안에서는 시스템이 운전을 맡지만, 시스템이 요청하면 운전자가 넘겨받아야 한다. 자율주행은 흔히 0단계부터 5단계까지 여섯 구간으로 나눕니다. 1단계는 속도나 조향 중 하나를 보조하고, 2단계는 둘을 함께 보조하되 운전 책임은 사람에게 있습니다. 3단계부터는 정해진 조건 안에서 시스템이 주행을 맡지만 요청이 오면 사람이 넘겨받아야 해서, 이 넘겨받는 순간이 가장 까다로운 지점으로 꼽힙니다. 4단계는 정해진 구역과 조건 안에서 사람의 개입 없이 주행하고, 5단계는 조건 제한이 없는 단계입니다. 지금 판매되는 차의 보조 기능 대부분은 2단계에 해당합니다.
12. 튜링 테스트가 판정하는 기준으로 맞는 것은? — 정답: 심사자가 대화만으로 상대가 사람인지 기계인지 구분하지 못하면 통과로 보는, 겉으로 드러난 행동 기준의 판정. 앨런 튜링이 제안한 방식은 기계 안에서 무슨 일이 벌어지는지 묻는 대신, 대화만 보고 사람과 구분할 수 있는지를 기준으로 삼자는 제안이었습니다. 겉으로 드러나는 행동으로 판단하자는 취지입니다. 이 때문에 비판도 함께 따라왔습니다. 대표적인 것이 규칙에 따라 기호를 맞춰 내보내는 사람은 뜻을 이해하지 못해도 대화가 성립한다는 중국어 방 논증입니다. 사람을 흉내 내는 능력이 곧 이해나 의식은 아니라는 지적이라, 요즘은 지능을 재는 잣대라기보다 초기 논의의 출발점으로 다뤄집니다.

어떻게 답을 만드는가

머신러닝은 사람이 조건을 적어 넣는 대신 사례에서 패턴을 찾는 방식이라, 데이터가 치우치면 그 치우침까지 배웁니다. 생성형 AI는 사실을 조회하는 것이 아니라 문맥상 그럴듯한 다음 말을 이어 붙이기 때문에 존재하지 않는 내용이 자연스럽게 섞이는 환각이 생깁니다. 토큰은 글을 나눈 조각이고 컨텍스트는 한 번에 다룰 수 있는 양이라, 대화가 길어지면 앞부분이 밀려납니다.

쓸 때 갈리는 지점

요약과 초안, 형식 변환처럼 결과를 눈으로 확인할 수 있는 작업에는 유용하고, 숫자와 날짜와 법 조항처럼 맞고 틀림이 분명한 항목은 원 출처에서 다시 확인해야 합니다. 결과가 만족스럽지 않을 때는 대개 모델보다 지시와 참고 자료를 손보는 쪽이 먼저입니다. 파인튜닝은 모델 자체를 추가 학습으로 조정하는 별개의 작업입니다. 입력한 내용이 저장되거나 학습에 쓰일 수 있으므로 남의 개인정보와 회사 기밀은 넣지 않는 것이 원칙입니다.

아직 정리되지 않은 것들

딥페이크는 탐지와 생성이 서로 쫓는 구조라 완전한 판별이 어려워 출처를 표시하는 방향이 함께 논의됩니다. 저작권은 학습에 쓰는 문제와 산출물의 지위가 별개의 논점이고, 우리 저작권법은 저작물을 인간의 사상과 감정의 표현으로 정의하고 있습니다. 복잡한 모델의 판단 근거는 사람의 말로 재구성하기 어려워 설명가능성이 과제로 남아 있으며, 자율주행은 0단계부터 5단계로 나뉘고 지금 판매되는 차의 보조 기능 대부분은 2단계입니다.

자주 묻는 질문