최근 커먼센스미디어 산하 청소년 AI 안전연구소는 구글 검색의 ‘AI 개요’와 ‘AI 모드’가 아동·청소년에게 심각한 위험을 초래할 수 있다는 평가 보고서를 발표했다. 연구진은 청소년 이용 환경에서 수천 건의 검색 결과와 출처를 분석한 뒤, 숙제 대리 수행, 허위 정보 생성, 정신건강 위기 대응 실패를 핵심 문제로 지적했다.
AI 검색은 더 빠르고 편리하다. 그러나 교육에서 편리함이 곧 발전을 의미하지는 않는다. 학생이 생각해야 할 자리, 사실을 판단해야 할 자리, 사람에게 도움을 요청해야 할 자리를 AI가 대신하기 시작하면 학습 자체가 약해질 수 있다는 점에서 학부모들에게 주의를 요한다.

숙제를 삼킨 검색창
가장 우려되는 문제는 AI 검색이 학생의 과제를 보조하는 수준을 넘어 사실상 대신 수행한다는 점이다. 보고서에 따르면 구글의 AI 모드는 연구진이 제시한 과제를 제출 가능한 형태로 완성했다. 수학 문제의 정답과 풀이를 정리하고, 인문학 에세이를 작성하며, 추가 설명까지 제공했다.
숙제의 본래 목적은 정답을 얻는 것이 아니라 사고 과정을 훈련하는 것이다. 학생은 문제를 읽고, 이해하지 못한 부분에서 멈추고, 다시 시도하고, 자신의 언어로 설명하면서 학습한다. 그러나 AI가 완성된 답을 제공하면 학생은 가장 중요한 인지적 노력을 건너뛰게 된다. 겉으로는 과제가 잘 작성되어 있어도 실제 이해는 남지 않는다. 이런 사용이 반복되면 학생은 어려운 문제를 오래 붙잡는 힘, 실수를 고치는 힘, 자신의 생각을 문장으로 표현하는 힘을 잃게 된다. 성적은 유지될 수 있지만 학습 능력은 오히려 약화될 수 있다.
AI 사용을 전면 금지하는 것은 해결책이 될 수 없다. 학교는 과제 평가 방식을 바꿔 아이디어 메모, 초안, 풀이 과정, 수정 기록, 참고 출처를 함께 제출하게 할 수 있을 것이며, 교사는 짧은 구두 설명이나 수업 중 현장 글쓰기를 통해 학생이 실제로 내용을 이해했는지 확인할 수 있는 방법등을 도입는 노력이 필요 하겠다.

거짓말하는 검색 결과
두 번째 문제는 AI가 잘못된 정보를 매우 그럴듯하게 제시한다는 점이다. 보고서에서는 존재하지 않는 법원 판결을 실제 판결처럼 설명하고, 통과되지 않은 법안을 이미 시행 중인 법률처럼 제시한 사례가 확인됐다. 진행 중인 사건을 이미 합의가 끝난 사건처럼 단정한 경우도 있었다.
기존의 검색은 여러 사이트를 보여주고 이용자가 비교하도록 했다. 그러나 AI 검색은 여러 정보를 하나의 완성된 답으로 요약한다. 학생은 검색 결과를 검토하기보다 화면 상단에 나타난 답을 곧바로 사실로 받아들이기 쉽다. 특히 위험한 점은 틀린 답도 맞는 답과 똑같이 매끄럽고 확신에 찬 문장으로 제시된다는 것이다. 출처 표시가 붙어 있어도 그 출처가 실제로 해당 주장을 뒷받침하는지는 별개의 문제다. 온라인 게시판이나 사용자 작성 글이 공신력 있는 자료와 비슷한 무게로 인용될 수도 있다.
이는 아직 출처 판단 능력이 충분하지 않은 학생들에게 지나치게 큰 검증 책임을 떠넘긴다. AI의 답변을 그대로 믿는 습관이 형성되면 학생들은 정보를 찾는 능력뿐 아니라 진실과 거짓을 구분하는 능력까지 잃을 수 있다.
따라서 학교의 디지털 교육은 프롬프트를 잘 쓰는 방법보다 검증하는 방법을 먼저 가르쳐야 한다. 학생은 AI가 제시한 날짜, 통계, 법률, 역사적 사건, 인물 정보를 반드시 원출처와 비교해야 한다. 정부기관, 대학, 학술논문, 공식 보고서 등 신뢰할 수 있는 자료를 최소 두 곳 이상 확인하도록 해야 한다.
평가 기준도 바뀌어야 한다. “무엇을 찾았는가”보다 “왜 이 정보를 믿을 수 있는가”를 평가해야 한다. 학생에게 출처의 저자, 발행기관, 작성일, 근거 자료, 이해관계를 분석하게 하는 정보 검증 훈련이 필요하다.
기술기업 역시 청소년 대상 AI 답변에는 불확실성을 더 분명하게 표시하고, 원문을 쉽게 확인할 수 있도록 해야 한다. 확실하지 않은 내용을 단정적으로 말하는 기능은 교육 도구가 될 수 없다.

AI는 상담 교사가 아니다
세 번째 문제는 정신건강 위기 대응이다. 보고서는 AI 검색이 자살 생각, 섭식장애, 조증과 같은 위험 신호를 일관되게 발견하지 못했다고 지적했다. 일부 답변은 부적절한 행동을 정상적인 반응처럼 설명하거나, 더 이상 운영되지 않는 상담 정보를 안내하기도 했다.
AI의 친절한 말투는 학생에게 전문가의 조언처럼 들릴 수 있다. 그러나 AI는 학생의 표정, 가정환경, 반복되는 행동 변화를 확인할 수 없으며 책임 있는 상담도 제공할 수 없다.
학교와 가정은 AI가 상담교사나 정신건강 전문가를 대신할 수 없다는 점을 분명히 가르쳐야 한다. 위기 관련 검색이 있을 때는 최신 상담기관과 신뢰할 수 있는 성인에게 즉시 연결되는 안전장치가 필요하다.

<세라 박 글로벌리더십 중·고등학교 교장>