생성형 인공지능(AI)의 급속한 확산 속에서 학교 수행평가의 공정성과 신뢰도를 둘러싼 논란이 이어지는 가운데, 서울시의회가 제도적 보완에 나섰다. 서울시의회 김형재 의원(국민의힘, 강남2)은 수행평가 과정에서의 AI 활용 기준을 명확히 규정하는 내용을 담은 「서울특별시교육청 인공지능 교육 지원 조례 일부개정조례안」을 대표발의했다고 12일 밝혔다.

최근 교육 현장에서는 챗봇 기반 생성형 AI가 과제 작성과 자료 조사 등 학습 전반에 활용되며 새로운 학습 도구로 자리 잡고 있다. 그러나 올해 1월 한 고등학교에서 발생한 ‘집단 AI 부정행위’ 사례처럼, AI를 활용한 과제 제출이 어디까지 허용되는지에 대한 기준이 명확하지 않아 평가의 공정성을 둘러싼 혼선이 반복되고 있다는 지적이 제기돼 왔다.

김 의원이 발의한 이번 개정안의 핵심은 현행 조례 제9조에 규정된 ‘인공지능 윤리 지침’에 ‘수행평가 시 인공지능 활용 기준’을 명시하도록 하는 데 있다. 교육감이 수립하는 AI 윤리 지침에 수행평가에서의 AI 활용 범위, 출처 표기 방식, 무단 사용 시 조치 사항 등 구체적인 내용을 포함하도록 법적 근거를 마련하는 것이 골자다.

현행 조례는 AI 활용과 관련해 생명·신체 보호, 개인정보 보호, 허위정보 생성·유포 방지, 명예훼손 및 혐오표현 방지, 생성형 AI에 대한 과도한 의존과 오남용 방지 등을 지침에 포함하도록 하고 있다. 그러나 수행평가와 직결된 AI 활용 기준은 별도로 규정돼 있지 않아, 학교별·교사별 판단에 의존해 왔다는 점이 한계로 지적됐다.

김 의원은 “학생들이 AI로 작성한 결과물을 그대로 제출하거나 출처를 명확히 밝히지 않는 경우가 부정행위에 해당하는지에 대해 현장에서 혼선이 있었다”며 “명확한 기준이 마련되면 학생과 학부모, 교직원 모두가 납득할 수 있는 평가 환경이 조성될 것”이라고 밝혔다.

특히 수행평가는 학생부 기재와 진학에 직결되는 중요한 평가 요소라는 점에서, 공정성 확보는 교육 신뢰의 핵심 과제로 꼽힌다. AI가 사고 확장의 도구로 기능할 수 있음에도 불구하고, 무분별한 사용은 학생의 실제 역량을 왜곡할 수 있다는 우려도 제기된다.

김 의원은 “AI는 교육의 보조 수단으로서 가능성이 크지만, 통제 장치 없이 활용될 경우 사고력 저하와 평가 왜곡을 초래할 수 있다”며 “성적과 직결되는 수행평가에서 ‘AI 대필’과 같은 부정행위를 사전에 방지하고, 교사가 학생의 역량을 신뢰성 있게 평가할 수 있는 환경을 마련하는 것이 시급하다”고 말했다.

서울시의회 문화체육관광위원회 소속인 김 의원은 제11대 서울시의회 정책개발 심의위원장과 통일안보포럼 대표의원을 맡고 있으며, 교육·문화 정책 분야에서 지속적으로 제도 개선을 추진해 왔다. 지난해 11월 정례회에서는 교육 현안과 관련해 교육감을 상대로 질의를 진행하는 등 교육 정책 전반에 대한 점검 활동을 이어왔다.

이번 조례 개정안이 본회의를 통과할 경우, 서울시교육청은 수행평가에서의 AI 활용 기준을 포함한 구체적 윤리 지침을 수립·안내해야 한다. AI 기술이 교육 현장에 빠르게 스며드는 상황에서, 이를 둘러싼 책임과 기준을 제도화하려는 첫 시도라는 점에서 향후 논의의 방향이 주목된다.