AI가 골랐다면 누가 설명해야 할까?

가상의 AI 동아리 선발에서 자료 검토·이유 안내·재검토 절차를 켜고 끄며 각각 담당하는 책임을 확인합니다.

이 탐구에서 알아볼 내용

AI 결과를 인간의 책임 밖에 두지 않고 편향성·투명성·이의 제기를 서로 다른 과제로 설명합니다.

역할·의사결정형 · 연계 성취기준 12현윤03-03

사례와 관점을 선택하거나 조건을 바꾸며 탐구하는 활동입니다. 개념 해설과 탐구 질문은 이 페이지에서 바로 읽을 수 있습니다.

현재 설계에는 결정 이유와 한계의 안내, 사람에게 재검토 요청하는 절차가 빠져 있습니다. 각 빈자리는 서로 다른 문제를 남기며 한 조치가 나머지를 대신하지 않습니다.

가상 사례: 학교가 AI의 추천을 참고하여 동아리 지원자를 선발하려 합니다. 실제 지원자나 점수는 사용하지 않으며 이 활동에서 선발 결과를 자동 판정하지 않습니다.

AI 선발 절차의 역할과 한계
책임의 구분	현재 설계가 뜻하는 것	추가로 필요한 검토
자료의 대표성·편향	다양한 지원자의 상황이 반영되는지 조사하는 절차를 둡니다.	자료 검토만으로 목표·기준의 정당성이 자동 확보되지는 않습니다.
결정 이유와 한계	결과만 받아서는 오류나 부당한 기준에 대해 질문하기 어렵습니다.	이유를 설명할 수 있는 것과 그 이유가 정당한 것은 구별합니다.
사람의 재검토	오류가 발견되어도 어디에 시정을 요청할지 절차가 정해지지 않았습니다.	사람이 검토한다는 사실만으로 편향이 사라지지는 않으므로 권한·기한·기록을 정해야 합니다.