인간을 위한 AI 첫걸음,

.

.

인공지능 분야의 윤리수업을 가르칠 때 학생들은 인공지능 기술 자체에 대해 부정적인 인식을 가져서는 안 된다.

왜 인공지능 윤리를 배워야 하는가?

그 목적은 인공지능 개발자와 사용자가 인공지능 기술을 적절하게 사용할 수 있도록 하는 것입니다.

인공지능 기술 자체를 거부하는 것이 아닙니다.

.

.

.

.

2016년 10월 인간과 인공지능의 바둑 대결이 벌어졌다. 구글 딥마인드가 개발한 인공지능 바둑 프로그램 알파고와 한국 프로게이머 이세돌의 대결이었다. 총 5번의 대결에서 9단 이세돌이 단 1승만을 거뒀고, 이후 AI는 인간과 인공지능의 바둑 대결에서 진 적이 없다.

.

.

인공지능은 인간의 친구가 될 수 있을까?

알파고와 이세돌의 대결은 아직도 많은 사람들이 인공지능 하면 ‘알파고’를 떠올리는 충격적인 사건이었다. 당시 언론은 이 대결을 연일 보도했고, 한 인터넷 커뮤니티 사이트에서는 알파고를 소재로 한 밈을 만들었고, 사람들은 인공지능의 고도화 수준에 우려를 표하면서 이세돌의 첫 승을 극찬했다. 인공지능이 인간을 이겼다. 인간보다 똑똑하고 영화에서나 볼 수 있는 인간의 모든 직업을 대체하는 인공지능이 코앞에 다가온 충격적인 미래가 코앞이지 않습니까?

그러나 우려와 달리 2023년 이후에는 그런 미래가 아직 오지 않았다. 다행스럽게도 인공지능 기술은 인류의 지배자가 아닌 아주 좋은 인간의 “도구”로서 일상의 구석구석에 스며들었다. 우리 손에 스마트폰만 있으면 언제 어디서나 인공 지능 비서에게 도움을 요청할 수 있습니다. YouTube와 Netflix는 인공 지능 알고리즘을 사용하여 사람들의 취향에 맞는 동영상을 추천합니다. 인공지능으로 ‘더 똑똑’, ‘더 똑똑’해진 제품은 사람들의 삶을 더 편리하고 풍요롭게 만듭니다.

끊임없이 진화하는 인공 지능은 도구를 넘어선 “친구”로서의 인류의 지위에도 도전했습니다. 2020년 12월 AI 챗봇 ‘이루다’는 ‘당신의 첫 번째 AI 친구’라는 문구와 함께 서비스를 시작했다. 결과를 말하자면, 인류와 친구가 되려는 이루다의 첫 번째 시도는 실패했다. 딥러닝 알고리즘 기술을 활용한 이루다는 출시 후 이용자 수가 40만 명에 육박하는 등 빠르게 인기를 얻었지만 그 인기는 오래가지 못했다. 회화 학습 과정에서 다음과 같은 다양한 논란이 속출했기 때문이다. 마지막으로 이루다를 개발한 스캐터랩은 출시 약 3주 후인 2021년 1월 서비스를 종료했다(스캐터랩은 2022년 10월 ‘이루다 2.0’ 출시와 함께 서비스 재개).

2016년 알파고와 2020년 이루다의 공통점은 한국 사회에 충격을 준 인공지능이다. 그리고 초등학교 교사인 제 입장에서 알파고는 AI 발전 현황을 인지하고 그에 대한 해명이 필요함을 느낀 첫 번째 사건이었습니다. 이루다는 인류와 친구가 되기 위한 좋은 대의를 위해 개발된 인공지능입니다. 그러나 AI 개발자와 사용자 모두 사용자의 개인 데이터를 취급할 때 윤리성이 부족하여 첫 번째 시도는 실패했습니다.

.

.

고등학생을 위한 수업 계획 개발

이러한 문제의식은 내가 근무하는 초등학교 4학년을 위해 개발된 인공지능 수업계획서에서 시작되었다. 인공지능은 더 이상 초등학생에게도 낯설고 어려운 단어가 아니다. 스마트폰이 대중화되던 시대에 태어난 알파세대의 일상 곳곳에는 인공지능이 숨어 있다. 아이들은 인공지능 스피커와 대화하고, 인공지능 튜터와 함께 학습하고, 유튜브에 접속해 인공지능 알고리즘이 선택한 추천 영상을 시청한다. 인공 지능이 아이들의 일상 생활의 일부가 됨에 따라 학교는 아이들에게 인공 지능을 비판적으로 바라볼 수 있도록 가르쳐야 합니다. 인공지능과 대화하면서 인공지능이 나의 개인정보를 수집할 수 있고 인공지능이 제공하는 정보가 공정하지 않을 수 있음을 가르쳐야 합니다.

인공지능 수업안은 아래와 같이 총 10개의 세션으로 구성되어 있습니다. 본 수업안은 인공지능을 처음 접하는 초등학교 고학년 학생들을 대상으로 제작되었으며, 자세한 수업안은 한국언론진흥재단 MECA(https://www.meca.or.kr/) 웹사이트, FORME 웹사이트(https://www.forme.or.kr/teach/all.cs?m=108)단, 5~6학년을 대상으로 한 수업안이기 때문에 4학년의 발달 수준을 반영하기 위해 실제 수업에서 일부 내용을 삭제하였다.

· 고등학생을 위한 인공지능 수업안

.

학생들에게 먼저 코리아리서치 설문조사 결과를 보여주고 질문을 했다. “미래에 재판을 받게 된다면 인간 재판관에게 재판을 받고 싶습니까? 아니면 AI 판사에게 재판을 받고 싶니?”라고 질문하며, 학생들은 인공지능 판사와 인간 판사의 장단점을 간략히 살펴본 뒤 토론 형식으로 의견을 제시했다. 흥미롭게도 4학년 학생들의 의견은 코리아리서치 설문조사와 달랐다.

“인간판사와 인공지능판사” – 초등학교 4학년 설문조사 결과

(단위: 명)

.대부분의 학생들은 인간 판사에게 재판을 받기를 원했습니다. 물론 초등학교 4학년 한 반을 기준으로 한 결과라 일반화하기는 어렵지만 흥미로운 결과였다. 학생들은 “인공지능이 상황을 오해할 가능성이 있다”, “인간의 심리에 대해 인간이 더 잘 아는 것 같다”는 이유로 인간 판사를 선호했다. 일부 학생들은 판사가 인공 지능을 사용하여 데이터를 수집하고 결정을 내리는 방법에 대한 사전 지식이 부족하여 인간 판사를 선택했습니다. AI 심사위원을 선택한 소수의 학생들은 “AI가 더 많은 지식을 습득할 수 있다”는 이유로 꼽았다.

인간 판사를 선택한 일부 학생들은 단순히 “나는 인간이기 때문에” 인간 판사를 선택했다고 응답했습니다. 그 당시에는 그 대답이 적절한 근거가 아니라고 생각했는데 돌이켜보면 학생들은 인공지능이 인간에게 큰 도움이 된다는 점은 인식하면서도 인간을 완전히 대체하는 데는 꺼려했던 것 같다. 학생들의 의견은 한 페이지에 집중되었지만 많은 학생들이 손을 들고 자신의 생각을 이야기하는 뜻깊은 시간이었습니다.

마지막으로 유튜브에 올라와 있는 “Future Class” 영상을 함께 보면서 수업을 마무리 했습니다. 방송(“목적도 없고 자의식도 없을 때 차별하는가? 편견을 만드는 인공지능의 오류”). 초등학생이 이해하기에는 다소 어려우므로 교사가 중간 클립을 멈추고 추가 설명을 해야 합니다. 인공지능이 미래 사회에서 공정하게 활용되기 위해서는 데이터가 편향되어서는 안 되며, 편향된 데이터가 활용되지 않도록 시민들이 지켜봐야 한다는 말로 수업을 마쳤다.

유토피아 대 디스토피아

미래사회는 인공지능과 함께 합니다. 이는 거스를 수 없는 시대적 흐름이다. 미래사회 관련 수업을 할 때 좋아하는 주제가 있다. 미래사회는 ‘유토피아’일까, ‘디스토피아’일까? 유토피아와 디스토피아의 개념을 설명한 후 학생들에게 미래 사회를 상상하도록 요청하면 학생들은 모든 상상력과 사전 지식을 사용하여 다른 답변을 생각해냅니다. 이 수업에 넣지 못했는데 다음에 또 이 수업을 하면 이 질문으로 수업을 끝내고 싶다. “미래 인공지능 사회를 유토피아로 만들기 위해 무엇을 해야 하는가?” 미래 인공지능 사회는 인공지능 개발자와 사용자 모두 인공지능에 대한 올바른 윤리를 가져야만 유토피아가 될 수 있다. 그리고 이러한 미래사회를 맞이하기 위해서는 인공지능 윤리교육이 절대적으로 필요하다. 미래사회를 살아가게 될 청소년들을 위한 이번 강의안을 통해 인공지능의 윤리에 대해 많은 생각을 해볼 수 있는 시간이 되었으면 합니다.

.