챗GPT는 GPT-3 모델을 기반으로 한 대화형 인공지능이다. GPT-3은 1,750억 개 매개변수를 바탕으로 글을 생성해내는 오픈AI의 3세대 대형 언어 모델(LLM)을 통해 단어가 입력되는 즉시 다음 단어를 추론한다. 인간 피드백형 강화학습(RLHF)이라는 절차도 함께 진행해 챗GPT의 이해력을 강화한다. RLHF는 챗GPT가 배출한 텍스트에 대한 사람의 선호도를 바탕으로 모델을 최적화한다.
챗GPT는 출시 두 달 만에 가입자 1억 명을 돌파하는 등 화제를 일으켰다. 뛰어난 문장 구사 능력과 정보 종합 능력에 많은 사용자가 감탄했고 빌 게이츠는 챗GPT를 두고 ‘인터넷만큼 중대한 발견’이라며 극찬했다. 한편 챗GPT가 일으키는 ▲사용자의 문제해결력 저하 ▲정보 오류 ▲편향성 등 부작용에 대한 논의는 충분히 이뤄지지 않았다.
챗GPT를 접하고 레이 브래드버리의 소설 〈화씨 451〉이 떠올랐다. 화씨 451속 사회는 독서를 범죄로 취급하고 책을 불태우는 방화수가 존재하는 디스토피아다. 방화소 서장 비티는 주인공에게 이런 말을 한다. “우리 사회는 해석이 필요 없는 정보와 ‘사실’들을 사람들에게 주입함으로써 스스로가 생각하고 있다고 느끼게 만들어. 움직이지 않고도 운동감을 느끼게 만드는 거지. 결론적으로 사람들은 행복해지는 거야.” 정부는 비판적 사고력을 잃어버린 국민 위에 군림해 국가를 잿더미로 만든다. 자의적으로 정보를 선별해 하나의 답변만을 내놓는 화씨 451의 디스토피아가 오늘날 챗GPT의 등장으로 현실화하고 있다.
문제해결 능력 저하는 챗GPT가 불러올 중대한 변화 중 하나다. 사용자의 문제해결을 위해 탄생한 챗GPT는 역설적으로 인간의 문제해결 능력에는 걸림돌이 된다. 절차적 사고는 문제를 해결하는 데 필수적인 능력이다. 인간은 문제를 이해하고 해결에 필요한 정보를 수집해 단계별로 처리하며 문제를 해결한다. 반면 챗GPT는 문제 해결의 중간 과정을 생략하고 사용자들에게 결과만을 가져다준다. 인간의 기계 텍스트에 대한 신뢰도가 높은 탓에 문제해결 과정의 마지막 단계인 피드백조차 제대로 이루어질지 의문이다.
무엇보다 문제해결 방법을 배우는 학생이 스스로 사고하는 대신 챗GPT에 의존한다면 심각한 문제가 될 것이다. 실제로 학생들은 어떤 에세이든 유려하고 깔끔하게 내놓는 챗GPT에 과제 해결을 전적으로 맡기는 사례가 종종 발생했다. 이에 뉴욕의 모든 공립학교는 챗GPT가 ‘학생들의 비판적 사고와 문제해결 능력을 기르는 데 도움이 되지 않는다’며 접속을 막았다. 챗GPT를 시작으로 더욱 발전할 미래의 AI가 해결의 도구를 넘어 해결의 주체가 된다면 인간의 문제해결 능력은 서서히 퇴보할 듯하다.
챗GPT의 정보 오류와 편향성은 또 다른 문제다. 챗GPT는 2021년 5월 이전의 정보를 습득한 데다 사람 눈에 적합한 문장을 구사하는 데 초점을 두기 때문에 옳은 답변이 아니더라도 기존의 지식을 끼워 맞춰 자의적으로 답변하는 경우가 종종 있다. 일례로 ‘이완용을 아냐’는 질문에 ‘조선의 독립운동가’라고 대답해 화제가 됐다. 혐오 표현이나 가짜뉴스 확산의 도구로 사용될 수 있다는 점도 지적할만하다. 챗GPT는 인터넷 속 수많은 미디어를 보고 학습했기 때문에 각종 가짜뉴스와 혐오 표현에 무방비 노출돼있다.
그러나 챗GPT만이 문제는 아니다. 오픈AI의 취지대로 AI가 ‘인류에게 기여’할 수 있는 도구가 되기 위해서는 AI라는 도구를 올바르게 사용할 수 있는 인간의 역량이 무엇보다도 중요하다. 미디어리터러시가 다시금 주목받는 이유다. 미디어리터러시는 매체를 이해하고 해석하는 능력을 일컫는다. 국제인증 교육 프로그램 국제바칼로레아(IB)는 참고 자료를 명시하는 조건으로 학생들의 챗GPT 사용을 허가했다. 챗GPT가 내놓은 글이 편향적이지 않은지, 창의력이 부족하지 않은지 비판적으로 검토할 수 있는 능력이 에세이를 작성하는 능력보다도 중요하다고 보았기 때문이다. AI와 함께 빠른 속도로 편리해지는 세상 속에서 인간은 때때로 느리고 불편할지라도 스스로 생각하는 행위를 게을리해서는 안 된다.
박예나 기자
june23107@korea.ac.kr
