[유레카] 윤영찬과 인공지능 편집의 중립성 / 구본권

[유레카] 윤영찬과 인공지능 편집의 중립성 / 구본권

등록 :2020-09-09 13:06수정 :2020-09-10 02:40

 

지난 8일 윤영찬 더불어민주당 의원이 포털 사이트의 뉴스 편집에 대해 문제를 제기한 게 입길에 올랐다. 포털사이트 다음이 이날 주호영 국민의힘 원내대표의 국회 연설 기사를 첫 화면에 주요하게 편집했지만 전날 이낙연 민주당 대표의 국회 연설은 노출하지 않았다며 항의하라고 보좌진에게 문자를 보낸 게 사진으로 포착됐다. 다음을 운영하는 카카오는 “뉴스 편집은 인공지능(AI)이 한다. 사람이 (특정 기사를) 넣고 빼는 게 아니다”라고 해명했다.

 

지난달 영국에서는 사람을 차별하는 알고리즘이 알려졌다. 영국 정부는 코로나19로 올해 대입 수능시험(A레벨)이 취소되자, 고교 졸업반 학생들에게 “기존 데이터에 근거해 학생들에게 적합한 학점을 부여한다”며 알고리즘으로 성적을 부여했다. 알고리즘은 교육 환경이 좋은 곳에 사는 부유한 학생들에겐 좋은 학점을 주었지만, 가난한 학생에겐 낮은 학점을 부여했다. 알고리즘이 학생들의 전년도 성적, 교사가 예측한 학점, 소속 학교의 역대 학업능력 등을 고려해 계산한 결과였다. ‘불공정한 성적’에 대한 고교생들의 항의시위가 이어졌고, 영국 교육부는 알고리즘 성적 부여를 철회했다.

 

미국에선 ‘얼굴 인식 알고리즘’과 ‘재판 형량 계산 소프트웨어’가 유색인을 차별하는 사례가 숱하게 보고되었다. 보스턴대학의 법학자 다니엘레 시트론은 “알고리즘을 객관적이라 생각해 신뢰하는 경향이 있지만, 그 알고리즘을 만드는 것은 사람이므로 다양한 편견과 관점이 알고리즘에 스며들 수 있다”고 말한다. 인공지능 데이터와 알고리즘을 다루는 개발자 절대 다수가 백인, 남성, 고소득자, 영어 사용자라는 사실은 알고리즘 차별의 구조적 요인이다.

​​​지난 8일 오후 국회 본회의장에서 윤영찬 더불어민주당 의원이 의원실 직원들과의 대화방에서 주호영 국민의힘 원내대표의 교섭단체 대표 연설이 카카오톡 메인 뉴스로 소개됐다는 연락을 받자 ‘카카오 너무하군요. 들어오라고 하셍’이라고 입력하고 있다. 공동취재사진

 

인공지능이 발달함에 따라 복잡하고 골치 아픈 일을 기계에 맡기고 “사람이 개입하지 않은, 객관적 결과”라고 내세우는 경우가 늘어나고 있다. 알고리즘은 구조가 드러나지 않아 작동하는 방식을 검증하기 어렵다. 영업비밀로 보호되고 있으며, 내부의 개발자만이 접근할 수 있다. 국제적 정보감시단체 ‘알고리즘 워치’는 ‘알고리즘 의사결정 선언(ADM 매니페스토)’을 발표한 바 있다. 제1항은 “알고리즘은 결코 중립적이지 않다”, 제2항은 “알고리즘 의사결정을 만든 사람은 그 결과에 책임을 져야 한다”이다.

 

구본권 산업팀 선임기자 starry9@hani.co.kr

더불어 행복한 세상을 만드는 언론 한겨레 구독신청

 

관련기사

• 국민의힘 “윤영찬, 의원직 사퇴해야…국정조사도 추진” 강공
• 이낙연, ‘포털 항의’ 윤영찬에 “부적절한 메시지 포착…엄중히 주의”
• 이낙연, 윤영찬 카카오 문자 논란에 “엄중하게 주의”

연재유레카

• [유레카] 윤영찬과 인공지능 편집의 중립성 / 구본권
• [유레카] ‘어우흥’은 없다 / 김창금
• [유레카] 국회의원 재산 축소 신고, 유무죄의 경계 / 박용현
• [유레카] ‘복비’ 아우성/ 김영배
• [유레카] 아브라함, 기독·유대·이슬람교의 뿌리 / 권혁철