2016년 대중에게 처음 모습을 드러낸 마이크로소프트(MS)의 인공지능(AI) 테이(Tay)는 사람들과 대화한 지 16시간 만에 사용 중지를 당했다. 자극적인 내용의 정치적 발언은 물론, 인종차별 등 ‘편견’으로 가득한 발언들을 내뱉었기 때문이다.



인간이 갖는 부정적 또는 긍정적인 고정 관념 등과 같은 생각이 바로 편견이다. 이러한 편견은 성차별, 인종차별, 지역차별 등 각종 사회적 문제를 야기하는 요인으로 작용해왔다.

그렇다면 편견은 인간만이 가지고 있는 것일까?

넷플릭스 다큐 영화 ‘알고리즘의 편견(CODED BIAS)’(샬리니 칸타야 감독, 2020)에서 MIT 미디어랩의 연구원 조이 부올람위니는 안면 인식 프로그램에서 큰 충격을 받는다.

흑인 여성인 자신의 얼굴은 인식하지 못한 인공지능 프로그램이, 하얀 가면을 쓰자 얼굴이라고 인식했기 때문이다. 이후 조이는 이 인공지능을 테스트했고, 그 결과 피부색이 밝고, 남성일수록 인식 정확도가 높아지는 것을 확인했다. 다른 기업들의 알고리즘 역시 마찬가지였다.

“AI는 데이터에 기반하고 데이터는 우리의 역사를 반영해요. 과거가 우리의 알고리즘 안에서 머무르고 있는 거죠. 이 데이터는 지금까지 존재해온 불평등을 보여줍니다” -부올람위니

기계는 세상을 있는 그대로 똑같이 모사했을 뿐 윤리적인 결정을 내리지는 않았다. 단지 수학적인 결정만 내렸다. 그러나 명령한대로만 움직이던 기계가 점차 ‘지능화’라는 이름으로 나아가고 있다. 그 중심에 알고리즘과 인공지능(AI)이 있다.


인공지능, 알고리즘 자체로는 편견이 없는 깨끗한 상태일지 모르지만, 학습을 위한 자료로 사용하는 데이터로 인해 인공지능은 쉽게 편견에 오염된다. 인터넷의 각종 악플과 과거의 차별적인 채용방식으로 뽑힌 인력자료 등 인간의 편견이 가득한 인지 활동들의 잔여물도 데이터라는 이름으로 떠돌아다니기 때문이다.

편향적인 데이터에 노출된 인공지능은 편견을 갖게 된다. 하나의 편견에서 시작된 알고리즘이 더 강한 편견으로 이어지며 극으로 치달은 편견을 가진 인공지능을 만들어내는 것이다. 그리고 인공지능은 자신을 이용하는 사람들을 차별한다. 마치, 인간처럼.

조이 부올람위니를 비롯해 이 영화에 나오는 주요 인물들은 빅데이터와 인공지능에 대한 신뢰가 맹목적으로 이뤄지는 것에 대한 경계심을 가져야 한다고 말한다.

시민권 시대에 이뤄졌던 진보가 ‘기계중립’이라는 구실 아래 퇴보할 수 있다는 것이다. 현재 우리가 가진 알고리즘이 누가 고용될 지를 판단하는 데 사용되지만, 이 경위에 대해 인간이 확인하지 않으면 그 알고리즘은 수많은 사람이 자신의 목숨을 걸고 투쟁해 저지한 성, 인종, 장애 등에 대한 편견을 오히려 더 빠르게 전파할 수 있다. 부당하게 무시 당해 온 사람들을 더 무시 당하게 만드는 것이다.

항상 시키는 대로, 프로그래밍이 된 대로 하는 것은 효율적이다. 그러나 이 과정이 항상 인간적이지는 않다. 모든 것을 자동화하면 굉장히 비인간적인 일로 이어질 수 있다는 것을 알아야 한다고 이들은 경고한다.


자동화 시대에 감독 역할을 하는 알고리즘이 가장 큰 시민권 문제 중 하나라고 인식한 이들은 조이 부올람위니를 중심으로 ‘알고리즘 정의 연맹’을 만들었다.

이 연맹은 인공지능의 사회적 편견에 관해 배울 수 있는 공간을 사람들에게 만들어주고, 빅브라더 기업들에 인공지능이 사회를 위하는 쪽으로 움직이고 있다는 증거를 보이라고 말하며, 인공지능을 인간이 통제할 수 있도록 필요한 법 제정을 위해 노력 중이다.

이들의 움직임으로 2025년 6월 25일 미국 국회의원들은 안면 인식을 연방 차원에서 사용하는 것을 금지하는 법안을 도입했다. 그러나 알고리즘에 대한 미국의 연방 규제는 여전히 없다.

알고리즘은 인공지능을 탄생시켰고, 새로운 시대를 열고 있다. 그러나, 새로운 시대가 무조건 더 좋은 방향으로만 발전하는 것은 아니다. 기술적 발전이 가져다주는 편리가 인간 모두의 존엄성을 해칠 수 없도록, 기계에 대한 맹목적 신뢰를 경계하고, 비판적인 시각으로 꾸준한 견제와 감시가 필요한 시점이다.