『대량살상 수학무기』빅데이터와 인공지능이 사람을 공격한다고?

 

 

2년 동안 어떤 변화가 있었나?

 이번 달 독서 모임에서 발제를 맡게 되었다. 평소 관심있던 주제인 '기술이 인간에 미치는 영향'에 대해 토론해보고 싶었다. 특히 기술의 찬란하기만 한 미래가 아닌, 어두운 면 또한 다루고 싶었다. 2018년에 읽었던 『대량살상 수학무기』가 떠올랐다. 이 책은 내가 찬양하기만 했던 기술이 사람들에게 어떤 악영향을 미칠 수 있는지 되돌아보게 했고, 경각심을 가지게 했던 책이었다.

 

 저자가 고발한 대부분 사례는 미국의 사례로, 2년 전 이 책을 읽을 당시에는 한국에서 비슷한 사례를 찾아보기 힘들었다. 그렇기 때문에 나 또한 '알고리즘의 위험성'을 현실이 아닌 다가올 미래의 가능성 정도로만 받아들였다. 그러나 2년 사이 많은 것이 바뀌었다. 발제를 준비하면서 여러 사례들을 조사하다 보니 내 주위에서도 비슷한 모습들이 나타나고 있었다. 정교해진 알고리즘은 호시탐탐 약자들을 노리고 있었고, 인공지능은 효율이라는 이름으로 사람들을 평가했다.

 

정교해진 낚시 바늘, 타겟 광고

 내 블로그를 방문하는 사람들이라면 알겠지만, 요즘 퀀트 투자와 투자 자동화에 관심이 많다. 페이스북은 이런 나의 관심사를 어떻게 알았는지 인스타그램에 투자 자동화 강의에 대한 광고를 띄워준다. 구글과 페이스북이 나의 관심사를 정확히 겨냥하여 광고를 보여줄 때 그들의 기술력에 감탄하며 약간의 경외심이 들기도 한다.

 

출처:인스타그램 광고

 글로벌 IT 기업들이 뛰어난 기술력을 바탕으로 아무리 정확한 타겟 광고를 하더라도 광고는 광고다. 그저 정교해진 낚시 바늘일 뿐이다. 타겟 광고는 우리의 결핍을 이용하여, 주의력을 빼앗는다. 마치 이것만 있으면 모든 문제가 해결될 것이라고 광고지만, 실제로 그만한 효과가 없다는 사실을 잘 알고 있다. 그럼에도 결핍이 많은 약자들은 광고에 더 잘 현혹되고 더 많은 피해를 본다. 책에서는 영리 대학이 약탈적 타겟 광고의 사례로 등장한다. 문제는 글로벌 IT 기업들이 사용자에 대해 너무나 많은 것을 알고 있기 때문에 약점을 공략하기 쉽다는 것이다. 

 

출처:Google 계정관리-데이터 및 맞춤설정-광고 개인 최적화

 

 구글은 단순히 나이, 지역, 관심사 뿐만 아니라, 소득 수준이나 직종, 주택 소유 여부까지 파악하고 있었다. 발제를 준비하면서 구글의 정보 수집력에 놀라기도 했다. 타겟 광고에 일상을 방해받고 싶지 않아서 개인 정보를 광고에 활용하지 않도록 설정 해두었다. 확실히 설정 이후 광고는 내 관심을 끌지 못 했고, 광고에 눈이 간 적도 없었다.

 

인공지능이 불합격 시킨 사람들

 2020년 한국을 기준으로 봤을 때 약 300개의 기업에서 AI 면접을 도입했다. 대부분 회사가 AI만으로 면접을 진행하지는 않지만, AI 면접 과정에서도 분명히 불합격자가 발생한다. 그리고 채용 담당자도, 지원자도 불합격의 원인을 알지 못한다.

 

출처:캐치

자료를 조사하다 AI 면접에 대한 의구심을 제기한 블로그를 발견했다. 

 

요즘 유행하는 AI 면접의 실체 (feat. 마이다스아이티)

 

 나 또한 인공지능을 공부해본 경험을 바탕으로 보았을 때 AI 면접 솔루션 회사에서 홍보하는 내용을 곧이 곧대로 믿기는 어려웠다. 채용만큼 중요한 과정에서 아직 신뢰도가 확보되지 않은 기술만을 믿고 판단을 넘기기에는 시기상조다. 『대량살상 수학무기』에서도 언급하고 있지만, 인공지능이 사람을 평가할 때 성별, 인종, 소득 수준에 따른 불평등한 결과가 지속적으로 나타나고 있다. 이런 상황에서 인공지능의 평가 범위는 확대되고 있다. 최근에는 영국에서 코로나로 인해 수능 시험을 보기 힘들어지자 인공지능으로 수능 점수를 예측해서 점수를 부여하기도 했다.

 

출처:https://news.chosun.com/site/data/html_dir/2020/08/17/2020081701255.html

 

부족한 해결책

 이 책 『대량살상 수학무기』의 주 목적은 4차 산업혁명 시대의 새로운 방향을 제시하는 것이라기 보다 현실을 고발하는 것에 가깝다. 그래서인지 문제 제기에 비해 해결책이 많이 빈약하다. 저자가 주장하는 가장 핵심적인 해결책은 '알고리즘을 감시하는 대항세력을 만든다'이다. 실제로 저자는 대항세력이 되어 알고리즘을 감시하거나 비판하는 역할을 수행하고 있다. 하지만 글로벌 대기업을 상대로 '지적 재산권' 자체인 알고리즘을 감시한다는게 쉬운 일은 아니다. 그 외에는 기업과 데이터 과학자가 올바른 마음으로 일해야 한다는, 도덕적 의무에 호소하는 정도이다.

 

아름다운 4차 산업혁명 시대를 기대했던 분들에게

 나는 기술로써 사람들에게 도움을 주기 위해 IT의 길을 선택했고, 수많은 사람들이 기술의 혜택을 입으며 살아가기를 바랐다. 그렇게 나는 기술 예찬론자가 되어갔고, 나도 모르는 사이 보고 싶은 모습만 보는 눈 뜬 장님이 되었다. 그런 나에게 『대량살상 수학무기』는 새로운 시선을 가져다 주었다. 나와 같이 기술에 감탄하며 아름답기만한 4차 산업혁명 시대를 기대했던 분들에게 이 책을 추천한다.

 

 지금 당장 우리가 타겟 광고나 AI 면접을 금지시킬 수 없는 것처럼, 한 개인이 알고리즘과 인공지능에 대항하여 할 수 있는 일은 없어 보인다. 하지만 모르고 당하는 것과 알면서 대응하는 것은 천지 차이다. 알고리즘과 인공지능이라는 이름 뒤에 감추어진 탐욕의 먹잇감이 되지 않기 위해서는 '기술이 인간에 미치는 영향'에 대해 더욱 잘 알아야 한다.

 

 내가 『대량살상 수학무기』을 읽고 이 글을 쓰는 이유가 '빅데이터와 인공지능은 믿을 만한 기술이 아니니, 사용하지 말자'는 아니다. 기술은 선도, 악도 아니다. 누가 어떻게 사용하느냐에 따라 달라지는 도구일 뿐이다. 독자들이 『대량살상 수학무기』를 읽고 균형잡힌 시선으로 새로운 기술을 바라볼 수 있기를 바란다.

---

공감과 댓글, 그리고 공유는 큰 힘이 됩니다 : )