인공지능 알고리듬의 이해

정용찬 지음. 커뮤니케이션북스 펴냄. 2020년 7월 31일 초판 1쇄.

엥겔지수를 만든 독일의 통계학자 엥겔은 생존 기간 내내 그 사람의 모든 이력이 숫자로 표현되는 현상을 일컬어 “통계는 그 사람이 죽은 후에야 그를 자유롭게 놓아준다. 즉 정확한 사망 연령이 확인되고 사망 원인이 파악된 뒤에야 개인은 통계로부터 자유로워질 수 있다”고 표현했다(이언 해킹, 2012). 알고리듬도 이와 다르지 않다(6쪽).

구글은 검색 알고리듬을 공개하고 있지 않지만 지금까지 알려진 사항으로는 긴 글일수록, 해당 페이지가 자주 변경될수록, 페이지 내용이 복사한 것이 아니라 독창적인 것일수록, 저작권이 표기된 것일수록, 페이지에 접속할 수 없는 상황이 적게 발생할수록, 동영상 중에서는 유튜브 동영상이 더 우대받는다(41, 42쪽).
-크리스토프 드뢰서, 2018,

데이터에 기초한 알고리듬의 적용이 반드시 객관적인 결과를 보장하는 것은 아니다. 데이터 자체에 의한 편향과 알고리듬 기술의 적용으로 인한 편향이 존재하기 때문이다(77쪽).

최근 설명 가능한 인공지능(XAI,eXplainnable)이 강조되고 있는데, 효율성이 뛰어난 머신러닝이나 디프러닝은 분석 결과에 대한 설명이 가능했던 통계모형과 달리 분석결과에 대한 이유를 설명하지 못하기 때문에 알고리듬의 투명성을 강화하기 위한 노력이라 할 수 있다(91쪽).