AI 알고리즘의 늪, 독이 될 것인가

강지원(인천신현고 2학년)

 알고리즘, 사전적 용어로는 어떤 문제를 해결하기 위한 절차, 방법, 명령어들의 집합이다. 알고리즘의 본질은 AI로 사람은 말 속에 포함된 의미나 뜻을 이해할 수 있는 반면, AI는 정확하게 무엇을 해야 할 지 처리 내용과 순서를 구체적으로 해야만 명령을 수행하기에 프로그램에서의 알고리즘은 아주 필수적인 것이 아닐 수 없다. 인공지능의 대표적인 예에는 로봇공학, 머신 러닝, 지능 기계, 사이보그 로보 등이 있고 이것들은 모두 수많은 코드로 구성된 ‘알고리즘’이라고 볼 수 있다. 또한 이런 알고리즘을 생산해내는 일은 인간만이 할 수 있고 개발자만의 목표나 주관적인 이념이 반영되기에 객관적이지 못하는 정보가 많기도 하다.

 그렇다면 이런 알고리즘의 부정적인 면에는 어떤 것이 있을까? 수학자 캐시 오닐의 주장에 따르면 나쁜 알고리즘의 조건은 ‘불투명성’, ‘불공정성’이 있다고 한다. 여기서 불투명성이란 어떤 알고리즘에 자신이 포함되는 것을 당사자가 알고 있다고 하더라도 모형이 비공개인 경우를 의미한다고 한다. 이런 불투명성에 대해 의견을 제시한 또 다른 인물로는 선문대 황근 교수로, “알고리즘의 위력은 작동 매커니즘을 알 수 없는 불투명성, 즉 ‘블랙박스화’로부터 나온다. 알고리즘이 특정 목적을 위해 악용되더라도 사람들은 알 수 없다는 근원적인 위험성이 있다.”라고 말했다. 이와 같이 알고리즘의 편향성과 불투명성은 더욱더 큰, 많은 음모론과 거짓 정보들을 만들어내곤 한다.

 불공정성은 파괴적인 피드백 루프로 서로를 물리고 물리는 관계를 통해 상황이 악화되는 경우를 의미하는데, 예를 들어 가난한 사람들은 신용관리 상태가 나쁘고 범죄 발생률이 높은 동네에 살 가능성이 높다는 가정을 알고리즘이 반영한다면 이들은 대출심사에서 거부되거나 특정한 차별을 받는 등의 상황이 벌어질 것이라는 의미이다. 이렇게 알고리즘의 폐해가 늘어나고 있지만 동시에 알고리즘을 통해 생활의 편리함이나 이득을 보는 경우도 거듭 늘어나고 있다. 사람들에게 넓은 범위의 정보를 보다 손쉽게 전달해내고 문제점을 해결해내는 등 좋은 방향의 알고리즘도 있기 마련이다.

 그렇다면 어떻게 해야 알고리즘의 문제점을 해결하고 더욱 발전하게 만들 수 있을까? 바로 알고리즘의 투명성을 확보하는 것이다. 이것은 일정 부분의 불투명한 정보는 철저하게 규제하는 것으로 실행함으로써 받는 효과로는 무분별하고 정확성이 떨어지는, 또한 불공정한 알고리즘 정보들을 제재할 수 있다는 점이다.

 현대사회는 쉴 새 없이 발전해가며 인공지능과 알고리즘은 사회와 사회를 연결해주는 정보의 바다로 불어나가고 있다. 그러나 이 거대한 알고리즘 속에서 침전해있는 불투명성의 늪에 빠지지 않도록 제재해야만 하고, 알고리즘은 투명한 정보로써 빛나고 또한 세대를 거쳐 거듭나야 할 것이다.