2024-03-29 07:30 (금)
인공지능도 결국 사람이 만든 작품, 편견 개입될 수 있어
상태바
인공지능도 결국 사람이 만든 작품, 편견 개입될 수 있어
  • 배수연 기자
  • 승인 2018.01.22 16:35
이 기사를 공유합니다

z.jpg

▲출처=픽사베이

로봇과 알고리즘이 진화하여 개인정보 및 보안 문제에 적극 활용되면서 경제적 환란과 일자리 손실에 이르기까지 인공지능에 관한 많은 두려움과 걱정이 늘어나고 있다.

이러한 두려움은 오랫동안 공상 과학 서적의 주된 주제였지만, 미 연방로보틱스위원회(Federal Robotics Commission)가 인공지능과 관련된 기술 개발을 추진하면서 현실 세계에 빠르게 확산되고 있다. 미국 의회의 최근 법안에는 ‘인공지능의 개발과 실행에 대한 연방자문위원회의 역할’이 포함되어 있다.

프로퍼블리카(ProPublica)에 발표된 2016년 연구는 ‘잠재적인 기계학습 및 인공지능 편향’에 관한 논의를 야기했으며, 오래된 자료를 사용한 인종 및 성별 편향에 대한 문제가 제기된 바 있다.

인공지능 또한 사람이 만든 개체로서, 사람의 편견이 반영되는 경향이 있다. 따라서 인공지능이 해당 편견을 식별하고 객관적인 판단을 할 수 있는지 여부는 여전히 의문이다. 연구원들은 이른바 바이오매트릭 스캐너(Biometric scanner)에서 센싱 알고리즘(Sensing algorithm)에 이르기까지 전반적으로 발생 가능한 ‘알고리즘 바이어스(Bias)’을 수정하기 위해 노력하고 있다.

R스트리트인스티튜트(R Street Institute)의 투자분석가인 케일럽 와트니는 “인간의 편견이나 알고리즘 바이어스와 같은 실수는 비극적”이라고 말했다. 따라서 “무의식적인 선호에서 편견을 제거하고 토론을 통해 해결하려는 의식적인 노력이 필요하다”고 지적했다.

법적 고용 시스템의 오류와 같이 인공지능 결정으로 중대한 문제가 생길 수 있는 분야는 인간의 검토가 필수적이며, 이를 통해 편향된 알고리즘을 바로 잡을 수 있다.

애덤 시어러와 제니퍼 스키즈는 USNews의 기사를 통해 “(그러나) 메르카투스 센터(Mercatus Center)의 논문 결과에 따르면, 인공지능에 대한 우려는 50년 전에 이미 시작되었으며 이는 현실보다 반(反)이상향 과학에 기초를 두고 있다”고 말하며 “정책 입안자들은 새롭고 빠르게 발전하는 인공지능을 다룰 때 더욱 신중해야 한다”고 당부했다.


■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★