이용 데이터 공개·AI에 전적 의존 말고 인간 관여 권장

(서울=연합뉴스) 이해영 기자 = 기업의 채용과 금융기관의 대출심사 등 인공지능(AI) 활용 분야가 갈수록 넓어지고 있는 가운데 일본의 민간 단체가 평가받는 개인이 불이익을 당하는 일이 없도록 하기 위한 '지침'(안)을 마련했다. 업계의 자율규제를 촉구하는 내용이다.

IT(정보기술)기업과 전문가들로 구성된 '퍼스날 데이터+α연구회'는 IT 활용에 관한 기업의 설명 책임 등 19개 항목의 체크 리스트를 정리했다고 아사히(朝日)신문이 22일 전했다.

AI로 개인정보를 분석해 유행 등의 경향을 파악하거나 평가하는 기법은 '프로파일링(profiling)'이라고 불린다. 이를 통해 얻은 예측 결과를 토대로 해당자의 취미와 기호에 맞는 광고를 선택해 노출시키는 등 다양한 용도로 쓰인다. 개인정보보호법상 프로파일링에 대한 규정은 명확하지 않아 이용자가 모르는 사이에 프로파일링을 통해 얻은 개인정보를 토대로 신용카드 이용한도가 변경되는 등의 불이익을 당할 우려도 있다.

AI활용에서 특히 문제가 되는 건 인공지능이 어떤 과정을 거쳐 특정 결론에 이르렀는지 그 과정을 알 수 없는 이른바 '블랙박스화'다. 연구회는 지침에서 AI가 사용한 예측 모델이 어떤 데이터를 이용했는지 밝히는 등 기업이 설명책임을 다해야 한다고 지적했다. 또 평가과정을 완전히 AI에 맡기지 말고 사람이 관여하는 방안을 검토하라고 촉구했다.

연구회 사무국장으로 헌법 전문가인 야마모토 다쓰히코(山本龍彦) 게이오(慶應)대학 교수는 "앞으로 프로파일링 결과가 개인에게 미치는 영향이 더 커질 것"이라고 지적하고 "위험에 대비할 필요가 있다"고 강조했다.

지침이 확정되면 AI를 이용하는 기업에도 도움이 될 것으로 기대된다. 연구회에 참가한 민간기업 담당자는 "규칙이 제정되면 기업으로서도 잠자고 있는 인재 관련 데이터를 적극 이용하기 쉬워질 것"이라고 말했다.

연구회는 새 회계연도가 시작되는 4월 이후 지침(안)을 제언으로 정리해 업계단체별로 자율규제를 마련하도록 촉구한다는 계획이다. 필요할 경우 정부에 개인정보보호법 개정도 제안한다는 방침이다.

일본 정부도 작년 12월 개인정보보호와 설명책임, 국적과 성별 등으로 차별을 받지 않도록 공평성과 투명성을 갖추고 혁신성을 확보, 국경을 넘어 데이터를 이용할 수 있는 환경 마련 등을 내용으로 하는 AI활용 7대원칙을 마련했다. 일본 정부는 6월 오사카(大阪)에서 열릴 주요 20개국(G20) 정상회의에서 국제원칙제정을 제안한다는 계획이다.

lhy5018@yna.co.kr