AI(인공지능)는 얼굴 인식을 지금까지 ‘누구의 얼굴’로 배웠을까. 인공지능 모델은 대부분 인터넷에서 무단 수집한 이미지 수천만 장을 학습해 만들어졌다. 이 과정에서 초상권 침해와 인종·성별 편향 문제가 꾸준히 제기돼 왔다. 이런 구조적 문제를 해결하기 위해 일본의 소니AI 연구팀이 세계적으로 동의를 받은 얼굴과 전신 이미지만으로 구성한 윤리적 데이터 세트를 구축했다. 공정 무역 커피가 생산자의 권리를 지키듯, 데이터 제공자의 권리를 존중하는 ‘공정 AI’를 구현하려는 시도다.



◇81국 19 81명 참여한 ‘공정 데이터 세트’
소니 AI 연구팀은 국제 학술지 네이처에 AI의 시각 편향을 점검하고 교정하기 위한 공정성 평가용 데이터 세트 ‘FHIBE(Fair Human-centric Image Benchmark·피비)’를 최근 공개했다. 피비는 AI가 인간의 외형을 어떻게 인식하고 차별하는지를 정밀하게 진단하도록 설계됐다. 81 국의 1981명이 제공한 얼굴 및 전신 이미지 1만318장으로 구성됐다.
참여자는 프로젝트의 목적과 위험성을 안내받은 뒤 언제든 사진 사용을 철회할 수 있는 동의 절차를 거쳤다. 연구팀은 “데이터 제공자, 주석자, 검수자 모두에게 지역별 최저임금보다 훨씬 많은 보수를 지급했다”며 “동의, 프라이버시, 공정한 보상은 AI 윤리의 핵심 원칙” 이라고 밝혔다. 이미지 제공자의 보수 수준은 해당 지역 최저임금의 약 12배였다.
피비는 단순한 얼굴 사진 모음이 아니다. AI 모델이 실제 환경에서 받는 시각적 영향을 정확히 분석하기 위해 조명, 카메라 위치, 거리, 포즈, 표정, 배경 등 71항목에 세밀한 주석을 부여했다. 또 나이, 조상 지역, 피부색, 머리카락 색상 등 참여자가 직 접 입력한 인구 통계 정보도 포함돼 있다. 이를 통해 AI의 편향을 인종은 물론이고 나이·성별·피부색·지역 등 교차 요인까지 분석할 수 있다.
◇종전 AI, 흑인→농촌’ 연관 짓는 편향 나타나
연구팀은 피비를 이용해 오픈AI의 ‘CLIP’과 세일즈포스 리서치의 ‘BLIP-2′ 등 대표적인 멀티 모달 AI 모델의 편향 정도 를 평가했다. 분석 결과 CLIP은 아프리카계 인물을 ‘야외’나 ‘농촌’ 배경과 더 자주 연관 짓는 편향이 확인됐다. BLIP-2는 직업을 묻는 질문에 마약상, 도둑, 성매매 여성 같은 고정관념적 단어를 특정 인종과 성별에 더 자주 연결했다. 연구팀은 또 AI의 얼굴 인식 오류가 ‘대머리나 짧은 머리형 남성’에게 집중된다는 점을 확인했다. 머리카락이 없거나 짧으면 AI가 얼굴의 경계를 인식하지 못해 얼굴을 구별하지 못하고 혼동할 때가 많았다는 것이다. 연구팀은 “이런 세밀한 요인까지 분석할 수 있는 것이 피비의 강점”이라고 했다.
◇AI 학습용 아닌 ‘공정성 평가 전용’
피비는 AI 학습용이 아니라, 이미 만들어진 AI가 얼마나 공정하게 작동하는지 평가하기 위한 ‘공정성 평가 전용 데이터 세트’다. 연구팀은 “일반적인 AI 성능 향상 목적의 학습에는 사용할 수 없고, 공정성 평가 및 편향 완화 목적에 한해 접근이 허용된다”고 밝혔다. 이번 윤리적 데이터 구축에는 상당한 비용이 들었다. 연구팀은 원본 이미지를 약 2만8703장 수집했고, 이 가운데 기준을 충족한 1만여 장만을 피비에 최종 포함했다. 연구팀은 “윤리적 데이터 수집은 비용이 많이 들지만, 신뢰할 수 있는 AI의 전제 조건”이라고 했다. 피비는 법적·윤리적 기준을 충족하면서 공정성 평가에 활용할 수 있는 새로운 표준 사례로 평가된다. 연구팀은 “AI의 공정성을 객관적으로 측정할 수 있는 데이터 인프라를 만든 것”이라며 “데이터의 ‘윤리적 출처’ 중요성이 앞으로 더욱 강조될 것”이라고 했다. 학계 일각에서는 이번 시도를 ‘AI 시대의 데이터 인권 선언문’에 빗댈 만하다고 평가한다.