인공지능(AI)이 기업 채용 서류를 검토하고, 금융권 대출 한도를 정하며, 정부 복지 수혜자를 가려내는 시대가 도래했다. 하지만 이러한 인공지능의 의사결정 과정에 성별에 따른 왜곡된 시각이 개입될 수 있다는 지적이 나오며 사회적 우려가 깊어지고 있다. 인공지능이 학습한 기초 데이터나 시스템 설계 단계에서 특정 성별에 불리하거나 유리한 결과물을 지속해서 도출하는 이른바 'AI 젠더 편향' 현상 탓이다.

이미 해외에서는 인공지능 채용 프로그램이 여성 지원자의 서류 점수를 낮게 책정해 전량 폐기된 사건이 발생해 큰 파장을 불렀다. 국내 사정도 크게 다르지 않다. 거대언어모델(LLM) 기반의 알고리즘은 날로 진화하고 있으나, 성별 편견은 여전히 해소되지 못했다는 실증적 분석이 잇따르고 있다. 

이러한 현상의 배경으로는 기술 개발 인력의 절대다수가 남성이라는 점, 그리고 주된 이용자 그룹을 도시 지역의 중산층 남성으로 전제한 채 설계가 진행된다는 점이 꼽힌다. 게다가 시스템 구축 이후 편향성을 검수하는 방식마저 지나치게 단순해, 기획부터 최종 검증에 이르는 전 과정이 편견에 취약할 수밖에 없는 구조라는 비판이다.

이러한 상황 속에서 데이터 인텔리전스 전문 기업 피앰아이(PMI)가 생성형 AI를 이용해 본 경험이 있는 만 20~59세 남녀 1,000명을 대상으로 'AI 공정성과 성별 편향에 관한 인식 조사'를 실시했다. 조사 결과 우리 국민 대다수는 행정 및 공공 영역에 인공지능을 도입할 때 편향성 문제를 해결하기 위해 고도의 신중함을 기해야 한다고 생각하는 것으로 드러났다.

조사 대상자의 68.1%는 공공 부문의 기술 도입 방식과 관련해 "시간이 소요되더라도 면밀한 검증을 선행해야 한다"라고 응답했다. 이는 "업무 효율성과 편의성을 위해 신속하게 도입해야 한다"라는 의견(20.7%)보다 세 배 이상 높은 수치다. 성별로는 여성(72.6%)이 남성(63.6%)보다 돌다리도 두드려 가야 한다는 신중론에 더 크게 공감했으며, 연령대가 높을수록 검증을 우선시하는 경향이 뚜렷했다. 

특히 50대의 신중론 응답률은 75.4%에 달해 20대(60.6%)와 격차를 보였다. 다만 업무 공간에서 매일 기술을 활용하는 고빈도 이용자층에서는 신속한 도입을 원하는 비율(35.8%)이 일반 이용자(17.4%)의 두 배를 웃돌아, 활용 체감도가 높을수록 효율성에 유연한 태도를 취하는 것으로 파악됐다.

특히 주목할 부분은 참여자의 63.8%가 대한민국 실정에 부합하는 별도의 알고리즘 편향 점검 잣대를 세워야 한다고 요구한 점이다. 해외의 규제 체제나 가이드라인을 여과 없이 수입하기보다, 한국어의 특수한 표현 방식과 국내 고유의 성역할 고정관념, 노동 시장의 관행 등 국내 사회의 맥락을 온전히 반영할 수 있는 독자적 평가 체계가 시급하다는 뜻이다. 이러한 목소리에는 남성(62.0%)과 여성(65.6%)을 가리지 않고 60% 이상의 높은 공감대가 형성됐다.

정부 차원의 사전 모니터링이 시급한 분야를 두고는 성별에 따라 시각차가 존재했다. '치안 및 범죄 예방'(남성 50.0%, 여성 47.5%)과 '의료 서비스 진단'(남녀 각 44.0%)은 남녀 모두에게서 최상위권으로 꼽혔다. 해당 영역들은 알고리즘의 판단 착오가 인간의 신체 안전 및 생명권과 직결된다는 공통 분모를 지닌다. 반면 '복지 수혜자 선정' 항목에서는 여성(46.6%)이 남성(41.2%)보다 민감하게 반응했고, '신규 채용' 부문은 남성(39.6%)이 여성(34.8%)보다 더 높은 우려를 표명해 처한 환경에 따라 정부 개입의 시급성을 다르게 판단하는 것으로 분석됐다.

기술의 객관성을 담보할 핵심 요건으로는 '판단 도출 근거를 투명하게 설명하는 기능'(21.6%)이 첫손에 꼽혔으며, '인간이 최종 단계를 재검토하는 시스템'(17.6%)이 그 뒤를 이었다. 기계가 왜 그러한 결정을 내렸는지 과정을 투명하게 공개하는 장치와 함께, 최종 승인은 인간이 담당하는 이중 제어 장치를 갈망하고 있는 셈이다.

피앰아이 관계자는 "이번 분석은 관련 법안이 마련되는 시점에서 국민이 진정으로 원하는 바가 단순한 기술의 전파가 아니라 우리 사회의 문화적 맥락을 파악한 정밀한 검수 체계라는 점을 시사한다"라며 "계층과 세대별로 염려하는 대목이 상이한 만큼 일률적인 단일 규제보다는 밀도 있게 고안된 맞춤형 정책 설계가 필요하다"라고 제언했다.