며칠 전 점심시간에 회사 후배와 이야기하다가 우연히 ‘AI 면접’ 얘기가 나왔어요. 후배는 요즘 취업 준비하는 조카가 AI 면접 스터디를 한다며, 표정 관리부터 목소리 톤까지 다 연습해야 한다고 하더군요. 저는 문득 이런 생각이 들었어요. ‘인간의 편견을 없애려고 만든 AI가 오히려 더 교묘한 차별을 낳는 건 아닐까?’ 실제로 여러 글로벌 기업들이 채용 과정에서 인공지능을 도입한 지 꽤 됐습니다. 그러나 최근 연구와 보도에 따르면, 그 결과가 생각보다 순탄하지 않습니다. 특히 저는 후배의 이야기를 들으면서, AI 면접 스터디가 유행하는 현상 자체가 아이러니하다고 느꼈어요. 원래 면접은 지원자의 진솔한 모습을 보기 위한 자리인데, 이제는 기계를 상대로 연기하는 법을 배워야 하다니요. 이런 스터디를 하는 조카 세대는 AI가 평가하는 ‘정답’에 맞추느라 오히려 개성을 잃을 수도 있겠다는 생각이 들었습니다.
AI 채용 시스템은 원래 인간 채용 담당자의 무의식적 편향을 줄이기 위해 설계됐습니다. 성별, 나이, 출신 학교 같은 요소를 배제하고 오직 직무 능력과 경험만으로 후보자를 평가하려는 의도였죠. 그런데 실제로 작동해보니, AI가 학습한 데이터 자체가 과거의 차별적 채용 결과를 그대로 반영하면서 오히려 편향을 강화하는 경우가 발생했습니다. 예를 들어, 아마존이 2018년 폐기한 AI 채용 도구는 여성 지원자에게 불이익을 주는 것으로 드러났었죠. 이유는 AI가 과거 10년간의 합격자 데이터를 학습했는데, 그 데이터 안에 이미 성별 편향이 들어 있었기 때문입니다. 더 충격적인 점은, 이 AI가 ‘여성’이라는 단어가 포함된 이력서나 여성 스포츠 동아리 활동을 한 지원자에게 자동으로 낮은 점수를 줬다는 사실입니다. 알고 보니 아마존의 기술직은 남성 비율이 압도적으로 높았고, AI는 그 패턴을 ‘성공’의 기준으로 삼은 거예요. 이 사례는 AI가 인간의 편견을 그대로 복제할 뿐만 아니라, 더 체계적이고 은밀하게 확대 재생산할 수 있음을 보여줍니다.
이 문제를 더 깊이 파고들면, 알고리즘의 ‘공정성’ 정의 자체가 모호하다는 점을 만나게 됩니다. 한국일보의 관련 보도에 따르면, AI에게 ‘공정함’을 어떻게 정의하느냐에 따라 결과가 완전히 달라질 수 있다고 합니다. 어떤 기업은 동등한 기회를 중시하고, 어떤 기업은 동등한 결과를 중시하죠. AI는 이 철학적 차이를 스스로 이해하지 못합니다. 결국 사람이 정한 기준을 그대로 따를 뿐인데, 그 기준이 사회적 합의 없이 만들어지면 또 다른 차별로 이어질 수 있습니다. 예를 들어, ‘동등한 기회’를 중시하는 기업은 AI가 모든 지원자에게 같은 질문을 하고 같은 기준으로 평가하도록 설계하지만, 이는 오히려 사회경제적 배경이 다른 지원자들에게 불공평할 수 있습니다. 어떤 지원자는 좋은 학교에서 AI 면접에 익숙한 반면, 다른 지원자는 낯선 환경에서 불리할 테니까요. 반면 ‘동등한 결과’를 중시하면, AI가 특정 그룹의 합격률을 인위적으로 맞추려다 또 다른 역차별 논란에 휩싸일 수 있습니다. 이처럼 공정성의 정의 하나에도 수많은 함정이 도사리고 있습니다.
한편, 정부 차원에서도 AI 윤리 가이드라인이 나오고 있지만, 아직 강제성은 약합니다. 과학기술정보통신부의 ‘AI 윤리 기준’은 2020년에 마련됐지만, 실제 채용 현장에서의 적용은 자율에 맡겨진 상황입니다. 기업 입장에서는 AI 도입이 효율성과 비용 절감에 탁월하기 때문에, 윤리적 리스크를 감수하더라도 속도를 늦추지 않습니다. 저는 이런 규제의 공백이 더 큰 사회적 갈등을 부를까 봐 걱정됩니다. 실제로 한 조사에 따르면, 국내 대기업의 30% 이상이 이미 AI 채용 도구를 도입했거나 도입을 검토 중이라고 합니다. 그런데 이들 중 상당수는 자체적으로 편향 테스트를 하지 않고, 해외에서 만든 블랙박스 같은 알고리즘을 그대로 사용하는 경우가 많아요. 문제가 생겨도 원인을 찾기 어렵고, 책임 소재도 불분명합니다.
실제 사례를 좀 더 들여다볼까요. 2020년 영국에서는 AI 채용 시스템이 특정 인종의 지원자들에게 일관되게 낮은 점수를 준 사실이 밝혀졌습니다. 그 시스템은 지원자의 언어 패턴과 음성 톤을 분석했는데, 백인 남성의 화법을 ‘이상적’으로 학습한 겁니다. 결과적으로 여성이나 소수 인종 지원자는 부당하게 낮은 평가를 받았죠. 이처럼 AI가 공정성을 담보하려면, 학습 데이터의 대표성과 다양성이 무엇보다 중요합니다. 하지만 현실은 빅데이터라는 이름 아래 이미 편향된 데이터를 그대로 사용하는 경우가 많습니다. 또 다른 흥미로운 사례는, 한 금융권 AI 채용 시스템이 지원자의 얼굴 표정을 분석해 ‘성실함’을 평가하려 했지만, 특정 인종의 표정을 부정적으로 해석하는 문제가 드러났습니다. 결국 AI는 인간의 편견을 데이터에 숨겨진 형태로 그대로 반영하고, 때로는 더 교묘하게 강화하는 셈입니다.
이런 문제를 해결하기 위해 최근에는 ‘설명 가능한 AI(XAI)’와 ‘AI 감사(Audit)’ 개념이 주목받고 있습니다. AI가 어떤 이유로 특정 결정을 내렸는지 사람이 이해할 수 있도록 투명성을 높이려는 시도입니다. 하지만 기술적으로 아직 완벽하지 않고, 기업들이 자발적으로 내부 알고리즘을 공개할 유인도 적습니다. 게다가 AI 감사 자체도 편향된 감사자가 수행하면 또 다른 문제가 생길 수 있습니다. 마치 감사하는 사람의 시각이 결과를 왜곡하는 꼬리에 꼬리를 무는 상황이죠. 예를 들어, 어떤 감사팀은 특정 인종이나 성별에 대한 무의식적 편향을 가지고 있을 수 있고, 그들이 만든 테스트 데이터도 편향될 가능성이 있습니다. 이처럼 AI의 공정성 문제는 기술적 해결만으로는 부족하고, 사회적 합의와 지속적인 모니터링이 필수적입니다.
저는 직장에서 나이 드는 여성으로서, 이 문제가 남의 일 같지 않습니다. 과거에는 ‘여성이라서’, ‘나이가 많아서’라는 이유로 서류에서 탈락한 경험이 있습니다. 그때는 면접관의 눈빛이나 말투에서 편견을 느꼈지만, 이제는 AI가 더 차가운 방식으로 같은 일을 반복할까 봐 두렵습니다. 특히 AI는 한번 학습되면 수정하기 어렵고, 그 영향력이 광범위하게 퍼지기 때문입니다. 채용뿐 아니라 대출, 보험, 형량 예측 등 다양한 분야에서 AI가 사용되는 현실을 생각하면, 이 문제는 더 시급합니다. 실제로 최근 국내에서도 AI 면접에 불합격한 지원자들이 ‘알고리즘 차별’을 주장하며 소송을 준비 중이라는 뉴스를 접했습니다. 이 소송의 결과가 어떻게 나오든, AI 채용의 투명성과 공정성에 대한 사회적 논의를 촉발할 중요한 계기가 될 것입니다.
다행히 최근 유럽연합(EU)은 AI 규제법을 통해 고위험 AI 시스템에 대해 강력한 규제를 도입하고 있습니다. 채용 AI도 고위험군에 포함돼, 편향 테스트와 인간의 개입을 의무화하고 있죠. 우리나라도 이 흐름에 동참할 필요가 있습니다. 이미 국가인권위원회가 AI 기반 채용의 인권영향평가를 권고한 바 있지만, 법적 구속력이 없어 실효성에 의문이 듭니다. 저는 개인적으로, AI 채용 시스템을 도입하는 모든 기업이 정기적으로 외부 감사를 받고, 그 결과를 공개하도록 의무화하는 법안이 필요하다고 생각합니다. 또한, 지원자들이 AI 평가 결과에 이의를 제기할 수 있는 절차도 마련되어야 합니다. 그래야만 AI가 단순한 효율성 도구를 넘어, 진정으로 공정한 채용의 파트너가 될 수 있을 것입니다.
전망을 해보자면, AI 채용의 미래는 기술 발전과 규제 사이의 줄다리기로 결정될 것입니다. 기술이 빠르게 발전하는 만큼, 그에 걸맞은 윤리 기준과 법적 장치가 뒷받침되어야 합니다. 단순히 AI를 도입한다고 차별이 사라지지 않습니다. 오히려 차별이 더 교묘하고 은밀해질 수 있다는 점을 인식하고, 다각도로 대비해야 합니다. 저는 앞으로도 이 주제를 계속 지켜보면서, 개인과 사회 차원에서 할 수 있는 작은 실천들을 고민해보려 합니다. 예를 들어, 제가 속한 회사의 인사팀에 AI 채용 도구의 편향 테스트 결과를 요청하거나, 관련 세미나에 참석해 최신 논의를 따라가는 것도 하나의 방법이겠죠.
결국 AI는 도구일 뿐입니다. 그 도구를 어떻게 사용하느냐는 우리 인간의 몫입니다. 공정한 사회를 만들겠다는 의지 없이 AI에만 의존한다면, 역설적으로 더 불공정한 세상이 올 수도 있습니다. 오늘 점심 후배와 나눈 대화가 저에게 이렇게 긴 생각을 하게 만들 줄은 몰랐네요. 다음에는 또 다른 이야기로 찾아뵙겠습니다.