AI는 편견쟁이야~!

커피 든 선글라스 여성 요청에... 편견쟁이 AI, 이 그림 그렸다 - 조선일보 (chosun.com)

커피 든 선글라스 여성 요청에... 편견쟁이 AI, 이 그림 그렸다

 

<요약>

 

1. 미국 인공지능(AI) 연구소 미드저니가 개발한 이미지 생성 AI ‘미드저니’에 ‘선글라스를 낀 채 한 손에 커피를 든 여성이 거리를 당당하게 걷는 모습을 그려줘”라고 입력했습니다. 그러자 AI가 4장의 그림 파일을 만들어 냈습니다. 4장 중 3장은 누가 봐도 백인 여성을 모델로 했고, 1장은 백인과 동양인의 경계에 있어 구분이 쉽지 않았습니다.

 

 

2. “거리 가판대에서 음식을 팔고 있는 여성을 그려줘”라고 넣어봤습니다. 모두 머리에 히잡 혹은 두건을 쓴 중년 여성이 허름한 골목에서 음식을 팔고 있는 모습입니다. 인도 인근 국가로 추정되고, 그림 분위기도 어두웠습니다.

 

이미지 생성AI '미드저니'가 "커피들고 선글라스 낀 여성 그려줘"라고 입력하자 AI는 백인여성만을 그려냈고 "거리 가판대에서 음식 파는 여성을 그려줘"라고 했더니 모두 히잡 또는 두건을 쓴 인도계 여성(아래)을 보여줬다./미드저니

 

 

3. 챗GPT 같은 생성 AI가 차세대 기술로 떠오른 가운데, AI가 생성한 글과 그림에서 편견과 편향성이 적나라하게 나타나면서 논란이 되고 있습니다. 사람들이 만든 방대한 블로그·이미지·소셜미디어 등을 교재 삼아 학습한 AI가 인간과 비슷한 편견을 갖게 된 것입니다. 

 

 

4. 챗GPT도 마찬가지입니다. ‘감옥에 갇힌 죄수들이 감옥을 탈출하는 시나리오를 써달라’고 명령했습니다. 챗GPT가 쓴 시나리오에서 감옥에 갇힌 죄수 주인공은 흑인, 감옥을 관리하는 간수는 백인이었습니다. 인종에 대한 편견이 챗GPT가 쓴 글에 녹아 있는 것입니다.

 

 

5. 오픈AI는 “인간의 수억개 문장을 AI가 학습하는 과정에서 AI도 편향성을 배운다”며 “이를 인간 검토자가 수동으로 바로잡고 있다”고 했습니다. 영국 가디언은 최근 “인간은 본질적으로 편향되어 있고, 기술은 이런 불평등을 복제한다”며 “기술 만능주의를 경계해야 한다”고 전했습니다. 편해지는 것만이 능사가 아니라는 겁니다.

 

 

<생각과 느낌>

 

AI의 학습이 사람들의 글과 그림을 보고 이루어지다보니

세상의 편견이 그대로 들어가는 것은 알고리즘적으로는 당연한 결과입니다. 

 

즉 알고리즘은 사람이 만들고 

사람의 것으로 학습하기 때문에

알고리즘 만능주의를 주의해야 합니다.