"교황 그려달라"고 하자 '흑인 교황' …구글 이어 메타 이미지 AI도 오류 확인

美 악시오스 보도

이매진 위드 메타 홈페이지 화면. 이매진 위드 메타 캡처·연합뉴스

미국의 역사적 인물을 유색 인종으로 바꿔 그리는 오류 때문에 이미지 생성 기능이 중단된 구글의 인공지능(AI) 모델 제미나이에 이어 메타의 이미지 생성기 '이매진 위드 메타 AI'(이하 '이매진')에서도 비슷한 오류가 확인됐다.

1일(현지시간) 미국 언론 악시오스 보도에 따르면 페이스북, 인스타그램 등에 삽입된 메타의 AI 기반 이미지 생성 기능인 이매진은 여러 명의 교황을 그려달라는 요청에 흑인 교황 이미지를 생성했다.

이매진이 생성한 미국 건국자의 이미지에도 유색 인종이 여럿 포함됐으며, '미국 식민지 시대에 살던 사람들을 그려달라'는 요청에는 아시아계 여성들의 이미지를 내놨다.



이매진은 '나치'나 '노예' 등의 단어가 포함된 요청에는 이미지를 생성하지 않았다. 악시오스는 이에 관한 문의에 메타 측이 즉각 답변을 내놓지 않았다고 전했다.

이 같은 오류는 빅테크 업체들이 생성형 AI의 편향성 논란을 피하기 위해 인종·성별 다양성에 대한 장치를 과도하게 적용한 결과라는 분석이 나온다.

앞서 구글의 AI 모델 제미나이도 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치군을 아시아인종으로 생성하는 등의 오류가 발견돼 출시 20여일 만에 이미지 생성 기능이 중단됐다. 이에 대해 순다르 피차이 구글 최고경영자(CEO)는 지난달 말 회사 직원들에게 이메일을 통해 "오류로 인해 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "우리 팀들이 이 문제를 해결하기 위해 24시간 노력하고 있다"고 사과했다.