백인을 유색인종으로 묘사

지난 21일(현지 시간) 구글(Google)이 자사의 인공지능(AI) 챗봇 '제미니(Gemini)'의 이미지 생성 기능을 일시적으로 중단한다 발표했다.

구글이 자사 챗봇 제미니의 이미지 생성 기능을 일시적으로 중단한다. 언스플래쉬

이는 최근 제미니가 미국 건국의 아버지라 불리는 초기 정치인과 교황 등 역사적 인물의 인종을 과도하게 변형해 재현한다는 논란에 대응한 조치다.

아울러 일부 사용자가 제미니에 "1943년 독일 군인 생성"이라는 프롬프트를 입력하자 나치 군복을 입은 흑인, 아시아인과 원주민 병사를 보여준 사례도 공개됐다. 또한 중국인, 유대인, 남아프리카인 등의 명령어에는 요구사항과 일치한 결과를 만들었으나 "백인"은 거부한 것으로 드러났다.

제미니는 해당 요청이 특정 인종이나 피부색에 관련된 고정관념과 편견을 강화할 수 있다고 판단했다며 "이를 수행할 수 없다" 답변한 것으로 알려졌다.

업계는 제미니의 태도를 "과잉 교정의 결과"라 풀이하기도 했다. 지난 몇 년간 AI로 훈련된 챗봇은 제공된 얼굴 중 범죄자가 누구인지 물었을 때 흑인을 반복적으로 선택하는 등 인종차별적이고 성차별적인 행동을 보여온 바 있다. 

비판이 이어지자, 구글은 현재 문제 해결을 위해 노력 중이며 개선된 버전을 곧 재공개할 예정이라고 밝혔다. 이어 다양성을 더하려는 의도였으나 실행 과정에서 사회적, 역사적 맥락을 세심하게 고려하지 못한 점을 인정한다 전했다.

구글의 대형 언어 모델(LLM)을 기반으로 하는 제미니는 최대 100만 개의 토큰을 실행하여 상용화된 모델 중 가장 긴 컨텍스트(문자열 길이) 창을 가지고 있다. 컨텍스트 창이 클수록 방대한 양의 정보 분석이 가능해 주제나 문맥을 더 잘 이해하여 일관되고 관련성 높은 응답을 제시할 수 있다. 예를 들어 44분짜리 영화가 주어지면 줄거리와 사건을 정확하게 분석하고 놓치기 쉬운 세부 사항까지 식별한다.