Home / 핫뉴스
AI 업계, 말뿐인 책임·안전 약속
AI 리스크 평가 보고서 공개… 실질 대응 미흡
- 박해련 기자 (press3@koreatimes.net)
- Jul 17 2025 03:57 PM
세계 주요 인공지능 기업들이 AI 안전 관리에 있어 심각한 미흡함을 보이고 있다는 평가가 나왔다. 두 건의 비영리 기관 보고서에서 이들 기업은 위험 관리 수준이 전반적으로 '수용 불가' 수준이며, 여러 안전 분야에 대한 실질적 노력조차 부족한 것으로 나타났다.
타임지에 따르면, 이번 조사는 비영리 단체 세이퍼AI(SaferAI)와 퓨처 오브 라이프 인스티튜트(FLI, Future of Life Institute)가 공동으로 진행했다. 두 기관은 주요 AI 기업의 정책과 실행 내용을 평가해 기업별 위험 관리 점수를 매겼으며, 향후에도 지속적인 시리즈로 발표를 이어갈 계획이다.
FLI의 맥스 테그마크(Max Tegmark) 회장은 누가 말뿐이 아닌 실질적인 행동을 하고 있는지를 명확히 보여주는 것이 이번 조사의 목적이라고 밝혔다.
세이퍼AI는 각 기업의 책임 있는 확장 정책(responsible scaling policies)을 중심으로 위험 인식과 대응 방식의 성숙도를 평가했다. 조사 결과, 평가 대상 어떤 기업도 약함(weak) 이상의 등급을 받지 못했다. 가장 높은 점수를 받은 곳은 앤트로픽(Anthropic)으로 35퍼센트였고, 오픈AI(OpenAI) 33퍼센트, 메타(Meta) 22퍼센트, 구글 딥마인드(Google DeepMind) 20퍼센트가 뒤를 이었다. 일론 머스크가 설립한 엑스AI(xAI)는 18퍼센트를 기록했다.
앤트로픽과 구글 딥마인드는 2024년 10월 첫 평가 당시보다 점수가 낮아졌다. 이로 인해 오픈AI가 구글을 제치고 2위로 올라섰다. 세이퍼AI의 시메옹 캄포스(Siméon Campos) 설립자는 구글이 일부 안전 연구를 수행하고 있음에도 정책적으로 명확한 약속이 부족하다고 평가했다. 특히 구글은 올해 초 프런티어 모델인 제미니 2.5(Gemini 2.5)를 출시하면서 안전 정보를 공개하지 않아, 캄포스는 이를 명백한 실패라고 지적했다. 구글 딥마인드 대변인은 이에 대해 AI 안전성을 위한 자사의 포괄적 접근이 이번 보고서와 일부 산업 지표에는 반영되지 않았다고 해명했다.
앤트로픽의 점수 하락은 클로드 4(Claude 4) 모델 출시 직전에 내부 위협 대응에 대한 정책 약속을 삭제한 데 따른 결과로 분석됐다. 캄포스는 이를 매우 잘못된 절차라고 평가했다.
전 세계 주요 AI 기업들이 위험 관리와 존재론적 안전 대응에서 전반적으로 낮은 평가를 받았다. 언스플래쉬
한편, 가장 큰 점수 향상을 이룬 곳은 xAI로, 2024년 10월 평가 당시 0%에서 이번에는 18%로 상승했고, 메타 역시 14%에서 22%로 개선됐다.
FLI는 이보다 넓은 범위를 평가했다. 위험 관리뿐 아니라 현재 피해 대응, 실존적 안전, 거버넌스, 정보 공유 등도 분석 대상에 포함했다. 여섯 명의 독립 전문가가 각 기업의 정책, 논문, 보도자료 및 추가 제공된 비공개 자료를 바탕으로 점수를 매겼다. 그 결과 앤트로픽이 가장 높은 C+를, 오픈AI가 C, 구글이 C-를 받았다. xAI와 메타는 D를 기록했다.
실존적 안전성 항목에서는 모든 기업이 D 이하의 점수를 받았다. 테그마크 회장은 이들 기업이 인간보다 뛰어난 초지능 개발을 목표로 하고 있으면서도 이를 어떻게 통제할 것인지에 대한 계획은 없다고 비판했다.
www.koreatimes.net/핫뉴스
박해련 기자 (press3@koreatimes.net)
