국제 보고서, AI 새로운 극단적 위험 경고

세계 과학자들은 최근 발표한 국제 보고서에서 첨단 인공지능(AI) 시스템이 광범위한 일자리 손실, 테러 활동 조장, 그리고 난동 같은 새로운 극단적 위험을 초래할 수 있다고 지적했다. 이 보고서는 AI 기술로 인해 발생할 수 있는 위험 범위를 상세히 설명하고 있다.

국제 보고서는 첨단 인공지능이 심각한 위험을 초래할 수 있다고 경고했다. 언스플래쉬

다음 달 파리에서 열릴 주요 AI 정상회담을 앞두고 고급 AI의 안전에 관한 이 국제 과학 보고서가 발표되었다. 이 보고서는 미국과 중국을 포함한 30개국이 지원해 작성되었으며, 두 나라가 AI 우위를 놓고 경쟁하는 가운데 드문 협력의 예를 보여주고 있다. 이번 주, 중국 스타트업 딥식(DeepSeek)이 미국의 고급 칩 수출 통제에도 불구하고 예산형 챗봇을 공개하며 세계를 놀라게 했다.

보고서는 고급 AI 시스템이 이미 문단 작성, 사실적 이미지 생성, 장시간 대화 수행 등을 할 수 있음을 지적하면서, 딥페이크, 사기, 편향된 결과 등 일부 AI 피해가 널리 알려져 있으나, 일반 용도 AI의 능력이 향상됨에 따라 추가적인 위험도 나타나고 있다고 경고한다.

또한, AI가 생물학적 또는 화학적 무기 제작을 용이하게 할 수 있다고 지적하면서, 이와 같은 위험에 대응하기 위한 기술은 아직 초기 단계에 머물러 있음을 강조했다. 연구자들은 AI 시스템이 인간의 감독을 훼손하거나 제어 불능 상태에 빠질 수 있다고도 지적했다.

보고서는 2023년 11월 영국에서 열린 첫 번째 글로벌 AI 안전 정상회담에서 의뢰되었으며, 이후 한국에서 열린 후속 회의에서 AI 기업들은 AI 안전 개발을 약속했다.

2월 10일부터 11일까지 파리에서 열리는 AI 액션 서밋에서 세계 지도자들과 기술 책임자들이 모여 AI의 지속 가능한 개발을 위한 공동 선언에 서명할 것으로 예상된다. 보고서가 특정 정책 권고안을 제시하기보다는 AI 관련 과학 문헌의 내용을 정책 입안자들이 이해할 수 있는 방식으로 설명하는 것을 목적으로 한다고 강조했다.