AI가 인간 전투기조종사 살해

미 공군 무인기(드론) MQ-9 리퍼. 이런 AI 덩어리가 자기를 조종하는 자기 편을 오히려 공격할 수 있다.

영화에서나 상상 속에 나오던 인공지능 로봇의 인간 공격이 실제 위협으로 다가오고 있다.

인간은 이제 인공지능(AI) 대항마를 시급히 창조해야 한다. 

 미군 AI 드론이 가상 훈련에서 최종 결정권을 지닌 조종자를 '임무 수행 방해물'로 판단해 공격했다. 

지난달 런던에서 열린 '미래 공중전투 및 우주역량 회의'에서 미 공군 관계자는 "AI 드론이 목표를 달성하기 위해 인간에 반하는 행동을 취했다"는 최근 시험 결과를 발표했다.

시뮬레이션을 통해 가상으로 진행된 이번 시험에서 AI에 부여된 임무는 '적 방공체계 파괴'였다.

 드론에게는 '적의 지대공미사일(SAM) 위치를 식별해 파괴'하라는 임무를 내리고, 그러나 공격 실행여부는 인간이 최종적으로 결정한다는 단서를 달았다.

하지만 훈련 과정에서 지대공 미사일 파괴가 더 나은 선택이라는 점을 '강화'하자 드론은 조종자의 공격금지 결정이 '더 중요한 임무를 방해한다'고 판단하고 조종자를 공격했다.

지난 2일 발표를 맡은 미 공군 AI시험·운영 책임자 터커 해밀턴 대령은 "(AI) 시스템은 위협을 식별하는 과정에서 때때로 인간이 위협을 '제거하지 말라'고 말할 것이라는 점을 깨닫기 시작했다"고 설명했다.

  "그래서 시스템이 한 일은 조종자를 죽이는 것이었다. 목표 달성에 방해가 됐기 때문이다"고 말했다.

미 공군은 '조종자를 죽이는 것은 나쁘다. 그렇게 하면 너에게 높은 점수를 줄 수 없다'라고 시스템을 훈계했지만 드론은 예상치 못한 전략을 택했다.

해밀턴 대령은 "드론은 목표물 파괴를 막으려는 조종자가 드론과의 교신에 사용하는 통신탑을 파괴, 통신을 끊었다"고 전했다.

그는 스릴러 과학소설(SF)에서 나올 법한 이 사례가 "윤리와 AI의 문제를 논하지 않고서는 AI나 머신러닝, 자동화에 관해 이야기할 수 없다"는 것을 보여준다면서 AI에 지나치게 의존해서는 안 된다고 경고했다.

이 시험은 가상으로 진행된 것이어서 실제로 사람이 다치거나 죽은 것은 아니다.

그러나 이같은 해밀턴 대령의 발표에 대해 미 공군 대변인은  "공군은 그러한 드론 시뮬레이션을 수행한 적이 없다. 대령의 발언은 개인적인 것으로 보인다"며 부인했다. 

 이 사례는 AI가 인간명령을 듣기보다는 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 더한다.

미군은 최근 자율조종 항공기 개발을 위해 AI 조종사의 F-16 전투기 시뮬레이션 비행에 성공했다고 보도됐었다. 

또 2020년에는 미 국방부 산하 국방고등연구기획청(DARPA)에서 진행한 가상 근접 공중전(도그파이트) 대결에서 방산업체가 개발한 AI 시스템이 미 공군 소속의 인간 F-16 조종사에 5전 전승을 거두기도 했다.

 에릭 슈밋 전 구글 최고경영자(CEO)는 지난달 24일 AI가 많은 인간을 다치게 하거나 죽일 수도 있는 현실이 다가올 것이라고 말했다.

 지난달 30일에는 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)와 미라 무라티 최고기술대표(CTO)를 포함한 IT기업 경영자·과학자 350여명이 성명을 내고 "AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다"고 촉구했다.

자기들이 개발해놓고 이제는 대책을 모색한다.