AI가 주는 마지막 경고 〈1157호〉

지난 25일, 안토니우 구테흐스 유엔 사무총장이 AI를 활용한 자율 무기에 대한 규제의 필요성을 다시 강조했다. 구테흐스 사무총장은 2023년부터 꾸준히 자율 무기를 규제할 국제협정의 필요성에 힘을 실어 왔지만, 국제사회는 현재까지 형식적인 논의 단계에만 머물러있다. 이러한 국제사회에 마치 경고하듯 지난 24일, 뉴욕타임스(NYT)에는 러시아군의 드론 공격으로 우크라이나에서 민간인 2명이 사망한 사건이 보도됐다. 이후 우크라이나군이 해당 드론을 분해한 결과, 인간과의 통신에 사용되는 안테나 대신 엔비디아의 소형 컴퓨터가 탑재돼 있었던 것으로 전해졌다. 

군사용 드론에 AI가 활용되기 시작한지는 이미 멀다면 먼 과거 얘기다. 지금까지는 인간이 설정한 목표물을 추적하거나 주변 환경을 분석하는 등 인간의 판단을 보조하는 역할에 한정돼 왔다. 그러나, AI가 스스로 공격 대상을 식별하고 판단하는 단계에 이른다면 이야기는 달라진다.

이에 구테흐스 사무총장은 규제의 필요성을 강하게 주장하기 위해 국제적십자위원회(ICRC)와 함께 공동성명을 내고 “기계가 인간을 자율적으로 표적 삼아 공격하는 도덕적 선을 넘는 데 가까워지고 있다”고 경고한 것이다. 기술의 발전 속도는 점점 빨라지지만, 이를 통제할 유일한 국제적 규범은 그 속도를 따라가지 못하고 있는 현실을 지적한 것이다. 인간의 감독을 벗어난 기술이 이미 전장에서 현실이 되고 있다면, 우리가 던져야 할 질문도 이제 달라져야 한다. '무엇을 만들 수 있는가'에서 '어떻게 통제해야 하는가'로. 결국 인간이 만든 기계가 인간의 생사를 결정하는 순간을 막기 위해, 국제사회는 지금보다 더 빠르고 과감하게 규제의 기준을 세워야 한다. 다가올 미래를 살아갈 우리에게 자율 무기 문제는 더 이상 먼 나라의 전쟁이나 미래의 기술에 관한 이야기가 아니다. 그것은 기술의 발전 앞에서 인간이 어디까지 책임을 질 것인가에 대한 숙제가 던져진 '현재'이다.