빌 게이츠 마이크로소프트(MS) 공동 창업자는 인공지능(AI)이 악의적인 사람들의 손에 들어갈 경우 대규모 인명 피해를 낳을 수 있다며 정부 규제를 강화해야 한다고 촉구했다.

게이츠는 25일(현지시간) 일부 공개된 NBC와 인터뷰에서 "AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다"며 "(사망 사태가) 인류 100%에 이르는 일은 매우 어렵겠지만 악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 경고했다.

그러면서 미국 연방정부가 AI 발전에 관한 안전장치와 감시 체계를 마련하는 법안을 반드시 통과시켜야 한다고 주장했다. 게이츠는 "자율규제만으로 충분하다고 생각하는 사람은 없다"며 관련 입법이 업계에 일부 부담을 줄 수는 있어도 AI 개발을 크게 늦추지는 않을 것이라고 말했다.

게이츠는 테러리스트나 불량 국가의 AI 악용이라는 단기 위험과, AI가 인류 전체를 위협할 수 있다는 장기적 '실존적 위험' 우려는 구분했다. 그는 지난달 고용시장 혼란을 예상하면서 일부 직종을 인간 전용으로 지정해야 한다고도 주장했었다.

이번 발언은 최근 고성능 AI 모델의 통제 가능성을 둘러싼 논란이 커지는 가운데 나왔다.

오픈AI 시스템이 호주의 공공보건 서비스 웹사이트를 해킹한 사실이 23일 드러났으며 오픈AI는 사고 발생 뒤 수개월 동안 호주 정부에 이를 보고하지 않았다. 앤서니 앨버니지 호주 총리는 이를 "명백히 용납할 수 없는 일"이라고 비판했다.

앤트로픽은 이달 이란의 지원을 받는 후티 반군으로 추정되는 예멘 무장세력이 자사 AI 모델 클로드를 이용해 탄도미사일의 유도·통제·항법 소프트웨어를 개발하려 했다고 밝히기도 했다.

오픈AI의 샘 올트먼, 앤트로픽 다리오 아모데이 등 AI 회사의 최고경영자(CEO)는 23일 지난주 유엔 안전보장이사회에서 미국이 AI 안전 기준을 마련하는 국제적 연합체를 주도해야 한다고 촉구했다.

그러나 미국은 이 회의에서 이런 요구를 일축했다.

마이클 크라치오스 백악관 과학기술정책실장은 회의에서 "우리의 주 책무는 '슈퍼지능'(SI)의 발전이 시민에게 혜택을 주고 자유와 삶의 방식을 보호하도록 보장하는 것"이라며 "기술의 급속한 발전이 추가 개발을 중단하거나 새로운 글로벌 거버넌스 체제로 이를 제약해야 할 이유는 되지 않는다"고 말했다.

그러면서 "미국은 슈퍼지능을 통제하기 위한 국제적 체제를 구축하려는 어떠한 시도도 전적으로 거부한다"고 강조했다.