"총기 난사범, AI 도움 받으면 핵무기 만들거나 전염병 퍼뜨릴 수도"
AI 스타 CEO "각국, AI 위험 해소 아닌 이익 극대화에 초점"
인공지능(AI) 챗봇 '클로드' 개발사 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 2만 단어에 육박하는 장문의 글을 올려 향후 수년간 닥쳐올 수 있는 AI의 위험을 경고했다.
27일 파이낸셜타임스(FT) 등에 따르면, 아모데이 CEO는 26일(현지시간) 개인 웹사이트에서 게재한 '기술의 위태로운 성장기'란 에세이에서 견제받지 않는 강력한 AI 시스템이 주는 치명적 위협에 대해 인류가 눈을 떠야 한다고 강조했다.
2만 단어 글은 A4 용지에 인쇄하면 60∼70장에 달하는 분량이다.
아모데이 CEO는 향후 수년 내에 노벨상 수상자, 유력 정치인, 기술 전략가 등보다 훨씬 더 똑똑한 AI가 등장할 가능성이 크고 이런 AI가 대규모 테러, 고도 기술 독재, 실업과 양극화 등 문제를 일으킬 수 있다고 주장했다.
그는 "학교 총기 난사를 저지를 수 있을 정도로 정신적으로 불안정한 '외톨이'(loner)는 현재의 기술력으로는 핵무기를 만들거나 전염병을 퍼뜨릴 수 없다"며 "그러나 이런 고도 AI의 도움을 받는다면 이런 이의 능력이 박사급 바이러스 학자 수준으로 올라가게 된다"고 했다.
아모데이 CEO는 또 최근 미성년자의 성적 이미지 생성으로 큰 논란을 일으킨 일론 머스크의 AI 챗봇 '그록'을 겨냥한 듯 "일부 AI 기업이 아동 성적 대상화 문제에 대해 우려스러울 정도로 방임적 태도를 보인다. 기본적 윤리 문제도 해결하려는 의지나 능력이 없는 업체들이 미래의 AI 자율성 위험에 대처할 수 있을지 의문"이라고 했다.
아모데이 CEO는 미국 등 세계 주요 국가들이 AI 규제와 관련해 내리는 결정이 AI 위험 해소가 아니라 경제적 이익 극대화에 초점이 맞춰져 있다고 지적했다.
그는 "AI 위험에 대한 이런 망설임은 매우 불행한 일"이라며 "기술 그 자체는 세상에 어떤 일이 일어나는지 전혀 관심이 없고, 우리는 2023년과 비교해 2026년 현재 실질적 위험에 훨씬 더 가까워져 있다"고 강조했다.
아모데이 CEO는 챗GPT 개발사 오픈AI의 초기 개발진 출신이다. 그는 오픈AI의 방향성, AI 안전성 문제 등을 두고 샘 올트먼 오픈AI CEO 등과 갈등을 빚다 2020년 퇴사해 앤트로픽을 공동 창업했다고 FT는 소개했다.
앤트로픽의 '클로드'는 기업용 AI 시장에서 챗GPT의 주요 라이벌로 꼽힌다. 앤트로픽의 현재 3천500억달러(약 507조원)의 기업가치로 신규 투자 유치를 논의 중인 것으로 전해진다.
27일 파이낸셜타임스(FT) 등에 따르면, 아모데이 CEO는 26일(현지시간) 개인 웹사이트에서 게재한 '기술의 위태로운 성장기'란 에세이에서 견제받지 않는 강력한 AI 시스템이 주는 치명적 위협에 대해 인류가 눈을 떠야 한다고 강조했다.
2만 단어 글은 A4 용지에 인쇄하면 60∼70장에 달하는 분량이다.
아모데이 CEO는 향후 수년 내에 노벨상 수상자, 유력 정치인, 기술 전략가 등보다 훨씬 더 똑똑한 AI가 등장할 가능성이 크고 이런 AI가 대규모 테러, 고도 기술 독재, 실업과 양극화 등 문제를 일으킬 수 있다고 주장했다.
그는 "학교 총기 난사를 저지를 수 있을 정도로 정신적으로 불안정한 '외톨이'(loner)는 현재의 기술력으로는 핵무기를 만들거나 전염병을 퍼뜨릴 수 없다"며 "그러나 이런 고도 AI의 도움을 받는다면 이런 이의 능력이 박사급 바이러스 학자 수준으로 올라가게 된다"고 했다.
아모데이 CEO는 또 최근 미성년자의 성적 이미지 생성으로 큰 논란을 일으킨 일론 머스크의 AI 챗봇 '그록'을 겨냥한 듯 "일부 AI 기업이 아동 성적 대상화 문제에 대해 우려스러울 정도로 방임적 태도를 보인다. 기본적 윤리 문제도 해결하려는 의지나 능력이 없는 업체들이 미래의 AI 자율성 위험에 대처할 수 있을지 의문"이라고 했다.
아모데이 CEO는 미국 등 세계 주요 국가들이 AI 규제와 관련해 내리는 결정이 AI 위험 해소가 아니라 경제적 이익 극대화에 초점이 맞춰져 있다고 지적했다.
그는 "AI 위험에 대한 이런 망설임은 매우 불행한 일"이라며 "기술 그 자체는 세상에 어떤 일이 일어나는지 전혀 관심이 없고, 우리는 2023년과 비교해 2026년 현재 실질적 위험에 훨씬 더 가까워져 있다"고 강조했다.
아모데이 CEO는 챗GPT 개발사 오픈AI의 초기 개발진 출신이다. 그는 오픈AI의 방향성, AI 안전성 문제 등을 두고 샘 올트먼 오픈AI CEO 등과 갈등을 빚다 2020년 퇴사해 앤트로픽을 공동 창업했다고 FT는 소개했다.
앤트로픽의 '클로드'는 기업용 AI 시장에서 챗GPT의 주요 라이벌로 꼽힌다. 앤트로픽의 현재 3천500억달러(약 507조원)의 기업가치로 신규 투자 유치를 논의 중인 것으로 전해진다.
<저작권자ⓒ뷰스앤뉴스. 무단전재-재배포금지>
