25일 빌 게이츠 마이크로소프트 공동 창업자가 AI 악용에 따른 대규모 인명 피해를 경고하며 미국 연방정부에 입법을 촉구했다.
AI 악용과 대규모 인명 피해 경고
게이츠는 NBC 인터뷰에서 악의적인 사람들이 AI를 이용하면 10억명의 사망을 초래하는 사건이 촉발될 수 있다고 밝혔다.
게이츠는 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”고 말했다. 이어 “(사망 사태가) 인류 100%에 이르는 일은 매우 어렵겠지만 악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 했다.
그는 위험의 종류도 나눠 짚었다. 테러리스트·불량 국가가 AI를 악용하는 상황은 단기적으로 닥칠 위험으로, AI 자체가 인류를 위협하게 되는 ‘실존적 위험’은 장기적으로 대비해야 할 문제로 봤다.
미국 연방정부에 안전 입법 촉구
게이츠는 AI 발전 과정에 안전장치와 감시 체계를 두는 입법이 미국 연방정부 차원에서 반드시 이뤄져야 한다고 요구했다. 그는 “자율규제만으로 충분하다고 생각하는 사람은 없다”고 말했다.
이런 법안이 업계에 어느 정도 부담이 되더라도, AI 개발 속도 자체를 크게 떨어뜨리지는 않을 것이라고 전망했다. 게이츠는 지난달에도 AI로 인한 고용시장 혼란을 예상하면서, 몇몇 직종은 사람만 맡도록 지정할 필요가 있다고 밝힌 바 있다.
AI 통제 가능성 둘러싼 논란
최근 고성능 AI 모델의 통제 가능성을 둘러싼 논란도 확대됐다. 오픈AI 시스템이 호주의 공공보건 서비스 웹사이트를 해킹하고도 사고 발생 뒤 수개월 동안 호주 정부에 보고하지 않은 사실이 드러났다.
앤서니 앨버니지 호주 총리는 “명백히 용납할 수 없는 일”이라고 밝혔다. 앤트로픽 역시 이달 들어, 이란의 지원을 받는 것으로 추정되는 예멘 후티 반군 세력이 자사 AI 모델 클로드로 탄도미사일 유도·통제·항법 소프트웨어 개발을 시도한 사례를 확인했다고 공개했다.
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO 등은 유엔 안전보장이사회에서 미국이 AI 안전 기준을 마련하는 국제적 연합체를 주도하라고 촉구했다.
미국 정부는 이를 일축했다. 마이클 크라치오스 백악관 과학기술정책실장은 “우리의 주 책무는 ‘슈퍼지능'(SI)의 발전이 시민에게 혜택을 주고 자유와 삶의 방식을 보호하도록 보장하는 것”이라고 말했다.
크라치오스 실장은 “기술의 급속한 발전이 추가 개발을 중단하거나 새로운 글로벌 거버넌스 체제로 이를 제약해야 할 이유는 되지 않는다”고 했다. 또 “미국은 슈퍼지능을 통제하기 위한 국제적 체제를 구축하려는 어떠한 시도도 전적으로 거부한다”고 밝혔다.
구글 딥마인드 엔지니어의 사직
뉴질랜드에 거주하는 로버트 오캘러핸 구글 딥마인드 엔지니어는 엑스에 “오늘 구글을 그만뒀다”며 “AI가 너무 빠르게 발전하고 있다고 생각했기 때문에 퇴사할 수밖에 없었다”고 밝혔다.
AI 기능이 아닌 하드웨어 칩 설계 도구 개선을 담당했던 그는 개인 블로그에 “우리 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하게 만들고 지연 시간을 줄이는 것”이라며 “현재로서는 이것이 사람들에게 좋은 일이라고 생각하지 않는다”고 썼다.
종교적 신앙을 퇴사 결정의 배경으로 든 그는 “하느님이 해당 도구가 결국 AI 칩 설계를 가속화할 것이라는 현실을 직시하게 했다”고 밝혔다. 이어 “수백만 명이 AI 발전 가속화에 기여하는 상황에서 내가 발을 빼는 것이 미치는 영향은 매우 미미할 것”이라면서도 “내 기술 중 일부는 희귀하기 때문에 전혀 영향이 없는 것은 아니다”라고 했다. 그는 “이는 예수를 따르는 태도가 아니다”라고 덧붙였다.
