지난 4월 초 미국 샌프란시스코에서 열린 ‘휴먼X 콘퍼런스’. 최대 화제는 미국 인공지능(AI) 기업 앤트로픽이었다. 올 1월 공개한 업무 자동화 도구 ‘클로드 코워크’가 소프트웨어(SW) 업종의 업무를 빠르게 대체할 것이라는 전망이 나온 데다, 생성형 AI 모델 ‘클로드’가 니콜라스 마두로 베네수엘라 대통령 생포 작전과 이란 전쟁 등에서 뛰어난 성능을 보였기 때문이다. 현장에서는 “클로드는 이제 종교가 됐다”는 말까지 나왔다.

찬사가 공포로 바뀌는 데는 오래지 않았다. 앤트로픽의 신형 AI 모델 ‘미토스’가 세계 최고 수준의 해커로 돌변할 수 있다는 우려가 제기되면서다. 미토스는 기업과 금융회사, 국가기관 등의 정보기술(IT) 시스템에서 보안 취약점을 찾아내고, 공격 코드를 만들어낼 수 있는 능력을 갖춘 것으로 알려졌다. 당시 미국을 비롯해 세계 각국이 앞다퉈 사이버 보안 위협을 점검했을 정도다. AI가 인간의 생산성을 높이는 도구를 넘어 국가와 금융 시스템 자체를 뒤흔들 수 있다는 경고음이었다.

그사이 AI 경쟁은 더 가팔라졌다. 이번에는 오픈AI가 지난 4일 GPT-6 ‘아스트라’를 공개한 데 이어, 나흘 뒤에는 인간이 90년간 풀지 못한 수학계 난제인 ‘나비에·스토크스 방정식’을 해결했다고 발표했다. 아스트라는 컴퓨터 사용과 코딩, 과학 연구 등 복잡한 작업을 인간 수준에 가깝게 수행할 수 있다. 인간이 AI에게 일을 시키는 단계를 넘어 AI가 스스로 일을 수행하는 시대로 접어들었다는 평가도 나온다. AI 업계가 범용인공지능(AGI)의 서막으로 보는 것도 무리가 아니다.

AGI 출현은 인간 통제를 벗어난 AI에 대한 공포도 극대화하고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 12일(현지시간) 블로그에 올린 글을 통해 AI 개발 경쟁이 과도하게 빨라지고 있다며 속도 조절이 절실하다고 호소했다. 최근 AI 개발자들의 우려를 넘어 현직 AI 기업 수장의 이례적인 경고다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO 역시 공감을 표시했다. 통제와 안전장치 없이 속도만을 추구한다면, AI 기술은 결국 우리를 위협하는 무기로 돌변할 수 있다. 과연 누가 AI 질주에 제동을 걸 수 있을까.

박병진 논설위원 기자페이지 바로가기

Copyright ⓒ 세계일보. 무단 전재 및 재배포 금지