'AI 안전' 놓고 갈린 빅테크⋯경쟁사끼리도 손잡았다

[아이뉴스24 정승필 기자] 인공지능(AI) 안전기준을 누가, 어떻게 정할지를 놓고 미국 기술업계가 갈리고 있다.

오픈AI·앤트로픽·구글은 공동 기준과 외부 평가 강화를 주장하는 반면, 메타·엔비디아는 기업 자율과 시장 경쟁을 강조하고 있다. 일론 머스크는 AI 개발 속도 조절에는 동의하면서도 일부 기업이 규칙을 주도하는 데는 경계하고 있다.

기존 경쟁 관계와 이번 논쟁의 진영도 엇갈린다. 경쟁사인 오픈AI와 앤트로픽이 손을 잡았고, 오픈AI와 소송 중인 머스크도 속도 조절론에는 힘을 실었다.

17일(현지시간) 파이낸셜타임스(FT) 등에 따르면 오픈AI와 앤트로픽, 구글 딥마인드는 최근 AI 안전 대책을 논의해왔다.

핵심은 외부 평가와 공동 기준이다. 독립 기관이 첨단 AI 모델을 평가하고 주요 업체가 공통 안전기준을 만드는 방안이 거론된다.

업계가 직접 감독기구를 만드는 방안도 논의 대상이다. 미국 금융산업규제국(FINRA)처럼 업계가 비용을 대고 전문가가 고위험 AI 모델을 평가하는 방식이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 개발 속도를 안전장치가 따라갈 수 있도록 조절해야 한다고 주장했다. 샘 올트먼 오픈AI CEO도 외부 평가 강화에 동의했다.

두 회사는 원래 경쟁 관계다. 앤트로픽은 2021년 아모데이 남매 등 오픈AI 출신 연구자들이 세웠다. 이들은 AI 개발 방향과 안전 문제를 둘러싼 이견으로 오픈AI를 떠났다.

다만 이는 사업적 이해관계에 따른 움직임이라는 분석이 나온다. FT에 따르면 올해 상반기 오픈AI의 미국 연방정부 로비 지출은 222만달러로 전년 동기의 약 두 배로 늘었다. 앤트로픽은 353만달러로 약 세 배 증가했다.

FT는 두 회사가 과도한 규제를 막는 동시에 AI 관련 규칙을 만드는 과정에서 영향력을 키우려 한다고 분석했다.

안전 규제가 기존 대형 업체에 유리하게 작용할 수 있다는 지적도 나온다. 데이비드 색스 미 대통령 과학기술자문위원회(PCAST) 공동의장은 대형 AI 기업이 안전을 명분으로 자신들에게 유리한 규칙을 만들 수 있다며 '규제 포획(regulatory capture)' 가능성을 경고했다.

일론 머스크의 입장은 다르다. AI 개발 속도 조절에는 동의하지만 공동 감독기구에는 신중하다.

머스크는 2015년 올트먼 등과 오픈AI를 공동 설립했지만 2018년 이사회에서 물러났다. 이후 오픈AI가 비영리 설립 취지에서 벗어났다며 소송을 벌이고 있다. 현재는 xAI를 통해 오픈AI와 경쟁한다.

그럼에도 아모데이의 속도 조절 주장에는 "다리오가 옳다"고 동조했다. 그러나 대형 AI 업체가 공동 감독기구를 통해 업계 규칙을 주도하는 데는 경계하고 있다.

메타와 엔비디아는 공동 규제에 부정적이다.

마크 저커버그 메타 CEO는 경쟁과 법적 책임만으로도 기업이 안전한 AI를 만들 유인이 있다고 본다. 독립기관의 평가에는 반대하지 않지만 업계 전체가 같은 개발 속도와 규칙을 따르는 방식에는 선을 긋고 있다.

메타의 사업 전략도 이런 입장과 맞닿아 있다. 메타는 다른 기업과 개발자가 활용할 수 있는 개방형 AI 생태계를 확대하고 있다. 사전 규제가 자본과 기술을 갖춘 대형 폐쇄형 AI 업체에 유리할 수 있다는 우려도 깔려 있다.

젠슨 황 엔비디아 CEO도 일률적인 개발 감속에 신중하다. 엔비디아는 AI 개발과 데이터센터 투자가 늘어날수록 반도체 수요가 커진다. 메타는 엔비디아의 주요 AI 반도체 고객이기도 하다.

두 회사 모두 AI 개발 시장이 빠르게 커지는 것이 사업 확대와 맞닿아 있는 셈이다.

이들 CEO는 최근 도널드 트럼프 미국 대통령에게 AI 감독 강화에 대한 입장을 각각 전달한 것으로 전해졌다. 백악관에서도 국가안보를 이유로 AI 감독을 강화해야 한다는 쪽과 규제가 혁신을 막을 수 있다는 쪽이 맞서고 있는 것으로 알려졌다.