"5000억개 매개변수 줄여 실전에"…SKT가 독파모 'A.X K1' 경량화에 나선 까닭은

[아이뉴스24 서효빈 기자] SK텔레콤이 독자 파운데이션 모델(독파모) 사업 1단계 결과물인 'A.X K1'의 경량화 버전을 기업에 제공하며 상용화 검증에 나섰다. 5000억개 매개변수 초거대 모델을 실제 산업 환경에서 구동 가능한 수준으로 낮추려는 시도다.

24일 업계에 따르면 SK텔레콤은 최근 A.X K1 기반 경량화 모델을 일부 기업에 제공해 실전 테스트를 진행하고 있다. 5000억개 매개변수를 사용하는 기존 초거대 모델보다 경량화한 이 모델은 연산량을 줄이고 하드웨어 및 인프라를 단순화할 수 있다. 이렇게 최적화된 모델을 기업이 사용해보고 SK텔레콤은 그 결과를 토대로 기업 환경에 적합한 모델을 지속적으로 개발해간다는 계획이다.

SK텔레콤의 이같은 행보는 2차 평가를 앞두고 독파모 경쟁에서 활용성을 높여 경쟁력을 확보하려는 시도다. 초기 평가 단계에서 모델 자체 성능을 검증하는 데 초점이 맞춰졌다면, 평가 단계에서는 기업 적용과 피드백 확보 등 실제 활용성이 더욱 중요해질 전망이다. 이에 SK텔레콤은 경량화·양자화 모델을 통해 기업 피드백을 확보하고 실제 활용성을 높인다는 계획이다.

SK텔레콤 관계자는 "너무 큰 모델은 기업들이 실제로 돌리기 어렵다. 써볼 수 있는 수준의 모델을 제공해 사용성과 개선 의견을 받는 것을 목적으로 한다"며 "모두의 AI가 중요해진 만큼 오픈소스 기반으로 제공해 기업들과 상호작용하며 생태계를 만들어가는 과정"이라고 말했다.

한편 SK텔레콤이 참여하고 있는 독파모 프로젝트는 2027년까지 세계 최고 수준의 거대언어모델(LLM)과 멀티모달(텍스트, 그림, 동영상 등을 처리) 모델을 확보하자는 취지로 정부가 추진하고 있는 '국가대표 AI' 경연 대회다.

올해 초 SK텔레콤, 업스테이지, LG AI연구원 등이 1차 평가를 통과한 데 이어 모티프테크가 추가 정예팀으로 선정돼 4파전으로 치러지고 있다. 정부는 오는 8월 2단계 평가를 실시할 계획이다.