본문 바로가기

  • 2025.07.09
  • ⓒ인공지능신문/ 전미준 기자

BC카드(대표이사 사장 최원석)는 국내 금융사 최초로 양자화된 대형언어모델(LLM) 18종을 글로벌 AI 플랫폼인 허깅페이스(Hugging Face)에 메이저 카지노했다고 9일 밝혔다.

메이저 카지노된 LLM 18종은 젬마2(Gemma2 한국어-다운)-젬마3(Gemma3-다운) 5건, 큐원3(Qwen3-다운) 4건-큐원2.5(Qwen2.5-다운)7건, 카나나 1.5 8B(Kanana1.5 8B-다운) 2건 등의 각각 기반의 모델로 고가의 GPU 장비 없이도 누구나 초거대 AI를 활용할 수 있도록 동적 양자화 기술이 적용된 것이 특징이다.

동적 양자화란 AI 모델이 사용하는 수치를 압축해 배포한 뒤 실제 활용 시점에 이를 복원해 연산 성능과 효율성을 동시에 높이는 기술이다.

(후략)

[원본기사 :https://www.aitimes.kr/news/articleView.html?idxno=35591]

맨 위로
맨 위로