1 / 1
" 디지털 격차 해소"으로 검색하여,
1 건의 기사가 검색 되었습니다.
-
2025-07-09▲ BC카드 본사 전경 [출처=BC카드]BC카드(대표이사 사장 최원석)에 따르면 국내 금융사 최초로 양자화된 초거대 언어모델(이하 ‘LLM’) 18종을 글로벌 인공지능(AI) 플랫폼인 허깅페이스(Hugging Face)에 공개했다.허깅페이스 전 세계적으로 널리 사용되는 AI 플랫폼이다. 자연어 처리(뉴스 자동 요약 등), 컴퓨터 비전(이미지 기반 검색 등), 음성 인식(실시간 통번역, 음성 기반 검색 등) 등을 공유하고 협업할 수 있는 마련된 생태계 허브다.이번에 공개된 LLM 18종은 고가의 GPU 장비 없이도 누구나 초거대 AI를 활용할 수 있도록 동적 양자화 기술이 적용된 것이 특징이다. Gemma(구글) 5건, Qwen3(알리바바) 4건, Qwen2.5(알리바바) 7건, 카나나 1.5 8B(카카오) 2건 등이다.동적 양자화란 AI 모델이 사용하는 수치를 압축해 배포한 뒤 실제 활용 시점에 이를 복원해 연산 성능과 효율성을 동시에 높이는 기술이다.기존의 양자화 기술은 모델 내부의 수치를 일부만 보존해 정확도 저하 우려가 있었지만 BC카드는 자체 기술을 통해 수치 손실 없이 기존 정확도를 유지하는 ‘손실률 0퍼센트(%)’ 양자화를 구현했다.이로써 GPU 사용량 감소에 따른 처리 속도 향상은 물론 산출 결과물의 품질 저하 없이 안정적인 AI 모델 구동이 가능해져 고비용 인프라에 대한 의존도를 획기적으로 낮출 수 있는 전환점이 마련됐다.실제로 글로벌 기업의 최신형 GPU에서 BC카드의 양자화 LLM을 실행한 결과 AI 연산 속도는 최대 3.5배 빨라졌다. 4000만 원 대 고가 GPU에서만 구동 가능했던 320억 개 파라미터(≒AI 뇌세포) 규모 모델도 300만 원 대 GPU에서 원활히 작동하는 성능을 입증했다.이 같은 변화는 단순한 기술 혁신을 넘어 AI 서비스의 진입 장벽을 낮추는 중요한 계기가 되고 있다. 고가 장비 도입에 부담을 느꼈던 중소기업, 스타트업, 소상공인들도 보다 저렴한 환경에서 초거대 AI
1