자사 모델 '아이멤버' 고도화

비용 줄이고 속도는 3배 향상

롯데이노베이트 AI 플랫폼 '아이멤버'.

롯데이노베이트가 자사의 기업 전용 인공지능(AI) 플랫폼 '아이멤버(Aimember)'를 1200억 파라미터 규모 언어 모델로 업그레이드하며 엔터프라이즈 생성형 AI 시장 공략에 박차를 가한다. 이번 고도화는 모델 크기를 키워 답변의 논리성을 강화하는 한편,최적화 기술을 통해 운영비용 효율을 높이는 데 초점을 맞췄다.

26일 롯데이노베이트에 따르면 업그레이드된 아이멤버는 파라미터 확장을 통해 복잡한 질의에 대한 맥락 파악과 답변 구성 능력을 높였다.

수능 국어 영역 기반의 'CSATQA'(78.31점)와 한국어 종합 능력을 평가하는 '해례 벤치'(78.15점) 및 전문지식 추론 'KMMLU-Pro'(60.67점),수학 추론 'HRM8K-MMMLU'(92.98점) 등 주요 지표에서 오픈소스 모델 대비 우수한 성적을 기록하며 한국어 처리 역량을 확인했다.

기술적으로는 '양자화(Quantization)' 기법을 적용해 시스템 운영 효율을 개선했다. 회사 측에 따르면 동일 그래픽처리장치(GPU) 자원 환경에서 추론 속도는 기존 대비 3배 향상됐으며,이는 실시간 업무 응답 속도 개선으로 이어졌다.

기업용 AI에 필수적인 보안성과 유연성도 확보했다. 외부 API 의존 없이 자체 인프라에서 운영되는 '오픈소스 기반 구축형 모델'을 채택했다.

[고민서 기자]