사이오닉에이아이가 검색 임베딩 모델 ‘comsat-embed’의 한국어·일본어 버전을 동시에 개발해 허깅페이스에 공개했다. 국내 출시에 그치지 않고 일본어 모델을 나란히 내놓으며 일본 검색 시장을 겨냥한 글로벌 배포 전략을 택한 셈이다. 두 언어 모델 모두 검색 성능을 겨루는 MTEB 벤치마크 평가에서 비교 대상 중 최고 평균 점수를 기록했다.
한국어·일본어 두 시장, 8B 모델로 동시 검증
검색 임베딩 모델은 질문과 문서를 수치로 변환해 연관성 높은 자료를 골라내는 역할을 한다. 한국어 8B 모델 ‘comsat-embed-ko-8b-preview’는 MTEB 한국어 검색 영역 9개 데이터셋 평균 NDCG@10에서 79.30을 기록해, 알리바바의 ‘Qwen3-Embedding-8B’(78.25)와 마이크로소프트의 27B 모델 ‘Harrier-OSS-v1-27B’(76.69)를 앞섰다. 일본어 8B 모델 ‘comsat-embed-ja-8b-preview’는 MTEB 일본어 검색 영역 11개 데이터셋 평균 NDCG@10 81.33을 기록했다. 파라미터 3억개 규모의 경량 모델 ‘comsat-embed-ja-0.3b-preview’도 77.85점을 받아 4B 이하 비교 모델 중 선두를 차지했다.
실제 검색 환경 복잡성 반영한 학습 방식
comsat-embed는 짧은 키워드부터 장문에 이르는 다양한 질문 형태와 하나의 질문이 여러 문서와 연결되거나 여러 질문이 하나의 문서로 모이는 1대다·다대1 관계까지 실제 검색 환경의 복잡성을 반영해 학습했다. 여기에 하드 네거티브 마이닝과 지식 증류 방식을 적용해 특정 데이터셋에 편중되지 않고 전체적으로 고른 성능을 끌어올리는 데 초점을 맞췄다.
이 모델은 언어와 도메인, 질문 형태가 달라져도 안정적인 검색 성능을 구현하는 것을 목표로 하는 ‘EUREKA’ 프로젝트의 결과물이다. 현재 한국어·일본어 두 버전 모두 허깅페이스에 프리뷰 버전으로 공개된 상태다. 사이오닉에이아이는 실제 기업 데이터와 복합 질문 상황에서도 이번 벤치마크 성능이 재현되는지를 다음 검증 과제로 남겨두고 있다.