내 컴퓨터에서 빠르게 돌리는 AI? LFM2.5-24B-A2B 성능과 한계
AI 비서를 내 컴퓨터에서 돌리면 문서와 작업 기록을 외부 서비스로 보내지 않고 처리할 수 있습니다. 하지만 모델을 내려받아 실행할 수 있다는 것과 실제 업무에서 빠르고 정확하게 쓸 수 있다는 것은 다른 문제입니다. Liquid AI가 2026년 10월 공개한 LFM2.5-24B-A2B는 이 간격을 줄이려는 온디바이스용 추론 모델입니다.
이름에 담긴 숫자부터 읽어보겠습니다. 모델 전체 매개변수는 약 240억 개입니다. 회사 발표는 토큰을 처리할 때 활성화되는 부분을 약 20억 개로 설명하고, 공식 모델 카드는 24억 5천만 개로 표기합니다. 전문가 혼합(MoE) 구조가 필요한 경로를 고르는 방식입니다. 그렇다고 저장하거나 메모리에 올릴 모델 전체가 20억 개짜리로 줄어드는 것은 아닙니다. 실제 실행 가능 여부는 양자화 방식과 장치의 메모리 용량도 확인해야 합니다.
무엇이 달라졌나요?
Liquid AI에 따르면 이전 LFM2-24B-A2B보다 최대 문맥 길이가 3만 2,768토큰에서 13만 1,072토큰으로 늘었고, 어휘 크기는 약 6만 5천 개에서 12만 8천 개로 확대됐습니다. 긴 문서나 여러 차례 이어지는 도구 사용을 염두에 둔 변화입니다. 새 모델은 답변 전에 추론 과정을 생성하는 방식으로 학습됐습니다.
모델 카드는 이 제품을 텍스트 전용 모델로 설명합니다. 이미지나 음성을 직접 이해하는 모델로 받아들이면 안 됩니다. 한국어도 지원 언어 목록에 있지만, 지원 표시만으로 한국어 업무 품질이 충분하다고 단정할 수는 없습니다.
벤치마크에서 잘한 것과 못한 것
회사가 공개한 평가에서는 도구 사용과 작업 자동화 항목에서 강점을 보였습니다. 예를 들어 LiveClaw 점수는 LFM2.5-24B-A2B가 48.09, 비교 모델인 Qwen3.6-35B-A3B가 38.19였습니다. AutomationBench에서는 각각 27.69와 8.72였습니다. 이는 공개된 특정 평가 설정의 결과이지 모든 컴퓨터 작업에서 항상 우수하다는 뜻은 아닙니다.
반대로 웹 작업 평가인 WebArena Verified에서는 26.75 대 37.62, 코드 수정 평가인 SWE-Bench Verified에서는 51.00 대 66.20으로 비교 모델보다 낮았습니다. Liquid AI도 지식 중심 작업에는 검색이나 자료 검색을 결합하도록 권합니다. 한두 개의 높은 점수만 보고 범용 성능을 판단하기보다 자신의 작업과 가까운 평가 항목을 살펴야 합니다.
‘빠르다’는 수치를 읽는 방법
Liquid AI는 Apple M5 Max에서 초당 184토큰을 생성했다고 발표했습니다. 또 NVIDIA B300 한 장에서 높은 동시 요청을 유지하는 조건으로 초당 2만 1천 개 이상의 출력 토큰 처리량을 제시했습니다. 두 수치는 측정 대상이 다릅니다. 앞의 값은 개별 장치에서 답변을 생성하는 속도이고, 뒤의 값은 여러 요청을 함께 처리한 전체 처리량입니다.
GPU 비교에는 SGLang 0.5.22, 입력 1,024토큰, 출력 최대 256토큰, BF16 등의 조건이 쓰였습니다. 본인의 PC에서 같은 수치를 기대하려면 장치, 모델 형식, 양자화, 입력 길이, 동시 요청 수를 맞춰야 합니다. 회사 발표 수치는 직접 사용 환경에서 다시 확인하는 출발점입니다.
내 컴퓨터에서 시험할 때 확인할 4가지
첫째, 장치에 맞는 배포 형식을 고릅니다. 공식 모델 카드에는 원본 체크포인트 외에 GGUF, MLX 4비트, FP8, ONNX 형식이 안내돼 있습니다. 둘째, 실제 메모리 여유와 긴 문맥을 사용할 때의 속도를 확인합니다. ‘활성 매개변수 약 20억 개’라는 숫자만으로 필요한 저장 공간과 메모리를 계산해서는 안 됩니다.
셋째, 사용할 도구와 연결해 허용 범위를 제한합니다. 로컬 모델이어도 웹 검색이나 외부 API 도구를 연결하면 그 도구가 데이터를 밖으로 보낼 수 있습니다. 넷째, 한국어 문서 요약·도구 호출·오류 복구처럼 본인이 자주 할 작업으로 작은 시험 세트를 만들고 결과와 소요 시간을 기록합니다.
누구에게 맞을까요?
문서 처리나 반복 업무를 자신의 장치에서 실행하고 싶고, 도구 호출의 범위를 직접 통제하려는 사용자에게 검토할 만한 모델입니다. 다만 로컬 실행을 위한 장비가 준비돼 있어야 하며, ‘오픈 가중치’는 사용 조건이 없는 공공 자산과 같은 뜻이 아닙니다. 배포나 상업적 이용 전에는 공식 라이선스를 확인해야 합니다.
결국 선택 기준은 발표 자료의 최고 속도보다 내 장치에서 내 작업을 얼마나 안정적으로 처리하는가입니다. 민감한 업무라면 로컬 실행 여부뿐 아니라 연결된 도구, 저장되는 기록, 실패했을 때 사람의 검토 절차까지 함께 점검하는 편이 좋습니다.
원문과 확인 자료
이 글은 Liquid AI의 2026년 10월 13일 공식 발표와 공식 모델 카드를 바탕으로 재구성했습니다. 벤치마크와 속도는 회사가 공개한 측정값이며, 라이선스 조건은 공식 라이선스에서 확인할 수 있습니다.
