TESIGN
저장한 것

KO · EN

  1. TESIGN / RADAR
  2. 2026.09.13
  3. colibri

colibri

내 컴퓨터에서 큰 모델 실행

누가 쓰나ML 엔지니어 · 인프라 담당자 · 시스템 개발자

설치해서 쓰기

큰 MoE 모델을 지금 가진 컴퓨터에서 돌립니다.

★ 33.8k▲ +974 / 7d▲ 937 HN최근 14일의 일별 별 증가. 빈 막대는 관측 없음. 마지막 날은 일부일 수 있습니다.2026-09-03 관측 없음2026-09-04 +72026-09-05 +72026-09-06 +332026-09-07 관측 없음2026-09-08 관측 없음2026-09-09 관측 없음2026-09-10 +232026-09-11 +632026-09-12 +2162026-09-13 +1932026-09-14 +672026-09-15 +2612026-09-16 +15114일 중 가장 큰 하루 증가+261최근 14일 · 하루 별 증가빈칸 = 관측 없음

별 33,753 · GitHub에서 확인 GitHub 확인 30시간 지연 · 그 뒤 GH Archive 관측 +211 포함 · 7일 +974은 GH Archive 관측 (기준 ) · Show HN 937점 관측

순위 역대 185위 이번 주 급상승 7위 인프라 분야 10위

교차 신호 Show HN + GitHub상승 중 +175 ★ / 24h

colibrì 웹 대시보드. 왼쪽 서버 하드웨어와 VRAM·RAM·디스크 사용량, 가운데 744B 모델 채팅, 상단 tok/s 지표.
colibrì 웹 대시보드. 왼쪽 서버 하드웨어와 VRAM·RAM·디스크 사용량, 가운데 744B 모델 채팅, 상단 tok/s 지표.
colibrì 웹 대시보드. 왼쪽 서버 하드웨어와 VRAM·RAM·디스크 사용량, 가운데 744B 모델 채팅, 상단 tok/s 지표.
colibrì 웹 대시보드. 왼쪽 서버 하드웨어와 VRAM·RAM·디스크 사용량, 가운데 744B 모델 채팅, 상단 tok/s 지표.

TESIGN TAKE

큰 모델을 메모리에 '넣는' 대신 '배치한다'는 발상이 실제로 돌아가는지 직접 재 볼 수 있는 엔진입니다.

RUN실행

한눈에 보는 사실

라이선스
Apache-2.0
사용 범위
상업 이용·수정·재배포 가능. 고지 유지, 바꾼 부분은 표시.
언어
C
플랫폼
linux · macos · windows · cli
활동
마지막 커밋 1일 전 () · 최근 릴리스 v1.11.0 () · 릴리스 17개
커뮤니티
기여자 150명 · 열린 이슈 117개 (PR 포함) · 만든 이: 개인
출처
Show HN + GitHub
오픈소스
예
처음 본 시각
분류
AI · 인프라

요약이며 법적 조언이 아닙니다.

왜 볼 만한가

큰 MoE 모델은 대개 메모리에 다 올릴 수 없어 장비부터 바꾸라는 답이 돌아옵니다. colibri는 전문가(expert) 가중치를 필요할 때마다 디스크에서 읽어 오는 방식으로, 이미 가진 하드웨어에서 실행하는 쪽을 택했습니다. 순수 C로 쓰였고 의존성이 없으며 Apache-2.0으로 공개돼 있습니다. 지원하는 모델 범위는 저장소 문서에서 확인해야 합니다.

이걸로 무엇을 만들 수 있나

  • 서버 한 대에서 돌리는 사내 로컬 모델 실험대
  • 의존성 없이 빌드해 제품에 붙이는 추론 바이너리
  • 장비를 바꾸기 전에 성능을 재보는 비교 테스트

누구에게 맞나

ML 엔지니어
장비를 늘리기 전에 로컬 추론 한계를 재 볼 때
인프라 담당자
사내 서버 한 대로 큰 모델을 시험할 때
시스템 개발자
순수 C 추론 코드를 읽고 고쳐 보고 싶을 때

5분 안에 시작하기

# 릴리스에서 Linux·macOS·Windows용 빌드를 받거나(Python 3 필요) 소스 빌드:
$ git clone https://github.com/JustVugg/colibri && cd colibri/c
$ ./setup.sh
# 모델(GLM-5.2 int4 약 372 GB)을 Hugging Face에서 받은 뒤:
$ COLI_MODEL=/nvme/glm52_i4 ./coli chat
$ ./coli web  --model /nvme/glm52_i4

주의할 점

  • 기준 모델 GLM-5.2는 디스크 372 GB, RAM 16 GB 이상이 필요합니다
  • 속도는 디스크에 좌우돼 느린 드라이브에선 초당 1토큰 미만일 수 있습니다
  • 속도 보장은 없다고 밝힌 연구 성격의 엔진입니다

영수증

처음 본 시각
출처 등록
선정
스타 변화
+175 ★ / 24h
생성에서 포착까지
73d
처음 봤을 때
28,753 ★
출처
Show HN + GitHub

이 항목의 사실을 기계가 읽기 쉬운 형태로 — 마크다운으로 보기 · JSON

비슷한 도구

AI 분야에서 ★ 총합 순으로 최대 5개. 편집 항목 먼저, 그다음 저장소 카드이며 이 항목은 강조되어 있습니다. 순위와 같은 저장 스냅샷에서 뽑은 비교표이고 추천은 아닙니다.

이미지이름★ 총합▲ 7d라이선스플랫폼마지막 push
ECC 배너 그래픽. 'The operating system for AI agent harnesses' 헤드라인과 스킬·에이전트·명령 3열.
ecc에이전트 스킬·기억·보안 묶음★ 259k▲ +832MIT허용적windows · macos · linux · cli
Hermes Agent 랜딩. 파란 배경에 'THE AGENT THAT GROWS WITH YOU' 헤드라인과 날개 달린 인물 판화풍 삽화.
Hermes Agent개인용 스스로 자라는 에이전트★ 246k▲ +375MIT허용적linux · macos · windows · android · cli
DeepSeek Harness 랜딩. 파란 배경, 'Everything is a plugin' 헤드라인, npx 명령이 든 퀵스타트 상자.
DeepSeek Harness개발자용 플러그인 하네스★ 225k▲ +1,356MIT허용적web · cli
colibrì 웹 대시보드. 왼쪽 서버 하드웨어와 VRAM·RAM·디스크 사용량, 가운데 744B 모델 채팅, 상단 tok/s 지표.
colibri내 컴퓨터에서 큰 모델 실행이 항목★ 33.8k▲ +974Apache-2.0허용적linux · macos · windows · cli
mattpocock/skills카드★ 261k▲ +872MIT허용적—

함께 볼 만한 것

OpenHunterAI로컬 AI 보안 점검OpenHunterAI 홈페이지. "AUTHORIZED EXTERNAL SECURITY TESTING"라는 표시와 함께 범위 확인부터 보고까지 5단계 절차가 나열되어 있습니다.직접 서버에
★ 165▲ +15 / 7d
내가 소유하거나 테스트 허가를 받은 웹·API 서비스만을 대상으로, 공격자 시각의 보안 점검을 로컬 워크스페이스에서 돌리는 알파 단계 도구입니다.MartinLoop에이전트 실행 통제MartinLoop 홈페이지. "Watch your AI burn $5.20. Then watch MartinLoop close the loop for $2.30."라는 문구가 있습니다.
★ 130▲ +21 / 7d
코딩 에이전트에게 예산 한도와 검증 절차를 채워, "완료했다"는 말 대신 증거가 붙은 영수증을 받게 만듭니다.Spec Kit에이전트 사용자용 개발 절차Spec Kit 공식 문서 첫 화면 — '스펙으로 만들고, 버그를 고치고, 아이디어를 평가하라' 표제와 uv tool install specify-cli 설치 명령설치해서 쓰기
★ 137k▲ +560 / 7d
코딩 에이전트에 '무엇을 왜 만들지'를 먼저 문서로 정하게 하고, 그 문서대로 계획·구현·검증까지 이끕니다.Hindsight유튜브 시청자용 발언 지도Hindsight 첫 화면. 수천 개의 영상 점이 이슈별 군집으로 모여 있고 가운데에 주제·채널·유튜브 링크를 넣는 검색창이 있습니다.설치 없이 바로
★ 0▲ 1 HN
유튜브 108개 채널 49,411편의 자막을 기억하고 그중 2만 2천여 편을 주제 지도로 펼쳐 같은 이슈에 대한 발언이 어떻게 바뀌었는지 따라갑니다.

타임라인

  1. 저장소 생성
  2. Show HN 게시 ↗
  3. TESIGN이 처음 본 시각
  4. TESIGN 게재

같은 날 고른 것

  1. 01

    VoiceStudio

    내 PC에서 목소리 복제·더빙

    목소리를 복제하고 더빙과 받아쓰기를 내 컴퓨터 안에서 처리합니다.

    직접 서버에
    ★ 30.9k▲ +1,260 / 7d
  2. 02

    gods-eye-view

    브라우저용 실시간 위성 지구본

    실제 위성과 항공기 위치를 브라우저 3D 지구본 위에 띄웁니다.

    설치해서 쓰기
    ★ 34.8k▲ +2,468 / 7d
  3. 03

    Recordly

    데모 영상용 녹화·편집

    녹화만 하면 편집 없이 내보낼 만한 데모 영상을 만듭니다.

    설치해서 쓰기
    ★ 29k▲ +399 / 7d
  4. 04

    Orca

    에이전트 여러 개 나란히 실행

    여러 코딩 에이전트를 한 화면에서 동시에 돌립니다.

    ★ 69.5k▲ +794 / 7d
  5. 05

    archify

    에이전트 사용자용 구조도 생성

    구조도와 흐름도를 의존성 없는 HTML 한 파일로 뽑아냅니다.

    개발자용
    ★ 63.6k▲ +1,307 / 7d
  6. 07

    tokentab

    에이전트 사용자용 비용 계산

    에이전트 세션 기록을 읽어 모델·프로젝트·날짜별 비용을 계산합니다.

    설치해서 쓰기
    ★ 1.1k▲ +118 / 7d