Lilbee: สแต็ค AI ท้องถิ่นส่วนตัวสำหรับการค้นหาและการจัดการโมเดล
Lilbee, โดย Tobocop2, เป็นเครื่องมือเซิร์ฟเวอร์ MCP สำหรับสแต็ก AI ท้องถิ่น, เครื่องมือค้นหา, และการจัดการโมเดล มันถูกสร้างขึ้นด้วย Python, ใช้ llama.cpp สำหรับเครื่องยนต์โมเดลและ LanceDB สำหรับการจัดทำดัชนีเวกเตอร์ Lilbee มีไบนารีที่เป็นอิสระสำหรับ Linux, macOS, และ Windows, พร้อมการแจกจ่ายผ่าน Homebrew, AUR, Nix, Docker, Flatpak, Snap, และ Scoop มันยังสามารถเป็นไลบรารี Python หรือทำงานผ่านตัวโหลด Node.js เครื่องมือนี้มุ่งเน้นไปที่การทำงานในท้องถิ่นและความเป็นส่วนตัว.
ทางเลือกที่แนะนำมากที่สุด
Lilbee เชื่อมต่อกับอะไร?
Lilbee จัดการโมเดล AI ท้องถิ่น รวมถึงการสนทนา การฝังตัว การมองเห็น และการจัดอันดับใหม่ บน GPU ที่มีอยู่ มันเชื่อมต่อกับไฟล์ท้องถิ่นของผู้ใช้ โค้ด และหน้าเว็บที่ถูกเก็บข้อมูลเพื่อขับเคลื่อนเครื่องมือค้นหาที่ให้คำตอบที่มีการอ้างอิง นอกจากนี้ Lilbee ยังสามารถรวมเข้ากับ Ollama หรือ LM Studio ที่มีอยู่ได้ตามต้องการ ผู้ใช้ยังสามารถกำหนดค่าให้เชื่อมต่อกับโมเดลบนคลาวด์ ขยายความสามารถออกไปนอกทรัพยากรท้องถิ่น.
ฟีเจอร์หลักและเครื่องมือ
Lilbee เปิดเผยเครื่องมือที่เรียกใช้ได้หลายตัวสำหรับการจัดการฟังก์ชันของมัน ซึ่งรวมถึง lilbee_search สำหรับการค้นหา lilbee_add สำหรับเนื้อหา และ lilbee_crawl เพื่อจัดทำดัชนีหน้าเว็บ สำหรับสถานะและการควบคุม มันมี lilbee_crawl_status และ lilbee_crawl_cancel การจัดการโมเดลทำโดย lilbee_model_list และ lilbee_catalog_browse เครื่องมืออื่นๆ เช่น lilbee_init, lilbee_remove, lilbee_list_documents, lilbee_export_dataset, lilbee_status, lilbee_sync, lilbee_settings_set, และ lilbee_settings_reset ให้การควบคุมระบบ.
ใครคือกลุ่มเป้าหมาย?
Lilbee มุ่งเป้าไปที่นักพัฒนา โปรแกรมเมอร์ที่ใช้ตัวแทนการเขียนโค้ด และผู้ใช้ Obsidian มันยังให้บริการบุคคลที่ต้องการเครื่องมือค้นหา AI ท้องถิ่นและผู้จัดการโมเดลแบบส่วนตัว การออกแบบของมันให้ความสำคัญกับการทำงานในท้องถิ่น เพื่อความเป็นส่วนตัวโดยไม่ส่งข้อมูลการติดตามและไม่ต้องการบัญชีเว้นแต่จะมีการกำหนดค่าโมเดลบนคลาวด์ นี่ไม่ใช่ตัวเลือกที่เหมาะสมหากคุณต้องการบริการที่ส่งข้อมูลการติดตามโดยธรรมชาติหรือเรียกร้องการรวมบัญชีคลาวด์สำหรับการทำงานพื้นฐาน.
วิธีเริ่มต้น
สำหรับการติดตั้งในท้องถิ่น เซิร์ฟเวอร์จะตรวจสอบความถูกต้องโดยใช้ตัวแปรสภาพแวดล้อมหรือข้อมูลประจำตัวของระบบ สำหรับเซิร์ฟเวอร์ MCP ที่ใช้ HTTP ระยะไกล การเข้าถึงจะได้รับการอนุญาตผ่านกระบวนการอนุญาต OAuth มาตรฐาน.
กรณีการใช้งาน
- การค้นหา AI ท้องถิ่นและ RAG: จัดทำดัชนีเอกสารส่วนตัว โค้ด และเนื้อหาที่เก็บข้อมูลจากเว็บเพื่อรับคำตอบที่มีการอ้างอิงต่อคำถามในภาษาธรรมชาติ.
- การรวมตัวแทนการเขียนโค้ด: ให้บริการเบื้องหลังการดึงข้อมูลสำหรับตัวแทนการเขียนโค้ดที่รู้จัก MCP ทำให้สามารถเข้าถึงส่วนที่มีการอ้างอิงจากโค้ดและเอกสารที่จัดทำดัชนีได้.
- การจัดการโมเดลท้องถิ่น: เรียกดู ดาวน์โหลด และเรียกใช้โมเดล AI ที่หลากหลาย (การสนทนา การฝังตัว การมองเห็น การจัดอันดับใหม่) โดยตรงบน GPU ท้องถิ่น.
Lilbee ให้บริการสแต็ก AI ส่วนตัวในท้องถิ่นสำหรับการจัดการโมเดลและการค้นหาที่อ้างอิงจากข้อมูลส่วนบุคคล การสนับสนุนสำหรับแพลตฟอร์มต่างๆ และการรวมเข้ากับตัวแทนที่รับรู้ MCP ทำให้มันเป็นเครื่องมือที่หลากหลาย การมุ่งเน้นที่การทำงานในท้องถิ่นและความเป็นส่วนตัวเสนอสิ่งแวดล้อมที่ปลอดภัยสำหรับงาน AI เริ่มต้นโดยการใช้ "lilbee_catalog_browse" เพื่อสำรวจโมเดล AI ที่มีให้สำหรับการใช้งานในท้องถิ่น.
