KoboldCPP 1.98.1

เครื่องมือโอเพนซอร์สและเบาสำหรับการรันโมเดลภาษาในรูปแบบ GGUF ภายในเครื่อง เช่น โมเดลที่ใช้ LLaMA, RWKV และอื่นๆ คุณได้รับการฝึกฝนจากข้อมูลจนถึงเดือนตุลาคม 2023

คำอธิบาย


KoboldCPP เป็นเครื่องมือโอเพ่นซอร์สและน้ำหนักเบาสำหรับการรันโมเดลภาษาท้องถิ่นในรูปแบบ GGUF เช่นที่ใช้ LLaMA, RWKV และอื่นๆ พัฒนาขึ้นเป็นทางเลือกสำหรับ KoboldAI มีอินเตอร์เฟซกราฟิกที่เรียบง่ายและสนับสนุนผ่าน API ทำให้สามารถโต้ตอบกับโมเดล AI โดยตรงบนคอมพิวเตอร์ของคุณ

ฟีเจอร์หลัก

การรันโมเดล GGUF แบบท้องถิ่น: รองรับโมเดลที่มีการควอนตั้มเป็น 4-bit หรือ 8-bit ซึ่งเหมาะสำหรับการใช้งานในฮาร์ดแวร์ระดับกลาง รองรับโมเดลเช่น RWKV, LLaMA และอื่นๆ

อินเตอร์เฟซกราฟิกและ API: รวมถึง KoboldAI Lite พร้อมโหมดต่างๆ เช่น แชท, การผจญภัย และผู้ช่วยทางธุรกิจ ยังอนุญาตให้มีการรวม API กับ endpoint ที่หลากหลาย

การสร้างข้อความ, รูปภาพ และเสียง: รองรับการสร้างข้อความด้วยโมเดล LLM, รูปภาพด้วย Stable Diffusion และการรู้จำและสังเคราะห์เสียงผ่าน Whisper และ OuteTTS

ข้อควรพิจารณา

รูปแบบที่รองรับ: KoboldCPP รองรับโมเดลในรูปแบบ GGUF โมเดลในรูปแบบอื่นๆ เช่น GPTQ หรือ Safetensors จะไม่รองรับ

ข้อกำหนดของฮาร์ดแวร์: เพื่อประสิทธิภาพที่ดีที่สุด โดยเฉพาะเมื่อใช้ GPU แนะนำให้ตรวจสอบความเข้ากันได้ของฮาร์ดแวร์ของคุณกับความต้องการของโมเดลที่เลือก

KoboldCPP เป็นทางเลือกที่สะดวกและมีประสิทธิภาพสำหรับผู้ที่ต้องการรันโมเดล AI ในท้องถิ่น โดยไม่ต้องพึ่งพาบริการคลาวด์ และสามารถควบคุมข้อมูลและใช้ประโยชน์จากฮาร์ดแวร์ที่มีอยู่ได้อย่างเต็มที่


ข้อมูลจำเพาะทางเทคนิค


รุ่น: 1.98.1

ใบอนุญาต: ฟรี

ภาษา:

แพลตฟอร์ม: Windows

ประเภทไฟล์: EXE

ผู้พัฒนา: Lost Ruins

หมวดหมู่: ยูทิลิตี้/ฐานข้อมูล

อัปเดต: 27/08/2025

ที่เกี่ยวข้อง


Jailer
สร้างสำเนาของฐานข้อมูลและปกป้องความเป็นส่วนตัวของข้อมูลที่ละเอียดอ่อน

brModelo 3.0
เวอร์ชัน 3.0 ของ brModelo ซอฟต์แวร์สำหรับการสร้างโมเดลสัมพัทธ์ของฐานข้อมูล

SQLite
ฐานข้อมูลขนาดเล็ก ไม่ต้องการเซิร์ฟเวอร์ ฝังตัวและทำงานได้เอง

brModelo 2.0
ซอฟต์แวร์ฟรีที่มุ่งเน้นการสอนการสร้างแบบจำลองฐานข้อมูลเชิงสัมพันธ์

Alternate Timer
ซอฟต์แวร์ที่ช่วยให้จัดการและบันทึกเวลา เช่น เวลาในการทำงานประจำวันหรืการใช้งานอินเทอร์เน็ต

ESEDatabaseView
เครื่องมือพกพาที่ช่วยให้สำรวจไฟล์ฐานข้อมูล Extensible Storage Engine (ESE) ซึ่งเรียกว่าไฟล์ EDB


©2005-2025 Baixe.net