KoboldCPP 1.98.1

Công cụ mã nguồn mở và nhẹ để thực hiện cục bộ các mô hình ngôn ngữ ở định dạng GGUF, như các mô hình dựa trên LLaMA, RWKV và các mô hình khác. Bạn được đào tạo trên dữ liệu đến tháng 10 năm 2023.

Mô tả


KoboldCPP là một công cụ mã nguồn mở và nhẹ để chạy cục bộ các mô hình ngôn ngữ ở định dạng GGUF, như các mô hình dựa trên LLaMA, RWKV và các mô hình khác. Được phát triển như một lựa chọn thay thế cho KoboldAI, nó cung cấp một giao diện đồ họa đơn giản và hỗ trợ qua API, cho phép tương tác với các mô hình trí tuệ nhân tạo trực tiếp trên máy tính của bạn.

Chức Năng Chính

Chạy Cục Bộ Các Mô Hình GGUF: Hỗ trợ các mô hình đã được định lượng với 4-bit hoặc 8-bit, lý tưởng cho việc sử dụng trên phần cứng trung bình. Tương thích với các mô hình như RWKV, LLaMA và các mô hình khác.

Giao Diện Đồ Họa và API: Bao gồm KoboldAI Lite, với các chế độ như trò chuyện, phiêu lưu và trợ lý doanh nghiệp. Cũng cho phép tích hợp qua API với nhiều điểm cuối khác nhau.

Tạo Văn Bản, Hình Ảnh và Âm Thanh: Hỗ trợ tạo văn bản với các mô hình LLM, hình ảnh với Stable Diffusion và nhận diện cũng như tổng hợp giọng nói qua Whisper và OuteTTS.

Những Điều Cần Lưu Ý

Các Định Dạng Hỗ Trợ: KoboldCPP tương thích với các mô hình ở định dạng GGUF. Các mô hình ở định dạng khác, như GPTQ hoặc Safetensors, không được hỗ trợ.

Yêu Cầu Phần Cứng: Để có hiệu suất tốt nhất, đặc biệt khi sử dụng GPU, nên kiểm tra tính tương thích của phần cứng của bạn với các yêu cầu của mô hình đã chọn.

KoboldCPP là một giải pháp thực tiễn và hiệu quả cho những ai muốn chạy các mô hình trí tuệ nhân tạo cục bộ, mà không phụ thuộc vào các dịch vụ đám mây, giữ quyền kiểm soát dữ liệu và tận dụng tối đa phần cứng có sẵn.


Thông số kỹ thuật


Phiên bản: 1.98.1

Giấy phép: Miễn phí

Ngôn ngữ:

Nền tảng: Windows

Loại tệp: EXE

Nhà phát triển: Lost Ruins

Danh mục: Tiện ích/Cơ sở dữ liệu

Cập nhật: 27/08/2025

Liên quan


Jailer
Tạo bản sao của cơ sở dữ liệu và bảo vệ quyền riêng tư của dữ liệu nhạy cảm.

brModelo 3.0
Phiên bản 3.0 của brModelo, phần mềm để tạo các mô hình quan hệ của cơ sở dữ liệu.

SQLite
Cơ sở dữ liệu nhẹ, không máy chủ, nhúng và độc lập.

brModelo 2.0
Phần mềm miễn phí dành cho việc dạy học mô hình hóa cơ sở dữ liệu quan hệ.

Alternate Timer
Phần mềm cho phép quản lý và ghi lại giờ giấc, như thời gian làm việc hàng ngày hoặc việc sử dụng internet.

ESEDatabaseView
Công cụ cầm tay cho phép khám phá các tập tin cơ sở dữ liệu Extensible Storage Engine (ESE), còn được biết đến với tên gọi tập tin EDB.


©2005-2025 Baixe.net