Hướng dẫn Tải và Chạy Mô Hình AI Google Gemma trên Máy Tính

Tải xuống Mô hình Google Gemma 2B

Để bắt đầu, bạn cần tải xuống và cài đặt LM Studio (miễn phí) trên máy tính của mình. LM Studio. Sau khi cài đặt, hãy khởi chạy chương trình.

Trên trang chủ, bạn sẽ tìm thấy mô hình “Google’s Gemma 2B Instruct“. Bạn cũng có thể tìm kiếm thủ công “Gemma”. Sau đó, mở nó.

Tiếp theo, chỉ cần nhấp vào “Download”. Đây là một tệp có dung lượng 1.5GB vì mô hình Gemma 2B đã được lượng tử hóa 4-bit để nén kích thước mô hình và giảm mức sử dụng bộ nhớ. Nếu bạn có RAM 8GB trở lên, bạn có thể tải xuống mô hình lượng tử hóa 8-bit (2.67GB) để có hiệu suất tốt hơn.

Tải xuống mô hình Google Gemma

Chạy Google Gemma Ngoại Tuyến Sử dụng LM Studio

Sau khi tải xuống, hãy làm theo các bước sau để chạy mô hình Gemma:

• Trong LM Studio, di chuyển đến cửa sổ “Chat” ở phía bên trái.
• Sau đó, nhấp vào “Select a model to load” và chọn “gemma”. Nó sẽ tiêu thụ khoảng 1.4GB RAM.

Chọn mô hình Gemma trong LM Studio

• Bây giờ, bạn có thể đặt câu hỏi. Theo kinh nghiệm, mô hình Gemma 2B nhỏ gọn rất phù hợp cho các tác vụ sáng tạo bằng tiếng Anh. Nó sẽ từ chối trả lời bất cứ điều gì có giá trị khi được yêu cầu đưa ra ý kiến về bất kỳ chủ đề nào (ví dụ: C tốt hơn Rust?).

Demo mô hình Google Gemma

• Bạn cũng có thể đặt system prompt ở bên phải để tùy chỉnh hành vi của mô hình AI.

Thiết lập System Prompt trong LM Studio

Các Khía Cạnh Khác của Google Gemma

Ưu điểm:

• Kích thước nhỏ gọn: Cho phép tải xuống và chạy trên máy tính có cấu hình thấp.
• Mã nguồn mở: Cộng đồng có thể đóng góp và phát triển mô hình.
• Hoạt động ngoại tuyến: Không cần kết nối internet sau khi tải xuống.

Hạn chế:

• Hiệu suất: Có thể không mạnh mẽ như các mô hình AI lớn hơn.
• Hỗ trợ ngôn ngữ: Chủ yếu tập trung vào tiếng Anh.
• Khả năng xử lý tác vụ phức tạp: Hạn chế trong việc xử lý các yêu cầu đòi hỏi lập luận phức tạp.