Open Assistant là một dự án nhằm cung cấp cho mọi người quyền truy cập vào mô hình ngôn ngữ lớn dựa trên trò chuyện tuyệt vời.
Gần đây cộng đồng LAION (Mạng mở trí tuệ nhân tạo quy mô lớn) được tiết lộ thông qua một thông báo bản phát hành đầu tiên của dự án «OpenAssistant», phát triển chatbot trí tuệ nhân tạo có khả năng hiểu và trả lời câu hỏi bằng ngôn ngữ tự nhiên, tương tác với hệ thống của bên thứ ba và tự động trích xuất thông tin cần thiết.
Đối với những người không quen thuộc với LAION, bạn nên biết rằng nó phát triển các công cụ, mô hình và bộ sưu tập dữ liệu để tạo ra các hệ thống máy học miễn phí (ví dụ: bộ sưu tập LAION được sử dụng để huấn luyện các mô hình của hệ thống tổng hợp hình ảnh Khuếch tán ổn định).
Ngoài mã để đào tạo và tổ chức công việc của bot trên máy tính của bạn, đề xuất sử dụng một bộ sưu tập các mô hình làm sẵn sử dụng một mô hình ngôn ngữ đã được đào tạo, được đào tạo trên cơ sở 600 nghìn ví dụ về các cuộc đối thoại dưới dạng yêu cầu-phản hồi (hướng dẫn-thực hiện), được chuẩn bị và sửa đổi với sự tham gia của cộng đồng những người đam mê.
Một dịch vụ trực tuyến để đánh giá chất lượng của chatbot cũng đã được ra mắt, sử dụng mô hình kiến thức OA_SFT_Llama_30B_6, bao gồm 30 tỷ tham số.
Nhóm của chúng tôi đã làm việc không mệt mỏi trong nhiều tháng qua để thu thập một lượng lớn thông tin và phản hồi dựa trên văn bản nhằm tạo ra một bộ dữ liệu vô cùng đa dạng và độc đáo được thiết kế riêng cho các mô hình ngôn ngữ đào tạo hoặc các ứng dụng AI khác.
Với hơn 600 điểm dữ liệu do con người tạo bao gồm nhiều chủ đề và phong cách viết khác nhau, bộ dữ liệu của chúng tôi sẽ chứng tỏ là một công cụ vô giá cho bất kỳ nhà phát triển nào muốn tạo các mô hình hướng dẫn thế hệ tiếp theo.
Để tăng hiệu quả của hệ thống và tránh sự cần thiết phải lưu trữ một lượng lớn các tham số đặt trước, dự án thấy trước khả năng sử dụng cơ sở tri thức được cập nhật động có thể truy xuất thông tin cần thiết thông qua các công cụ tìm kiếm hoặc dịch vụ bên ngoài.
Ví dụ: khi tạo phản hồi, bot có thể truy cập các API bên ngoài để nhận thêm dữ liệu. Trong số các tính năng nâng cao, hỗ trợ cá nhân hóa cũng được đánh dấu, tức là khả năng thích ứng với một người dùng cụ thể dựa trên các cụm từ trước đó của họ.
Đối với những người quan tâm đến việc cài đặt OpenAssistant, bạn nên biết rằng bạn có thể cài đặt nó cục bộ và các mẫu Pythia SFT ứng viên có sẵn từ HuggingFace và có thể được tải qua thư viện HuggingFace Transformers. Như vậy, chúng có thể được sử dụng với đủ phần cứng. Ngoài ra còn có các khoảng trống trên HF có thể được sử dụng để trò chuyện với ứng viên OA mà không cần phần cứng của riêng bạn. Tuy nhiên, những mô hình này không dứt khoát và có thể tạo ra kết quả kém hoặc không mong muốn.
Các mô hình LLaMa SFT không thể được phát hành trực tiếp do giấy phép Meta, nhưng các trọng số XOR sẽ sớm được phát hành.
Điều quan trọng cần đề cập là mô hình nhỏ nhất hiện tại (Pythia) có thông số 12B và khó chạy trên phần cứng tiêu dùng, nhưng có thể chạy trên một GPU chuyên nghiệp duy nhất. Có thể có các mô hình nhỏ hơn trong tương lai và chúng tôi hy vọng sẽ nâng cao các phương pháp như lượng tử hóa số nguyên có thể giúp chạy mô hình trên phần cứng nhỏ hơn.
Dự án không có kế hoạch dừng lại ở việc lặp lại các khả năng của ChatGPT. Open-Assistant được kỳ vọng sẽ kích thích sự phát triển của phát triển mở trong lĩnh vực tạo nội dung và xử lý truy vấn bằng ngôn ngữ tự nhiên, giống như dự án nguồn mở Stable Diffusion đã kích thích sự phát triển của các công cụ tạo hình ảnh.
Mã dự án được viết bằng Python và được phân phối theo giấy phép Apache 2.0. Các phát triển OpenAssistant có thể được sử dụng để tạo các trợ lý thông minh và hệ thống hộp thoại của riêng bạn không bị ràng buộc với các dịch vụ và API bên ngoài. Phần cứng tiêu dùng thông thường là đủ để hoạt động, chẳng hạn như có thể hoạt động trên điện thoại thông minh. Dữ liệu Trợ lý Mở được phát hành theo giấy phép Creative Commons cho phép sử dụng ở nhiều mức độ khác nhau, kể cả sử dụng cho mục đích thương mại.
Cuối cùng, nếu bạn quan tâm để có thể tìm hiểu thêm về nó cũng như có thể tham khảo mã nguồn, bạn có thể tham khảo chi tiết Trong liên kết sau đây.