Bắt đầu xây dựng môi tỷ lệ cá cược AI tại chỗ với NVIDIA Blueprints

TạoAIDo nhu cầu cải tiến hoạt động kinh doanh bằng cách sử dụngAICần xây dựng và vận hành cơ sở hạ tầngNVIDIABản thiết kế NVIDIA'' là nhóm mẫu triển khai có thể đáp ứng các yêu cầu này vàAIĐó là một phương tiện mạnh mẽ để tăng tốc độ sử dụng

Trong loạt blog nàyBản thiết kế NVIDIAvà các sản phẩm liên quan, chúng tôi muốn giải thích các bước cài đặt cụ thể trong môi tỷ lệ cá cược tại chỗ

Trong bài viết đầu tiên này,Bản thiết kế NVIDIAvà các sản phẩm liên quan (Doanh nghiệp NVIDIA AI、NVIDIA NIM™、NVIDIA NeMo™), hiện tại rất nhiều công ty đang sử dụngRAG（Thế hệ tăng cường truy xuất)Bản thiết kế NVIDIA RAGBản thiết kếTôi xin giải thích ngắn gọn nội dung

Bản thiết kế NVIDIA là gì

Nguồn:

Bản thiết kế NVIDIAlàAIBộ sưu tập hướng dẫn và mẫu giúp bạn nhanh chóng xây dựng và triển khai các giải pháp Đây không chỉ là một bản thiết kế;GPUChứa các tệp cấu hình, mã mẫu và tài liệu được tối ưu hóa, tập trung vào khả năng tái tạo và độ tin cậy ở cấp độ sản xuất Đặc biệt là trong môi tỷ lệ cá cược tại chỗ, sự phức tạp trong xây dựng và thiếu bí quyết là những rào cản trong việc triển khaiBản thiết kếgiải quyết vấn đề đó

Giới thiệu các sản phẩm liên quan

Nguồn:

Doanh nghiệp NVIDIA AI

Doanh nghiệp NVIDIA AIlàNVIDIAAIĐây là một bộ phần mềmNVIDIA NIMỪNeMoBao gồm các công cụ phần mềm, thư viện và khung, bao gồm cả vi dịch vụAINhanh chóng và đơn giản hóa việc phát triển, triển khai và mở rộng quy mô ứng dụng

NVIDIA NIM (Vi dịch vụ suy luận NVIDIA)

NIMdành cho suy luậnAIGiải pháp cung cấp mô hình dưới dạng vi dịch vụNVIDIAmô hình được tối ưu hóa ngay lập tức trên cơ sở vùng chứaAPIđiều này làm cho nó có thể mở rộng dưới dạngBản thiết kếđược sử dụng để xây dựng nhanh phần suy luận

NVIDIA NeMo

NeMolàNVIDIALLMTinh chỉnh các mô hình được đào tạo trước,RAGBản thiết kếNgay cả trongNeMoRAGMột ví dụ về xây dựng được cung cấp

Giải thích về bản thiết kế NVIDIA RAG

Trong chương nàyNVIDIAthực sự được xuất bảnBản thiết kế RAG

Nguồn:

Hình trên làBản thiết kế RAGSơ đồ chứaBản thiết kếLLM) cũng như quy trình xử lý tổng thể được tổ chức trực quan

Sơ đồ này lớn “Đường ống khai thác” và “Đường dẫn truy xuất''2Nó bao gồm hai phần, mỗi phần có một vai trò khác nhau

① ​ Đường ống trích xuất (phần tiền xử lý)

Phần này do người dùng tải lênPDF・Đầu tiên, thông tin cần thiết được trích xuất từ dữ liệu phi cấu trúc như hình ảnh và tệp âm thanh Ví dụOCRTạo dữ liệu văn bản bằng nhận dạng giọng nói và chuyển đổi dữ liệu đóThợ săn NeMođược lập chỉ mục để tìm kiếm hiệu quả Quá trình tiền xử lý này cung cấp nền tảng cho việc thu thập kiến ​​thức một cách tập trung từ các nguồn dữ liệu đa dạng

② Đường dẫn truy xuất (phần tìm kiếm/tạo)

Tìm kiếm thông tin phù hợp cho thắc mắc của người dùng dựa trên chỉ mục được xây dựng trong quá trình tiền xử lý (Truy xuất) và tạo dựa trên thông tin đóAI（Thế hệ) sẽ tạo ra câu trả lời ở đâyNeMoỪNIM, phối hợp với nhau để trả về phản hồi theo thời gian thựcRAG,GPTbởi chính nó

Tiếp theo, chúng ta hãy xem kỹ hơn nội dung của từng phần

Nguồn:

Lớn để xử lý6Nó được chia thành ba bước và mỗi bước thực hiện quá trình xử lý sau

Bước 1: Gửi dữ liệu

Giao diện người dùngỪSDK

Bước ②: Phân tích tài liệu và trích xuất văn bản

Trích xuất thông tin văn bản từ các thành phần trang, bảng, đồ họa, vv thông qua nhận dạng giọng nói và phân tích cấu trúc tài liệu

Bước 3: Đăng ký DB

Văn bản được trích xuất và vector hóaCơ sở dữ liệu vectơDữ liệu gốc và các tệp liên quan được lưu trữ trongCửa hàng đối tượng

Bước ④: Gửi truy vấn

Người dùngGiao diện người dùngỪSDKvàRan can NeMo(tùy chọn)Xử lý truy vấn

Bước ⑤: Tìm kiếm truy vấn

Truy vấn làNhúng NeMo Retrievervà việc tìm kiếm được thực hiện dựa trên sự giống nhau với dữ liệu mục tiêu tìm kiếm Kết quả tìm kiếm làXếp hạng lại NeMo Retriever, thông tin tài liệu phù hợp hơnLLMNếu các tài liệu liên quan có chứa hình ảnh thì chúng làVLM(tùy chọn) tạo chú thích cho hình ảnh, nếu cầnLLM

Bước ⑥: Tạo câu trả lời

Dựa trên kết quả tìm kiếmLLMtạo ra phản hồi cho truy vấn của người dùng

Như bạn có thể thấyRAGLLMcần phải chuẩn bị, thiết kế dòng chảy phức tạpBản thiết kế, bạn có thể cài đặt tất cả chúng cùng một lúc, điều này giúp bạn có thể triển khai chúng một cách nhanh chóng

Tóm tắt

Trong bài viết nàyBản thiết kế NVIDIAvà các sản phẩm liên quan của nóBản thiết kế RAGBản thiết kếLần tới, chúng tôi sẽ thực sự làm điều đó trong môi tỷ lệ cá cược tại chỗBản thiết kế, vì vậy hãy đón chờ phần tiếp theo!