Agency và SIer thường vướng ở đâu khi khách hỏi về AI chatbot?
Agency và SIer khi nhận yêu cầu AI chatbot thường không vướng ở câu "làm được không" mà ở câu "ai chịu trách nhiệm". Phần lõi RAG (Retrieval-Augmented Generation: tìm đoạn tài liệu liên quan rồi để AI soạn câu trả lời dựa trên đó) có thể dựng bản thử từ các thành phần mã nguồn mở.
Phần khó nằm sau bản thử. Đưa độ chính xác lên mức dùng được trong công việc thật. Trả lời bảng kiểm tra bảo mật của khách. Thống nhất ai sửa, sửa đến đâu khi hệ thống gặp sự cố. Cả ba đều đi thẳng vào hợp đồng với khách.
Vì vậy, đây là câu hỏi về mô hình kinh doanh nhiều hơn là câu hỏi kỹ thuật. Có 3 lựa chọn: tự làm và tự sở hữu, giới thiệu sản phẩm của hãng khác, hoặc bán sản phẩm của hãng khác dưới thương hiệu của mình.
Tự phát triển, bán lại và OEM khác nhau thế nào?
Tự phát triển, bán lại và OEM khác nhau ở tên mà khách cuối nhìn thấy, và ở việc ai chịu trách nhiệm khi có sự cố hoặc cần cải tiến.
Không có lựa chọn nào đúng cho mọi trường hợp. Cùng một công ty, câu trả lời có thể khác nhau tuỳ quy mô dự án và ngành của khách.
Khi nào nên tự phát triển?
Tự phát triển AI chatbot phù hợp khi bạn định nuôi nó thành sản phẩm riêng trong nhiều năm và đủ sức đầu tư liên tục trong thời gian đó. Nếu muốn khác biệt bằng tính năng dành riêng cho một ngành, ví dụ biểu mẫu hay thuật ngữ đặc thù, sở hữu sản phẩm cũng có ý nghĩa.
Ngược lại, bắt đầu xây chỉ vì một khách trước mắt thì dễ gặp khó từ khách thứ hai. Muốn dùng lại hệ thống cho khách khác, bạn phải làm lại cách tách dữ liệu, phân quyền và quy trình cập nhật. Ai theo kịp các bản cập nhật của mô hình ngôn ngữ, ai xử lý sự cố lúc nửa đêm, cũng cần quyết từ đầu.
Khi nào bán lại là đủ, khi nào không?
Bán lại là đủ khi AI chatbot chỉ là dịch vụ đi kèm mảng chính, và bạn không định tham gia sâu vào vận hành sau triển khai. Cách này ít việc và không cần vốn phát triển.
Bán lại không còn đủ khi bạn muốn tự giữ quan hệ với khách. Với mô hình giới thiệu, khách cuối thường ký hợp đồng trực tiếp với hãng, nên các lần gia hạn hay yêu cầu mở rộng có thể không còn đi qua bạn. Đối thủ cũng bán được đúng sản phẩm đó, nên khác biệt giữa các đề xuất dễ chỉ còn ở giá.
6 điều nên hỏi nhà cung cấp trước khi chọn OEM
Với OEM, khách cuối coi bạn là bên cung cấp sản phẩm. Điểm yếu của nhà cung cấp trở thành trách nhiệm giải trình của bạn. Trước khi ký, nên hỏi rõ 6 điều sau.
1. Dữ liệu lưu ở đâu, có bị dùng để huấn luyện không. Máy chủ đặt ở nước nào. Nhà cung cấp có cam kết bằng văn bản là không dùng dữ liệu khách cuối để huấn luyện mô hình AI không.
2. Chuỗi uỷ thác xử lý dữ liệu cá nhân. Trong OEM, khách cuối uỷ thác cho bạn, bạn uỷ thác tiếp cho nhà cung cấp. Luật bảo vệ thông tin cá nhân của Nhật (APPI) yêu cầu bên uỷ thác giám sát bên nhận uỷ thác. Cần có tài liệu để bạn giải thích được biện pháp an toàn của nhà cung cấp cho khách cuối.
3. Phạm vi cam kết thời gian hoạt động (SLA) và đường báo sự cố. Cam kết bao nhiêu phần trăm. Có tính thời gian bảo trì theo kế hoạch không. Khi khách báo lỗi cho bạn, bạn chuyển cho nhà cung cấp bằng cách nào.
4. Thay thương hiệu được đến đâu. Logo, màu sắc, tên miền, chữ trên trang quản trị, người gửi email thông báo. Có chỗ nào khách cuối vẫn thấy tên nhà cung cấp không.
5. Tài liệu trả lời thẩm định bảo mật. Nhà cung cấp trả lời được đến đâu trong bảng kiểm tra bảo mật của khách cuối.
6. Dữ liệu khi kết thúc hợp đồng. Xoá bằng cách nào, có xác nhận đã xoá không. Xuất dữ liệu ra định dạng gì.
Điều 1 và 5 giống các câu hỏi khi doanh nghiệp tự dùng AI chatbot dạng SaaS, đã viết chi tiết ở Bảo mật khi đưa AI chatbot vào doanh nghiệp: 5 câu hỏi cần trả lời trước khi duyệt. Phần mới của OEM là điều 2, 3, 4: thoả thuận giữa bạn và nhà cung cấp.
ONEBOT OEM làm được gì và không làm được gì?
ONEBOT của VAON là AI chatbot dạng SaaS dùng cho chăm sóc khách hàng doanh nghiệp. ONEBOT trả lời bằng RAG dựa trên PDF, Excel, Word và nội dung website, chạy trên LINE và web chat. Với chương trình đối tác ONEBOT, agency và SIer bán ONEBOT như dịch vụ của mình, còn VAON lo xây dựng, vận hành và giám sát. Đã có đối tác đang cung cấp ONEBOT theo hình thức OEM. Case study cụ thể đang được chuẩn bị để công bố, nên trong buổi trao đổi VAON sẽ chia sẻ trong phạm vi được phép.
Câu trả lời hiện tại của ONEBOT cho các điều ở mục 5:
ONEBOT OEM cũng có những việc không đáp ứng được.
ONEBOT không hợp với khách cuối không cho bất kỳ dữ liệu nào ra internet. Khi soạn câu trả lời, ONEBOT gọi dịch vụ AI bên ngoài qua internet. Nếu quy định nội bộ hay hợp đồng không cho dữ liệu ra ngoài, VAON xây hệ thống RAG chạy trong mạng nội bộ như một dự án phát triển riêng. Khác biệt được giải thích trong [Chatbot RAG chạy trong mạng nội bộ: khi nào cần và phải đánh đổi những gì](/vi/blog/on-premise-rag-chatbot-closed-network).
Sản phẩm không tự làm thay việc tuân thủ APPI. Đưa dữ liệu nào vào, ai được xem, giữ trong bao lâu là việc khách cuối và bạn phải quyết.
Hợp tác OEM bắt đầu theo những bước nào?
Từ buổi trao đổi đầu tiên đến lúc bắt đầu bán ONEBOT OEM mất nhanh nhất khoảng 2 tuần.
1. Trao đổi (online). VAON hỏi ngành, quy mô của khách cuối dự kiến và kênh muốn dùng (LINE, web chat), rồi cùng bạn xác định ONEBOT có đủ không hay cần phát triển riêng. Bạn xem được giao diện và câu trả lời thật trên môi trường demo.
2. Thống nhất điều kiện và ký hợp đồng (tuần 1). Gói dịch vụ, giá nhập, phân chia vai trò khi có sự cố, uỷ thác xử lý dữ liệu cá nhân.
3. Cấu hình thương hiệu và xây dựng (tuần 1). VAON thiết lập hiển thị theo thương hiệu của bạn và dựng môi trường. Nếu dùng gói Standard trên tài khoản cloud đứng tên bạn, phần dựng môi trường mất thêm khoảng 1 tuần.
4. Đào tạo và nghiệm thu (tuần 2). Người phụ trách bên bạn học thao tác và vận hành, hai bên cùng kiểm tra hệ thống. VAON bàn giao bộ tài liệu dùng khi đề xuất cho khách.
5. Bắt đầu bán. Với dự án có nhiều câu hỏi kỹ thuật, kỹ sư VAON tham gia các buổi họp với khách cuối. Nên bắt đầu bằng PoC: đo tỷ lệ trả lời đúng bằng tài liệu thật của khách và 50 đến 100 câu hỏi có đáp án do người phụ trách nghiệp vụ chuẩn bị, để khách dễ quyết định ký chính thức.
Khi đã vận hành, bạn lo bán hàng, hợp đồng, thu tiền và tiếp nhận yêu cầu hỗ trợ đầu tiên từ khách cuối. VAON lo xây dựng, vận hành, giám sát hạ tầng, điều tra và khắc phục các vấn đề kỹ thuật.