Dành đủ thời gian xung quanh các tác nhân AI và bạn bắt đầu nhận thấy những trục trặc. Một giây im lặng ở đây, một cú kéo chậm từ CRM ở đó và đột nhiên toàn bộ sàn giao dịch cảm thấy hơi không đồng bộ. Trên giấy tờ, mọi thứ có vẻ ổn. Trong sử dụng thực tế, độ trễ phá vỡ trải nghiệm.
Một số công ty chấp nhận nó như một hạn chế của các mô hình lớn và hệ thống phân tán. Zentegrio thì không. Đối với họ, độ trễ không chỉ là một điều kỳ quặc về kỹ thuật. Nó làm gián đoạn quy trình làm việc, làm chậm tương tác với khách hàng và khiến nhân viên cảm thấy không đáng tin cậy. Nếu một khách hàng đang chờ đợi trên điện thoại hoặc một nhân viên đang cố gắng chuyển một nhiệm vụ về phía trước, một vài giây có thể cảm thấy nhiều hơn thế nữa.
Giải pháp của họ đến từ việc suy nghĩ lại về cách một nhân viên suy luận và hành động trong quy trình làm việc, thay vì cố gắng cắt giảm vài mili giây khỏi các cuộc gọi API.
Độ trễ thường đến từ một số vấn đề nhỏ chồng chất:
Đối với các nhân viên AI cho dịch vụ khách hàng, những sự chậm trễ này đặc biệt đáng chú ý. Tạm dừng giữa cuộc trò chuyện khiến hệ thống nghe có vẻ không chắc chắn về chính nó. Đối với quản lý quy trình làm việc, độ trễ buộc mọi người quay trở lại công việc thủ công, điều này đánh bại điểm tự động hóa.
Nhân viên giọng nói AI làm cho điều này trở nên rõ ràng hơn. Tương tác bằng giọng nói di chuyển nhanh chóng và bất kỳ khoảng trống nào cũng có cảm giác như nhân viên bị mất chủ đề của cuộc trò chuyện. Một nhân viên giọng nói có thể sử dụng được phải phản hồi gần như nhanh như một người.
Đây là tiêu chuẩn mà Zentegrio đặt ra để đáp ứng.
Zentegrio đã không cố gắng giải quyết độ trễ bằng những tối ưu hóa nhỏ. Họ đã thay đổi cách thức hoạt động của đặc vụ.
Hầu hết các hệ thống thu thập tất cả thông tin cần thiết trước, sau đó quyết định phải làm gì. Các đặc vụ Zentegrio bắt đầu chuẩn bị hành động sớm hơn. Họ tìm nạp dữ liệu, mở các tài liệu liên quan hoặc kiểm tra tính khả dụng trong khi phần còn lại của ngữ cảnh vẫn đang được hình thành. Cảm giác nhanh hơn vì nền tảng đã được thực hiện.
Nhiều nhân viên AI giọng nói gửi mọi quyết định trở lại mô hình. Zentegrio đã chuyển các bước suy luận đơn giản hơn sang logic cục bộ nhẹ nhàng. Mô hình xử lý các bộ phận phức tạp. Nhân viên tự xử lý phần còn lại. Chờ đợi ít hơn có nghĩa là ít độ trễ hơn.
Một nhân viên điển hình nói chuyện với từng hệ thống riêng biệt. CRM. Lịch. Bán vé. Email. Zentegrio đã xây dựng một lớp điều phối duy nhất xử lý các kết nối này một cách hiệu quả, lưu trữ những gì có thể được lưu vào bộ nhớ đệm và trả về dữ liệu có cấu trúc nhanh chóng. Nhân viên không còn chờ đợi trên nhiều công cụ.
Đây là nơi cách tiếp cận của họ nổi bật. Khi một nhân viên nghe thấy phần đầu của một yêu cầu, hệ thống của Zentegrio sẽ dự đoán các bước tiếp theo. Nếu người gọi nói, "Tôi muốn kiểm tra đơn đặt hàng của mình", đại lý đã:
Vào thời điểm câu kết thúc, công việc đã được tiến hành.
Nếu một hệ thống chậm hoặc tạm thời không phản hồi, tác nhân sẽ không bị đóng băng. Nó chuyển sang hành vi dự phòng: tóm tắt những gì nó đã biết, xác nhận ý định hoặc thực hiện một hành động không phụ thuộc vào dữ liệu bị thiếu. Sự tương tác không bao giờ cảm thấy bế tắc.
Đối với các công ty sử dụng tác nhân AI cho dịch vụ khách hàng, sự khác biệt là rõ ràng. Các cuộc trò chuyện cảm thấy tự nhiên hơn. Khách hàng không gặp phải tình trạng tạm dừng khó xử. Các đặc vụ có thể phân loại và leo thang một cách suôn sẻ.
Đối với quản lý quy trình làm việc, độ trễ thậm chí còn gây hại hơn so với dịch vụ khách hàng. Nếu nhân viên cần vài giây để cập nhật nhiệm vụ hoặc tìm nạp tài liệu, mọi người sẽ mất niềm tin và chuyển trở lại công việc thủ công. Hệ thống của Zentegrio giữ cho các quy trình di chuyển liên tục, đó là những gì tự động hóa phải cung cấp.
Lợi ích của các tác nhân AI giọng nói chỉ xuất hiện khi phản hồi nhanh và ổn định. Kiến trúc của Zentegrio làm cho sự chậm trễ thực tế trở nên vô hình.
Hầu hết các nhà cung cấp tập trung vào chất lượng mô hình. Zentegrio tập trung vào cách công việc thực sự di chuyển trong một tổ chức. Một tác nhân AI được cho là hoạt động như một trợ lý. Trợ lý không thể đóng băng giữa nhiệm vụ.
Bằng cách tổ chức lại cách các hành động được lập kế hoạch, thực hiện và khôi phục, Zentegrio đã loại bỏ ma sát kìm hãm nhiều triển khai AI. Nhân viên của họ giống như đồng nghiệp chạy song song với nhóm, không giống như các công cụ đang chờ hướng dẫn rõ ràng.
Đối với các công ty muốn tự động hóa giọng nói không cảm thấy như robot hoặc các nhân viên nội bộ giữ cho hoạt động hoạt động mà không tạo ra tắc nghẽn, cách tiếp cận của Zentegrio giải quyết một trong những vấn đề lớn nhất và bị đánh giá thấp nhất trong lĩnh vực này: độ trễ.