Các chuyên gia cho rằng, khi các công ty triển khai hàng chục tác nhân AI và mô hình ngôn ngữ lớn (LLM), họ sẽ cần kiểm soát và kết nối tất cả thông qua một nền tảng điều phối và tích hợp.
Trong tương lai gần của AI tác nhân, các doanh nghiệp sẽ vận hành hàng chục, nếu không phải hàng trăm tác nhân AI, với các CIO chịu trách nhiệm điều phối và kết nối chúng để giúp nhân viên điều hướng một loạt các quy trình kinh doanh liên kết với nhau.
Lấy ví dụ về việc giới thiệu một nhân viên mới. Trong tương lai không xa, một đại diện HR có thể yêu cầu một chatbot thiết lập nhân viên mới. Bằng cách phối hợp nhiều tác nhân, chatbot này sẽ lần lượt nhập thông tin nhân viên vào hệ thống lương, hướng dẫn họ các lựa chọn bảo hiểm y tế, và thiết lập dịch vụ email và hội nghị truyền hình. Việc điều phối tác nhân sâu hơn cũng có thể cung cấp khóa đào tạo cho nhân viên mới, cấp thẻ vào tòa nhà, và thậm chí gửi máy tính xách tay hoặc chỉ định bàn làm việc cho họ, tất cả chỉ với sự can thiệp tối thiểu của con người.
Tầm nhìn về điều phối và tích hợp AI này đã được một số công ty triển khai, và khi các tổ chức triển khai nhiều mô hình ngôn ngữ lớn (LLM) và hàng chục tác nhân AI trong những năm tới, việc áp dụng rộng rãi các công cụ tích hợp và điều phối AI là điều chắc chắn.
Đến năm 2028, 70% các tổ chức xây dựng ứng dụng đa LLM và tác nhân AI sẽ sử dụng nền tảng tích hợp để tối ưu hóa và điều phối khả năng kết nối cũng như truy cập dữ liệu, Gartner đã dự đoán trong một báo cáo gần đây. Dưới 5% các tổ chức tương tự đang sử dụng nền tảng tích hợp AI vào năm 2024.
Một số chuyên gia AI xem chức năng điều phối, nơi nhiều tác nhân AI được liên kết với nhau để tạo ra các quy trình làm việc tự động và đa dạng, là thời điểm mà các tác nhân trở nên có khả năng tự chủ.
Kết nối dữ liệu và người ra quyết định
Các công cụ tích hợp và điều phối AI sẽ rất quan trọng đối với hầu hết các doanh nghiệp vì các tác nhân AI và LLM cần được kết nối để phát huy tối đa tiềm năng của chúng, Andrew Humphreys, giám đốc cấp cao và nhà phân tích tại Gartner, cho biết. Ông lưu ý rằng các bản phát hành gần đây của một số giao thức tác nhân đã là bước đầu tiên hướng tới sự tích hợp rộng rãi này.
Ông nói: “AI phải có quyền truy cập vào dữ liệu để đưa ra quyết định và nó phải có khả năng thực hiện một hành động nào đó. Một tác nhân sẽ vô dụng nếu không thể truy cập dữ liệu và không thể đưa ra quyết định.”
Ông nói thêm, việc tích hợp và điều phối tác nhân sẽ giúp các CIO giải quyết một số câu hỏi mới nổi về thế giới AI tác nhân sắp tới. Humphreys cho biết: “Làm thế nào để tôi giúp nhà phát triển AI hoặc tác nhân của tôi dễ dàng kết nối với mọi thứ và lấy dữ liệu hơn? Làm thế nào để tôi có thể quan sát những gì đang thực sự diễn ra trong kiến trúc CNTT của mình?”
Khi các chiến lược AI của các CIO trở nên phức tạp hơn, nhu cầu về nền tảng điều phối tác nhân ngày càng rõ ràng, Beth Scagnoli, phó chủ tịch quản lý sản phẩm tại nhà cung cấp giải pháp sẵn sàng dữ liệu Redpoint Global, cho biết thêm.
Bà nói: “Hầu hết các tổ chức ngày nay không chỉ thử nghiệm một mô hình AI duy nhất; họ đang làm việc đồng thời trên nhiều LLM, hệ thống cũ và các tác nhân AI mới hơn. Nếu không có sự điều phối, hệ sinh thái đó có nguy cơ nhanh chóng trở nên phân mảnh, dư thừa và kém hiệu quả.”
Bà nói thêm, lớp điều phối sẽ quản lý cách các công cụ AI truy cập, di chuyển và xử lý dữ liệu trên các hệ thống. Scagnoli cho biết: “Điều này không chỉ dành cho các đầu ra, mà còn để duy trì các tiêu chuẩn của doanh nghiệp về quản trị và tin cậy. Điều phối AI đang nhanh chóng trở thành liên kết quan trọng giữa chiến lược dữ liệu và thực thi AI.”
Một thị trường đang hình thành
Scagnoli nói rằng các CIO khi thêm công cụ điều phối nên tìm kiếm khả năng tương tác.
Bà nói: “Các lớp điều phối linh hoạt và không phụ thuộc AI sẽ là nơi giá trị thực sự tỏa sáng. Các công cụ có thể nằm trên bất kỳ LLM hoặc tác nhân nào, cho phép các tổ chức cắm đúng mô hình cho công việc đồng thời quản lý bảo mật, phiên bản và nguồn gốc dữ liệu phía sau, sẽ là lựa chọn tốt nhất của các nhà lãnh đạo CNTT.”
Humphreys của Gartner nhận thấy một thị trường đang phát triển mạnh mẽ cho các nền tảng tích hợp và điều phối AI, với nhiều người chơi nhỏ hiện đang cung cấp các giải pháp sẵn có. Khi thị trường trở nên có lợi hơn, các nhà cung cấp CNTT và AI lớn hơn sẽ tham gia vào cuộc chơi.
Một số công ty cũng sẽ tự xây dựng các công cụ điều phối, Humphreys cho biết, nhưng ông khuyến khích các nhà lãnh đạo CNTT áp dụng những bài học kinh nghiệm từ các nỗ lực tích hợp trong quá khứ, bao gồm cả việc điều phối các cuộc gọi API.
Ông nói: “Bạn có thể đã thiết lập các tích hợp API hiện có của mình rồi. Hãy điều chỉnh nó thay vì nghĩ rằng bạn phải hoàn toàn tái tạo lại toàn bộ. Chỉ cần điều chỉnh để đáp ứng cách AI của bạn cần giao tiếp với nó, thay vì nghĩ rằng, 'Ồ, đó là AI, tốt hơn hết mình nên viết lại mọi thứ mình đã học được trong quá khứ.'”
Thử nghiệm với điều phối
IBM là một công ty đang tự mình thực hiện việc tích hợp tác nhân. Gã khổng lồ công nghệ này bắt đầu thử nghiệm các công cụ giống tác nhân từ tám năm trước và hiện có các tác nhân được triển khai trong một số quy trình làm việc, bao gồm các bộ phận bán hàng và CNTT của IBM, Suzanne Livingston, phó chủ tịch IBM watsonx Orchestrate Agent Domains, cho biết. HR là trường hợp thử nghiệm ban đầu, và hiện tại, các tác nhân vận hành nhiều chức năng HR.
Bà nói: “Có rất nhiều quy trình trong HR, và thật khó để nhân viên hiểu cách làm việc với hệ thống HR. Chúng tôi sử dụng một ứng dụng tại một thời điểm, và nếu bạn đã từng sử dụng một trong những hệ thống HR doanh nghiệp này, bạn phải tìm hướng dẫn để biết chính xác mình muốn làm gì. Và,
