Mudahkan Pengembangan dan Skalabilitas Agen AI, Confluent Perkenalkan Fitur Streaming Agents

JawaPos.com-Confluent memperkenalkan sebuah fitur baru yakni Streaming Agents di Confluent Cloud untuk Apache Flink. Fitur ini memudahkan pengembangan dan skalabilitas agen AI yang memantau, menganalisis, dan bertindak berdasar data real time.

Streaming Agents mampu menyederhanakan penerapan AI berbasis agen di level perusahaan dengan menyatukan pemrosesan data dan alur kerja AI. Menghadirkan konektivitas yang mudah serta aman ke seluruh elemen bisnis, mulai dari Large Language Models (LLMs), embedding models, hingga berbagai alat dan sistem pendukung. 

Teknologi ini mempercepat adopsi AI berbasis agen, memungkinkan alur kerja lebih efisien, implementasi lebih singkat. Selain itu, membuka jalan bagi terciptanya model bisnis dan peluang baru yang benar-benar inovatif.

“AI yang berorientasi pada tindakan agentic AI ada di peta jalan setiap organisasi. Namun, kebanyakan perusahaan terjebak dalam fase prototipe yang tak kunjung selesai, sehingga tertinggal, sedangkan yang lain berlomba menuju hasil yang dapat diukur,” ujar Shaun Clowes, Chief Product Officer di Confluent dalam keterangannya, Senin (25/8). 

“Bahkan agen AI paling cerdas pun akan bekerja tanpa arah jika tidak memiliki konteks bisnis yang terbaru. Streaming Agents menyederhanakan pekerjaan rumit dalam mengintegrasikan alat dan data yang menciptakan kecerdasan sejati, memberikan organisasi landasan yang kokoh untuk menerapkan agen AI yang mendorong perubahan berarti di seluruh bisnis,” imbuh dia.

Studi IDC mengungkapkan bahwa meskipun rata-rata organisasi melakukan 23 uji coba konsep AI generatif sepanjang 2023-2024, hanya tiga yang berhasil masuk ke tahap produksi. Dari jumlah tersebut, hanya 62 persen yang sesuai dengan ekspektasi. 

Agen sebenarnya memiliki potensi besar melalui akses ke berbagai tools dan data. Namun alur kerja yang rumit dan mahal membuat bisnis kesulitan memaksimalkan nilai AI berbasis agen.

Walau kerangka kerja AI cukup membantu untuk memulai penggunaan agen, banyak perusahaan menghadapi tantangan dalam mengintegrasikan data real-time, sehingga menghasilkan respons yang tidak akurat dan kurang dapat diandalkan.

“Meskipun sebagian besar perusahaan sedang berinvestasi dalam AI yang bersifat otonom, arsitektur data mereka tidak mampu mendukung kemampuan pengambilan keputusan otonom yang dibutuhkan oleh sistem-sistem ini,” kata Stewart Bond, Wakil Presiden Divisi Perangkat Lunak Intelijen dan Integrasi Data di IDC menambahkan.

Streaming Agents menyatukan AI berbasis agen dengan pemrosesan streaming melalui Apache Kafka dan Apache Flink. Sehingga perusahaan dapat membangun dan mengelola agen berbasis peristiwa secara real-time. 

Dengan akses ke data kontekstual terkini, agen mampu beradaptasi, berinteraksi dengan sistem lain, serta merespons sinyal secara instan layaknya operator manusia. Contohnya, agen dapat memantau harga di berbagai e-commerce dan otomatis menyesuaikan harga produk di situs ritel agar tetap kompetitif.

Fitur utama Streaming Agents

1. Tool Calling untuk Otomatisasi Konteks 

Melalui Model Context Protocol (MCP), agen dapat memilih dan memanggil alat eksternal yang sesuai, seperti database, layanan SaaS, atau API, untuk menjalankan tindakan yang relevan. Proses ini mempertimbangkan kondisi bisnis serta aktivitas dari sistem maupun agen lain.

2. Koneksi Aman untuk Integrasi 

Streaming Agents menyediakan koneksi langsung dan terlindungi ke model, database vektor, serta MCP menggunakan Flink. Kredensial sensitif tetap aman, sementara koneksi dapat digunakan kembali lintas tabel, model, dan fungsi, serta dikelola secara terpusat untuk mendukung implementasi berskala besar.