1 day ago
4
Jakarta, VIVA – Aplikasi berbasis kecerdasan buatan atau Artificial Intelegence (AI) semakin banyak diadopsi organisasi maupun perusahaan di seluruh dunia. Namun, seiring dengan berkembangnya teknologi AI, tantangan dalam menjaga performa tinggi serta keamanan pada lingkungan inferensi AI dan model bahasa besar (LLM) semakin kompleks.
Adopsi AI bertujuan membangun pusat data guna mendukung adopsi teknologi ini. Dengan begitu, mendorong otomatisasi dan meningkatkan operasional.
Dalam rangka memenuhi kebutuhan tersebut, A10 Networks, perusahaan yang bergerak di bidang jaringan dan keamanan siber, memperkenalkan AI firewall yang dirancang untuk memastikan aplikasi AI dan LLM dapat berjalan dengan aman dan efisien. AI firewall memiliki kemampuan performa prediktif.
A10 Networks menjelaskan, pemanfaatan teknologi firewall AI dapat diterapkan di depan API atau URL yang mengakses LLM, baik yang dikembangkan internal maupun berbasis solusi komersial seperti OpenAI atau Anthropic. Dibangun di atas arsitektur yang dioptimalkan untuk edge dan perangkat keras berbasis GPU, teknologi ini menawarkan perlindungan terhadap LLM dengan performa tinggi.
Ilustrasi hacker atau serangan siber.
Solusi ini dapat diintegrasikan ke berbagai infrastruktur sebagai fitur keamanan tambahan. Fungsi utamanya adalah mencegah, mendeteksi, dan mengatasi berbagai ancaman siber, seperti prompt injection dan kebocoran informasi sensitif, dengan menganalisis lalu lintas permintaan dan respons pada tingkat prompt.
Teknologi ini menguji model inferensi terhadap kerentanan yang diketahui. Kemudian menghilangkan ancaman dengan teknik perlindungan LLM milik A10.
Presiden dan CEO A10 Networks Dhrupad Trivedi menyampaikan, saat ini perusahaan tengah gencar melatih dan menerapkan model inferensi AI dan LLM, baik di on-premise maupun di cloud.
Trivedi mengungkap, ada tiga tantangan utama yang harus diatasi adalah di era AI meliputi latensi, keamanan, dan kompleksitas operasional.
"Dengan pengalaman lebih dari 20 tahun dalam mengamankan serta mengelola aplikasi, memperluas portofolio untuk menjawab tantangan tersebut dengan menghadirkan ketahanan, performa tinggi, dan keamanan bagi infrastruktur AI dan LLM,” ujar Dhrupad Trivedi, dikutip dari keterangan resminya pada Rabu, 11 Juni 2025.
Perusahaan juga terus memperkuat ketahanan dan performa aplikasi berbasis AI dan LLM dengan offloading proses berat, seperti dekripsi TLS/SSL, caching, pengoptimalan rute trafik, dan menyediakan insight untuk menjaga ketersediaan serta performa jaringan. Salah satu kemampuan baru yang diperkenalkan adalah fitur prediksi performa yang mampu mendeteksi gangguan jaringan sejak dini dan memberikan sistem peringatan dini untuk mengantisipasi masalah kapasitas.
Perusahan akan memperlihatkan AI firewall pada pameran Interop Tokyo 2025 bertema "AI Steps into Reality" yang akan diselemhgaralan selama tiga hari pada 11-13 Juni 2025. Dengan kombinasi antara keamanan dan performa, perusahaan berharap dapat memberikan pengalaman yang lebih aman dan optimal bagi pengguna akhir yang mengadopsi teknologi AI dan LLM di berbagai sektor.
Halaman Selanjutnya
Presiden dan CEO A10 Networks Dhrupad Trivedi menyampaikan, saat ini perusahaan tengah gencar melatih dan menerapkan model inferensi AI dan LLM, baik di on-premise maupun di cloud.
