REPUBLIKA.CO.ID, JAKARTA — Penggunaan kecerdasan buatan atau artificial intelligence (AI) otonom di lingkungan perusahaan dinilai menghadirkan risiko keamanan siber dan tata kelola baru yang belum sepenuhnya diantisipasi sistem keamanan konvensional. Laporan terbaru Zentara Labs menunjukkan perusahaan menghadapi kesenjangan antara percepatan adopsi teknologi AI dan kesiapan pengelolaan risikonya.
Zentara Labs dalam laporan bertajuk "SAFE-AGENT: An Agentic AI Security Framework for the Enterprise and Public Sector" menilai semakin banyak perusahaan di Indonesia mulai mengembangkan sistem AI yang mampu mengambil tindakan secara mandiri di lingkungan digital. Perkembangan tersebut memunculkan tantangan baru terkait pengawasan, kontrol, serta keamanan operasional.
Co-Founder dan CEO Zentara, Regal Rauniyar Star mengatakan, teknologi AI kini beroperasi dengan tingkat independensi yang belum pernah diperhitungkan dalam pendekatan keamanan tradisional. “Kondisi ini menciptakan kesenjangan antara cara sistem AI bekerja dengan kemampuan perusahaan dalam memantau serta mengelola risikonya,” kata Regal dalam siaran pers, Senin (18/5/2026).
Menurut laporan tersebut, pemanfaatan AI untuk meningkatkan efisiensi dan otomatisasi proses kerja terus meningkat. Namun, banyak organisasi dinilai belum memiliki kerangka perlindungan dan tata kelola yang memadai untuk mengelola potensi risiko secara efektif.
President Zentara, Darian Kuswanto, mengatakan perusahaan perlu menggeser fokus dari sekadar mengejar kemampuan teknologi menuju penguatan tata kelola penggunaan AI.
"Membangun pemahaman mengenai tata kelola AI sejak dini akan menjadi langkah penting, tidak hanya untuk mengelola risiko, tetapi juga menjaga kepercayaan publik,” ujar Darian.
Laporan itu mencatat adopsi AI di berbagai sektor seperti keuangan, layanan pelanggan, hingga layanan publik berjalan cepat, sementara ancaman keamanan siber tetap meningkat. Tingginya anomali lalu lintas digital, upaya serangan siber, serta kasus kebocoran data dalam beberapa tahun terakhir menunjukkan tantangan keamanan belum mereda.
Para pakar keamanan juga mengamati meningkatnya penggunaan AI untuk mengotomatisasi serangan siber sehingga serangan menjadi lebih cepat dan lebih sulit dideteksi. Situasi tersebut menimbulkan tantangan baru mengenai kemampuan perusahaan mempertahankan kontrol terhadap sistem digital yang beroperasi secara mandiri.
Selain aspek keamanan, laporan tersebut menyoroti tantangan tata kelola yang lebih luas, termasuk risiko penyalahgunaan AI dalam produksi konten berbahaya atau menyesatkan. Kondisi ini mendorong meningkatnya perhatian regulator dan publik terhadap kebutuhan pengawasan yang lebih jelas seiring percepatan adopsi teknologi.
Secara global, sejumlah insiden siber berbasis AI serta munculnya panduan keamanan baru dari berbagai lembaga industri menunjukkan risiko teknologi ini mulai dipandang serius. Namun, implementasi praktik keamanan dan tata kelola di tingkat perusahaan masih belum merata.
Di Indonesia dan kawasan Asia Tenggara, laju adopsi AI dinilai melampaui perkembangan praktik tata kelola dan keamanan sehingga memunculkan kesenjangan implementasi atau deployment gap. Laporan tersebut juga menekankan pentingnya definisi akses sistem yang jelas, peningkatan pemantauan aktivitas berbasis AI, pembatasan tindakan berisiko tinggi, serta penetapan akuntabilitas dalam penggunaan teknologi AI.
Ikuti Whatsapp Channel Republika