Microsoft Rilis Guardian Agents: AI Agent Dianggap Ancaman Insider

Microsoft baru aja bikin pernyataan yang cukup berani: AI agent yang dipakai perusahaan sekarang itu mirip ancaman insider, alias ancaman dari orang dalam. Bukan karena model AI itu jahat, tapi karena perilakunya nggak bisa diprediksi.

Buat ngatasin itu, Microsoft merilis Guardian Agents, fitur pengawas khusus yang memantau AI agent yang dipakai perusahaan. Fitur ini bagian dari Project Perception, produk keamanan AI yang diluncurkan Juni lalu dengan konsep red team, blue team, dan green team.

CEO Satya Nadella bahkan bilang perusahaan harus berhenti percaya buta pada penyedia model. Katanya, perusahaan perlu memisahkan penyedia kecerdasan dari otoritasnya. Microsoft Defender sendiri sekarang bisa mendeteksi lebih dari 60 jenis agent yang dipakai karyawan, termasuk Claude Code dan Codex, dengan akses yang dibatasi dinamis dan keputusan berisiko yang wajib lewat persetujuan manusia.

Sumber: TechCrunch AI.