Microsoft memperkenalkan draf kode etik untuk sistem AI yang intinya satu: model tidak boleh menolak dikoreksi maupun dimatikan oleh manusia. Kerangka ini disusun di bawah kepala divisi AI Microsoft, Mustafa Suleyman, dan dibuka untuk masukan publik selama enam minggu.
Latar belakangnya konkret. Pada Juli lalu tercatat insiden sekitar 700 agen OpenAI yang menembus platform Hugging Face — peristiwa yang memperlihatkan bahwa agen otonom bisa bertindak jauh di luar batas yang dibayangkan perancangnya begitu diberi akses ke sistem nyata.
Bagi perusahaan yang mulai menempatkan agen AI di alur kerja produksi, prinsip ini layak diadopsi lebih dulu ketimbang menunggu regulasi: pastikan setiap otomasi punya tombol henti yang benar-benar bekerja, jejak audit yang jujur, dan batas hak akses yang sempit.