Salah satu upaya ini dicerminkan dengan penerapan guardrail (batasan) agar penggunaan dan pengembangan AI tetap sejalan dengan etika yang berlaku secara bertanggung jawab, termasuk dengan regulasi terkait agen AI yang dirancang lebih ketat daripada AI pasif yang hanya mampu mengelola informasi.
"Ini satu hal yang baru dan butuh risk mitigation sendiri. Sejauh mana otonomi itu bisa kita berikan kepada AI Agent, di mana posisi kontrol manusia, atau posisi human di dalam decision making yang dibuat," jelas Nezar.
Nezar menjelaskan ada beberapa pendekatan yang dilakukan dalam pengawasan penggunaan AI pada layanan-layanan autonomous, termasuk human in the room dan human oversight. Dalam prosesnya, setiap model dan produk AI yang akan diluncurkan akan terlebih dahulu melewati sandboxing atau simulasi uji coba untuk menganalisis risiko.
Pedoman tersebut dirancang sebagai mitigasi untuk mencegah terjadinya hal-hal yang tidak diinginkan, terutama untuk penggunaan dan pengembangan agen AI di sektor dengan risiko tinggi seperti keuangan, kesehatan, dan riset strategis.
