کاربر عمومی تیم کارشناس۲۲ شهریور ۱۴۰۵
امکان پاسخ فقط برای متخصصینچطور کاری کنم AI Agent قبل از انجام یک کار حساس از کاربر تایید بگیرد؟
مثلاً ارسال پیام، تغییر اطلاعات یا انجام عملیات مالی.
0
3
1
0
1
(1)
پاسخها
متخصص تیم کارشناس۲۲ شهریور ۱۴۰۵
بهترین روش اینه که کارهای حساس رو از کارهای عادی جدا کنید و Agent قبل از اجرای اونها یک مرحله confirmation داشته باشه.
مثلاً Agent به این نتیجه میرسه:
میخواهم ۵۰۰ هزار تومان به حساب X منتقل کنم
ولی بهجای اجرای مستقیم، به کاربر میگه:
«مبلغ ۵۰۰ هزار تومان به حساب X منتقل شود؟»
و فقط بعد از تأیید، ابزار مربوط به پرداخت اجرا میشه.
نکته مهم اینه که تأیید باید درست قبل از انجام عملیات گرفته بشه و بعد از تأیید، دقیقاً همان عملیاتی اجرا شود که کاربر دیده؛ نه اینکه Agent بین تأیید و اجرا دوباره پارامترها را تغییر دهد.
برای کارهای مختلف هم میتونید سطحبندی کنید:
کمخطر: بدون تأیید
مهم: تأیید کاربر
خیلی حساس مثل پرداخت: تأیید + احراز هویت مجدد
در عمل، Agent باید برای ابزارهای حساس یک چیزی شبیه requires_confirmation: true داشته باشه و تا وقتی کاربر تأیید نکرده، اجازه اجرای آن Tool را نداشته باشه.
این مدل هم امنیت بیشتری داره، هم جلوی اشتباه Agent یا اجرای ناخواسته عملیات رو میگیره.
0
لیست خالی
هنوز پاسخی ثبت نشده
نظرها