تحلیل یک فایل فنی ممکن است فوری تمام نشود. کاربر درخواست را زمانی ثبت می‌کند که عضو پروژه است، اما پیش از آماده‌شدن نتیجه، مسئولیت او تغییر می‌کند. آیا نتیجه باید فقط به دلیل مجازبودن درخواست اولیه در اختیارش قرار گیرد؟ در سامانه صنعتی، مجوز شروع پردازش و مجوز دریافت نتیجه باید جدا بررسی شوند.
مثال صنعتی: تحلیل مدارک یک پیمانکار
فرض کنیم کارشناس برای استخراج مشخصات از مجموعه‌ای از مدارک تجهیز درخواست تحلیل می‌دهد. سپس همکاری او با پروژه پایان می‌یابد. نتیجه تحلیل ممکن است شامل مشخصات فنی، نام فایل‌ها یا داده‌های متعلق به همان سازمان باشد. تأخیر پردازش نباید یک مسیر جانبی برای ادامه دسترسی ایجاد کند.
این مثال فرضی درباره مرز دسترسی است، نه ادعای وجود فرآیند خاص پایان همکاری در محصول. مسئله آن است که داده استخراج‌شده نیز می‌تواند همان محدودیت‌های داده ورودی را داشته باشد.
سه لحظه برای بررسی مجوز
در طراحی یک جریان پردازش باید این لحظه‌ها روشن باشند:
- هنگام ثبت درخواست: آیا کاربر به سازمان و ورودی مربوط دسترسی دارد؟
- هنگام دریافت نتیجه: آیا این دسترسی هنوز معتبر است؟
- هنگام ثبت پیشنهاد در پرونده کالا: آیا اختیار تغییر همان پرونده وجود دارد؟
این سه پرسش یکسان نیستند. اجازه خواندن یک مدرک الزاماً اجازه ویرایش مشخصات کالا را ایجاد نمی‌کند. همچنین داشتن شناسه درخواست نباید جای بررسی مالکیت و محدوده سازمان را بگیرد.
نتیجه پردازش هنوز پیشنهاد است
کنترل دسترسی، صحت فنی پاسخ را اثبات نمی‌کند. نتیجه ممکن است برای کاربر مجاز قابل مشاهده باشد اما همچنان نیاز به بررسی تخصصی داشته باشد. گزارش NIST درباره ریسک‌های هوش مصنوعی مولد توضیح می‌دهد که مدل می‌تواند اطلاعات نادرست را با لحنی مطمئن تولید کند. بنابراین مجازبودن مشاهده و معتبر بودن محتوا، دو کنترل مستقل‌اند.
در مقاله پژوهش فنی با هوش مصنوعی درباره مبنای اطلاعات صحبت کرده‌ایم. اینجا تمرکز بر این است که حتی یک نتیجه درست نیز فقط باید در محدوده مجاز استفاده شود.
لغو دسترسی با حذف سابقه یکی نیست
ممکن است سازمان برای پیگیری عملیات به نگهداری سابقه درخواست نیاز داشته باشد، اما دسترسی کاربر قبلی به محتوای نتیجه را قطع کند. حذف همه سوابق، تنها راه جلوگیری از نمایش نیست و می‌تواند امکان رسیدگی به اختلاف را از بین ببرد. سیاست نگهداری سابقه و سیاست مشاهده محتوا باید جدا تعریف شوند.
همچنین پیام خطا بهتر است روشن و محدود باشد: پایان دسترسی نباید با نمایش بخشی از نتیجه، نام مدارک محرمانه یا جزئیات سازمان دیگر همراه شود. توضیح کافی برای اقدام کاربر، با افشای داده تفاوت دارد.
انتظار از نرم‌افزار صنعتی
در مستندات فنی فعلی ایدنتو، برای مسیر AI و ورود اطلاعات، کنترل مالکیت پایدار پردازش و بررسی دوباره عضویت پس از دریافت پاسخ ارائه‌دهنده مطرح شده است. این محدوده مستند را نباید به معنای تضمین رفتار تمام مسیرهای هوش مصنوعی یا همه استقرارها دانست؛ هر مسیر به بررسی و آزمون خود نیاز دارد.
برای ارزیابی یک سامانه، سناریوی تغییر دسترسی در میانه پردازش را امتحان کنید. نتیجه باید به سازمان و درخواست اصلی وابسته بماند و ثبت آن در داده عملیاتی نیز نیازمند اختیار معتبر باشد. مقاله مرز دسترسی سازمانی و دسترسی مدارک فنی زمینه این تصمیم را کامل می‌کنند.