حریم خصوصی داده‌ها هنگامِ استفاده از هوش مصنوعی؛ راهنما
نوشتهٔ مرتضی بذرافشان۱ دقیقه مطالعهحریم خصوصیهوش مصنوعیامنیت
وقتی متنی را در یک ابزارِ هوش مصنوعی می‌چسبانید، آن متن به سرورِ شرکتِ دیگری می‌رود. اغلب این کار بی‌خطر است؛ ولی فقط وقتی که از پیش فکرش را کرده باشید.
چهار پرسشِ پیش از شروع
- چه داده‌ای می‌رود؟ فقط همان بخشی که برای کار لازم است، نه کلِ پرونده.
- کجا و تا کی نگهداری میشود؟ سیاستِ نگهداریِ داده در طرحی که استفاده می‌کنید را بخوانید.
- آیا برای آموزش به کار می‌رود؟ سرویس‌ها و طرح‌ها در این‌باره تفاوت دارند و گاهی تنظیماتی برای خاموش‌کردنش هست.
- چه کسی در تیمِ من دسترسی دارد؟ حسابِ مشترک و گفت‌وگوهای قدیمی هم داده‌اند.
قاعده‌های ساده برای تیم
- رمز، کلیدِ API و توکن هرگز در گفت‌وگو چسبانده نشود.
- اطلاعاتِ شخصیِ مشتری فقط وقتی که واقعاً لازم است و تا حدِ ممکن ناشناس‌شده.
- قراردادها و مدارکِ محرمانه فقط با تأییدِ مسئولِ تیم.
- ابزارهای تأییدنشده برای کارِ شرکت استفاده نشود.
ناشناس‌سازی عملی
پیش از ارسال، نام، شماره تماس، نشانی و شناسه‌ها را با نشانگر جایگزین کنید («مشتری الف»). برای خروجی هم همین‌طور: ببینید آیا جواب چیزی را لو می‌دهد که نباید.
هوشِ مصنوعی که ابزار هم دارد
اگر ایجنتی به ایمیل، فایل‌ها یا پایگاه‌داده دسترسی دارد، ریسک بیشتر میشود؛ زیرا متنِ آلوده می‌تواند به آن دستور بدهد. دربارهٔ این موضوع بخوانید: تزریق پرامپت و امنیتِ ایجنت‌ها (به انگلیسی) و فهرستِ بازبینیِ امنیتی در صفحهٔ منابع.
اعلامِ شفاف
به مشتری و همکاران بگویید کجا از هوش مصنوعی استفاده می‌کنید و داده‌ها چطور مدیریت میشود. شفافیت اعتماد می‌سازد و از سوءتفاهم جلوگیری میکند.
سؤال‌های پرتکرار
آیا دادههایی که به یک ابزارِ هوش مصنوعی میدهم برای آموزشِ مدل استفاده میشود؟
بسته به سرویس و طرحِ شما فرق میکند. باید شرایطِ استفاده و تنظیماتِ حریم خصوصیِ همان طرح را بخوانید و فرض را بر این نگذارید که همهجا یکسان است.
چه دادههایی را نباید وارد ابزارِ هوش مصنوعی کنم؟
رمزها و کلیدهای دسترسی، اطلاعاتِ هویتی و مالیِ مشتریان و هر چیزی که طبقِ قرارداد یا قانون محرمانه است. اگر لازم است، پیش از ارسال حذف یا ناشناس‌شان کنید.