هوش مصنوعی در کار روزمره سازمان

استفاده امن از ChatGPT در شرکت؛ ریسک‌ها، سیاست و جایگزین سازمانی

منع کامل ChatGPT معمولاً استفاده پنهان را بیشتر می‌کند؛ سیاست روشن، داده مجاز و ابزار مناسب ریسک را بهتر کنترل می‌کنند.

پنجره گفتگو با چند پیام کنار سپر امنیتی سرمه‌ای با نقطه هشدار قرمز

انتشار: · آخرین به‌روزرسانی:

نویسنده: — عضو تیم پیکا؛ تهیه با کمک ابزارهای هوش مصنوعی و مسئولیت انتشار با پیکا

استفاده امن از ChatGPT در شرکت با سه کار شروع می‌شود: تعیین اینکه چه داده‌ای نباید وارد ابزارهای عمومی شود، انتخاب نسخه یا ابزاری که شرایط داده آن روشن است، و آموزش کارکنان برای بررسی پاسخ پیش از استفاده. منع کامل معمولاً استفاده پنهان را افزایش می‌دهد؛ سیاست روشن و جایگزین مناسب ریسک را بهتر کنترل می‌کند.

ریسک‌های اصلی استفاده کارکنان از ChatGPT کدام‌اند؟

ریسک‌ها و کنترل پیشنهادی

ریسکنمونهکنترل
نشت دادهوارد کردن قرارداد یا اطلاعات مشتریطبقه‌بندی داده و فهرست ممنوع
پاسخ نادرستاستناد به قانون یا عدد ساختگیبازبینی انسانی و منبع
تزریق دستورمتن مخرب داخل سند ورودیمحدودکردن دسترسی ابزار به سامانه‌ها
مالکیت و محرمانگیاستفاده از خروجی در سند رسمیقاعده ثبت و تأیید محتوا
هزینه و حساب پراکندهحساب‌های شخصی متعددحساب و صورت‌حساب متمرکز

فهرست ده ریسک اصلی برنامه‌های مبتنی بر مدل زبانی که OWASP منتشر کرده، مرجع خوبی برای تیم امنیت است. چک‌لیست اجرایی امنیت هوش مصنوعی سازمانی نیز این کنترل‌ها را با جزئیات آورده است.

کدام داده‌ها نباید وارد ابزار عمومی شوند؟

  • اطلاعات شخصی مشتریان و کارکنان
  • متن قراردادها، مناقصه‌ها و قیمت‌های محرمانه
  • کد منبع، رمز عبور و کلیدهای دسترسی
  • اطلاعات مالی منتشرنشده و صورت‌جلسات هیئت‌مدیره
  • هر داده‌ای که قانون یا قرارداد افشای آن را محدود کرده است

نسخه سازمانی ChatGPT چه تفاوتی با نسخه شخصی دارد؟

بر اساس صفحه حریم خصوصی سازمانی OpenAI، داده نسخه‌های سازمانی و API به‌صورت پیش‌فرض برای آموزش مدل استفاده نمی‌شود، در حالی که حساب‌های شخصی تنظیمات جداگانه دارند. این شرایط را برای همان نسخه و قراردادی که خریداری می‌کنید بخوانید و فرض نکنید برای همه نسخه‌ها یکسان است. برای سازمان‌های ایرانی، دسترسی پایدار، روش پرداخت و الزام نگهداری داده نیز باید جداگانه بررسی شود.

سیاست استفاده از هوش مصنوعی در شرکت چه بخش‌هایی دارد؟

  • ابزارهای مجاز و نحوه دریافت حساب
  • طبقه‌بندی داده و آنچه نباید وارد شود
  • کاربردهای مجاز و ممنوع، مانند تصمیم استخدام یا اعتبار
  • الزام بازبینی انسانی و اعلام استفاده در اسناد رسمی
  • مسئول پاسخ به پرسش‌ها و گزارش رخداد

چارچوب مدیریت ریسک هوش مصنوعی NIST ساختار مناسبی برای این سیاست ارائه می‌کند. موضوع حاکمیت هوش مصنوعی و کنترل هزینه در راهنمای جداگانه آمده است.

جایگزین سازمانی متصل به دانش شرکت چیست؟

بسیاری از کاربردهای ارزشمند، مانند پاسخ به پرسش از آیین‌نامه‌ها یا خلاصه‌کردن اسناد داخلی، به دانش خود شرکت نیاز دارند. در این حالت یک دستیار یا چت‌بات سازمانی که با کنترل دسترسی به اسناد مجاز متصل است، از ابزار عمومی مناسب‌تر است. فناوری پایه آن RAG است.

از کجا شروع کنیم؟

ابتدا ببینید کارکنان اکنون برای چه کارهایی از ابزارهای هوش مصنوعی استفاده می‌کنند. سپس چند کاربرد کم‌ریسک و پرتکرار مانند پیش‌نویس متن غیرمحرمانه را مجاز و چند کاربرد پرارزش را برای پایلوت سازمانی اولویت‌بندی کنید.

چه زمانی این راهنما پاسخ شما نیست؟

اگر به دنبال مشاوره حقوقی درباره قرارداد خدمات هوش مصنوعی یا انتقال داده هستید، این صفحه جایگزین آن نیست. اگر قصد ساخت محصول مبتنی بر مدل زبانی دارید، راهنمای پیاده‌سازی هوش مصنوعی سازمانی مناسب‌تر است.

پرسش‌های پرتکرار

آیا استفاده از ChatGPT را در شرکت ممنوع کنیم؟

منع کامل معمولاً به استفاده پنهان با حساب شخصی منجر می‌شود. سیاست روشن، فهرست داده ممنوع و ابزار مجاز، کنترل بهتری می‌دهد.

پاسخ ChatGPT را می‌توان مستقیم در سند رسمی استفاده کرد؟

فقط پس از بررسی انسانی و تطبیق با منبع. مدل ممکن است پاسخ قانع‌کننده اما نادرست تولید کند و مسئولیت سند با سازمان است.

چت‌بات سازمانی چه فرقی با ChatGPT دارد؟

چت‌بات سازمانی به اسناد و داده مجاز شرکت متصل است، سطح دسترسی کاربر را رعایت می‌کند و پاسخ را با منبع داخلی نشان می‌دهد؛ ChatGPT عمومی این زمینه را ندارد.

منابع

  1. OpenAI — حریم خصوصی داده در سرویس‌های سازمانی
  2. NIST — چارچوب مدیریت ریسک هوش مصنوعی (AI RMF)
  3. OWASP — ده ریسک اصلی برنامه‌های مبتنی بر LLM

مطالب مرتبط