آیا ChatGPT امن است؟

اما این فقط OpenAI نیست که اطلاعات شما را در اختیار دارد. شرکای آن که شامل مایکروسافت و شرکت ذخیره‌سازی ابری Snowflake می‌شود، نیز دسترسی دارند. البته همین امر در مورد بسیاری از هوش مصنوعی‌های رقیب نیز صدق می‌کند. Google Gemini در حال حاضر پیامی را نشان می‌دهد که به کاربر هشدار می‌دهد: مکالمات شما توسط بازبین‌های انسانی پردازش می‌شوند… چیزی را که نمی‌خواهید بازبینی یا استفاده شود وارد نکنید.

این نگرانی‌های حفظ حریم خصوصی تئوری نیست. در ژوئیه ۲۰۲۳، واشنگتن پست گزارش داد که کمیسیون تجارت فدرال ایالات متحده تحقیقات OpenAI را به دلیل نشت داده‌ها و عدم دقت عمومی این فناوری آغاز کرده است. در همین‌حال، یک محقق حریم خصوصی در اتحادیه اروپا شکایتی را مبنی‌بر اینکه OpenAI قوانین حریم خصوصی اروپا را نقض می‌کند، ارائه کرد.

جدای از نگرانی‌های مربوط به حفظ حریم خصوصی، خطر دیگر LLM ها مانند ChatGPT این است که آنها مستعد ایجاد و انتشار اطلاعات نادرست هستند. پاسخ‌های نادرست اغلب به‌عنوان “توهم” شناخته می‌شوند، اما این یک نام اشتباه است. LLM‌‌ها نمی‌فهمند چه می‌گویند. هدف آنها توزیع احتمال روی توالی کلمات یا توالی نشانه‌ها است که به آنها اجازه می‌دهد تا پیش‌بینی کنند کلمه بعدی در یک توالی چیست. به عبارت دیگر، صرف‌نظر از اشتباه بودن مدل‌های آماری، هوش مصنوعی با اطمینان کلمه نادرست را بیان می‌کند.

معنی آن برای شما این است که اگر سوالی مانند “چه مدت می‌توان شیر را خارج از یخچال نگه‌داری کرد؟” وارد کنید. براساس اطلاعات آماری که پیشتر دریافت کرده با عباراتی مانند “بیشتر از دو ساعت نیست”، به شما می‌گوید که این طولانی‌ترین زمانی است که باید شیر خارج از یخچال نگه‌داری کنید. اما در مورد چیزی که کمتر شناخته شده یا ثابت است سؤال می‌کنید چه می‌گوید؟ هنگامی که از ChatGPT در مورد مسیرهای پیاده روی در Red Rocks در کلرادو سؤال شد، ChatGPT بیشتر موارد را به درستی دریافت کرد، اما مسیرهایی را نام برد که وجود ندارند.

علیرغم تلاش‌هایی که شرکت‌هایی مانند OpenAI می‌کنند تا از ارائه توصیه‌های خطرناک یا اطلاعات نادرست توسط هوش مصنوعی به کاربران جلوگیری کنند، می‌توان این اطلاعات را دور زد یا هوش مصنوعی را به‌سادگی فریب داد. یک استاد دانشگاه A&M تگزاس پس از اینکه از ChatGPT پرسید که آیا مقالات دانشجویانش توسط یک هوش مصنوعی نوشته شده است یا خیر، تلاش کرد کار همه دانشجویان را زیر سوال ببرد. براین اساس تا زمانی که نتوانید بین هوش مصنوعی و کار انسان، تفاوت را تشخیص دهید کار سختی خواهد بود.

در واقع، زمانی که ChatGPT را با پاراگراف قبلی که توسط انسان نوشته شده بود در همین مقاله مورد آزمایش قرار دادند، هوش مصنوعی ادعا کرد که آن را نوشته است. تا‌کنون، روی خطراتی که ChatGPT می‌تواند برای افراد و کار آنها ایجاد کند، تمرکز شده است. اما باید به بررسی نگرانی‌های ایمنی برای جامعه پرداخت. به هر حال، در جامعه‌ای که LLM ها به سرعت در حال تبدیل شدن به جریان اصلی هستند، چقدر ایمن هستید؟ به نظر نمی‌رسد که ربات‌ها هنوز قادر به قیام علیه بشریت باشند. اما انسان‌ها از این فناوری به روش‌های ترسناک سوء‌استفاده می‌کنند و ادامه خواهند داد و از آنجایی که آنها بر روی داده‌های انسانی آموزش دیده‌اند، LLM‌ها برخی از بدترین نقص‌های ما را شناسایی می‌کنند.

شرکت‌ها تلاش کرده‌اند تا برخی از این مشکلات را حل کنند. به خاطر داشته باشید که هوش مصنوعی اساساً در مورد همه چیز در اینترنت، از جمله انبوهی از نژادپرستی، تبعیض جنسی و سایر سوگیری‌های مضر آموزش دیده است. بنابراین، شرکت‌ها سعی کرده‌اند هوش مصنوعی خود را برنامه ریزی کنند تا فعالانه از این مشکلات در پاسخ‌های خود جلوگیری کنند. این از نظر تئوری خوب به‌نظر می‌رسد، اما در فوریه 2024، Gemini LLM گوگل تصاویری را ایجاد کرد که نازی‌ها را به عنوان رنگین پوستان نشان می‌داد و سروصدای زیادی به‌پا کرد.

از LLM ها برای خواندن درخواست‌های شغلی نیز استفاده می‌شود، این مشکل زمانی است که بر اساس تحقیقات قبلی متوجه شدند که مدیران استخدام انسانی نسبت به نام، نژاد، جنسیت و عوامل دیگر تعصب دارند. در واقع، هنگامی که رزومه‌ای از متقاضیان واجد شرایط یکسان داده شد، محققان دریافتند که LLM نیز تصمیمات مغرضانه‌ای می‌گیرد. این یک یادآوری خوب است که اگر ما هوش مصنوعی‌های نسل فعلی را خیلی سریع بپذیریم، سناریوهای وحشتناک ممکن است شروع به ظهور کنند.