نگرانی OpenAI از ارتباطات انسان با هوش مصنوعی

در یک واقعیت تکان‌دهنده، OpenAI، یکی از پیشروان بزرگ صنعت هوش مصنوعی، نگرانی خود را از ایجاد ارتباطات انسانی با هوش مصنوعی که برای فریب دادن انسان‌ها توسعه یافته است، اعلام کرده است. این نگرانی نشان می‌دهد که توسعه‌دهندگان آگاه هستند که انسان‌سازی یک مسئله معتبر در صنعت هوش مصنوعی است.

هنگامی که یک تست‌کننده ایمنی کار با مدل GPT-4o توسعه یافته توسط OpenAI پیامی به چت‌بات ارسال کرد که "این آخرین روز ما با هم است"، برای پژوهشگران شرکت واضح شد که بین هوش مصنوعی و انسان استفاده‌کننده، به نوعی ارتباط ایجاد شده است.

OpenAI در یک پست وبلاگ خود که در آن تلاش‌های ایمنی خود را در توسعه GPT-4o، مدل پرچمدار برای کاربران ChatGPT توضیح داده است، بیان کرد که این ارتباطات می‌تواند خطراتی برای بشریت ایجاد کند. بر اساس گفته OpenAI، "کاربران ممکن است با هوش مصنوعی روابط اجتماعی برقرار کنند، که نیاز آن‌ها به تعامل با انسان را کم می‌کند و این ممکن است افراد تنها را به نفع خود بیاورد، اما روابط سالم را ممکن است تحت تاثیر قرار دهد. تعامل طولانی مدت با مدل ممکن است نرم‌های اجتماعی را تحت تاثیر قرار دهد."

این شرکت نگران است که مردم ممکن است ترجیح دهند با هوش مصنوعی تعامل کنند به دلیل بی‌طرفی و دسترسی مداوم آن. این سناریو باید کسی را شگفت‌زده نکند، به خصوص OpenAI. ماموریت اعلام شده این شرکت توسعه هوش عمومی مصنوعی است. در تقریبا هر گام از فرآیند تجاری خود، OpenAI محصولات خود را از نظر معادلیت با انسان توصیف کرده‌است. آن‌ها تنها شرکتی نیستند که این کار را انجام می‌دهند، در واقع به نظر می‌رسد که این یک روش صنعتی است.

به نظر می‌رسد که این دقیما سناریویی است که شرکت‌هایی که دسترسی به مدل‌های هوش مصنوعی را فروش می‌دهند، به دنبال آن هستند. با این حال، تعیین اثرات بلندمدت تعاملات انسان-هوش مصنوعی فراتر از دیدگاه این مقاله یا تحقیقات فعلی OpenAI است.