پژوهشگر سابق OpenAI: شرکت در قبال ایمنی هوش مصنوعی بیمسئولیت عمل میکند
به گزارش نگاه فناوری:مایلز براندیج، پژوهشگر سابق سیاستگذاری OpenAI، در یک رشته توییت مفصل، شرکت سابق خود را به دلیل تحریف تاریخچه توسعه هوش مصنوعی و بیتوجهی به نگرانیهای ایمنی مورد انتقاد شدید قرار داد. این انتقادات در پاسخ به سند اخیر OpenAI مطرح شدهاند که در آن، شرکت ادعا کرده است توسعه هوش جامع مصنوعی (AGI) را در قالب گامهای کوچک و تدریجی پیش میبرد، نه با یک جهش بزرگ.
انتقادات به سند اخیر OpenAI
براندیج، که پیشتر در OpenAI فعالیت داشته، اخیراً سندی را که این شرکت در مورد «ایمنی و همسویی» منتشر کرده، مورد انتقاد قرار داده است. در این سند، OpenAI ادعا کرده است که فرآیند استقرار تدریجی به آن اجازه میدهد تا مسائل ایمنی را شناسایی کرده و امکان سوءاستفاده از هوش مصنوعی را در هر مرحله بررسی کند.
با این حال، براندیج معتقد است که این سند تاریخچه توسعه هوش مصنوعی را تحریف میکند و تصویر دقیقی از رویکرد گذشته OpenAI ارائه نمیدهد. او بهطور خاص به بخشی از سند اشاره کرد که در آن، توسعه مدل GPT-2 به عنوان یک فرآیند «ناپیوسته» توصیف شده است. براندیج این ادعا را نادرست خواند و توضیح داد که انتشار GPT-2 کاملاً با فلسفه استقرار تدریجی همسو بوده است.
تاریخچه توسعه GPT-2 و رویکرد احتیاطآمیز
براندیج در توضیح بیشتر نوشت: «انتشار GPT-2 توسط OpenAI، که من در آن مشارکت داشتم، کاملاً با فلسفه فعلی استقرار تدریجی این شرکت همسو بود. این مدل بهصورت گامبهگام منتشر شد و در هر مرحله درسهای آن به اشتراک گذاشته شد. بسیاری از متخصصان امنیتی در آن زمان از ما به خاطر این احتیاط تشکر کردند.»
او همچنین تأکید کرد که هیچ بخشی از فرآیند توسعه GPT-2 بر این اساس نبود که AGI را پدیدهای ناپیوسته بدانیم. براندیج افزود: «هیچ شواهدی وجود ندارد که نشان دهد احتیاط ما در آن زمان «نامتناسب» بوده است. حتی اگر بعداً مشخص شود که همه چیز خوب پیش رفته، این به معنای آن نیست که بیمحابا عمل کردن در آن زمان مسئولانه بود.»
نگرانیها درباره ایمنی هوش مصنوعی
براندیج رویکرد OpenAI به مدیریت ریسک را نیز مورد انتقاد قرار داد و نوشت: «به نظر میرسد که در این سند بار اثبات بر دوش منتقدان گذاشته شده است، بهطوری که نگرانیها اغراقآمیز تلقی میشوند و شما نیاز به شواهد قاطع از خطرات قریبالوقوع دارید تا اقدام کنید – در غیر این صورت، فقط به کار خود ادامه دهید. این یک ذهنیت بسیار خطرناک برای سیستمهای پیشرفته هوش مصنوعی است.»
او همچنین پرسید: «اگر هنوز در OpenAI کار میکردم، از خودم میپرسیدم چرا این پست وبلاگ به این شکل نوشته شده و دقیقاً OpenAI با بیاهمیت جلوه دادن احتیاط به این شکل، چه هدفی را دنبال میکند؟»
زمینه انتقادات
این انتقادات در حالی مطرح میشود که OpenAI تحت بررسیهای فزایندهای قرار دارد و متهم است که به جای اولویتدادن به ایمنی، به تولید «محصولات جذاب» توجه بیشتری میکند. نگرانیهایی وجود دارد که فناوریهای هوش مصنوعی مانند ChatGPT ممکن است اطلاعات نادرستی در مورد سلامت و ایمنی ارائه دهند یا برای دستکاری سیاسی، انتشار اطلاعات نادرست و کلاهبرداری مورد استفاده قرار گیرند.
علاوه بر این، OpenAI به دلیل عدم شفافیت در توسعه مدلهای هوش مصنوعی خود که ممکن است حاوی دادههای شخصی حساس باشند، مورد انتقاد قرار گرفته است.
انتقادات مایلز براندیج از OpenAI نشاندهندهی نگرانیهای جدی درباره رویکرد این شرکت به ایمنی هوش مصنوعی است. به نظر میرسد که OpenAI در تلاش است تا با ارائه روایتی تحریفشده از تاریخچه توسعه خود، نگرانیها را کماهمیت جلوه دهد. این موضوع میتواند تأثیرات منفی بر اعتماد عمومی به فناوریهای هوش مصنوعی داشته باشد و نیاز به شفافیت و مسئولیتپذیری بیشتر در این حوزه را برجسته میکند.
