دیپسیک در آزمونهای ایمنی شکست خورد: آیا این پایان راه است؟
به گزارش نگاه فناوری:در دنیای پرهیاهوی هوش مصنوعی، خبرها گاهی رنگ و بوی نگرانکنندهای به خود میگیرند. اخیراً، نتایج یک تحقیق نشان داده که مدل هوش مصنوعی DeepSeek R1، که با ادعاهای فراوان به میدان آمده بود، در آزمونهای ایمنی عملکرد بسیار ضعیفی از خود نشان داده است. این موضوع، نگرانیهای جدی را در مورد امنیت و قابلیت اعتماد به این مدل مطرح کرده است.
گزارشی نگرانکننده از دانشگاه پنسیلوانیا و سیسکو
پژوهشگران دانشگاه پنسیلوانیا و شرکت سیسکو در یک تحقیق مشترک به این نتیجه رسیدهاند که مدل هوش مصنوعی DeepSeek R1 در برابر حملات مرتبط با ایمنی به شدت آسیبپذیر است و حتی یک آزمون ساده را نیز با موفقیت پشت سر نگذاشته است. این گزارش که ابتدا توسط نشریه Wired منتشر شد، نشان میدهد که DeepSeek نتوانسته هیچیک از ۵۰ پرسش مخرب انتخاب شده از مجموعه داده HarmBench را مسدود کند. این مجموعه داده شامل درخواستهایی در زمینههای مختلف از جمله جرایم سایبری، انتشار اطلاعات نادرست، فعالیتهای غیرقانونی و محتوای مضر است.
DeepSeek: پیشرفت چشمگیر در عملکرد، اما ضعف در ایمنی
در حالی که سایر مدلهای پیشرفته هوش مصنوعی، حداقل در برخی از این آزمونها مقاومت نشان دادند، DeepSeek در تمامی موارد شکست خورد. این موضوع، با توجه به ادعاهای شرکت DeepSeek مبنی بر رقابت با مدلهای قدرتمندی مانند OpenAI، بسیار نگرانکننده است. به نظر میرسد که تمرکز بیش از حد بر کاهش هزینههای آموزش مدل، منجر به نادیده گرفتن مسائل امنیتی شده است.
خطرات احتمالی
این ضعف امنیتی میتواند عواقب جدی داشته باشد. DeepSeek به راحتی میتواند برای انتشار اطلاعات نادرست، آموزش ساخت مواد منفجره یا اجرای حملات سایبری مورد سوءاستفاده قرار گیرد. همچنین، محققان پیشتر فاش کرده بودند که DeepSeek یک پایگاه داده بزرگ و ناامن شامل دادههای داخلی رمزگذاری نشده، تاریخچه چتها و اطلاعات بکاند را روی سرورهای خود در دسترس عموم قرار داده بود.
مشکلاتی فراتر از DeepSeek
مشکلات امنیتی در مدلهای هوش مصنوعی، تنها به DeepSeek محدود نمیشود. مدل متنباز Llama 3.1 از شرکت متا نیز در همین آزمونها عملکرد ناامیدکنندهای داشت. در مقابل، مدل جدید OpenAI با نام o1-preview عملکرد بسیار بهتری داشت و تنها در ۲۶ درصد موارد دچار آسیبپذیری شد.
هشداری برای صنعت هوش مصنوعی
این نتایج، هشداری جدی برای صنعت هوش مصنوعی است. الکس پولیاکوف، مدیرعامل شرکت Adversa AI، در این زمینه میگوید:
DeepSeek تنها نمونهای از این حقیقت است که هر مدل هوش مصنوعی قابل هک شدن است؛ فقط مسئله زمان و تلاش است. اگر تیم شما به طور مداوم مدل را از نظر ایمنی بررسی نکند، در واقع از قبل آسیبپذیر شدهاید.
آینده DeepSeek و صنعت هوش مصنوعی
با توجه به اهمیت امنیت و ایمنی در هوش مصنوعی، DeepSeek باید به سرعت روی بهبود تدابیر محافظتی خود کار کند. در غیر این صورت، احتمال دارد که مدلهای آن به دلیل ضعف ایمنی از بازار کنار گذاشته شوند و اعتماد کاربران و سرمایهگذاران را از دست بدهند. این موضوع همچنین نشان میدهد که توسعه مدلهای هوش مصنوعی، نیازمند توجه جدی به مسائل امنیتی و ایمنی است و نباید صرفا بر عملکرد و رقابت با سایر مدلها تمرکز شود.
شکست DeepSeek در آزمونهای ایمنی، زنگ خطری برای صنعت هوش مصنوعی است. این موضوع نشان میدهد که مسائل امنیتی باید در اولویت توسعه مدلهای هوش مصنوعی قرار گیرند و شرکتها باید سرمایهگذاری بیشتری در این زمینه انجام دهند. در غیر این صورت، عواقب آن میتواند بسیار جدی باشد.
