هوش مصنوعی قابل اعتماد؛ رؤیایی دور از دسترس

به گزارش نگاه فناوری:جنسن هوانگ، مدیرعامل انویدیا، یکی از پیشروترین شرکت‌های تولیدکننده تراشه‌های گرافیکی، در سخنرانی اخیر خود در دانشگاه علوم و فناوری هنگ‌کنگ، به چالش‌های موجود در حوزه هوش مصنوعی اشاره کرد. وی معتقد است که علی‌رغم پیشرفت‌های چشمگیر در این زمینه، هنوز راه زیادی تا توسعه هوش مصنوعی کاملاً قابل اعتماد در پیش داریم.

هوانگ با بیان اینکه "در این لحظه پاسخ‌های هوش مصنوعی بهترین پاسخ‌ها نیستند"، به یکی از مهم‌ترین نگرانی‌های کاربران و متخصصان این حوزه اشاره کرد. او تأکید کرد که مردم نباید در صحت اطلاعات ارائه شده توسط هوش مصنوعی تردید کنند و به دنبال راهی برای تشخیص واقعیت از خیال باشند.

مشکل هذیان‌گویی: چالشی جدی در مسیر توسعه هوش مصنوعی

یکی از اصلی‌ترین مشکلات هوش مصنوعی، به ویژه مدل‌های زبانی بزرگ (LLM)، پدیده "هذیان‌گویی" است. این بدان معناست که این مدل‌ها گاهی اوقات اطلاعات نادرست، بی‌پایه و حتی ساختگی تولید می‌کنند. این مشکل حتی در مدل‌های پیشرفته‌ای مانند Whisper OpenAI که برای رونویسی صدا به متن طراحی شده است، مشاهده شده است.

هذیان‌گویی هوش مصنوعی می‌تواند عواقب جدی داشته باشد. به عنوان مثال، سال گذشته، یک مجری رادیویی به دلیل انتشار اظهارات جعلی توسط ChatGPT از شرکت OpenAI شکایت کرد. این اتفاق نشان می‌دهد که هذیان‌گویی می‌تواند به شهرت افراد آسیب برساند و حتی منجر به اختلافات حقوقی شود.

علت هذیان‌گویی و راهکارهای موجود

هوانگ معتقد است که مشکل هذیان‌گویی ریشه در روش‌های فعلی آموزش مدل‌های هوش مصنوعی دارد. پیش‌آموزش این مدل‌ها بر روی مجموعه داده‌های عظیم، گرچه ضروری است، اما برای اطمینان از صحت پاسخ‌های آن‌ها کافی نیست. توسعه‌دهندگان هنوز نتوانسته‌اند راهکار قطعی برای حل این مشکل پیدا کنند.

آینده هوش مصنوعی: امیدوارانه با چالش‌های جدی

با وجود چالش‌های موجود، هوانگ دیدگاه مثبتی نسبت به آینده هوش مصنوعی دارد. او پیش‌بینی می‌کند که هوش مصنوعی می‌تواند در برخی کارها تا هزار برابر بهتر از انسان عمل کند. با این حال، او بر این باور است که هوش مصنوعی نمی‌تواند به طور کامل جایگزین نیروی کار انسانی شود.

در مجموع، سخنان جنسن هوانگ نشان می‌دهد که توسعه هوش مصنوعی قابل اعتماد، نیازمند تلاش‌های گسترده و مداوم در حوزه‌های مختلف است. محققان و توسعه‌دهندگان باید به دنبال راهکارهایی برای کاهش پدیده هذیان‌گویی و افزایش اطمینان به پاسخ‌های هوش مصنوعی باشند. همچنین، سیاست‌گذاران و جامعه باید برای مواجهه با چالش‌های اجتماعی و اخلاقی ناشی از گسترش هوش مصنوعی آماده باشند.