تعیین هدفی بلندپروازانه برای سال ۲۰۲۷: تمرکز استارتاپ هوش مصنوعی انتروپیک بر درکپذیری
به گزارش نگاه فناوری:استارتاپ نوپای هوش مصنوعی انتروپیک، که با مدلهای پیشرفتهاش توجه بسیاری را به خود جلب کرده، هدف بزرگی را برای سال ۲۰۲۷ تعیین کرده است: تبدیل شدن به یکی از بازیگران اصلی حوزه هوش مصنوعی در سطح جهانی.
با توجه به رشد سریع این شرکت و فناوریهای انقلابی که ارائه میدهد، بسیاری بر این باورند که انتروپیک میتواند به رقبای بزرگی مانند OpenAI و Anthropic تبدیل شود. اما چالشهای پیشرو چیست؟ آیا این استارتاپ میتواند در بازاری که هر روز شاهد ظهور فناوریهای جدید است، به اهداف خود برسد؟
شرکت نوپای انتروپیک، فعال در زمینه هوش مصنوعی، چشمانداز و هدف مهمی را برای سال ۲۰۲۷ ترسیم کرده است. این استارتاپ قصد دارد در سالهای آتی، تمرکز ویژهای بر ارتقای سطح درکپذیری در سیستمهای هوش مصنوعی داشته باشد؛ موضوعی که به طور فزایندهای در محافل علمی و صنعتی مورد توجه قرار گرفته است.
داریو آمودی، مدیرعامل شرکت انتروپیک، در مقالهای با عنوان «فوریت درکپذیری»، برنامههای بلندمدت و جاهطلبانهی این شرکت را برای دستیابی به فهم عمیقتر از عملکرد سیستمهای پیشرفتهی هوش مصنوعی تا سال ۲۰۲۷ تشریح کرده است. وی در این مقاله بر اهمیت حیاتی درک مکانیسمهای تصمیمگیری در مدلهای هوش مصنوعی، پیش از تحقق هوش عمومی مصنوعی (AGI)، تأکید کرده و نسبت به خطرات احتمالی ناشی از تصمیمات غیرشفاف این فناوری در حوزههای حساسی نظیر امنیت ملی و اقتصاد هشدار داده است.
محور اصلی برنامهی جدید انتروپیک، روشی نوآورانه با عنوان «درکپذیری مکانیکی» قرار دارد. هدف از این رویکرد، مهندسی معکوس مسیرهای پردازش اطلاعات و استدلال در مدلهای زبانی بزرگ به منظور شناسایی دقیقتر رفتارها و سوگیریهای احتمالی آنها است. آمودی این فرآیند پیچیده را به نوعی «اسکن مغزی» برای هوش مصنوعی تشبیه کرده و بر ضرورت شناخت ساختارهای درونی این مدلها، پیش از آنکه کاربرد گستردهتری پیدا کنند، تأکید کرده است.
بر اساس گزارشهای منتشر شده، انتروپیک تاکنون دستاوردهای اولیهای در این زمینه داشته و موفق به شناسایی مدارهای عصبی خاصی در مدل Claude شده است. به عنوان مثال، مداری که ارتباط بین نام شهرها و ایالتهای مختلف در ایالات متحده آمریکا را تشخیص میدهد، از جمله این موارد است. اگرچه این یافتهها هنوز در مراحل ابتدایی قرار دارند، اما نشاندهندهی آغاز مسیری دشوار و طولانی برای گشودن رمز و رازهای پیچیدهی مدلهای هوش مصنوعی هستند که میلیونها مدار عصبی ناشناخته را در خود جای دادهاند.
چالشهای مربوط به درکپذیری، تنها محدود به استارتاپ انتروپیک نیست و شرکتهای بزرگ و پیشرو دیگری مانند OpenAI و گوگل دیپمایند نیز با مسائل مشابهی دست و پنجه نرم میکنند. به عنوان نمونه، با ارتقاء قابلیتهای این مدلها، پدیدهای به نام «توهم» نیز افزایش مییابد که در آن، مدل اطلاعات نادرست یا بیربط تولید میکند. این روند رو به رشد، ضرورت پیشرفتهای همزمان در زمینههای ایمنی و شفافیت توسعهی هوش مصنوعی را بیش از پیش آشکار میسازد.
آمودی، ضمن ابراز خوشبینی محتاطانه نسبت به امکان پیشرفتهای چشمگیر در زمینه درکپذیری هوش مصنوعی طی بازهی زمانی ۵ تا ۱۰ سال آینده، بر این باور است که شناسایی ویژگیهای مفهومی پیچیدهای مانند طعنه یا همدلی در این مدلها، نشان میدهد که حتی با استفاده از ابزارهای فعلی نیز میتوان به بینشهای ارزشمندی دست یافت. وی همچنین تأکید کرده است که بهبود سطح درکپذیری، علاوه بر افزایش ایمنی و قابلیت اعتماد این سیستمها، میتواند به عنوان یک مزیت رقابتی مهم برای شرکتهای فعال در این حوزه مطرح شود.
در راستای دستیابی به این هدف والا، انتروپیک زیرساختهای فنی گستردهای را برای مدیریت حجم عظیم دادههای مورد نیاز ایجاد کرده و همواره از رویکردی مسئولانه در قبال تدوین مقررات و همکاریهای بینالمللی در زمینهی هوش مصنوعی حمایت کرده است. این شرکت با اتخاذ چنین رویکردی جامع، خود را به عنوان یکی از پیشگامان اصلی در زمینهی شفافیت و ایمنی در فرآیند توسعهی هوش مصنوعی معرفی کرده و تلاش میکند تا مسیری مطمئن و قابل اعتماد را در این عرصه هموار سازد.
