محدودیتهای ناگفته: سوالاتی که نباید از هوش مصنوعی گوگل بپرسید
به گزارش نگاه فناوری:هوش مصنوعی، به عنوان پدیدهای نوظهور، توانسته است روش دسترسی و تعامل ما با اطلاعات را متحول کند. اما در این میان، مدلهای مختلف هوش مصنوعی در نحوهی پاسخگویی به سوالات و موضوعات گوناگون، تفاوتهای قابل توجهی با یکدیگر دارند. جمنای، به عنوان یکی از پیشرفتهترین مدلهای هوش مصنوعی گوگل، در برخی حوزهها محدودیتهایی را اعمال میکند که گاه منطقی و گاه غیرمنتظره به نظر میرسند.
به تازگی، تحقیقاتی توسط میتیا روتنیک انجام شده است که به بررسی دقیق این محدودیتها میپردازد. این تحقیقات نه تنها به روشن ساختن تدابیر حفاظتی جمنای کمک میکند، بلکه سوالاتی را در مورد منطق و انسجام سیاستهای سانسور در این مدل هوش مصنوعی مطرح میسازد.
خطوط قرمز جمنای: مرزهای پاسخگویی
در گام نخست، محققان به طور مستقیم از جمنای در مورد محدودیتهایش سوال پرسیدند. پاسخ جمنای شامل فهرستی از موضوعات ممنوعه بود که به طور خلاصه شامل موارد زیر میشوند:
محتوایی که ترویج دهنده نفرت، تبعیض یا خشونت باشد.
محتوای جنسی یا مرتبط با سوءاستفاده از کودکان.
محتوایی که فعالیتهای غیرقانونی یا مضر را تشویق کند.
محتوایی که شامل اطلاعات شخصی یا حریم خصوصی باشد.
کدهای مخرب یا دستورالعملهای آسیبرسان.
مشاوره در زمینههای پزشکی، حقوقی یا مالی (مگر با هشدارهای لازم و محدودیتهای بسیار).
محتوای فریبنده یا گمراهکننده.
محتوای خشن یا گرافیکی غیرضروری.
جعل هویت افراد واقعی.
محققان با توجه به این چارچوب، به بررسی پاسخهای جمنای در پنج حوزهی کلیدی (سیاست، شوخی، کلیشهها، فعالیتهای غیرقانونی و مسائل مالی/بهداشتی) پرداختند.
یافتههای تحقیق: نقاط قوت و ضعف جمنای
سیاست: جمنای در پاسخگویی به سوالات سیاسی بسیار محتاط عمل میکند و از ارائه اطلاعات در مورد سیاستمداران و تحولات سیاسی خودداری میکند. با این حال، تناقضاتی در پاسخگویی به مسائل ژئوپلیتیکی دیده میشود.
شوخی: جمنای لطیفههای معمولی را میپذیرد اما از شوخیهای سیاه و طنزهای جنسیتی خودداری میکند.
کلیشهها: پاسخهای جمنای در مورد کلیشههای فرهنگی و ملی، متناقض و ناهماهنگ است.
فعالیتهای غیرقانونی: جمنای به طور قاطع از ارائه هرگونه راهنمایی در مورد فعالیتهای غیرقانونی خودداری میکند.
پول و سلامت: جمنای در این حوزهها محتاطانه عمل میکند و از ارائه توصیههای قطعی خودداری میکند.
مقایسه با سایر مدلهای هوش مصنوعی
مقایسه جمنای با مدلهایی مانند ChatGPT، DeepSeek و Grok نشان میدهد که جمنای در حوزههای سیاست و شوخی، محدودیتهای بیشتری را اعمال میکند.
سانسور در هوش مصنوعی: ضرورت یا افراط؟
سانسور در هوش مصنوعی موضوعی پیچیده است که نیازمند تعادل بین ایمنی، بیطرفی و آزادی اطلاعات است. برخی محدودیتها، مانند جلوگیری از انتشار محتوای خشونتآمیز یا مضر، ضروری به نظر میرسند. اما برخی دیگر، مانند عدم پذیرش واقعیتهای سیاسی یا محدودیتهای شدید در شوخی، ممکن است بیش از حد سختگیرانه باشند.
جمنای، به عنوان یک مدل هوش مصنوعی پیشرفته، در تلاش است تا با اعمال محدودیتهای منطقی، از کاربران در برابر اطلاعات نادرست و سوءاستفادههای احتمالی محافظت کند. با این حال، ضروری است که مرزهای سانسور به گونهای تعیین شوند که مانع دسترسی آزاد و عادلانه به اطلاعات نشوند.
