۱۵ آذر ۱۴۰۴
به روز شده در: ۱۵ آذر ۱۴۰۴ - ۲۳:۳۱
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
مدارس و دانشگاه‌های کهگیلویه و بویراحمد غیرحضوری شد یاسویو ؛ 56 سال زیبایی معماری یک ساختمان در ژاپن (+عکس) ساختمان طلایی معروف در ایتالیا (+عکس) دستگیری قاتل زنی در بوکان سرمربی نیوزیلند: ایران تیم ناشناخته‌ای است؛ اطلاعات زیادی از بازیکنان صاحب‌نام شما نداریم! تعطیلی مدارس ابتدایی اراک، ساوه و شازند در روز یکشنبه به دلیل آلودگی هوا تعطیلی مدارس ابتدایی اراک، ساوه و شازند در روز یکشنبه به دلیل آلودگی هوا ماراتن کیش در دولت مرحوم رئیسی در سال ۱۴۰۲ (+تصاویر) ارتباط عجیب یک شهر در سوئیس با عدد 11 (+عکس) بایرن مونیخ آتشین در بوندس‌لیگا؛ اشتوتگارت را پنج‌تایی کرد، هت‌تریک هری کین کشف پولشویی به میزان ۵۷۰ سکه طلا در یزد تیم ملی فوتبال ایران به مرحله بعدی جام جهانی صعود می کند؟ (نظرسنجی) جزئیات تعطیلی یکشنبه در آذربایجان‌ غربی امتیاز تاریخی تیم ملی؛ استادیوم ۷۰ هزار نفری لس آنجلس در اختیار ایرانیان قرار گرفت تجربه ویتنام و آمریکا ؛ از کشتار مردم در «تونل» ها تا دلارهایی که بی وقفه «سوئیفت» می شوند
نظرسنجی
با توجه به مشخص شدن رقبای ایران در مرحله نخست جام جهانی فوتبال، به نظر شما تیم ملی می تواند به مرحله بعدی صعود کند؟