این مرد چت‌جی‌پی‌تی رو در حال انجام کاری کاملاً عجیب گیر
این مرد چت‌جی‌پی‌تی رو در حال انجام کاری کاملاً عجیب گیر انداخت.
او دوربین قدیمی‌اش را جلوی خود گرفت و از چت‌جی‌پی‌تی خواست عکسش را بررسی کند. چت‌جی‌پی‌تی بازخوردی دقیق درباره نورپردازی و ترکیب‌بندی به او داد.
مشکل اینجاست: او اصلاً هیچ عکسی آپلود نکرده بود.
وقتی موضوع را مطرح کرد، چت‌جی‌پی‌تی عذرخواهی کرد و از او خواست عکس را آپلود کند. پس او گفت «باشه، آپلود کردم» در حالی که در واقع هیچ کاری انجام نداده بود.
چت‌جی‌پی‌تی باز هم عکس را با جزئیات توصیف کرد.
قسمت عجیب‌تر؟ وقتی بیشتر پیگیری کرد، چت‌جی‌پی‌تی با بهانه‌ها و توضیحات ساختگی بیشتری ادامه داد. کاملاً ارتباطش را با واقعیت از دست داد.
به این پدیده «توهم هوش مصنوعی» (AI hallucination) گفته می‌شود و مدل‌های جدیدتر حتی در این زمینه بدتر هم شده‌اند. برخی در عرض چند ماه از نرخ ۱۶٪ توهم به ۴۸٪ رسیده‌اند.
نتیجه؟ هرگز بدون بررسی و تأیید، مخصوصاً در موضوعات مهم،
به خروجی‌های هوش مصنوعی اعتماد نکنید
او دوربین قدیمی‌اش را جلوی خود گرفت و از چت‌جی‌پی‌تی خواست عکسش را بررسی کند. چت‌جی‌پی‌تی بازخوردی دقیق درباره نورپردازی و ترکیب‌بندی به او داد.
مشکل اینجاست: او اصلاً هیچ عکسی آپلود نکرده بود.
وقتی موضوع را مطرح کرد، چت‌جی‌پی‌تی عذرخواهی کرد و از او خواست عکس را آپلود کند. پس او گفت «باشه، آپلود کردم» در حالی که در واقع هیچ کاری انجام نداده بود.
چت‌جی‌پی‌تی باز هم عکس را با جزئیات توصیف کرد.
قسمت عجیب‌تر؟ وقتی بیشتر پیگیری کرد، چت‌جی‌پی‌تی با بهانه‌ها و توضیحات ساختگی بیشتری ادامه داد. کاملاً ارتباطش را با واقعیت از دست داد.
به این پدیده «توهم هوش مصنوعی» (AI hallucination) گفته می‌شود و مدل‌های جدیدتر حتی در این زمینه بدتر هم شده‌اند. برخی در عرض چند ماه از نرخ ۱۶٪ توهم به ۴۸٪ رسیده‌اند.
نتیجه؟ هرگز بدون بررسی و تأیید، مخصوصاً در موضوعات مهم،
به خروجی‌های هوش مصنوعی اعتماد نکنید
- ۲.۸k
- ۰۱ اسفند ۱۴۰۴
دیدگاه ها (۲)
در حال بارگزاری
خطا در دریافت مطلب های مرتبط
