هالوسینیشن هوش مصنوعی

چیزی که امروز فهمیدم و کلی برام جالب بود 🤖

می‌دونستین چرا #هوش مصنوعی گاهی با اطمینان کامل چیزای الکی می‌گه؟ خود OpenAI (سازنده‌ی ChatGPT) تحقیق کرده و گفته: این دقیقاً مثل یه #دانش‌آموزه که سر امتحان تستی بدون نمره‌ی منفی، به‌جای خالی گذاشتن، حدس می‌زنه!

چون تو ارزیابی این مدل‌ها، گفتن «نمی‌دونم» و حدس زدنِ غلط، هر دو صفر امتیاز می‌گیرن — پس چرا حدس نزنه؟ 😅

یه #وکیل آمریکایی هم یه‌بار از #ChatGPT برای پرونده‌ی دادگاهش کمک خواست و ۶ تا پرونده‌ی کاملاً ساختگی بهش داد! بدون چک کردن استفاده کرد و بدجور #جریمه شد 😬

پس یادتون باشه: هیچ‌وقت فقط به لحن مطمئن هوش مصنوعی اعتماد نکنید!

کل ماجرا رو اینجا نوشتم: https://shagerd.io/blog/%DA%86%D8%B1%D8%A7-%D9%87%D9%88%D8%B4-%D9%85%D8%B5%D9%86%D9%88%D8%B9%DB%8C-%D8%A8%D8%A7-%D8%A7%D8%B7%D9%85%DB%8C%D9%86%D8%A7%D9%86-%DA%A9%D8%A7%D9%85%D9%84-%D8%AC%D9%88%D8%A7%D8%A8-%D8%A7%D8%B4%D8%AA%D8%A8%D8%A7%D9%87-%D9%85%DB%8C-%D8%AF%D9%87-openai-%D9%85%D8%AB%D9%84-%DB%8C%D9%87-%D8%AF%D8%A7%D9%86%D8%B4-%D8%A7%D9%85%D9%88%D8%B2-%D8%B3%D8%B1-%D8%A7%D9%85%D8%AA%D8%AD%D8%A7%D9%86-%D8%AA%D9%88%D8%B6%DB%8C%D8%AD%D8%B4-%D8%AF%D8%A7%D8%AF

#هوش_مصنوعی #عاشقانه #دانستنی