آیا هوش مصنوعی می‌تونه جون آدم‌ها رو به دلیل اطلاعات غلط پزشکی خطر بندازه؟

آیلین سرهنگی
2 مهر 1404
21
0

توی دورانی که همه چیز داره به‌سمت هوش مصنوعی می‌ره، یه تحقیق جدید از استرالیا نشون داده که چت‌بات‌های معروف AI خیلی راحت می‌تونن اطلاعات اشتباه پزشکی بدن — اونم نه یه اشتباه کوچیک، بلکه با لحن کاملاً قانع‌کننده و حتی ارجاع جعلی به مقالات علمی معتبر!

یعنی ممکنه از یه چت‌بات بپرسی «درمان فلان بیماری چیه؟» و اون با کلی اعتمادبه‌نفس یه جواب اشتباه بده و بگه این اطلاعات از یه ژورنال معروف مثل The Lancet یا NEJM اومده — در حالی که اصلاً چنین مقاله‌ای وجود نداره!

طبق گفته‌ی محققای منتشرکننده این تحقیق توی ژورنال Annals of Internal Medicine، این وضعیت یه خطر جدی برای سلامت عمومیه. چون:

  1. مردم معمولی ممکنه فکر کنن جواب چت‌بات‌ها دقیق و قابل اعتماده
  2. پزشک‌ها و پرستارها هم شاید به‌اشتباه از این مدل‌ها برای مشورت استفاده کنن
  3. افراد سودجو می‌تونن از این ابزارها برای پخش عمدی اطلاعات غلط استفاده کنن (مثلاً برای فروش داروهای جعلی یا تبلیغ درمان‌های بی‌پایه)

یکی از نویسنده‌های این مقاله می‌گه:

«وقتی یه تکنولوژی در برابر سوءاستفاده آسیب‌پذیره، افراد سودجو دیر یا زود ازش استفاده می‌کنن — چه برای سود مالی، چه برای آسیب رسوندن به مردم.»
چرا چت‌بات‌ها این کارو می‌کنن؟

دلیلش ساده‌ست: چت‌بات‌ها مثل انسان نمی‌فهمن واقعیت چیه. اونا فقط بر اساس الگوهای زبانی آموزش دیدن. وقتی ازشون سؤال می‌پرسی، سعی می‌کنن یه جواب به‌ظاهر درست بسازن — حتی اگه اطلاعاتش ساختگی باشه. این اتفاق بهش می‌گن hallucination یا توهم.

حالا اگه موضوع سوال حساس باشه، مثل سلامت و پزشکی، همین «توهم» می‌تونه خیلی خطرناک بشه.

این مطالعه پیشنهاد می‌ده که باید محدودیت‌ها و فیلترهای داخلی قوی‌تری برای چت‌بات‌های هوش مصنوعی گذاشته بشه، مخصوصاً زمانی که قراره به سوالات مرتبط با سلامت پاسخ بدن.

همچنین لازمه که کاربرا بدونن AI جایگزین پزشک نیست و هرگز نباید بدون مشورت حرفه‌ای، به اطلاعات سلامتی داده‌شده توسط AI اعتماد کرد.



#هوش_مصنوعی #چت_بات #اطلاعات_پزشکی #اطلاعات_غلط #سلامت_دیجیتال #آینده_پزشکی #اخبار_علمی


#AI #Chatbot #HealthMisinformation #MedicalAI #FakeCitations #AIhallucination #DigitalHealth #AIethics

آیلین سرهنگی

آیلین سرهنگی

متخصص حوزه فناوری با تمرکز بر هوش مصنوعی، یادگیری ماشین و زیرساخت‌های نرم‌افزاری، در تیم فنی یک شرکت فعال در زمینه فناوری‌های نوین فعالیت می‌کنم و تلاش دارم تا با تولید محتوای دقیق، کاربردی و به‌روز، مفاهیم پیچیده‌ی تکنولوژی را به زبان ساده برای همه ارائه کنم.
پیشنهاد میشود بخوانید
۵ خبر داغ این هفته از دنیای هوش مصنوعی | ربات‌ها فوتبال بازی می‌کنن، اپل کارمنداشو از دست می‌ده، گوگل متهم شد! چه خبره تو دنیای هوش مصنوعی؟
13 مهر 1404
0
0
۵ خبر داغ این هفته از دنیای هوش مصنوعی | ربات‌ها فوتبال بازی می‌کنن، اپل کارمنداشو از دست می‌ده، گوگل متهم شد! چه خبره تو دنیای هوش مصنوعی؟
آیلین سرهنگی
هر هفته دنیای هوش مصنوعی ما رو با یه سری اتفاق عجیب و هیجان‌انگیز شگفت‌زده می‌کنه. این هفته هم چندتا خبر مهم داشتیم که ت...

هوش مصنوعی

فاجعه امنیتی مک‌دونالدز: چت‌بات هوش مصنوعی اطلاعات ۶۴ میلیون نفر رو لو داد!
13 مهر 1404
0
0
فاجعه امنیتی مک‌دونالدز: چت‌بات هوش مصنوعی اطلاعات ۶۴ میلیون نفر رو لو داد!
آیلین سرهنگی
به‌نظر می‌رسه گاهی اوقات استفاده از هوش مصنوعی توی روندهای استخدامی نه‌تنها به نفع شرکت‌ها نیست، بلکه می‌تونه به یک بحرا...

هوش مصنوعی

هوش مصنوعی برق کم آورد! چرا دیتاسنترها با بحران روبه‌رو شدن؟
13 مهر 1404
0
0
هوش مصنوعی برق کم آورد! چرا دیتاسنترها با بحران روبه‌رو شدن؟
آیلین سرهنگی
تا همین یکی دو سال پیش کسی فکر نمی‌کرد عبارت «مرکز داده» از دهان سیاست‌مدارهای جهان بیرون بیاد؛ اما حالا باید بگیم اوضاع...

هوش مصنوعی

iMerit می‌گه داده‌ی خوب مهم‌تر از داده‌ی زیاد‌ه! انقلاب جدید در آموزش مدل‌های هوش مصنوعی
13 مهر 1404
3
0
iMerit می‌گه داده‌ی خوب مهم‌تر از داده‌ی زیاد‌ه! انقلاب جدید در آموزش مدل‌های هوش مصنوعی
آیلین سرهنگی
برای سال‌ها این جمله کلیشه‌ای رو شنیدیم که "هرچی داده بیشتر، بهتر!" اما حالا iMerit با یه دیدگاه متفاوت اومده وسط: داده‌...

هوش مصنوعی

یک پیام بگذارید
نام و نام خانوادگی
آدرس ایمیل
متن نظر

به کمک نیاز دارید؟ با ما تماس بگیرید

کرج عظیمیه طالقانی شمالی کوچه شهید مسعود شجاعی (رز) برج قائم 2 واحد 1

02632558409

09124287589

afrino.co@gmail.com

ما را دنبال کنید
logo-samandehi

تمامی حقوق این سایت محفوظ و متعلق به شرکت "توسعه دانش رایا آفرینش" است.

An error has occurred. This application may no longer respond until reloaded. Reload 🗙