اشتباه عجیب هوش مصنوعی در مدرسه آمریکا | وقتی چیپس به‌جای اسلحه شناسایی شد!

هوش مصنوعی قراره امنیت رو بالا ببره، درسته؟ اما این بار سیستم امنیتی یه دبیرستان توی مریلند آمریکا نشون داد که همیشه هم نمی‌شه بهش اعتماد کرد!

ماجرا از این قراره که یه دانش‌آموز به اسم تاکی آلن (Taki Allen) توی دبیرستان Kenwood High School فقط یه بسته چیپس Doritos دستش بوده. ولی سیستم امنیتی مدرسه – که با هوش مصنوعی کار می‌کنه – اون رو به‌اشتباه به‌عنوان یه اسلحه شناسایی کرده!

نتیجه؟

پلیس مدرسه اومده، پسر بدبخت رو مجبور کرده روی زانوهاش بشینه، دستاشو ببره پشت سر و دستبند زده!

بعداً که بررسی کردن فهمیدن کل ماجرا از یه خطای عجیب AI بوده. مدیر مدرسه، خانم کتی اسمیت، گفته اول فکر کرده تهدیده جدیه و سریع ماجرا رو به پلیس گزارش داده، در حالی‌که هشدار امنیتی قبلاً لغو شده بوده.

شرکت Omnilert که این سیستم تشخیص اسلحه با هوش مصنوعی رو ساخته، اعلام کرده:

«ما از اتفاق پیش‌اومده متأسفیم و نگرانی خودمون رو نسبت به دانش‌آموز و جامعه اعلام می‌کنیم. با این حال، سیستم طبق روال طراحی‌شده عمل کرده!»

یعنی چی؟ یعنی از دید اون‌ها همه‌چیز درست کار کرده... فقط مشکل اینه که Doritos هنوز اسلحه نیست!

این اتفاق باعث شد خیلی‌ها توی آمریکا درباره‌ی قابل اعتماد بودن هوش مصنوعی در سیستم‌های امنیتی سؤال کنن. چون اگه یه چیپس بتونه باعث بازداشت یه دانش‌آموز بشه، پس معلوم نیست در آینده چه چیزهایی ممکنه اشتباه تشخیص داده بشن!

هوش مصنوعی روزبه‌روز داره وارد زندگی روزمره‌ی ما می‌شه — از تلفن و مرورگر گرفته تا امنیت مدارس. ولی این داستان نشون می‌ده که هنوزم AI باهوش‌تر از انسان نشده و گاهی لازمه قبل از اعتماد کامل بهش، یه نگاه انسانی هم روی تصمیماتش باشه!

#هوش_مصنوعی #سیستم_امنیتی #مدرسه #اشتباه_هوش_مصنوعی #تکنولوژی

#AI #AIDetection #MachineLearning #Omnilert #OpenAI #TechNews