ناهمخوانی مدل‌های هوش مصنوعی با پردازش بصری انسان

تهران- ایرنا- پژوهشگران دریافتند حتی هوشمندترین مدل‌های هوش مصنوعی نیز با پردازش بصری انسان همخوانی ندارند؛ این موضوع باعث می‌شود استفاده از برخی برنامه‌های کاربردی این فناوری خطرناک باشد. به گزارش گروه علم و آموزش ایرنا از وبگاه سایِنس دِیلی (Science Daily)، پژوهشگران دانشگاه یورک در کانادا دریافتند شبکه‌های عصبی پیچشی، برخلاف انسان‌ها اشیا را با استفاده از درک شکل پیکربندی‌شده نمی‌بینند و این ممکن است در راه استفاده از برنامه‌های کاربردی (اپلیکیشن) هوش‌ مصنوعی خطر ایجاد کند. گروه علم و آموزش ایرناشبکه‌های عصبی پیچشی رده‌ای از شبکه‌های عصبی ژرف هستند که به طور معمول برای انجام تحلیل‌های تصویری یا گفتاری در یادگیری ماشین استفاده می‌شوند. پژوهشگران از محرک‌های بصری جدیدی به نام فرانکشتاین استفاده کردند تا چگونگی پردازش مغز انسان و شبکه‌های عصبی پیچشی را با ویژگی‌های جسم پیکربندی‌شده کل‌نگر بررسی کنند. فرانکشتایندکتر جیمز اِلدِر (James Elder) یکی از پژوهشگران دانشگاه یورک در این زمینه گفت: فرانکشتاین‌ها اشیایی هستند که از یکدیگر جدا و به روشی اشتباه دوباره کنار هم گذاشته شده‌اند. در نتیجه، همه آنها ویژگی‌های محلی مناسبی دارند اما در مکان‌هایی نامناسب قرار گرفته‌اند. جیمز اِلدِرپژوهشگران دریافتند که سیستم بینایی انسان‌ها به‌وسیله فرانکشتاین‌ها مختل می‌شود اما شبکه‌های عصبی پیچشی مختل نمی‌شوند و به ویژگی‌های جسم پیکربندی‌شده نوعی نداشتن حساسیت را نشان می‌دهند. الدر تاکید کرد: نتایج به ما توضیح می‌دهد که چرا مدل‌های عمیق هوش مصنوعی تحت شرایط مشخصی شکست می‌خورند و به موضوع در نظر گرفتن وظایفی فراتر از تشخیص شی برای درک پردازش بصری در مغز به‌عنوان یک نیاز اشاره می‌کنند. این مدل‌های عمیق در هنگام حل وظایف تشخیص پیچیده معمولاً از میانبر استفاده می‌کنند. وی افزود: این میانبرها ممکن است در بسیاری از موارد کارآیی داشته باشند؛ ولی امکان دارد در برخی برنامه‌های کاربردی هوش مصنوعی در دنیای واقعی که در حال حاضر با شرکای صنعتی و دولتی‌ روی آن‌ا کار می‌کنیم، خطرناک باشد. به گفته این محقق یکی از این برنامه‌های کاربردی، سیستم‌های ایمنی ویدئویی ترافیکی است. اشیای موجود در صحنه‌های ترافیکی شلوغ  ازجمله وسایل نقلیه، دوچرخه‌ها و عابران پیاده بر سر راه یکدیگر مانع ایجاد می‌کنند و به‌عنوان مجموعه‌ای از قطعات درهم‌وبرهم به چشم راننده می‌آیند. وی یادآور شد: مغز باید آن قطعات را به درستی گروه‌بندی کند تا دسته‌ها و مکان‌های صحیح اشیا را شناسایی کند. یک سیستم هوش مصنوعی برای نظارت بر ایمنی ترافیک که فقط قادر باشد هر قطعه را به صورت جداگانه درک کند، در این کار شکست می‌خورد و خطرات احتمالی را برای کاربران آسیب‌پذیر جاده درک نمی‌کند.