دستاورد مشترک پژوهشگران دانشگاه تهران و دانشگاه کانادا در ارتقای امنیت سامانه‌های هوش مصنوعی

به گزارش روابط عمومی دانشگاه تهران، این پژوهش با ارائه رویکردی نوین، افق‌های تازه‌ای برای توسعه سامانه‌های هوش مصنوعی ایمن‌تر، سریع‌تر و قابل‌اعتمادتر گشوده است.

این مقاله با عنوان Toward Leveraging Intrinsic Point Cloud Features in 3D Adversarial Attacks به بررسی نقش ویژگی‌های ذاتی داده‌های سه‌بعدی در عملکرد و امنیت سامانه‌های مبتنی بر هوش مصنوعی می‌پردازد. پژوهشگران در این مطالعه تلاش کرده‌اند با تمرکز بر ویژگی‌های درونی داده‌ها، رویکردی متفاوت از روش‌های متداول ارائه کنند و نشان دهند که بخشی از آسیب‌پذیری یا رفتار سامانه‌های هوشمند، ریشه در ساختار داده‌ها دارد و نه صرفاً در معماری مدل‌های یادگیری عمیق.

در این پژوهش، مجموعه‌ای از ویژگی‌های هندسی داده‌های سه‌بعدی مورد تحلیل قرار گرفته و نتایج نشان داده است که برخی از این ویژگی‌ها می‌توانند در پیش‌بینی رفتار سامانه‌های هوشمند و شناسایی نقاط حساس نقش مؤثری ایفا کنند. بر پایه این یافته‌ها، پژوهشگران روشی نوین و کم‌هزینه از نظر محاسباتی ارائه کرده‌اند که قابلیت استفاده در طیف گسترده‌ای از مدل‌های هوش مصنوعی را دارد.

نتایج این تحقیق نشان می‌دهد که شناخت بهتر ویژگی‌های بنیادی داده‌ها می‌تواند به طراحی سامانه‌های هوش مصنوعی ایمن‌تر، دقیق‌تر و قابل‌توضیح‌تر منجر شود. این دستاورد همچنین می‌تواند در توسعه فناوری‌های نوینی همچون خودروهای خودران، ربات‌های هوشمند، سامانه‌های بینایی ماشین و تحلیل داده‌های سه‌بعدی کاربرد داشته باشد.

این مقاله از طریق پیوند https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0344574 قابل دسترس است.