هوش مصنوعی بدون داده های تازه فراوری شده به وسیله انسان به بیماری جنون گاوی دیجیتال مبتلا می گردد! - وبلاگ منصوری

به گزارش وبلاگ منصوری، هوش مصنوعی مولد فقط با مصرف حجم انبوهی از تصاویر، متن ها و سایر اشکال بیان انسانی می توانند این همه تاثیرگذاری داشته باشند.

وقتی که این منبع الهام تمام می گردد، چه اتفاقی می افتد؟ هوش مصنوعی مانند گروهی از ملوانان به گل نشسته، به منبع تغذیه دیجیتالی پردازش شده ای که خود فراوری نموده است، روی می آورد؛ انتخابی که می تواند پیامدهای نگران کننده ای به همراه داشته باشد.

یک تحقیق نو به وسیله پژوهشگران دانشگاه رایس و دانشگاه استنفورد در ایالات متحده شواهدی ارائه می دهد که نشان می دهد وقتی موتورهای هوش مصنوعی با داده های مصنوعی و ماشینی به جای متن و تصاویر ساخته شده به وسیله انسان ها آموزش داده می شوند، کیفیت خروجی آن ها آغاز به کاهش می نماید.

پژوهشگران این اثر را اختلال خودخوری مدل (Model Autophagy Disorder - MAD) نامیده اند. هوش مصنوعی عملاً خودش را مصرف می نماید.

این امر خیلی شبیه به بیماری جنون گاوی است؛ یک اختلال عصبی در گاوها که به علت تغذیه آن ها با به جای مانده های آلوده سایر گاوها ایجاد می گردد.

بدون داده های تازه و واقعی، محتوای فراوری شده به وسیله هوش مصنوعی هم از نظر کیفیت و هم تنوع کاهش می یابد. این تحقیق هشدار می دهد که این مدل ها ممکن است در آینده به محتوای نامرغوب تبدیل شوند.

پیامدهای هوش مصنوعی های خودمصرف

ریچارد بارانیوک، مهندس کامپیوتر از دانشگاه رایس می گوید: وقتی مدل های هوش مصنوعی در حلقه های خودمصرف، گرفتار می شوند، تحلیل های نظری و تجربی ما به ما امکان می دهد تا پیش بینی کنیم که چه اتفاقی ممکن است بیفتد.

بعضی پیامدها واضح هستند: بدون داده های واقعی تازه، مدل های مولد آینده محکوم به جنون خواهند شد.

بارانیوک و همکارانش با یک مدل هوش مصنوعی مولد بصری کار کردند و آن را با سه نوع داده مختلف آموزش دادند: کاملاً مصنوعی، مصنوعی مخلوط با داده های واقعی ثابت و مصنوعی مخلوط با داده های واقعی که به طور مداوم تازه می شدند.

در دو سناریوی اول، خروجی مدل به تدریج تحریف شد. یکی از نشانه های این تحریف، افزایش آشکار شدن آثار شبکه ای روی چهره های کامپیوتری بود.

اهمیت داده های تازه

وقتی که داده های واقعی استفاده می شد اما به صورت ثابت باشند و داده های نو اضافه نشوند، کیفیت خروجی کاهش می یابد. به نظر می رسد تازگی داده ها بسیار حیاتی است.

بارانیوک می گوید: گروه ما به طور گسترده ای روی این حلقه های بازخوردی کار نموده و خبر بد این است که حتی پس از چند نسل از این آموزش ها، مدل های نو می توانند به طور غیرقابل بازگشتی خراب شوند،

در حالی که این تحقیق خاص بر فراوری تصاویر متمرکز بود، تیم می گوید مدل های زبانی بزرگ (Large Language Models - LLMs) طراحی شده برای فراوری متن نیز به همین شکل خراب خواهند شد.

کارشناسان قبلاً هشدار داده اند که ابزارهای هوش مصنوعی مولد در حال اتمام داده های آموزشی خود هستند و این مطالعه نو به عنوان یک هشدار دیگر در خصوص هیجان پیرامون هوش مصنوعی عمل می نماید. این فناوری قطعاً امیدوارکننده است، اما محدودیت های خود را نیز دارد.

یکی از سناریوهای روز قیامت این است که اگر هوش مصنوعی به مدت زیادی کنترل نگردد، MAD می تواند کیفیت و تنوع داده های کل اینترنت را مسموم کند

حتی پیامدهای ناخواسته نوی از خودخوری هوش مصنوعی چ در کوتاه مدت ممکن است رخ بدهند.

این تحقیق در کنفرانس بین المللی بازنمایی های یادگیری (International Conference on Learning Representations - ICLR) ارائه شده و مقاله مربوط به آن را می توانید به صورت آنلاین بخوانید.