لینکدین اطلاعات تازه‌ای را درباره روند رو به رشد مبارزه خود با محتوای بی‌ارزش و تولیدات انبوه هوش مصنوعی (AI slop) منتشر کرده است؛ چرا که این پلتفرم تلاش می‌کند از سیل محتواهای تکراری تولیدشده توسط هوش مصنوعی که به تدریج تجربه کاربری درون برنامه را تخریب می‌کنند، جلوگیری کند.
در ماه اوت، لینکدین گزینه جدیدی را اضافه کرد که به کاربران اجازه می‌دهد موارد مشکوک به محتوای تولیدشده توسط هوش مصنوعی را مستقیماً در فید خود گزارش دهند.
به طور مشخص، این قابلیت محتواهای بی‌ارزشی را هدف قرار می‌دهد که لینکدین آن‌ها را به عنوان پست‌های عمومی و یا تکراری تعریف می‌کند که هیچ بینش واقعی و مفیدی به مخاطب اضافه نمی‌کنند.
این گزینه بلافاصله با استقبال کاربران مواجه شد و لینکدین اعلام کرد که کمتر از سه هفته پس از راه‌اندازی، بیش از ۱ میلیون نفر از این ویژگی برای پاکسازی فید خود از زباله‌های هوش مصنوعی استفاده کرده‌اند.
در هشتم اکتبر، تیم ژورکا، معاون مهندسی لینکدین، پستی را به اشتراک گذاشت که بینش بیشتری درباره تعریف داخلی این پلتفرم از زباله‌های هوش مصنوعی، نحوه بهبود روش‌های تشخیص و تأثیرات این فرآیند تا به امروز ارائه می‌دهد.
نخست، ژورکا فرآیند شناسایی محتوای بی‌ارزش هوش مصنوعی را تشریح کرد؛ فرآیندی که در آن پلتفرم از بازخوردهای دکمه گزارش استفاده می‌کند تا سیستم‌های خود را برای تشخیص الگوهای مورد نظر آموزش دهد.
همان‌طور که ژورکا توضیح داد: «به طور مشخص، ما از ساختاری موسوم به تنظیمات معلم-شاگرد استفاده می‌کنیم. مدل‌های بزرگ‌تر یا همان «معلم» به گونه‌ای طراحی شده‌اند که با الگوهای جدید محتوای بی‌ارزش هوش مصنوعی همگام شده و آن‌ها را به دقت شناسایی کنند؛ این امر داده‌های آموزشی باکیفیتی را تولید می‌کند که ما برای «آموزش دادن» مدل‌های کوچک‌تر خود به منظور تشخیص سریع این الگوهای جدید به آن‌ها نیاز داریم.»
بنابراین، لینکدین نیز درست مانند تانوس که از سنگ‌های ابدیت برای نابودی سنگ‌های ابدیت استفاده کرد، از هوش مصنوعی برای تشخیص زباله‌های هوش مصنوعی بهره می‌برد و مدل خود را بر اساس تعاریف در حال تکامل از آنچه زباله تکراری محسوب می‌شود، آموزش می‌دهد.
ژورکا گفت که لینکدین طیفی از عامل‌های هوش مصنوعی را مستقر کرده است که به هر یک خط‌مشی مشخصی اختصاص یافته است. این ربات‌ها محتوا را بر اساس مجموعه پارامترهای سخت‌گیرانه‌ای که با آن قانون همسو است، ارزیابی می‌کنند.
او گفت: «هر عامل توسط یک خط‌مشی خاص هدایت می‌شود که معیارهای مورد استفاده آن برای ارزیابی محتوا را تعریف می‌کند؛ مواردی نظیر اینکه آیا یک پست جنبه تبلیغاتی دارد، دستاوردی را جشن می‌گیرد یا در زمان مناسب منتشر شده است.
هنگامی که یک عامل با نمونه پیچیده‌ای مواجه می‌شود که به طور کامل نمی‌تواند استدلال پشت آن را در چارچوب یک خط‌مشی درک کند، می‌تواند آن نمونه را به ناظران انسانی ما ارجاع دهد، از راهنمایی‌های آن‌ها بیاموزد و خط‌مشی خود را برای مدیریت بهتر موقعیت‌های مشابه در آینده تکامل بخشد.»
این امر یک شبکه تشخیص پیچیده‌تر را ایجاد می‌کند که بر اساس راهنمایی‌های انسانی و بینش‌های به‌دست‌آمده از گزارش‌های کاربران شکل گرفته است تا بتواند محتوای بی‌ارزش هوش مصنوعی را بهتر شناسایی کرده و از دیدرس پنهان کند.
این رویکرد به بهبود چشمگیری در تشخیص پست‌های تولیدشده توسط هوش مصنوعی منجر شده است.
ژورکا گفت: «با بهره‌گیری از چارچوب معلم-شاگرد و جریان‌های کاری مبتنی بر عامل، ما اخیراً دسته‌بندی‌کننده‌های خود را به گونه‌ای گسترش داده‌ایم که تمامی پست‌هایی را که فراتر از شبکه فوری شما توزیع می‌شوند، با دقت ۹۴ درصد در زمینه تشخیص زباله‌های هوش مصنوعی پوشش دهند.»
لینکدین پیش‌تر گزارش داده بود که توانسته است میزان بازدید از زباله‌های هوش مصنوعی را تا ۴۰ درصد کاهش دهد و به تقاضای آشکار کاربران برای کاهش محتواهای خسته‌کننده هوش مصنوعی پاسخ دهد.
در واقع، این اقدامی است که احتمالاً همه پلتفرم‌ها از آن سود خواهند برد.
افزایش پست‌های تولیدشده توسط هوش مصنوعی، شک و تردید کلی نسبت به تک‌تک پست‌های موجود در فیدهای شبکه‌های اجتماعی را افزایش داده است، به طوری که به نظر می‌رسد هیچ‌چیز آن‌گونه که به نظر می‌رسد نیست.
اما گذشته از این موضوع، بیشتر این پست‌ها واقعاً بی‌ارزش هستند. بیشتر پست‌هایی که شامل تصاویر یا ویدیوهای تولیدشده توسط هوش مصنوعی هستند، جذاب یا جالب نیستند و فاقد هرگونه حس واقعی ارتباط انسانی یا ارزش هستند.
این حس به انسان دست می‌دهد که انگار در حال ورق زدن دفترچه‌ای از ایده‌های بیرون‌آمده از ذهن افرادی است که هرگز برای انتشار عمومی در نظر گرفته نشده بودند، یا انگار به الگوهای نیمه‌تکمیل‌شده‌ای با رنگ‌های نئونی خیره‌کننده نگاه می‌کند که تأثیری سردردآور ایجاد می‌کنند.
این به معنا the آن نیست که استفاده از هوش مصنوعی ذاتاً بد است، اما هنرمندان موفق مهارت‌های خود را در طول زمان صیقل داده و توسعه داده‌اند. آن‌ها سبک و روانی خاصی خلق کرده‌اند که مفهوم مد نظرشان را منتقل کرده و احساس الهام‌بخش دیدگاه آن‌ها را بازآفرینی می‌کند.
هوش مصنوعی مولد فاقد این ویژگی است و بدون درک مبتنی بر این پالایش، سازندگان آن اغلب حتی نمی‌دانند چرا محتوایشان خوب نیست. آن‌ها صرفاً مطالب زباله منتشر می‌کنند، انتقادها را رد می‌کنند و احساس می‌کنند که به دستاوردی رسیده‌ترند.
همان‌طور که بسیاری از کارشناسان پیش‌بینی کرده بودند، اوضاع به سمتی پیش می‌رود که شبکه‌های اجتماعی عملاً در حال غرق شدن در زباله‌های هوش مصنوعی هستند و تقاضا برای داشتن یک دکمه خاموشی هوش مصنوعی احتمالاً در تمامی اپلیکیشن‌های اجتماعی افزایش خواهد یافت.
منبع: Social Media Today