عصر هوش مصنوعی فرا رسیده است، اما سیستم‌های هوش مصنوعی فعلی که به کسب‌وکارها عرضه می‌شوند، ممکن است هنوز برای استقرار در مقیاس وسیع آمادگی لازم را نداشته باشند.
هفته گذشته، چندین سیستم هوش مصنوعی مرتکب اشتباهات بزرگ و برجسته‌ای شدند. این خطاها نگرانی‌هایی را درباره دخالت کسب‌وکارها در پیام‌رسانی سیاسی برانگیخت و به انتشار اطلاعات نادرست دامن زد.
نخست آنکه، اندی استون، سخنگوی متا، در تاریخ ۱۷ اکتبر طی پستی در تردز اعلام کرد که حساب اینستاگرام No Kings به‌اشتباه محدود شده است. این اتفاق پس از آن رخ داد که فعالیت این حساب در آستانه رویداد آخر هفته یعنی روز No Kings با افزایشی چشمگیر مواجه شد.
دیدگاه‌های ثبت‌شده در زیر پست استون نشان می‌داد که کاربران درون اپلیکیشن، متا را به دلیل فشارهای سیاسی به سانسور حساب یادشده متهم می‌کنند. با این حال، استون توضیح داد که محدودسازی حساب No Kings به طور خودکار و بر اساس قوانین داخلی سیستم متا صورت گرفته است.
استون روز بعد جزئیات بیشتری را در یک پست جدید در تردز ارائه کرد.
به گفته استون: «تیم مهندسی ما کشف کرد که جهشی که باعث اعمال قانون نادرست شد، عمدتاً مربوط به رفتار "خوانش" حساب کاربری بوده است. به طور خاص، سیستم‌های امنیت شبکه ما تشخیص دادند که یک ابزار از شرکت کلود (Claude) در حال خواندن نمایه‌ها، پست‌ها و هشتگ‌ها است که نرخ آن در ۱۷ اکتبر با روندی بسیار تند و در قالب انفجارهای شدید (حدود ۴ برابر حجم معمول) افزایش یافته است. این درخواست‌های ناگهانی، حجیم و پیاپی در بازه زمانی کوتاه، بیشتر شبیه به ترافیک ربات‌های خودکار بود تا مرور عادی سیستم‌ها توسط انسان. این فعالیت باعث شد محافظت‌های خودکار ما به اشتباه حساب اینستاگرام No Kings را از دسترس خارج کنند.»
بنابراین، سیستم تشخیص هوش مصنوعی متا، سیستم هوش مصنوعی دیگری را شناسایی کرد و همین امر به محدود شدن این حساب انجامید.
تلاش متا برای به‌کارگیری هوش مصنوعی در بخش‌های بیشتری از کسب‌وکار خود، همچنین دستورالعمل‌های عملیاتی کلیدی ابزار کمکی مبتنی بر هوش مصنوعی واتس‌اپ را آشکار کرد. وب‌سایت وایرد (Wired) اخیراً گزارش داد که صفحات پرسش‌وپاسخ (FAQ) وب‌سایت این پیام‌رسان حاوی دستورالعمل‌هایی درباره نحوه پاسخگویی ربات چت هوش مصنوعی به پرسش‌های کاربران بوده است.