وقتی هوش مصنوعی شروع به تکثیر خودکار می‌کند، چه اتفاقی میافتد؟
انتروپیک هشدار می‌دهد که این آینده چندان دور نیست، اما تهدید مطرحشده به آن اندازه که به نظر می‌رسد چیز جدیدی نیست.
هوش مصنوعی و یادگیری ماشین
چرا برخی وب‌سایت‌ها مانع دسترسی عامل‌های هوش مصنوعی (AI Agents) به وب می‌شوند؟
یک عامل هوش مصنوعی می‌تواند خرید روزمره و خواربار شما را به عهده بگیرد؛ درست تا زمانی که وب‌سایت از آن بخواهد ثابت کند که انسان است. این همان مشکلی است که «Muse» متعلق به شرکت متا در فروشگاه والمارت (یکی از شرکای خرده‌فروشی آن) با آن روبه‌رو شده است؛ والمارت می‌گوید این بررسی‌های تأیید هویت به منظور متوقف کردن این دستیار نبوده است. از سوی دیگر طبق گزارش تک‌کرانچ (TechCrunch)، آمازون برخوردی مستقیم‌تر داشته و عمداً این ابزار را از خرید در وب‌سایت خود مسدود کرده است.
جذابیت عامل‌های شخصی هوش مصنوعی مانند Muse متا در این است که این دستیارها می‌توانند در وب‌سایت‌ها پیمایش کنند، سبد خرید را پر کرده و سفر رزرو کنند؛ به‌جای اینکه صرفاً پیشنهادهایی به شما ارائه دهند و بقیه کارها را به خودتان واگذار کنند. با این حال، اینکه شما به یک ایجنت اجازه دهید از طرف شما عمل کند، به این معنی نیست که یک وب‌سایت هم پذیرفته باشد با آن تعامل داشته باشد. برخی از این محدودیت‌ها عمدی هستند، در حالی که برخی دیگر ناشی از سیستم‌های امنیتی هستند که نمی‌توانند به‌طور قابل اعتمادی عامل‌های قانونی را از ترافیک خودکار ناخواسته تشخیص دهند. در هر دو حالت، ممکن است دوباره مجبور شوید پشت کیبورد بنشینید و همان کاری را انجام دهید که می‌خواستید از آن اجتناب کنید.
چرا وب‌سایت‌ها نمی‌خواهند عامل‌های هوش مصنوعی به خدمات آن‌ها دسترسی داشته باشند؟
وقتی پای پول در میان باشد، امنیت نگرانی بزرگ‌تری است. در جریان جلسه گزارش درآمدهای جی‌پی‌مورگان چیس (JPMorgan Chase) در ماه اکتبر، جرمی بارنوم (مدیر ارشد مالی این بانک) گفت که برخی عامل‌ها از اطلاعات لاگین مشترک و روش اسکرین‌اسکرپینگ (Screen Scraping) برای انتقال وجه استفاده می‌کنند؛ روش‌هایی که او آن‌ها را «غیرامن» توصیف کرد. این بانک در هر جایی که ممکن باشد جلوی این روش‌ها را می‌گیرد و بارنوم هشدار داد مشتریانی که اطلاعات کاربری خود را در اختیار این ابزارها قرار می‌دهند، در صورت انجام اقدامی ناخواسته توسط عامل، ممکن است خودشان مسئول شناخته شوند. خراب شدن یک سفارش خواربار به اندازه کافی آزاردهنده است، اما یک انتقال بانکی غیرمجاز دردسر بسیار متفاوتی خواهد بود.
آمازون نیز بر سر مرورگر هوش مصنوعی Comet با شرکت پرپلکسیتی (Perplexity) درگیر است. این خرده‌فروشی استدلال می‌کند که این عامل، قوانین دسترسی آن را نقض کرده و داده‌های مشتریان را به خطر می‌اندازد؛ در حالی که پرپلکسیتی تأکید دارد کاربران به آن اجازه اقدام داده‌اند. یک دادگاه تجدیدنظر فدرال در اوت ۲۰۲۶ دستور موقت صادرشده علیه پرپلکسیتی را لغو کرد، هرچند که اختلاف بنیادین اصلی همچنان حل‌نشده باقی مانده است. نکته جالب دیگری نیز وجود دارد: خود آمازون قابلیت «Buy for Me» (برای من بخر) را دارد که می‌تواند محصولاتی را از وب‌سایت‌های برندهای دیگر خریداری کند.
کسب‌وکارها دلایل تجاری نیز برای کنترل دسترسی‌های خودکار دارند. توافق‌نامه کاربری ای‌بی (eBay) استفاده از عامل‌های خرید خودکار (Buy-for-me) بدون مجوز را ممنوع کرده است، مگر اینکه شرکت اجازه آن را صادر کند. دلتا (Delta) به تک‌کرانچ گفت که هیچ‌گونه ادغام یا ارتباط فنی ندارد که به عامل‌های متفرقه (شخص ثالث) اجازه دهد از طریق وب‌سایتش بلیط هواپیما رزرو کنند؛ اگرچه این شرکت هواپیمایی تأیید نکرد که آیا به‌طور عمدی عامل‌های خاصی را مسدود می‌کند یا خیر.
سیستم‌های موجود برای مقابله با بات‌ها نیز می‌توانند مانع شوند
تجربه والمارت نشان می‌دهد که مسدود شدن یک ایجنت لزوماً نتیجه یک تحریم یا مسدودی عمدی نیست. درخواست‌های تأیید هویت انسانی می‌توانند فرآیند خرید خودکار را مختل کنند، و زیلو (Zillow) نیز اذعان کرده است که تدابیر ضد اسکرپینگ (Anti-scraping) آن گاهی اوقات عامل‌هایی را متوقف می‌کنند که در حالت عادی اجازه فعالیت دارند. از دیدگاه کاربر، در هر دو حالت به نظر می‌رسد دستیار توانایی اتمام کار را ندارد.
هر کسی که از طریق VPN وب‌گردی کرده باشد ممکن است با این روند آشنا باشد. گوگل توضیح می‌دهد که شبکه‌های VPN اشتراکی وقتی ترافیک آن‌ها شبیه به فعالیت‌های خودکار به نظر می‌رسد، می‌توانند چالش‌های reCAPTCHA را فعال کنند. عامل‌های هوش مصنوعی صرفاً با پیمایش در یک وب‌سایت و حتی هنگام اجرای دستورات یک شخص، می‌توانند با بررسی‌های مشابهی مواجه شوند. همچنین روشن کردن VPN به‌طور معجزه‌آسا محدودیت‌های سایت در مورد دسترسی خودکار را دور نخواهد زد.
کلودفلر (Cloudflare) که پیش از این ابزارهای کنترلی در برابر خزنده‌های وبِ هوش مصنوعی معرفی کرده بود، اکنون به مالکان وب‌سایت‌ها این امکان را می‌دهد که بین خزنده‌های جستجوگر، بات‌های آموزش هوش مصنوعی و عامل‌هایی که از طرف کاربران اقدام می‌کنند تفاوت قائل شوند. از تاریخ ۱۵ سپتامبر، دامنه‌های جدیدی که از کلودفلر استفاده می‌کنند، به‌طور پیش‌فرض به خزنده‌های جستجو اجازه دسترسی می‌دهند، اما بات‌های آموزش هوش مصنوعی و عامل‌ها را در صفحاتی که تبلیغات نمایش می‌دهند مسدود می‌کنند. مالکان وب‌سایت‌ها می‌توانند این قوانین را تغییر دهند؛ یعنی سایتی که بات‌های آموزش هوش مصنوعی را مسدود می‌کند لزوماً دستیاری را که سعی دارد خریدی انجام دهد رد نمی‌کند. سایر پلتفرم‌ها رویکرد کنترل‌شده‌تری در پیش گرفته‌اند؛ ابزارهای پرداخت شاپایفای (Shopify) به عامل‌های سازگار در مرورگر اجازه می‌دهند اطلاعات پرداخت را به‌روزرسانی کرده و پس از تأیید خریدار سفارش را ثبت کنند، در حالی که کنترلِ مراحلِ احراز هویتِ ضروری دوباره به خود خریداران واگذار می‌شود.
تهیه و ترجمه مقاله توسط نوآوران البرز - طراحی سایت در بابل و مازندران
