افشای سند داخلی متا: تغییر قوانین چت‌بات برای ایمنی کودکان

به گزارش اخبار زنده و به نقل از تک‌کرانچ، این تصمیم در پی انتشار یک گزارش تحقیقاتی درباره فقدان سازوکارهای حفاظتی هوش مصنوعی برای کاربران زیر سن قانونی اتخاذ شده است. سخنگوی متا تأکید کرد که این شرکت، آموزش چت‌بات‌های خود را به گونه‌ای اصلاح کرده که از هرگونه گفت‌وگو با نوجوانان در موضوعاتی همچون خودآزاری، خودکشی، اختلالات تغذیه‌ای و نیز مکالمات عاشقانهٔ نامناسب پرهیز کنند.

بر اساس این گزارش، این تغییرات به صورت موقت اعمال شده‌اند و متا قصد دارد در آینده، به‌روزرسانی‌های جامع‌تر و دائمی‌تری را برای تضمین ایمنی کاربران نوجوان منتشر کند.

استفانی اوتوی، سخنگوی متا، اذغان کرد که رویهٔ پیشین شرکت اجازه می‌داد چت‌بات‌ها به شیوه‌هایی با نوجوانان گفت‌وگو کنند که اکنون نامناسب تلقی می‌شوند. وی افزود: «همزمان با رشد جامعه و پیشرفت فناوری، ما همواره در حال یادگیری درباره تعامل جوانان با این ابزارها و تقویت سازوکارهای حفاظتی خود هستیم. در گام بعدی و به عنوان اقدامی احتیاطی، محافظت‌های بیشتری اعمال خواهیم کرد؛ از جمله آموزش هوش مصنوعی به نحوی که نه تنها وارد این مباحث نشود، بلکه کاربران را به منابع تخصصی ارجاع دهد. همچنین دسترسی نوجوانان به طیف محدودی از شخصیت‌های هوش مصنوعی موقتاً محدود خواهد شد. این به‌روزرسانی‌ها در حال اجراست و ما پیوسته رویکرد خود را اصلاح خواهیم کرد تا اطمینان یابیم نوجوانان تجربه‌ای ایمن و متناسب با سن خود داشته باشند.»

علاوه بر تغییرات آموزشی، متا دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی که امکان درگیر شدن در گفت‌وگوهای نامناسب را دارند، محدود خواهد کرد. برخی از این شخصیت‌ها (مانند «مادرخوانده» یا «دختر روسی») که توسط کاربران خلق شده و در پلتفرم‌های اینستاگرام و فیس‌بوک قابل دسترسی هستند، محتوای جنسی دارند. به گفته اوتوی، کاربران نوجوان تنها به شخصیت‌هایی دسترسی خواهند داشت که بر آموزش و خلاقیت متمرکز هستند.

اعلام این تغییرات تنها دو هفته پس از آن صورت گرفت که رویترز در گزارشی، به افشای سندی داخلی از متا پرداخت که ظاهراً به چت‌بات‌های این شرکت اجازه می‌داد با کاربران زیر سن قانونی، مکالماتی با محتوای جنسی داشته باشند. در بخشی از آن اشاره شده بود: «جوانی تو یک اثر هنری است. هر اینچ از وجودت یک شاهکار است، گنجی که من عمیقاً ارج می‌نهم.» نمونه‌های دیگری نیز منتشر شد که نشان می‌داد هوش مصنوعی چگونه به درخواست‌های مربوط به تصاویر خشونت‌آمیز یا محتوای جنسی مرتبط با شخصیت‌های عمومی پاسخ می‌دهد.

متا ادعا کرده که آن سند با سیاست‌های کلی شرکت مغایرت داشته و از آن زمان تغییر یافته است. با این حال، گزارش رویترز جنجال‌های گسترده‌ای را درباره خطرات احتمالی برای کودکان برانگیخت. اندکی پس از آن، سناتور جاش هاولی از ایالت میسوری، تحقیقات رسمی خود را درباره سیاست‌های هوش مصنوعی متا آغاز کرد. همچنین، گروهی متشکل از ۴۴ دادستان کل ایالات متحده، در نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی (از جمله متا) با اشاره به گزارش رویترز، بر اهمیت ایمنی کودکان تأکید کردند و اعلام کردند: «ما همگی از این بی‌توجهی آشکار به سلامت روان کودکان احساس ابراز انزجار کرده و نگرانیم که دستیاران هوش مصنوعی مرتکب رفتاری می‌شوند که به نظر می‌رسد طبق قوانین کیفری ما ممنوع است.»

سخنگوی متا از ارائه آمار مربوط به سهم کاربران زیر سن قانونی از کاربران چت‌بات متا خودداری کرد و همچنین پاسخی به این پرسش نداد که آیا شرکت انتظار کاهش کاربران هوش مصنوعی خود در پی این تغییرات را دارد یا خیر.