شخصی‌سازی عمیق هوش مصنوعی گوگل؛ فرصت مفید یا تهدید حریم خصوصی؟

یکی از مدیران بخش جست‌وجوی گوگل اعلام کرده است که بزرگ‌ترین فرصت این شرکت در حوزه هوش مصنوعی، توانایی آن در شناخت عمیق‌تر رفتار کاربران و ارائه پاسخ‌ها و پیشنهادهای کاملاً شخصی‌سازی‌شده است. به گفته وی، وعده اصلی این فناوری آن است که به‌واسطه شناخت دقیق از کاربر، بتواند به‌طور بی‌سابقه‌ای مفید واقع شود؛ هرچند این مسئله از سوی دیگر خطر تبدیل شدن هوش مصنوعی به ابزاری برای نظارت را نیز در پی دارد.

به گزارش اخبار زنده و به نقل از Techcrunch، در یکی از قسمت‌های اخیر پادکست Limitless، «رابی اِستاین»، معاون محصول جست‌وجوی گوگل، توضیح داد که مدل‌های هوش مصنوعی این شرکت تمایل دارند بیشتر به پرسش‌هایی پاسخ دهند که ماهیت مشاوره‌ای دارند و کاربر انتظار دریافت راهنمایی یا توصیه دارد؛ پرسش‌هایی که معمولاً نیازمند پاسخ‌های ذهنی‌تر و شخصی‌تر هستند.

استاین در این مصاحبه تأکید کرد: «ما معتقدیم فرصت بزرگی پیش روی هوش مصنوعی گوگل قرار دارد تا شما را بهتر بشناسد و براساس این شناخت، به شکلی منحصر‌به‌فرد مفیدتر عمل کند. در کنفرانس توسعه‌دهندگان گوگل I/O نیز درباره این موضوع صحبت کردیم که چگونه هوش مصنوعی می‌تواند از طریق سرویس‌های متصل، مانند جیمیل، درک عمیق‌تری از کاربر به دست آورد.»

بیشتر بخوانید: ۶ کاربرد هیجان‌انگیز جمینای گوگل

گوگل از مدت‌ها پیش فرایند ادغام هوش مصنوعی در سرویس‌های خود را آغاز کرده است؛ زمانی که جمینای هنوز با نام «بارد» شناخته می‌شد. اخیراً این شرکت جمع‌آوری سطح جدیدی از داده‌های شخصی را از طریق محصولی دیگر با عنوان Gemini Deep Research آغاز کرده و در حال حاضر نیز جمینای به‌طور مستقیم در سرویس‌های Workspace شامل جیمیل، تقویم (Calendar) و Drive ادغام شده است.

با این حال، هرچه داده‌های بیشتری (از ایمیل‌ها و اسناد گرفته تا تصاویر، تاریخچه موقعیت مکانی و الگوی مرور آنلاین) وارد سامانه‌های هوش مصنوعی گوگل می‌شود، مرز میان یک دستیار مفید و یک نیروی مزاحم بیش از پیش کمرنگ می‌شود. برخلاف سرویس‌هایی که کاربر می‌تواند به‌راحتی از آنها صرف‌نظر کند، کنار گذاشتن جمع‌آوری داده‌ها در اکوسیستمی که هوش مصنوعی به بخش جدایی‌ناپذیر آن تبدیل شده، دشوارتر خواهد بود.

گوگل ادعا می‌کند که این میزان شخصی‌سازی، ارزش واقعی هوش مصنوعی را آشکار می‌سازد. ایده اصلی این است که سیستم بتواند از تعاملات کاربر در سرویس‌های مختلف درس بگیرد و بر پایه آن، توصیه‌هایی کاملاً سازگار با ترجیحات فرد ارائه دهد. برای نمونه، اگر الگوریتم تشخیص دهد کاربر به برند یا محصول خاصی علاقه‌مند است، پیشنهادهای هوش مصنوعی نیز به‌صورت هدفمند آن برندها را در اولویت قرار خواهد داد.

در همین رابطه بخوانید: چگونه با جمینای تصاویر واقع‌گرایانه بسازیم؟ راهنمایی با ۵ مثال کاربردی

استاین در ادامه افزود ارائه این سطح از شخصی‌سازی «بسیار مفیدتر» از نمایش فهرست‌های عمومی، همچون پرفروش‌ترین محصولات در یک دسته‌بندی است: «به‌نظر من، هدف نهایی ساختن سیستمی است که بتواند برای خود شما آموزنده و دقیق باشد.»

این رویکرد بی‌شباهت به داستان سریال مشهور «Pluribus» نیست؛ جایی که یک سامانه هوش مصنوعی با بلعیدن انبوهی از اطلاعات جهان (ازجمله جزئیات خصوصی افراد) تجربه‌ای کاملاً شخصی‌سازی‌شده ایجاد می‌کند؛ از پختن غذای محبوب شخصیت اصلی تا انتخاب چهره‌ای آشنا برای تعامل با او. با این حال، شخصیت اصلی داستان این میزان شخصی‌سازی را «تهاجمی» می‌داند؛ زیرا هرگز اجازه دسترسی به چنین حجم گسترده‌ای از داده‌ها را نداده بود.
 

در دنیای واقعی نیز به‌نظر می‌رسد اجتناب از سازوکارهای جمع‌آوری داده توسط گوگل در عصر هوش مصنوعی روزبه‌روز دشوارتر خواهد شد و در صورت نبود مدیریت صحیح، نتیجه این فرایند بیش از آنکه مفید باشد، برای کاربران نگران‌کننده به نظر می‌رسد.

البته گوگل برای کنترل این روند گزینه‌هایی نیز ارائه کرده است. کاربران می‌توانند در بخش تنظیمات جمینای، از قسمت «برنامه‌های متصل»، تعیین کنند کدام سرویس‌ها مجاز به تغذیه اطلاعات به این مدل باشند. بر اساس سیاست حفظ حریم خصوصی جمینای، داده‌های به‌اشتراک‌گذاشته‌شده ممکن است توسط داوران انسانی نیز بررسی شوند و گوگل هشدار می‌دهد که کاربران از بارگذاری اطلاعات حساس یا محرمانه در این سرویس خودداری کنند.

با افزایش داده‌های ورودی به این شبکه، نگرانی‌ها درباره کمرنگ شدن مرزهای حریم خصوصی نیز شدت می‌یابد؛ هرچند گوگل معتقد است برای این مسئله راه‌حل‌هایی تدارک دیده است.

استاین اعلام کرد گوگل به‌صورت شفاف به کاربران اطلاع خواهد داد که چه زمانی پاسخ هوش مصنوعی بر اساس داده‌های شخصی‌سازی‌شده ارائه می‌شود و چه زمانی پاسخ عمومی است: «مردم می‌خواهند به‌وضوح بدانند که چه زمان پاسخ برای آنها ساخته می‌شود و چه زمان همه کاربران همان پاسخ را دریافت می‌کنند.»

بیشنر بخوانید: گوگل جمینای برای کودکان و نوجوانان «پرخطر» است

به گزارش اخبار زنده، وی همچنین به امکان ارسال اعلان‌های هوشمند اشاره کرد؛ برای مثال زمانی که کالایی که کاربر پس از چند روز جست‌وجو در نظر داشت، دوباره موجود شود یا با تخفیف عرضه گردد.

استاین در پایان گفت: «گوگل اکنون در جنبه‌های مختلف زندگی روزمره شما می‌تواند مفید ظاهر شود و من فکر می‌کنم این دقیقاً همان آینده جست‌وجو است؛ نه یک ویژگی خاص و نه یک محصول مشخص، بلکه مجموعه‌ای از قابلیت‌ها که تجربه‌ای یکپارچه و شخصی‌سازی‌شده را ارائه می‌دهند.»