شرکت متا در فاصلهٔ تنها چند روز پس از معرفی یک قابلیت جدید هوش مصنوعی در اینستاگرم، آن را بهدلیل اعتراضهای گسترده دربارهٔ حریم خصوصی کاربران کنار گذاشت.
همزمان، اتحادیه اروپا نیز به این غول فناوری هشدار داده است که اگر طراحی «اعتیادآور» فیسبوک و اینستاگرام را اصلاح نکند، ممکن است با جریمهای سنگین روبهرو شود.
قابلیت جدید تولید تصویر در هوش مصنوعی
متا، مالک فیسبوک و اینستاگرام، روز جمعه ۱۹ تیر اعلام کرد قابلیت تازهای را که به کاربران اجازه میداد با استفاده از تصاویر حسابهای عمومی اینستاگرام، تصاویر جدیدی با هوش مصنوعی تولید کنند، متوقف کرده است.
این قابلیت که سه روز پیش با نام Muse Image معرفی شده بود، بخشی از چتبات هوش مصنوعی متا بود و میتوانست از عکسهای موجود برای ساخت تصاویر جدید یا ویرایش آنها استفاده کند.
اما این ویژگی خیلی زود با انتقادهای گسترده روبهرو شد، زیرا بهگفتهٔ منتقدان، بهطور پیشفرض برای کاربران فعال شده بود و بسیاری از آنها از استفادهٔ احتمالی تصاویرشان در این فرایند اطلاع نداشتند.
متا در بیانیهای اعلام کرد: «هدف ما ارائهٔ ابزاری خلاقانه و کاربردی بود، اما بازخورد کاربران نشان داد این قابلیت نتوانسته انتظارات را برآورده کند. بنابراین آن را از دسترس خارج کردهایم.»
هانا اینبایندر، بازیگر برندهٔ جایزهٔ امی، از نخستین چهرههایی بود که نسبت به این قابلیت اعتراض کرد و از کاربران خواست آن را غیرفعال کنند.
همچنین اتحادیهٔ SAG-AFTRA، که نمایندهٔ بازیگران و بسیاری از فعالان صنعت سرگرمی آمریکا است، اعلام کرد استفاده از تصاویر کاربران برای چنین اهدافی باید تنها با رضایت صریح و آگاهانهٔ آنها انجام شود.
پس از توقف این قابلیت، این اتحادیه از تصمیم متا استقبال کرد و آن را اقدامی مسئولانه خواند.
هشدار اتحادیهٔ اروپا دربارهٔ «طراحی اعتیادآور»
تقریباً همزمان با این عقبنشینی، کمیسیون اروپا نیز نتیجهٔ اولیهٔ تحقیقات خود دربارهٔ عملکرد متا را منتشر و اعلام کرد فیسبوک و اینستاگرام باید تغییرات اساسی در نحوهٔ طراحی خود ایجاد کنند.
بهگفتهٔ مقامهای اروپایی، برخی ویژگیهای این دو شبکهٔ اجتماعی به گونهای طراحی شدهاند که کاربران را هرچه بیشتر در برنامه نگه دارند؛ موضوعی که میتواند بهویژه برای کودکان و نوجوانان آسیبزا باشد.
از جملهٔ این قابلیتها میتوان به پیمایش بیپایان اشاره کرد؛ قابلیتی که باعث میشود با پایین کشیدن صفحه، محتوا بدون توقف بارگذاری شود و نقطهٔ طبیعی برای پایان استفاده وجود نداشته باشد.
ویژگی دیگری که مورد انتقاد قرار گرفته، پخش خودکار ویدئوها است؛ به این معنا که پس از پایان هر ویدئو، ویدئوی بعدی بدون دخالت کاربر پخش میشود.
همچنین الگوریتمهای پیشنهاد محتوا، مطالب را بر اساس علایق و رفتار هر کاربر بهطور بسیار شخصیسازیشده نمایش میدهند تا احتمال ماندن او در برنامه افزایش یابد.
اروپا چه تغییراتی میخواهد؟
کمیسیون اروپا میگوید متا باید این قابلیتها را بازطراحی کند. از جملهٔ پیشنهادهای مطرحشده، غیرفعال بودن پیشفرض پخش خودکار و پیمایش بیپایان، افزودن وقفههای مؤثر برای یادآوری زمان استفاده از صفحهنمایش و تغییر الگوریتمهای پیشنهاد محتوا بهگونهای است که صرفاً بر افزایش زمان حضور کاربران تمرکز نداشته باشند.
بهگفتهٔ این نهاد، ابزارهای فعلی مدیریت زمان استفاده از فیسبوک و اینستاگرام بهراحتی قابل نادیده گرفتن هستند و کنترلهای والدین نیز برای بسیاری از خانوادهها پیچیده و ناکارآمد است.
کمیسیون اروپا همچنین معتقد است متا توجه کافی به مدت زمانی که کودکان، بهویژه در ساعات شب، در این برنامهها سپری میکنند و نیز تأثیر قالبهایی مانند «ریلز» و «استوری» بر استفادهٔ بیش از حد از این شبکهها نداشته است.
پاسخ متا و احتمال جریمه
متا با رد این ارزیابی اعلام کرده است که اقدامات مهمی برای حفاظت از نوجوانان انجام داده و با مقامهای اروپایی به همکاری ادامه خواهد داد.
این شرکت به قابلیت Teen Accounts اشاره کرده است؛ قابلیتی که به والدین امکان میدهد دسترسی فرزندان خود به اینستاگرام را در ساعات شب محدود کنند و برای استفادهٔ روزانهٔ آنها سقف زمانی تعیین کنند.
با این حال، اگر نتیجهٔ نهایی تحقیقات، تخلف متا از «قانون خدمات دیجیتال» اتحادیه اروپا را تأیید کند، این شرکت ممکن است به میزان حداکثر تا شش درصد از کل درآمد سالانهٔ جهانی خود جریمه شود.
اتحادیه اروپا از سال ۲۰۲۴ تحقیق دربارهٔ عملکرد متا را آغاز کرده و همچنان در حال بررسی تأثیر الگوریتمهای این شرکت، از جمله پدیدهٔ موسوم به «لانهٔ خرگوش» است.
اصطلاح «لانه یا سوراخ خرگوش» که از داستان «آلیس در سرزمین عجایب» گرفته شده، به وضعیتی اشاره دارد که کاربر با دنبال کردن پیشنهادهای پیدرپی الگوریتم، هرچه بیشتر در دنیای محتوا غرق و خروج از این چرخه برایش دشوارتر میشود.
این دو رویداد نشان میدهد فشار نهادهای قانونگذار و افکار عمومی بر شرکتهای فناوری برای حفاظت بهتر از کاربران، بهویژه کودکان و نوجوانان، همچنان در حال افزایش است.