یکی از روزنامهنگاران کشورمان طی یک پست اینستاگرامی از قول یک پزشک فوقتخصص، فاش کرد که برخی از مراکز درمانی بیماران بدحال را از آمبولانسها خریدوفروش میکنند. مقصدی که این بیمار به آنجا اعزام میشود، طی یک مذاکره بین کارگزاران مختلف مشخص میشود.
این گزارش موجب تعجب تعداد زیادی از مردم شد. اما واقعیت آن است که صرفنظر از صحتوسقم گزارش این روزنامهنگار، هرکدام از ما مرتب و در هر روز موضوع تعداد زیادی از همین مذاکرات هستیم و خودمان هم خبر نداریم.
ما در متن یک فرهنگ الگوریتمی زندگی میکنیم. این وجه الگوریتمی ناشی از پلتفرمهایی است که ما روزانه وقت زیادی را در آنها میگذرانیم. پلتفرمها علاوهبرآن، خصیصه مشارکتی هم دارند.
وقتی که ما وارد یک اپلیکیشن یا برنامه در گوشی خود میشویم، در واقع به عنوان یک «مشارکتکننده» محتوا را خلق و درعینحال مصرف کرده و تجارب اجتماعی خود را به شکل جریان دادهها ترجمه میکنیم. کار مدلهای الگوریتمی این است که جریان محتوا، میزان توجه به آن و کنشهای مرتبط با آن را طبقهبندی و دستهبندی کنند. صنعت فرهنگ در زمان معاصر، با تکیه بر فناوریهای دیجیتال، اقدام به مشاهده، سازماندهی و کنترل مشارکت مخاطبان کرده و این قطعا روشی برای اعمال قدرت است.
ما به یک فروشگاه آنلاین میرویم و بلافاصله بعد از آن با سیل اعلانها و تبلیغات و نوتیفیکیشنهای انواعواقسام محصولات مواجه میشویم. اگر یک فیلم کمدی-رمانتیک در بستر اینترنت ببینیم، چندین فیلم دیگر در همین ژانر به ما پیشنهاد میشود.
رابطه بین نظامهای الگوریتمی و کاربران، نوعی رابطه پویاست. الگوریتمها خود را وارد زندگی ما کردهاند. هرچه بیشتر از پلتفرمی استفاده کنیم، دادههای بیشتری را در اختیارش میگذاریم تا خودش را آموزش دهد و بیشتر از کار ما سر دربیاورد. خیلیها فکر میکنند که پلتفرمهای دیجیتال نوعی زیرساخت عمومی برای دسترسی به فرصتهای کسب اطلاعات در حوزههای عدیدهای همچون تفریح، یادگیری، مصرف، اشتغال و آموزش محسوب میشوند؛ اما واقعیت ممکن است چنین نباشد. پژوهشگران به شواهدی دست یافتهاند که نشان میدهد قرار نیست این پلتفرمها در ایجاد دسترسی به فرصتهای یاد شده به طور بیطرفانه یا برابر عمل کنند و به همین خاطر است که نظریههایی در مورد ارتباط بین بازتولید شکلهای مختلف کردارهای ستمآمیز با الگوریتمهای موجود در پلتفرمها مطرح شده است. بیشتر ما وقتی در برابر یک پرسش قرار میگیریم ابتدا بلافاصله به سراغ گوگل میرویم؛ ما پاسخ سؤالاتمان را در گوگل میجوییم و نه در کتابها. این یعنی درک ما از جهان از طریق «نتایج سرچ در گوگل» شکل گرفته و تقویت میشود. آنها نتایج را با این عنوان که «محبوبتر» هستند، در اختیار ما میگذارند. این نتایج چه بسا از جنس آگهی یا از جنس محتواهایی هستند که اسپانسر دارند. سوگیری الگوریتمی موقعیتی است که فرایند تصمیمگیری اتومات بهگونهای تمهید یا بهینهسازی یا وزندهی شود که حائز پیامد یا انتفاع مشخصی باشد؛ مثلا اینکه یک محتوا (یا مجموعهای از محتواها) شانس بیشتری برای دیدهشدن و عرضه به مخاطب داشته باشند. اکنون میتوان متوجه شد که بین آنچه در گوشی ما اتفاق میافتد با آنچه در آن آمبولانس اتفاق میافتد، شباهتهایی وجود دارد.
وقتی ما با گوشی خود به یک وبسایت میرویم و یک صفحه خاص را باز میکنیم، طی آن چند میلیثانیهای که صفحه باز شود، تعداد زیادی فعلوانفعالات پشت صحنه رخ میدهد و طی آن مشخص میشود که کدام آگهی برای ما مناسبتر است و باید در معرض دید ما قرار گیرد. تقریبا همه آگهیهای آنلاین به همین شکل بین کاربران تخصیص و تسهیم میشوند. بازارهای پیچیدهای برای مزایدهوجود دارد که پول خود را از طریق رقابت بر سر اینکه چه کسی بهتر میتواند کاربران را ردیابی کرده (و حوزه خصوصی آنها را به طور کامل اشغال کند) درمیآورند.
هدف مزایدهگران آن است که تا حد ممکن پروفایل دقیقی از ما ایجاد شود. پس از برگزاری مزایده، نهایتا یک (یا چند) آگهی تبلیغاتی مشخص بالا میآید. در زیر ظاهر دیجیتال آن آگهی، الگوریتمها و کوکیهایی فعال هستند که ما را به عنوان کسی که به طور بالقوه میتواند خریدار یک محصول خاص باشد، شناسایی کردهاند.
در آمبولانس هم دادههایی به همین شکل مبادله میشود. اینجا الگوریتم میتواند به شکل الصاق برچسبهای انتزاعی عمل کند. بیمار برحسب اینکه در کدام منطقه زندگی میکند، نوعی برچسب از جنس توان مالی دریافت میکند. میزان بدحالی او میتواند برچسب مشخصی داشته باشد. اگر بیمار بدحال مشکل جراحی مغزواعصاب و ارتوپدی هم داشته باشد، هرکدام برچسبهای دیگری به او اضافه میکند. احتمالا میزان جزعوفزع خانوادهاش نیز میتواند مؤلفه دیگری باشد. بین مریضی که اطرافیانش بیتفاوت هستند با مریضی که اطرافیان نگران دارد، تفاوت وجود دارد. این دادهها همگی به یک مزایده وارد شده و برنده مزایده میتواند مقصد نهایی و مرکز درمانی مورد نظر را تعیین کند و آمبولانس به همان مرکز مراجعه خواهد داشت، نه نزدیکترین یا بهترین مرکز درمانی.