يأمل صانعو السياسة في الولايات المتحدة في مطالبة المنصات عبر الإنترنت بالكشف عن معلومات حول الخوارزميات الخاصة بهم والسماح للحكومة بالتدخل إذا ثبت أنها تميز على أساس معايير مثل العرق أو الجنس.
أعاد السناتور إدوارد ماركي (نائب عن ولاية ماساتشوستس) والنائبة دوريس ماتسوي (عن ولاية كاليفورنيا) تقديم قانون العدالة الخوارزمية وشفافية المنصات عبر الإنترنت ، والذي يهدف إلى حظر استخدام صنع القرار الآلي التمييزي أو "الضار". كما أنه سيضع معايير أمان ، ويطلب من المنصات تقديم شرح بلغة واضحة للخوارزميات المستخدمة من قبل مواقع الويب ، ونشر تقارير سنوية عن ممارسات الإشراف على المحتوى ، وإنشاء فريق عمل حكومي للتحقيق في العمليات الحسابية التمييزية، وفقا لتقرير theverge.
وينطبق مشروع القانون على "المنصات عبر الإنترنت" أو أي موقع ويب تجاري أو تطبيق يواجه الجمهور "يوفر منتدى مجتمعيًا للمحتوى الذي ينشئه المستخدمون ، ويمكن أن يشمل ذلك مواقع الوسائط الاجتماعية أو خدمات تجميع المحتوى أو مواقع مشاركة الوسائط والملفات.
وقدم ماركي وماتسوي نسخة سابقة من مشروع القانون في عام 2021، وانتقلت إلى اللجنة الفرعية لحماية المستهلك والتجارة لكنها ماتت في اللجنة.
وغالبًا ما تعيش عملية صنع القرار المستندة إلى البيانات ، بما في ذلك خوارزميات توصية وسائل التواصل الاجتماعي أو أنظمة التعلم الآلي ، في صناديق سوداء يضرب بها المثل. يوجد هذا التعتيم أحيانًا بسبب مخاوف الملكية الفكرية أو تعقيد النظام.
لكن المشرعين والمنظمين قلقون من أن هذا قد يحجب اتخاذ قرارات متحيزة مع تأثير كبير على حياة الناس ، بعيدًا عن متناول المنصات عبر الإنترنت التي يغطيها القانون. شركات التأمين ، بما في ذلك تلك التي تعمل مع مرضى ميديكيد ، تستخدم بالفعل خوارزميات لمنح أو رفض تغطية المريض. أشارت وكالات مثل FTC في عام 2021 إلى أنها قد تتخذ إجراءات قانونية ضد الخوارزميات المتحيزة.
نمت الدعوات لجعل الخوارزميات أكثر شفافية على مر السنين بعد العديد من الفضائح في عام 2018 - والتي تضمنت كارثة Cambridge Analytica - وجدت مجموعة أبحاث الذكاء الاصطناعي AI Now أن الحكومات والشركات ليس لديها طريقة لمعاقبة المنظمات التي تنتج أنظمة تمييزية. في خطوة نادرة ، أعلن Facebook و Instagram عن تشكيل مجموعة لدراسة التحيز العنصري المحتمل في خوارزمياتها .
وتتضمن معظم اللوائح المقترحة حول الذكاء الاصطناعي والخوارزميات دفعة لخلق المزيد من الشفافية. كما أشار قانون الذكاء الاصطناعي الذي اقترحه الاتحاد الأوروبي ، في المراحل النهائية من التفاوض ، إلى أهمية الشفافية والمساءلة.