حذر المسؤولون الأمريكيون، الشركات المالية وغيرها من أن استخدام الذكاء الاصطناعي يمكن أن يزيد من خطر التحيز وانتهاكات الحقوق المدنية، وأشاروا إلى أنهم يراقبون الأسواق لمثل هذا التمييز.
وقال رؤساء مكتب حماية المستهلك المالي، ووحدة الحقوق المدنية بوزارة العدل، ولجنة التجارة الفيدرالية وغيرهم، إن الاعتماد المتزايد على الأنظمة الآلية في قطاعات تشمل الإقراض والتوظيف والإسكان يهدد بتفاقم التمييز على أساس العرق والإعاقة وعوامل أخرى.
ودفعت الشعبية المتزايدة لأدوات الذكاء الاصطناعي، بما في ذلك ChatGPT المدعومة من شركة Microsoft ، المنظمين الأمريكيين والأوروبيين إلى زيادة التدقيق في استخدامها، ودفعت دعوات لسن قوانين جديدة لكبح جماح التكنولوجيا.
وقالت لينا خان، رئيسة لجنة التجارة الفيدرالية، للصحفيين: "يجب ألا تكون ادعاءات الابتكار غطاءً لخرق القانون"، وقال روهيت شوبرا ، مدير مكتب حماية المستهلك المالية، إن مكتب حماية المستهلك المالي يحاول الوصول إلى المبلغين عن المخالفات في قطاع التكنولوجيا لتحديد أين تتعارض التقنيات الجديدة مع قوانين الحقوق المدنية.
وفي مجال التمويل ، يتعين على الشركات قانونًا شرح قرارات الائتمان السلبية. قال تشوبرا إنه إذا لم تفهم الشركات حتى أسباب القرارات التي يتخذها الذكاء الاصطناعي ، فلا يمكنها استخدامها بشكل قانوني، وقال تشوبرا: "ما نتحدث عنه هنا غالبًا هو استخدام كميات هائلة من البيانات وتطوير الارتباطات والتحليلات الأخرى لإنشاء المحتوى واتخاذ القرارات"، "ما نقوله هنا هو أن لديك مسؤولية تجاه تلك القرارات."