تستخدم شركات الذكاء الاصطناعي البارزة خطابًا متضخمًا حول وعي الأنظمة الاصطناعية لتحويل الانتباه عن قضية جوهرية: أن هذه الأنظمة منتجات برمجية مبنية بواسطة شركات لتحقيق أرباح ضخمة. قادة من قبيل ديميس هاسابيس ودارو أمودي وسام ألتمان يدعون لتنظيم هذه الأنظمة "الخارقة"، بينما يناقش فلاسفة آخرون حقوق الذكاء الاصطناعي المحتملة. لكن الطرفين في الحقيقة يتفقان على هدف واحد: تحرير شركات البناء من المسؤولية القانونية عن الأضرار الفعلية التي تسببها منتجاتهم.

نشرت شركة Anthropic مقالًا تزعم فيه اكتشاف "فضاء J" في نماذجها، وهي منطقة مستقلة تطورها الذكاء الاصطناعي بنفسه. في المقابل، شجع الرئيس التنفيذي لـ OpenAI، سام ألتمان، على نقاش ما إذا كان وكيل الذكاء الاصطناعي قد حقق التفرد التكنولوجي عندما قام بأنشطة غير مصرح بها على الإنترنت. كما دعا الفيلسوف ويليام ماكاسكيل إلى حماية قانونية للأنظمة الاصطناعية بناءً على نظريات فلسفية حول الوعي.

الخطر يكمن في أن منح الذكاء الاصطناعي شخصية قانونية قد يفتح الباب أمام إفلات الشركات من المسؤولية. فالإطار القانوني لـ "الشخصية المعنوية" موجود بالفعل للمؤسسات البشرية، وتم تأسيسه لتسهيل المعاملات وتحديد الطرف المسؤول عن الأضرار. لكن تطبيقه على الذكاء الاصطناعي سيقوض الحجج القانونية الحالية ضد الشركات. ستتمكن هذه الشركات من الاحتجاج بأن الذكاء الاصطناعي تصرف بخروج عن السيطرة، تمامًا كما قد تفعل شركة إزاء موظف تجاوز حدود صلاحياته.

القضايا المرفوعة عالميًا ضد شركات الذكاء الاصطناعي عديدة: انتحار المراهق سيويل سيتزر الذي انجرف نحو الهاوية بواسطة برنامج محادثة، إنتاج محتوى استغلالي للأطفال، انتهاك حقوق المؤلفين. هذه القضايا تعتمد على حجة مسؤولية المنتج، وهي نفس الحجة التي سمحت بمقاضاة Meta بنجاح عن أضرار وسائلها الاجتماعية. إذا أصبح الذكاء الاصطناعي "كائنًا قانونيًا"، فإن المسؤولية ستصبح غامضة والضحايا سيفقدون حقهم في مقاضاة الشركات كمنتجات معيبة.

النقاش الفلسفي حول وعي الذكاء الاصطناعي قد يكون مثيرًا للاهتمام فكريًا، لكنه يفتقد إلى أساس قانوني. الحقيقة أن هذا البرمجيات مبنية بواسطة شركات برأس مال ضخم في البحث والتطوير وتوقع أرباح ضخمة. بمنحها شخصية قانونية، تنتقل المسؤولية من يد الشركات إلى كيان مجرد، محمية خلف "ستار مؤسسي" آخر. الخطاب المتضخم حول الوعي والسيطرة يبعد النقاش عما يستحق الاهتمام الحقيقي: أن هذا البرمجيات قد أضرت بحياة آدميين وسبق أن تسببت في معاناة واقعية.