متابعة – أمل علوي
هذه ليست أول محاولة السناتور في ولاية كاليفورنيا سكوت وينر لمعالجة مخاطر الذكاء الاصطناعي.
في عام 2024 ، قام وادي السيليكون بتركيب حملة شرسة ضد مشروع قانون السلامة المثير للجدل ، SB 1047 ، والذي كان من شأنه أن يجعل شركات التكنولوجيا مسؤولة عن الأضرار المحتملة لأنظمة الذكاء الاصطناعي. حذر قادة التكنولوجيا من أنها ستخنق طفرة منظمة العفو الدولية الأمريكية. في نهاية المطاف ، قام الحاكم غافن نيوزوم بحق مشروع القانون ، مرددًا مخاوف مماثلة ، وبيت هاكر شهير على الفور رمي “SB 1047 Veto Party.” أخبرني أحد الحاضرين ، “الحمد لله ، منظمة العفو الدولية لا تزال قانونية”.
عاد الآن Wiener مع فاتورة سلامة منظمة العفو الدولية الجديدة ، SB 53 ، والتي تقع على مكتب المحافظ Newsom في انتظار توقيعه أو حق النقض في وقت ما في الأسابيع القليلة المقبلة. هذه المرة ، يكون الفاتورة أكثر شعبية أو على الأقل ، لا يبدو أن وادي السيليكون في حالة حرب معها.
أيد الأنثروبور الصريح SB 53 في وقت سابق من هذا الشهر. يخبر المتحدث باسم Meta Jim Cullinan TechCrunch أن الشركة تدعم لائحة الذكاء الاصطناعى التي توازن بين الدرابزين مع الابتكار وتقول “SB 53 هي خطوة في هذا الاتجاه” ، على الرغم من وجود مجالات للتحسين.
يخبر مستشار سياسة البيت الأبيض السابق ، Dean Ball ، TechCrunch أن SB 53 هو “انتصار لأصوات معقولة” ، ويعتقد أن هناك فرصة قوية للحاكم الأخبار.
إذا تم توقيعه ، فإن SB 53 سيفرض بعضًا من متطلبات الإبلاغ الأولى في البلاد على عمالقة الذكاء الاصطناعى مثل Openai و Anthropic و Xai و Google – لا تواجه اليوم أي التزام بالكشف عن كيفية اختبار أنظمة الذكاء الاصطناعي الخاصة بهم. تنشر العديد من مختبرات AI طواعية تقارير السلامة التي تشرح كيفية استخدام نماذج الذكاء الاصطناعى لإنشاء الأسلحة الحيوية والمخاطر الأخرى ، لكنهم يفعلون ذلك في الإرادة وهم ليسوا دائمًا متسقين.
ال فاتورة يتطلب قيادة مختبرات الذكاء الاصطناعي – وتحديدا أولئك الذين يحققون إيرادات أكثر من 500 مليون دولار – لنشر تقارير السلامة لنماذج الذكاء الاصطناعى الأكثر قدرة. يشبه إلى حد كبير SB 1047 ، يركز مشروع القانون على وجه التحديد على أسوأ أنواع مخاطر الذكاء الاصطناعي: قدرتها على المساهمة في الوفيات البشرية والهجمات الإلكترونية والأسلحة الكيميائية. تدرس الحاكم Newsom العديد من مشاريع القوانين الأخرى التي تتناول أنواعًا أخرى من مخاطر الذكاء الاصطناعي ، مثل تقنيات تحسين المشاركة لدى رفاق الذكاء الاصطناعي.
حدث TechCrunch
سان فرانسيسكو
|
27-29 أكتوبر ، 2025
تقوم SB 53 أيضًا بإنشاء قنوات محمية للموظفين العاملين في AI Labs للإبلاغ عن مخاوف تتعلق بالسلامة للمسؤولين الحكوميين ، وتأسيس مجموعة الحوسبة السحابية التي تديرها الدولة ، Calcompute ، لتوفير موارد بحثية من الذكاء الاصطناعى إلى ما وراء شركات التكنولوجيا الكبرى.
أحد الأسباب التي تجعل SB 53 قد يكون أكثر شعبية من SB 1047 هو أنه أقل حدة. SB 1047 كان من شأنه أن يجعل شركات الذكاء الاصطناعى مسؤولة عن أي ضرر ناتج عن نماذج الذكاء الاصطناعى ، في حين يركز SB 53 أكثر على طلب الإبلاغ عن الذات والشفافية. ينطبق SB 53 أيضًا بشكل ضيق على أكبر شركات التكنولوجيا في العالم ، بدلاً من الشركات الناشئة.
لكن الكثيرين في صناعة التكنولوجيا ما زالوا يعتقدون أن الدول يجب أن تترك لائحة الذكاء الاصطناعى إلى الحكومة الفيدرالية. في رسالة حديثة بالنسبة إلى المحافظ Newsom ، جادل Openai بأن مختبرات الذكاء الاصطناعى يجب أن تضطر فقط للامتثال للمعايير الفيدرالية – وهذا أمر مضحك أن أقول لمنصب حاكم الولاية. كتبت شركة المشروع أندريسن هورويتز حديثًا منشور المدونة تشير بشكل غامض إلى أن بعض مشاريع القوانين في كاليفورنيا يمكن أن تنتهك شرط التجارة النائم للدستور ، والذي يحظر على الدول أن يحد من التجارة بين الولايات بشكل غير عادل.
يتناول السناتور وينر هذه المخاوف: إنه يفتقر إلى الإيمان بالحكومة الفيدرالية لتمرير لائحة سلامة الذكاء الاصطناعي ذات معنى ، لذلك تحتاج الولايات إلى التقدم. في الواقع ، يعتقد Wiener أن إدارة ترامب قد تم القبض عليها من قبل صناعة التكنولوجيا ، وأن الجهود الفيدرالية الأخيرة لمنع جميع قوانين الذكاء الاصطناعى في الولاية هي شكل من أشكال ترامب “مكافأة الممولين له”.
اتخذت إدارة ترامب تحولًا ملحوظًا عن تركيز إدارة بايدن على سلامة الذكاء الاصطناعي ، واستبدلتها بالتركيز على النمو. بعد فترة وجيزة من تولي منصبه ، ظهر نائب الرئيس JD Vance في مؤتمر الذكاء الاصطناعي في باريس وقال: “أنا لست هنا هذا الصباح للحديث عن سلامة الذكاء الاصطناعي ، الذي كان لقب المؤتمر قبل عامين. أنا هنا للحديث عن فرصة الذكاء الاصطناعي.”
أشاد Silicon Valley بهذا التحول ، الذي تمثله خطة عمل Trump AI ، التي أزالت الحواجز التي تحول دون بناء البنية التحتية اللازمة لتدريب نماذج الذكاء الاصطناعي وخدمتها. اليوم ، شوهد المديرون التنفيذيون الكبار بانتظام تناول الطعام في البيت الأبيض أو الإعلان مراكز بيانات المائة مليار دولار إلى جانب الرئيس ترامب.
يعتقد السناتور وينر أنه من الأهمية بمكان أن تقود كاليفورنيا الأمة على سلامة الذكاء الاصطناعي ، ولكن دون اختناق الابتكار.
قابلت السناتور وينر مؤخرًا لمناقشة سنواته على طاولة التفاوض مع وادي السيليكون ولماذا يركز على فواتير سلامة الذكاء الاصطناعي. تم تحرير حديثنا بخفة من أجل الوضوح والإيجاز. أسئلتي في جريئة ، وإجاباته ليست كذلك.
ماكسويل زيف: السناتور وينر ، قابلتك عندما كان SB 1047 يجلس على مكتب حاكم Newsom. تحدث معي عن الرحلة التي كنت فيها لتنظيم سلامة الذكاء الاصطناعي في السنوات القليلة الماضية.
Scott Wiener: لقد كانت السفينة الدوارة ، تجربة تعليمية لا تصدق ، ومجزية حقًا. لقد تمكنا من المساعدة في رفع هذه المشكلة (من سلامة الذكاء الاصطناعي) ، ليس فقط في كاليفورنيا ، ولكن في الخطاب الوطني والدولي.
لدينا هذه التكنولوجيا الجديدة القوية بشكل لا يصدق والتي تغير العالم. كيف نتأكد من أنه يفيد الإنسانية بطريقة نقود فيها المخاطر؟ كيف نعزز الابتكار ، بينما ندرك أيضًا الصحة العامة والسلامة العامة. إنها محادثة مهمة – وفي بعض النواحي الوجودية – حول المستقبل. ساعد SB 1047 ، والآن SB 53 ، في تعزيز تلك المحادثة حول الابتكار الآمن.
في السنوات العشرين الماضية من التكنولوجيا ، ما الذي تعلمته حول أهمية القوانين التي يمكن أن تمثل وادي السيليكون في الاعتبار؟
أنا الرجل الذي يمثل سان فرانسيسكو ، قلب ابتكار الذكاء الاصطناعي. أنا مباشرة شمال وادي السيليكون نفسه ، لذلك نحن هنا في منتصف كل شيء. لكننا رأينا أيضًا كيف تمكنت شركات التكنولوجيا الكبيرة – بعض من أغنى الشركات في تاريخ العالم – من إيقاف التنظيم الفيدرالي.
في كل مرة أرى أن المديرين التنفيذيين للتكنولوجيا يتناولون العشاء في البيت الأبيض مع الديكتاتور الفاشي الطموح ، يجب أن أتنفس عميقًا. هؤلاء كلهم أشخاص رائعون حقًا ولدوا ثروة هائلة. الكثير من الناس الذين أمثلهم من أجلهم. إنه يؤلمني حقًا عندما أرى الصفقات التي يتم إبرامها بالمملكة العربية السعودية والإمارات العربية المتحدة ، وكيف هذه المال يتم تحويله إلى عملة ميمي ترامب. يسبب لي قلقًا عميقًا.
أنا لست شخصًا مضادًا للتكنولوجيا. أريد أن يحدث ابتكار التكنولوجيا. إنه أمر مهم للغاية. ولكن هذه صناعة لا ينبغي لنا أن نثق بها لتنظيم نفسها أو تقديم التزامات طوعية. وهذا لا يلقي التطلعات على أي شخص. هذه هي الرأسمالية ، ويمكن أن تخلق ازدهارًا هائلاً ولكنها تسبب أيضًا ضررًا إذا لم تكن هناك لوائح معقولة لحماية المصلحة العامة. عندما يتعلق الأمر بسلامة الذكاء الاصطناعي ، فإننا نحاول ربط تلك الإبرة.
يركز SB 53 على أسوأ الأضرار التي يمكن أن تسببها الذكاء الاصطناعي – الموت ، والهجمات الإلكترونية الضخمة ، وإنشاء الأسلحة الحيوية. لماذا التركيز هناك؟
تتنوع مخاطر الذكاء الاصطناعي. هناك تمييز خوارزمي ، وفقدان الوظيفة ، والمزيفة العميقة ، والاحتيال. كانت هناك فواتير مختلفة في كاليفورنيا وأماكن أخرى لمعالجة هذه المخاطر. لم يكن المقصود من SB 53 تغطية الحقل ومعالجة كل مخاطر أنشأها الذكاء الاصطناعي. نحن نركز على فئة واحدة محددة من المخاطر ، من حيث المخاطر الكارثية.
جاءت هذه القضية لي عضويا من الناس في مساحة الذكاء الاصطناعى في سان فرانسيسكو – مؤسسو الشركات الناشئة ، وفني الذكاء الاصطناعي ، والأشخاص الذين يبنون هذه النماذج. جاءوا إلي وقالوا: “هذه قضية يجب معالجتها بطريقة مدروسة”.
هل تشعر أن أنظمة الذكاء الاصطناعى غير آمنة بطبيعتها ، أو لديها القدرة على التسبب في الموت والهجمات الإلكترونية الضخمة؟
لا أعتقد أنها آمنة بطبيعتها. أعلم أن هناك الكثير من الأشخاص الذين يعملون في هذه المختبرات الذين يهتمون بعمق بمحاولة تخفيف المخاطر. ومرة أخرى ، لا يتعلق الأمر بالتخلص من المخاطر. الحياة تدور حول المخاطرة ، إلا إذا كنت ستعيش في الطابق السفلي الخاص بك ولا تغادر أبدًا ، فستواجه خطرًا في حياتك. حتى في الطابق السفلي الخاص بك ، قد يسقط السقف.
هل هناك خطر من استخدام بعض نماذج الذكاء الاصطناعى لإلحاق ضرر كبير بالمجتمع؟ نعم ، ونحن نعلم أن هناك أشخاصًا يحبون القيام بذلك. يجب أن نحاول أن نجعل من الصعب على الجهات الفاعلة السيئة أن تتسبب في هذه الأضرار الشديدة ، وكذلك يجب على الأشخاص الذين يطورون هذه النماذج.
أصدرت الأنثروبور دعمها لـ SB 53. ما هي محادثاتك مع اللاعبين الآخرين في الصناعة؟
لقد تحدثنا إلى الجميع: الشركات الكبيرة والشركات الناشئة الصغيرة والمستثمرين والأكاديميين. لقد كان الإنسان بناءً حقًا. في العام الماضي ، لم يدعمهم أبدًا (SB 1047) ، لكن لديهم أشياء إيجابية يمكن أن يقولوها حول جوانب الفاتورة. لا أعتقد (أنثروبور} يحب كل جانب من جوانب SB 53 ، لكنني أعتقد أنهم خلصوا إلى أن الفاتورة كانت تستحق الدعم.
لقد أجريت محادثات مع مختبرات منظمة العفو الدولية الكبيرة التي لا تدعم الفاتورة ، ولكنها ليست في حالة حرب معها بالطريقة التي كانت بها مع SB 1047. هذا ليس مفاجئًا. كان SB 1047 أكثر من فاتورة المسؤولية ، SB 53 هو أكثر من فاتورة شفافية. كانت الشركات الناشئة أقل انخراطًا هذا العام لأن مشروع القانون يركز حقًا على أكبر الشركات.
هل تشعر بالضغط من AI PACs الكبيرة التي تشكلت في الأشهر الأخيرة؟
هذا هو أحد أعراض المواطنين المتحدة. يمكن لأغنى الشركات في العالم صب الموارد التي لا نهاية لها في هذه PACs لمحاولة تخويف المسؤولين المنتخبين. بموجب القواعد لدينا ، لديهم كل الحق في القيام بذلك. لم يؤثر أبدًا على كيفية تعامل مع السياسة. كانت هناك مجموعات تحاول تدميرني طالما كنت في منصبه المنتخب. أمضت مجموعات مختلفة الملايين في محاولة لتفجيرني ، وهنا أنا كذلك. أنا في هذا لأفعل بشكل صحيح من خلال ناخبي وأحاول جعل مجتمعي ، سان فرانسيسكو ، والعالم مكانًا أفضل.
ما هي رسالتك إلى الحاكم Newsom أثناء مناقشة ما إذا كان سيوقع أو حق النقض ضد هذا القانون؟
رسالتي هي أننا سمعنا. لقد قمت بنقل النفسية SB 1047 وقدمت رسالة نقض شاملة ومدروسة للغاية. لقد عقدت بحكمة مجموعة عمل أنتجت تقريرًا قويًا للغاية ، وقد نظرنا حقًا إلى هذا التقرير في صياغة هذا الفاتورة. وضع الحاكم طريقًا ، وتابعنا هذا المسار من أجل التوصل إلى اتفاق ، وآمل أن وصلنا إلى هناك.
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
