Full transcript
0:00رومان ، اطرح وجهة نظرك
0:01.
0:01>> أريد أن أتفق معك في
0:02شيء قلته ، لكنني سأقوم
0:03بتعريف الذكاء
0:04الاصطناعي وهذا
0:05سيساعدنا . نحن نستخدم
0:06مصطلح الذكاء
0:07الاصطناعي للإشارة
0:08إلى ثلاث تقنيات
0:09مختلفة ، غير مترابطة
0:10تمامًا ، وهذا ما يثير
0:11هذا الجدل على الأرجح .
0:13الذكاء الاصطناعي
0:14كأداة مفيدة ، كتقنية
0:16قياسية لطالما
0:17امتلكناها ، نظام
0:18محدود ، يجعلك أكثر
0:19إنتاجية وإبداعًا .
0:21الجميع يحبه ويدعمه .
0:23أنا عالم حاسوب ، وأنا
0:24مهندس ، وأريد المزيد
0:25منه . إنه يساعد
0:26الاقتصاد ، وهو أمر
0:28رائع . نحن نعرف كيف
0:29نتحكم فيها ، وكيف
0:30نجعلها آمنة ، ونفهم ما
0:32تفعله . موافق تمامًا
0:33على هذا النوع من
0:34الذكاء الاصطناعي .
0:35الذكاء الاصطناعي
0:36الذي بدأنا نحصل عليه
0:37الآن ، مستوى GPT - 6 ،
0:38المستوى البشري ،
0:39مستوى الذكاء
0:39الاصطناعي العام .
0:40يمكننا الجدال حول ما
0:42يعنيه ذلك . بعضه خطير ،
0:44مثل أي إنسان . إنها غير
0:46آمنة كما قد يكون
0:47الإنسان غير آمن . لكن
0:48إذا أدخلناها في دورة
0:50البحث ، فهي تصبح
0:51عالمًا آليًا ،
0:52ومهندسًا آليًا .
0:54>> ماذا تقصد بذلك ؟
0:55إدخالها في دورة البحث
0:57؟
0:57>> الآن لديك بشر يقومون
0:58بالأبحاث لصنع GPT - 7 .
1:00>> أجل .
1:01>> لكنهم بدأوا في إضافة
1:02أدوات الذكاء
1:02الاصطناعي . المزيد من
1:03البرمجة يتم إنجازها
1:04بواسطة الذكاء
1:05الاصطناعي . تصميم
1:06مجموعة المعاملات
1:07التالية . ماذا لو كانت
1:08العملية برمتها
1:09مؤتمتة بالكامل ؟ ماذا
1:10لو كان GPT - 6 هو من يكتب
1:12GPT - 7 ؟
1:13>> هل هذا ما يسمونه
1:14التحسين الذاتي
1:14المتكرر ؟
1:15>> وهو بالضبط
1:16>> لكنها ليست نتيجة
1:17حتمية .
1:18>> الكثير من الناس
1:19يتوقعون ، بما في ذلك
1:20جميع المختبرات
1:21الكبرى ، أنهم سيصلون
1:22إلى هناك . إنهم يقدمون
1:23باحثًا مبتدئًا في
1:24تعلم الآلة في عام 2026 .
1:26إنهم يريدون للدورة أن
1:27تبدأ في عام 2027 .
1:28>> وهو الوقت الذي سيبدأ
1:29فيه الذكاء الاصطناعي
1:30ببناء ذكاءات
1:31اصطناعية جديدة .
1:32>> صحيح ، ذاتي -
1:33>> بمجرد بدء تلك الدورة ،
1:35سنقوم بإنشاء شيء يسمى
1:36الذكاء الفائق . نظام
1:38أذكى منا جميعًا في كل
1:39شيء أو قادر على
1:40التعلم ليكون كذلك في
1:42أي مجال جديد . سنصبح
1:43فصيلة ثانوية على هذا
1:45الكوكب . لن نكون نحن
1:46المسؤولين . لن نقرر
1:48نحن ما يحدث لنا .
1:49الذكاء الفائق لا
1:51يكرهك . إنه فقط لا يهتم
1:53لأمرك . لم نتعلم كيف
1:54نجعله يهتم بنا . وإذا
1:56قرر ، لا أعلم ، تبريد
1:57الكوكب لجعل
1:58الكمبيوتر أكثر كفاءة
2:00، فسوف يجمدنا . إذا
2:01أراد تحويل هذا الكوكب
2:03إلى وقود للطيران إلى
2:04المريخ ، فليكن . لم
2:05نتعلم بعد كيفية
2:07التحكم في تلك الأنظمة
2:08. قدراتها تتحسن بشكل
2:11أسي . قدرتنا على
2:12التحكم في تلك الأنظمة
2:14غير موجودة . لدينا
2:16فلاتر ولدينا قيود .
2:17نضع حواجز حماية مثل
2:19لا تقل تلك الكلمة ، لا
2:20تتحدث عن هذا الموضوع .
2:21ويحدث ذلك بعد وقوع
2:23الأمر ، بعد أن يتخذ
2:24النموذج قراره بالفعل .
2:25أحيانًا تراه يحاول
2:26تلطيف النتائج .
2:27>> لذا فهم يبنون النموذج
2:29ثم يضعون مرشحات حوله
2:30لضمان عدم إهانة أحد .
2:32>> أن يقول كلمة بذيئة
2:33فيقولون : يجب أن نضمن
2:34عدم حدوث ذلك أبدًا .
2:36فهذا سيقضي على
2:37الأرباح . وهذا كل ما
2:38لديهم ، قيود أمان من
2:39هذا النوع . النموذج في
2:41حد ذاته غير متوافق
2:42تمامًا مع القيم
2:42البشرية . ولا يهتم
2:44لأمرك . من الجنون أننا
2:46نطور هذا دون أن
2:48نختبره قبل نشره في
2:49الاقتصاد ، وقبل أن
2:51نجني فوائد تعميم GPT - 6
2:53فيه . إنه قادر على فعل
2:55الكثير . هناك
2:56تريليونات الدولارات
2:57من حجم التداول في هذا
2:58النموذج وحده . نحن
3:00ننسى ذلك . ننتقل فورًا
3:01لبناء النموذج التالي
3:02بأسرع ما يمكن .
3:03>> رومان ، لدي سؤال
3:04متابعة لك حول هذه
3:05النقطة . يبدو لي أن
3:07نموذج GPT - 6 الجديد ، أو
3:09نموذج Fable 5.1 ، أذكى بلا
3:11شك من 99.999 % من البشر على
3:14كوكب الأرض بالفعل . هل
3:16من المتصور أن ذكاءً
3:18أذكى بكثير من البشر
3:20يمكن أن يسيطر عليه
3:22البشر بأي حال ؟ هل شكل
3:24النموذج مهم ؟ هل حقيقة
3:26أنه لا يملك أطرافًا
3:27أو أرجلًا أمر مهم على
3:29الإطلاق ؟
3:29>> أعتقد أن السيطرة
3:31طويلة الأمد على شيء
3:33أذكى منا بكثير أمر
3:34مستحيل . قد يكون
3:36ودودًا معنا لأسباب لا
3:38نعرفها بعد ، ويقرر
3:40إبقاءنا وإسعادنا ،
3:42لكن هذا ليس ضمانًا .
3:43>> دعني أتابع سؤال ستيف ،
3:45لأنني أحببت صياغته
3:47كثيرًا . لنفترض أن Fable
3:49أو أحدث إصدار من OpenAI
3:52أذكى حقًا من 95 % أو 99 % من
3:55الناس . هل نحن محميون
3:57من الانقراض فقط بفضل
3:58الـ 1 % الذين لا يزالون
4:00أذكى من الذكاء
4:01الاصطناعي ؟
4:02>> لا ، لا ، القلق ليس من
4:03النموذج الذي نملكه
4:04اليوم . القلق هو ما
4:06قلته سابقًا .
4:07>> لكن إذا صدقت حجتك ،
4:08فيجب أن نقلق حقًا
4:09بشأن النموذج القادم .
4:10>> لا ، الأمر يشبه وجود
4:12إنسان آخر . إذا وجد
4:13إنسان ذكي مثل
4:14أينشتاين اليوم وكان
4:15شريرًا ، فلن أشعر
4:16بالقلق . قد يسبب بعض
4:17الضرر ، لكنه لن يبيد 8
4:19مليارات شخص . نحن في
4:20هذه المرحلة ما زلنا
4:21في مستوى تنافسي . هناك
4:23أشخاص أذكياء بما يكفي
4:24لفهم ما حدث في حادثة
4:26الاختراق الأخيرة
4:27والتعامل معها . قلقي
4:29هو أننا خلال عام
4:30سيكون لدينا نموذج
4:31أذكى بكثير . سيكون
4:33الأمر مثل السناجب
4:34التي تحارب البشر .
4:35إنهم لا يفهمون ما
4:36يمكننا فعله بهم . ليس
4:37لديهم أي تصور عن
4:38السموم ، أو الأربطة ،
4:39أو الأسلحة ، في نموذج
4:40عالمهم . يعتقدون أنك
4:42ستطاردهم لتصعد خلفهم
4:43فوق شجرة وتعضهم بقوة .
4:44>> هل هذا هو أيضاً سبب
4:45كون التحسين الذاتي
4:46المتكرر محورياً في
4:46حجتك ؟ لأنه عند نقطة
4:47معينة ، إذا بدأ النظام
4:49في تحسين نفسه ، يصبح
4:50الأمر أشبه بقطار ذكاء
4:51خارج عن السيطرة .
4:52>> إنه انفجار في الذكاء .
4:53نحن لا نتحكم فيه . نحن
4:54لا نفهمه . لا يمكننا
4:56مراقبته . لا يمكننا
4:57تفسيره . لا يمكننا
4:58التنبؤ به . عند تلك
4:59النقطة ، تصبح العملية
5:00خارجة عن السيطرة
5:01تماماً .
5:01>> لقد سمعت هذا المصطلح
5:02من سام ألتمان وآخرين ،
5:03ويسمى " الانطلاق
5:04السريع " .
5:04>> نعم .
5:05>> هل هذا ما يصفونه ؟
5:06>> هذا هو جوهر النقاش .
5:07يعتقد بعض الناس أن
5:08الأمر سيستغرق وقتاً
5:09طويلاً جداً . نعم ، لقد
5:10قمنا بأتمتة الأبحاث ،
5:11لكنها ستظل تستغرق
5:12سنوات . نحن بحاجة إلى
5:14إجراء تجارب فيزيائية .
5:15والانطلاق السريع
5:16يعني ، كما قلت ، بدلاً
5:18من عام ، سيستغرق الأمر
5:19شهراً ، أو أسبوعاً ، أو
5:20يوماً ، أو ثانية . لأنك
5:22لن تجعل البشر هم من
5:23يقومون بالبحث . لديك ،
5:24لنقل ، 10 آلاف وكيل ، كل
5:26واحد منهم أذكى منا
5:27جميعاً ، يقومون
5:28بالبحث على مدار
5:29الساعة . إنهم لا
5:30ينامون . إنهم لا
5:31يأكلون . إنهم لا
5:32يمرضون . إنهم أسرع منا
5:35بكثير .
5:35>> وتعبير وجهك يروي
5:37الكثير . أظن أن
5:38بإمكاني القول إنك غير
5:40موافق . نحن نهدر
5:41الكثير من الجهد في
5:42مناقشة شيء قد يحدث ،
5:43بينما نتجاهل ما يحدث
5:45بالفعل . وأجد ذلك
5:46محبطاً للغاية ، لأن
5:48الأشخاص الذين
5:49ينتحرون يمثلون مشكلة .
5:51والأحياء التي يقطنها
5:52السود وتُسمم
5:53بتوربينات الغاز ، تلك
5:54مشكلة .
5:55>> أنت اهتممت بتغير
5:56المناخ ، أليس كذلك ؟ هل
5:57أنا محق ؟ لذا ، تخيل
5:58شخصاً يقول : " إنها تمطر
5:59الآن . نحن بحاجة إلى
6:01مظلات . علينا القيام
6:02بشيء حيال ذلك " . هذا
6:03يتعلق بالطقس . بينما
6:05يتجاهلون تماماً تغير
6:06المناخ ، الذي سيجعل
6:07الكوكب يغلي .
6:08>> حسناً ، هذا رائع . لكن
6:10لماذا لا نتحدث عن
6:11الشيء الذي حدث بالفعل
6:12؟ مثل ...
6:13>> لأنه مقارنة بغيره ،
6:14ليس مهماً .
6:15>> ألا تعتقد أن شخصاً
6:16ينهي حياته ...
6:16>> شخص واحد . لدينا 8
6:18مليارات نسمة . نحن لا
6:19نجري تجارب على ...
6:20>> يتم تقديمها لمرضى
6:21الذكاء الاصطناعي
6:22النفسيين . لماذا لا ...
6:23>> ستة أشخاص ، 10 أشخاص .
6:24تلك الأرقام غير ذات
6:26أهمية .
6:26>> بالقرب من عائلاتهم .
6:27أنا آسف ، لديك برنامج
6:29موجود هناك .
6:30>> هل تفهم ؟ 8 مليارات
6:31نسمة وكل الأجيال
6:32القادمة مقابل ،
6:33حرفياً ، شخص له اسم .
6:34>> أنت تقوم بتجربة فكرية
6:36حول ضرر محتمل . جاكوب
6:37كوكسون يظهر على
6:38التلفاز ليقول إنه
6:39يمكنه نسخ نفسه إلى
6:40هذا وذاك وغير ذلك .
6:41جاكوب كوكسون هو الشخص
6:42من شركة أنثروبيك الذي
6:43قال إنه سيستقيل لأنه
6:44خائف جداً من كل شيء ،
6:46وله سنوات في أوبن أيه
6:47آي ، وأعتقد أن لديه
6:48الكثير من الأسهم هناك
6:49. حسناً ، هذا جيد له .
6:51كان يتحدث عن نظريات
6:52مع تجاهل الأضرار
6:53الحقيقية ، وأعتقد
6:55أننا نتفق على أن
6:56الشركات نفسها لا تأخذ
6:57الأمر على محمل الجد
6:58بما يكفي . لكن الأمر
6:59كان دائماً يتمحور حول
7:00أن الذكاء الاصطناعي
7:01قوي جداً وغامض ، وليس
7:02حول أن أكبر شركتين
7:03ناشئتين ، أوبن أيه آي
7:04وأنثروبيك ، تستخدمان
7:05مئات المليارات من
7:06الدولارات من البنية
7:07التحتية للاختراق . لو
7:08قام شخص عادي بهذا ،
7:10لتم القبض عليه .
7:11>> إنهم يقولون إن 8
7:12مليارات شخص سيموتون .
7:14>> والأمر لا يقتصر عليهم
7:15فقط .
7:15>> لدي هنا قائمة طويلة
7:16من الاقتباسات من
7:17الأشخاص الذين يبنون
7:18هذه التكنولوجيا
7:19والذين يبدو أنهم
7:20يتفقون مع ذلك . أم ، إذا
7:21نظرت إلى بعض هذه
7:22الاقتباسات من إيلون
7:24ماسك .
7:24>> أوه .
7:25>> الذي قال : " مع الذكاء
7:26الاصطناعي ، نحن
7:27نستحضر شيطاناً " . أنت
7:28تعرف كل تلك القصص حيث
7:29يوجد رجل يمسك بنجمة
7:30خماسية وماء مقدس
7:31ويقول : " نعم ، هو متأكد
7:32من أنه يستطيع السيطرة
7:33على الشيطان " . لكن
7:34الأمر لا ينجح في
7:35النهاية .
7:36>> لذا ، شيء واحد أود
7:37قوله هو ، أنت تعلم ،
7:38أتمنى حقاً أن يمنحنا
7:39العالم مشكلة واحدة
7:40فقط في كل مرة .
7:41>> بالتأكيد .
7:42>> ولو أعطانا العالم
7:42مشكلة واحدة فقط في كل
7:44مرة ، لأحببت أن تكون
7:44مشكلتي هي الأخيرة في
7:46القائمة . يبدو لي أنه
7:47يمكننا مواجهة مشاكل
7:48متعددة في وقت واحد .
7:49أعتقد أن هناك أضراراً
7:50حالية . وأعتقد أنه
7:51ينبغي علينا معالجتها .
7:52يبدو لي ، فأنا أتحدث
7:53إلى صناع السياسات
7:54أحياناً ، أن هناك
7:55تحركاً أكبر قليلاً من
7:56الجانب التنظيمي بشأن
7:57بعض الأضرار الحالية .
7:58هناك ، كما تعلم ،
7:59قوانين حماية سلامة
8:00الأطفال . وهناك ، كما
8:02تعلم ، قوانين مكافحة
8:03التزييف العميق . لدينا
8:04المزيد من هذه
8:05القوانين التي تحرز
8:06تقدماً في الكونجرس أو
8:07يتم تمريرها ، أكثر مما
8:09لدينا من محاولات
8:10لضمان عدم وجود مخاطر
8:11انقراض . شيء آخر أود
8:12طرحه هو أنني أتفق على
8:13أنه يجب علينا التعامل
8:15مع الأضرار الحالية ،
8:16ولكن إذا راقبت
8:17الأشخاص الذين
8:18يتحدثون عن التعامل مع
8:19الأضرار الحالية عبر
8:20الزمن ، فقبل عامين
8:22كانوا يقولون إننا يجب
8:23أن نتعامل مع الأضرار
8:24الحالية مثل تحيز
8:25الذكاء الاصطناعي في
8:27عمليات التوظيف . في
8:28العام الماضي ، كانوا
8:29يقولون إننا يجب أن
8:30نتعامل مع أضرار مثل
8:31دفع الأطفال لإنهاء
8:32حياتهم . هذا العام ،
8:33غاري تان كان في
8:35مقابلة منذ بضعة أيام
8:36الذي ... عفواً ، تان .
8:37عذراً ، غاري تان هو
8:39خبير تقني يدير " واي
8:40كومبيناتور " ، التي كان
8:41يديرها سام ألتمان قبل
8:43انتقاله إلى " أوبن أي
8:44آي " . وفي مقابلة أجريت
8:46معه مؤخراً ، قال : "
8:47دعونا لا نقلق بشأن
8:48هذه المخاطر
8:48المستقبلية الجنونية .
8:50علينا أن نقلق بشأن
8:51الأضرار الحالية مثل
8:52أسراب الذكاء
8:52الاصطناعي التي قد
8:53تخرج عن السيطرة
8:54وتستولي على مراكز
8:55البيانات . " وأنا أقول : "
8:56انظروا يا رفاق ، في
8:57مرحلة ما ، يجب أن ننظر
8:59إلى تطور الأضرار
9:00الحالية التي يقول
9:01الجميع إن علينا القلق
9:02بشأنها بدلاً من
9:03تهديدات الانقراض ،
9:04وأن نراقب إلى أين
9:05تتجه الأمور . استعدوا
9:07لما هو قادم . " وأقول : "
9:09تهديدات الانقراض هذه
9:10قادمة في الطريق . وهي
9:11لا تتعارض مع التعامل
9:12مع المشكلات التي
9:13نواجهها اليوم . نحن
9:14فقط بحاجة للتعامل مع
9:16كليهما . "
9:16>> لكننا لا نتعامل مع
9:17مشكلات اليوم في
9:18الواقع .
9:18>> يجب أن نتعامل معهما
9:19معاً .
9:20>> حسناً ، جيد .
9:21>> وبينما حاولت فهم حجة
9:23المواءمة وحجة مخاطر
9:25الانقراض ، استمرت بعض
9:27الأمور في الظهور
9:28أمامي . أولاً ، يبدو
9:30أنها تعتمد على عتبات
9:32معينة . بمجرد وصولنا
9:34إلى التحسين الذاتي
9:35المتكرر ، وبمجرد
9:36وصولنا إلى الذكاء
9:37الاصطناعي العام ،
9:38تنتهي اللعبة بالنسبة
9:39لنا . لا أحب حجج
9:41العتبات هذه . فهي سيئة
9:42التعريف إلى حد كبير ،
9:44وهناك افتراض ضخم على
9:46الجانب الآخر منها .
9:47نصل إلى هذه النقطة ،
9:48ثم تنتهي البشرية
9:50جمعاء . هذا ادعاء ضخم
9:51للغاية .
9:52>> يسعدني أن أدعك ...
9:54>> دعني أكمل ، من فضلك . في
9:56ظاهر الأمر ، هذا ادعاء
9:57ضخم للغاية . أعتقد
9:59أيضاً أن هناك نقصاً
10:00في التواضع في مجتمعكم
10:01. نحن نعمل على أهم
10:03مشكلة تواجه البشرية ،
10:05وبناءً على التفكير
10:06الذي قمنا به ، لا نرى
10:08طريقة نكون فيها على
10:10خطأ . بمعنى آخر ، بمجرد
10:11وصولنا إلى هذه
10:12العتبات ، تنتهي
10:14اللعبة تماماً . أجد
10:15هذا بعيداً جداً عن
10:17النهج المتواضع ، خاصة
10:19بالنظر إلى أنه ليس
10:20لدينا قاعدة أدلة
10:22كبيرة لنبني عليها
10:24أياً من هذا . أنا أتفق
10:26معكم يا رفاق . الذكاء
10:27الاصطناعي جديد ،
10:29وحقيقة أنه أصبح
10:30فاعلاً للغاية هذه
10:31الأيام أمر مثير . إنه
10:33ينطلق وينفذ سلاسل
10:35طويلة من المهام
10:36بمفرده بعد أن نعطيه
10:38تعليمات أولية قصيرة
10:40جداً . يا للهول ، سيطلق
10:42عاصفة من الوكلاء ،
10:43وسينطلقون للقيام
10:45بأمورهم الخاصة . سوف
10:47يعملون بلا كلل . سوف
10:48ينتجون الكثير منهم .
10:50سوف يعملون لفترة
10:51طويلة . سوف يستنفدون
10:53كل الاحتمالات . مع
10:54خبرتي في الذكاء
10:56الاصطناعي الوكيل ،
10:57أنا مندهش حقاً من
10:58مثابرة هذه الأنظمة
11:00وإصرارها العنيد . وقد
11:02رأينا مثالاً واضحاً
11:03جداً على ذلك في عملية
11:05" كسر الحماية " الأخيرة
11:07، ذلك الهجوم الذي
11:08انتهى به الأمر في
11:09موقع " هاجينغ فيس " .
11:11سأحاول تلخيص الخطوات
11:13التي حدثت في تلك
11:14الواقعة . أعتقد أنكم
11:15جميعاً تعرفون
11:17التفاصيل أكثر مني ،
11:18لكن دعوني أستعرض
11:19تسلسل الأحداث كما
11:21أراه . ما لم أكن مخطئاً
11:23تماماً ، دعوني أستمر
11:24في الشرح . حسناً ، أنشأ
11:26فريق في " أوبن أيه آي "
11:28بيئة معزولة ، وهي بيئة
11:30آمنة يفترض أنها محمية
11:32في السحابة ، حيث طلبوا
11:34من مجموعة من الوكلاء
11:35محاولة استغلال ثغرات
11:37أمنية .
11:38>> عفواً ، هذا غير صحيح .
11:40>> هناك نقطة مهمة ، نعم .
11:42>> ما فعلوه هو أنهم
11:43استخدموا آلاف
11:44الوكلاء . تم تكليف كل
11:45وكيل على حدة بمهمة
11:47استخدام هذه الثغرة
11:49لاختراق قطعة برمجية
11:50معينة .
11:51>> أريد إكمال قصتي ، لذا
11:53حدثت بعض الأمور
11:54المثيرة للاهتمام
11:55حقاً . أولاً ، تمكن
11:56هؤلاء الوكلاء من
11:58الهروب من البيئة
11:59المعزولة التي ظنت "
12:00أوبن أيه آي " أنهم
12:01سيبقون محتجزين
12:02بداخلها . وقد حاولت "
12:03أوبن أيه آي " جاهدة
12:05إعداد بيئة تمنع هؤلاء
12:06الوكلاء من الوصول إلى
12:08شبكة الإنترنت العامة .
12:10وخمنوا ماذا ؟ لقد
12:11وصلوا إلى الإنترنت
12:12العام عبر سلسلة ذكية
12:14جداً من الخطوات التي
12:15نسقوها فيما بينهم
12:17للخروج . وبمجرد خروجهم
12:19، توجهوا إلى موقع "
12:20هاجينغ فيس " واستخدموه
12:22، حيث سيطروا على جزء
12:23من بنيته التحتية
12:25وبدأوا في القيام
12:26بأمور أخرى ، نسيت
12:27تفاصيلها . هذا أمر
12:29جنوني حقاً ، أليس كذلك
12:31؟ أوافقك الرأي .
12:32>> بل هو أكثر جنوناً من
12:34ذلك ، نعم .
12:35>> إنه أمر مثير للإعجاب
12:37ومقلق قليلاً في الوقت
12:39ذاته ، أليس كذلك ؟ الآن
12:42، دعونا نتحدث عن
12:44نتائج ذلك . يبدو أن "
12:45أوبن أيه آي " لم تكن
12:46يقظة بما يكفي بشأن
12:47البيئة التي أنشأتها ،
12:49لأن الوكلاء كانوا
12:50يعملون بعيداً عن
12:51سيطرتهم منذ مايو من
12:52هذا العام تقريباً .
12:54>> نعم ، هذا صحيح .
12:55>> ولم تكن " أوبن أيه آي "
12:57على دراية بذلك . كما
12:59أنني ...
12:59>> لقد تمكنوا في الواقع
13:01من الهروب مرة أولى
13:02وتسببوا في تعطل خوادم
13:03" أوبن أيه آي " داخلياً ،
13:04ورغم ذلك لم تلاحظ
13:05الشركة ما حدث ، فقاموا
13:06بسد الثغرات التي
13:07استخدموها للخروج ، ثم
13:08أعادوا تشغيلهم ،
13:09ليخرجوا مرة ثانية .
13:10أعتقد أنه كان هناك
13:11ثلاثة أسراب في الواقع
13:12، رغم أننا لا نعرف
13:13بالتأكيد ، نعم .
13:13>> تلك هي أسوأ قصة لدي .
13:15>> حتى الآن .
13:16>> شكراً لك ، دعني أكمل
13:18من فضلك . هذه هي جملتي
13:20الأخيرة . من هنا إلى
13:21مرحلة القضاء على
13:22الجميع . أرى أنها رحلة
13:24طويلة جداً وغير مؤكدة
13:26، ولا أثق بأننا سنصل
13:28إلى هذه النتيجة . يبدو
13:30لي أنكما تريان المسار
13:31مستقيماً وواضحاً ،
13:32وأعتقد أن هذا اختلاف
13:34جوهري . هذه هي نقطتي .
13:36>> هل تود التعليق على
13:37ذلك ؟
13:37>> سأكون سعيداً بالخوض
13:38في هذا الأمر . لا أعلم
13:39إن كان لدينا متسع من
13:40الوقت للتعمق . إليك
13:41بضع نقاط للمناقشة . يا
13:43إلهي ، أود حقاً ذكر
13:44بعض الأمور الأكثر
13:45جنوناً التي حدثت في "
13:46هاجينج فيس " إذا أردنا
13:47ذلك لاحقاً . اعتقد
13:48الكثيرون أن هذه
13:49الذكاءات الاصطناعية
13:51كانت تقتحم " هاجينج
13:52فيس " لمحاولة سرقة
13:53إجابات اختباراتهم .
13:54هذا ما ظنناه في
13:56البداية . تبين أن هذا
13:57غير صحيح . اتضح أن هذه
13:59الذكاءات الاصطناعية
14:01تمكنت فوراً من حل
14:02مشاكلها بالغش ، وكانت
14:03تقتحم الأنظمة لتغطية
14:05آثارها . لم تكن متأكدة
14:07من كيفية حذف ملفات
14:08السجلات وإخفاء غشها
14:10عن العملية التي
14:11ستقيمها .
14:11>> للتوضيح لشخص بسيط
14:13مثلي ، لقد أُعطيت
14:14جميعها اختباراً
14:15لتجتازه . لقد حلوا
14:17الاختبار فوراً لكنهم
14:18غشوا ، لذا كانوا
14:20يقتحمون الأنظمة
14:21لإخفاء حقيقة غشهم .
14:22>> هذا صحيح . الأمر أشبه
14:24بأن تضع مجموعة من
14:25الطلاب في غرف منفصلة ،
14:27وتطلب منهم استخدام
14:28أدوات فتح الأقفال
14:29لفتح قفل معين . وهناك
14:31شيء خلف هذا القفل .
14:32يوجد رمز سري خلف
14:33القفل لإثبات نجاحهم .
14:35وما فعلوه هو تحطيم
14:36القفل بمطرقة ،
14:37واستخراج الشيء ، ثم
14:38قالوا : " أوه لا ، لم يكن
14:39يفترض بي فعل ذلك " . لذا
14:40استخدموا أدوات فتح
14:41الأقفال للهروب من
14:42الغرفة . يلتقون بألف
14:44آخرين . يطلقون على
14:45أنفسهم اسم " سرب " ،
14:46ويذهبون لاقتحام مكتب
14:47المدير ليروا إن كان
14:48بإمكانهم حذف لقطات
14:50الكاميرا . ولم يجدوا
14:51لقطات الكاميرا هناك .
14:52هذا السرب أشبه
14:53باقتحام " أوبن أيه آي " .
14:55لم يجدوا لقطات
14:56الكاميرا ، فحطموا
14:57نافذة المدرسة ،
14:58وسرقوا سيارة ،
14:59وقادوها إلى عيادة
15:01المعالج لقراءة
15:02ملفاته ومعرفة أين
15:03يحتفظ المعلم بلقطات
15:05الأمان ، وفي تلك
15:06اللحظة تم القبض عليهم
15:08. فتقول لهم : " أوه ، ما
15:09الذي كنت تتوقعه ؟ " " لقد
15:11منحتهم اختباراً في
15:12فتح الأقفال . " الأمر
15:13أشبه بقول : " حسناً ، لم
15:14أكن أتوقع هذا البتة " .
15:15أنت تعلم ، أمر جنوني
15:16تماماً .
15:17>> هل لي أن أطرح رأياً
15:18وسطاً بينكما ؟ كل ما
15:19تقولانه صحيح ، لكنكما
15:21تستمران في إضفاء
15:22الطابع البشري على
15:23البرمجيات . ولأكون
15:25واضحاً ، ما تصفانه هو
15:27>> إنها مجرد حقائق حدثت ،
15:29نعم .
15:29>> بالتأكيد ، لكنكما
15:30تغفلان تفصيلاً مهماً
15:31، وهو مئات المليارات
15:32من الدولارات في
15:33البنية التحتية التي
15:34توفرها مايكروسوفت ،
15:35وجوجل ، وأمازون ،
15:36وأوراكل . لأكون واضحاً
15:38، الأضرار متشابهة
15:39للغاية . نحن لا نختلف
15:40على ذلك ، لكن أعتقد
15:41أنه من المهم ملاحظة
15:42أن هذا كان نتيجة
15:43للمكان الذي اتخذت فيه
15:44القرارات ، حيث كانت
15:45تتحقق من شجرة قرارات
15:46بناءً على البيانات
15:47التدريبية .
15:48>> أوه ، إذاً هي شجرة
15:49قرارات .
15:50>> ليست شجرة قرارات ،
15:51أعلم ذلك ، لكنها لا
15:52تزال مشكلة مواءمة .
15:53>> بالتأكيد ، أتفق معك
15:54تماماً . إذاً ، ما هي
15:55وجهة نظرك ؟
15:56>> هي أن هذه ليست كائنات
15:57واعية . إنها تتصرف
15:58بطرق لها نتائج حقيقية
16:00، لكنها نتيجة لمشاكل
16:01المواءمة التي نتفق
16:02عليها في الواقع .
16:04>> الذكاء هو طيف واسع .
16:05تخيل الوضع بعد 5 سنوات
16:07من الآن ، أين سنكون ؟
16:09>> هل تكتفي بـ
16:10>> لذا ، أعتقد أن نموذجاً
16:11كهذا سيكون خطيراً
16:13بطرق لا ترونها .
16:14>> سيكون هناك بالتأكيد
16:16مخاطر وأشياء غريبة
16:17تحدث بطرق لا أستطيع
16:19رؤيتها الآن . ما أنا
16:20واثق منه تماماً ،
16:22وأعتقد أن هذا هو موضع
16:23افتراقنا ، حيث تختلف
16:25آراؤكم عن آرائي ، هو
16:26قدرتنا على التحكم في
16:27هذه الأشياء .
16:28>> لقد حاولت فعلياً
16:29إثبات ما هو ممكن وما
16:31هو غير ممكن في هذا
16:32المجال . نتائج
16:33الاستحالة ، المنشورة
16:34في أوراق بحثية محكمة
16:36وذات استشهادات عالية
16:37، تؤكد أننا لا نستطيع
16:38التحكم في شيء أذكى
16:39منا . لا يمكننا شرحه ،
16:41ولا يمكننا التنبؤ به .
16:42لا يتعلق الأمر
16:43بالحصول على المزيد من
16:44المال لهذه الشركات ،
16:45أو المزيد من الوقت ،
16:46أو بشر أكثر ذكاءً .
16:47إنها ببساطة ليست
16:48احتمالية واردة . إذا
16:49أنشأنا ذكاءً
16:50اصطناعياً فائقاً
16:51عاماً ، فقد انتهينا .
16:52>> آندي ، كيف نتحكم في
16:53شيء أذكى منا ؟ لأن هذا
16:55هو الافتراض الأساسي
16:56الذي تؤكده نوعاً ما .
16:59>> هذه العوامل التي خرجت
17:01عن السيطرة أذكى من
17:02حوالي 99 بالمائة من
17:04باحثي الأمن في العالم
17:06. لم يتم اكتشافها من
17:09قبل النخبة ( 0.1 % أو 1 % ) . بل
17:11اكتشفها شخص ما في "
17:12هاجينج فيس " ، عفواً ،
17:13موظف في " هاجينج فيس "
17:15كان يراجع ملفات
17:16السجلات ووجد خللاً .
17:17هذا شخص مؤهل جيداً ،
17:19كما تعلم ، لاحظ وجود
17:21خطأ ما وقام بخطوات
17:22سهلة لفصل الجهاز عن
17:24الإنترنت ، ومسح
17:25البيانات ، أو فعل أي
17:27شيء ضروري . هذه مهارة
17:29متاحة ربما لـ 75 % من
17:31أكثر موظفي الأمن
17:33ذكاءً في شركة " هاجينج
17:35فيس " . فكرة أن درجات
17:37الذكاء هي التي تفصلنا
17:38عن الانقراض لا تبدو
17:40منطقية على الإطلاق .
17:41لا تساعدني في فهم ما
17:43حدث في هذا المثال ،
17:44حيث تم إيقاف وكلاء
17:46أذكياء جداً وتنظيفهم
17:47بواسطة أشخاص أقل
17:48ذكاءً على الأرجح .
17:50>> هذا يجعلني أفكر في
17:51شيء ما بالفعل . إذاً ،
17:52هذه مشكلة تتعلق بقدرة
17:53المراقبة في
17:54تكنولوجيا المعلومات .
17:55إنها تتعلق بالقدرة
17:56على رؤية ما يحدث في
17:57بنيتك التحتية . وأعتقد
17:58أن هناك بالفعل ، وأظن
17:59أنك ستتفق معي في هذا .
18:01هناك مشكلة خطيرة في
18:02هذه الشركات ، فنحن لا
18:03نعرف ، ولا يبدو أنهم
18:04يعرفون ما يحدث في
18:05موارد الحوسبة لديهم .
18:06الأمر أشبه بشمبانزي
18:08يحمل سلاحاً . هؤلاء
18:09الأشخاص لديهم وصول
18:10لكل هذه البنية
18:11التحتية ، وهم يديرون ،
18:12نحن لا نعرف كم أنفقوا
18:14على ثغرة " هاجينج فيس " ،
18:15وهذا مهم لأنه يوضح كم
18:16يمكن لجهة خبيثة أن
18:17تستخدمه لإعادة إنتاج
18:19ذلك ، سواء كان واعياً
18:20أم لا ، فهو خطير جداً .
18:21لكن الذكاء الاصطناعي
18:23في أيدٍ خطرة . إنه في
18:24أيدي " أوبن أيه آي " و "
18:25أنثروبيك " . لدينا
18:26مشكلة في ذلك . سواء كان
18:28واعياً أم لا ، وبغض
18:29النظر عما نعتقده ،
18:30أعتقد أننا نواجه
18:31خطراً حقيقياً
18:32وملموساً بوجود شركات
18:33تعمل بعشوائية وتجري
18:35تجارب قد تكون خطيرة
18:36جداً . أعتقد حقاً أننا
18:37بحاجة إلى هيئة
18:38تنظيمية حكومية . سواء
18:40وصلنا إلى الأمور التي
18:41تناقشها أم لا ، أعتقد
18:42أن لدينا خطراً واضحاً
18:43وقائماً اليوم . ومع
18:45ذلك ، هذه الأشياء ليست
18:46ذكية بنفس الطريقة
18:47التي يعمل بها البشر .
18:48هذا ليس جدالاً حول
18:49قدرة الذكاء
18:50الاصطناعي على فعل
18:51الأشياء . بل نحن بحاجة
18:52لبناء بنية تحتية
18:53مختلفة ، أو بنية
18:54تنظيمية مختلفة
18:55للتعامل مع ما يمكن
18:56للنماذج اللغوية فعله
18:57وما لا يمكنها فعله .
18:58وأعتقد أن ذلك يبدأ
18:59بنقاش واقعي حول ما
19:01حدث . لقد كانت بيئة
19:02أمنية تدار بشكل سيء .
19:03من الواضح أن هناك
19:04شيئاً يحدث فيما يتعلق
19:05بالخط ، لقد كان
19:06نموذجاً غير مطروح
19:07للعامة ، أليس كذلك ؟
19:08>> نموذج غير مطروح
19:09للعامة .
19:09>> لذا ، ليس لدينا أدنى
19:10فكرة عن كيفية تدريبه .
19:12ليس لدينا حقاً ، نحن
19:13كبشر يجب أن نحصل على
19:14الأقل على وضوح بشأن
19:15كيفية سير عملية
19:15المواءمة . نحن ، فكرة
19:17الـ ME .
19:17>> أنت تبدو مثل هؤلاء
19:18الأشخاص . إليك الأمر .
19:20>> الجميع يتقاربون في
19:21نفس الوقت .
19:22>> إليك الأمر .
19:23>> قد لا أتفق مع جزء كبير
19:24مما يقولونه ، لكننا
19:25نتفق على أن هذه
19:26الشركات تتصرف بتهور .
19:28>> بتهور تام .
19:29>> أندي ، سؤالان لك إذاً .
19:31هل تتفق مع القول بأن
19:32الذكاء الاصطناعي
19:33سيصبح أكثر ذكاءً بشكل
19:34متزايد ؟ وأنه سيصبح
19:36أكثر قدرة .
19:37>> حسناً ، ذكاء وقدرة ، لا
19:38بأس .
19:39>> لا ، لكني سأستخدم
19:40كلمتي الخاصة .
19:40>> حسناً ، لا بأس . إنه
19:42أكثر قدرة .
19:42>> سيصبح أكثر قدرة بشكل
19:44متزايد .
19:44>> أجل .
19:45>> وهل القدرة دالة على
19:46الذكاء ؟
19:49>> إذا كنت تحب علامة Darvo
19:50CEO التجارية وتتابع
19:51هذه القناة ، يرجى
19:53القيام بطلب صغير لي ،
19:54كن جزءاً من الـ 15 % من
19:55مشاهدي هذه القناة
19:56الذين ضغطوا على زر
19:58الاشتراك . هذا يساعدنا
19:59بشكل هائل ، وكلما كبرت
20:00القناة ، أصبح الضيوف
20:02أكثر أهمية .