Please reload

التدوينات الحديثة

لا داعي للخوف من الصندوق الأسود للذكاء الاصطناعي

 

 

مصدر الصورة: unsplash.com

 

 

هناك مخاوف من الطريقة التي تعمل بها التقنية إثر الضجة والحماس على اعتمادنا المتزايد بالذكاء الاصطناعي. صدرت مقالة حديثة من مجلة إم آي تي التقنية (MIT Techonlogy Review الصادرة من معهد ماساتشوستس للتقنية) عنوانها " السر الغامض في قلب الذكاء الاصطناعي: " لا يعلم أي شخص حقاً طريقة عمل اغلب الخوارزميات المتقدمة، وقد يعد هذا مشكلة". وبفضل هذا الغموض وغياب المسؤولية أوصى تقرير من معهد الذكاء الاصطناعي الحالي بأنه ينبغي للهيئات الحكومية المسؤولة عن العدالة الجنائية والرعاية الصحية والاجتماعية والتعليم ألا تستخدم هذه التقنيات.

 

ونظراً لوجود هذه المخاوف، تسمى المساحة المخفية بين مكان دخول البيانات وخروج الاستجابات باسم "الصندوق الأسود"، الذي يبدو كإشارة لمسجلات بيانات هاردي (في الواقع لونه برتقالياً وليس أسوداً) التي تكلف بها الطائرات ويتم فحصها غالباً بعد الحوادث. وفيما يتعلق بالذكاء الاصطناعي، يشير المصطلح بشكل أوسع إلى صورة لما يحدث في الظلام وكيفية عمل التقنية: فنحن من يدخل ويقدم البيانات والنماذج والتصاميم ومن ثم تزودنا أجهزة الكمبيوتر بالاستجابات مع الاستمرار بالتعلم من تلقاء نفسها بطريقة تبدو من المستحيل فهمنا لها وايضاً معقدة جداً.

 

يوجد قلق معين يتعلق بالرعاية الصحية، حيث أن الذكاء الاصطناعي يُستخدم لتصنيف أي من الأمراض الجلدية تكون سرطانية، وللتعرف على السرطان من الدم في مرحلة مبكره جداً، وللتنبؤ بأمراض القلب، ولمعرفة ماهي المركبات البشرية والحيوانية التي قد تطيل من عمر الحياة الصحية، وأكثر من ذلك. لكن هذه المخاوف بشأن آثار الصندوق الأسود ليست في محلها. فالذكاء الاصطناعي لا يقل شفافية عن طريقة عمل الأطباء، والذي يقدم تحسناً في حالاتٍ كثيرة، إضافة إلى ما يمكن للمستشفيات فعله للمرضى ونظام الرعاية الصحية ككل. اخيراً لا يعد الصندوق الأسود مشكلة جديدة بسبب التقنية الجديدة. فالذكاء البشري نفسه هو دائماً صندوقاَ أسوداً.

 

على سبيل المثال طبيبة بشرية تجري تشخيصاً، وبعد ذلك قد يطلب منها مريضاً عرض طريقة تشخيصيها لهذه الحالة، قد تشاركه ربما ببعض البيانات التي وظفتها للتوصل إلى هذا الاستنتاج.  وقد تشرح بالفعل طريقة وسبب اتخاذها هذا القرار، وماهي البيانات المعينة من أي الدراسات التي بنت عليها، وماهي الملاحظات التي تلقتها في تدريبها أو المعلمين الذين تأثرت بهم، وماهي المعرفة الضمنية المستمدة من خبراتها وخبرات زملائها، وكيف أن كل هذا يتجمع في رؤية دقيقة. هي بالتأكيد تعطي بعض المؤشرات التي قادتها إلى هذا الاتجاه، ولكن قد يوجد أيضاً عنصر التخمين واتباع الحدس. حتى إذا لم يكن كذلك، لا زلنا لا نعلم أنه لا يوجد عوامل اخرى تتعلق بعدم إدراكها.

 

وإذا أجري نفس هذا التشخيص باستخدام الذكاء الاصطناعي، فيمكننا أن نستخلص من جميع البيانات المتوفرة عن هذا المريض بالتحديد، بالإضافة إلى البيانات المجهولة المصدر مع مرور الوقت من عدد لا يحصى من المرضى الآخرين بحالات مشابهه في كل مكان، لاتخاذ اقوى قرار ممكن استناداً على الأدلة. قد يكون التشخيص على اتصال مباشر مع البيانات، بدلاً من الحدس البشري المستند على البيانات المحدودة، والمذكرات المشتقة من الخبرات المتواترة مع عدد قليل نسبياً من المرضى المحليين.

لكننا يوميا نتخذ قرارات في مجالات لا نفهمها تماماً، والتي غالباً تنجح بشكل كبير، من الآثار الاقتصادية المتوقعة للسياسات، إلى توقعات حالة الطقس، إلى الطرق التي ننتهجها في الكثير من العلوم في المقام الأول. نحن نقوم بإما تبسيط الأمور أو نتقبل أنها معقدة جداً بالنسبة لنا، ناهيك عن شرحها بالكامل. فهي تماماً كالصندوق الأسود للذكاء الاصطناعي: يمكن للذكاء البشري التحليل والتناقش حول استنتاج معين، لكنه لا يمكن أن يشرح الاساس المعقد والذي استند عليه للوصول لهذا الاستنتاج. فكر بما يحدث عندما ينفصل زوجان بسبب أحد الأسباب المعلنة، مثلاً بسبب الخيانة الزوجية، لا يوجد في الواقع عالم مخفي كامل للأسباب، والقوى، والأحداث المتشابكة التي ساهمت في التوصل لهذه النتيجة. لماذا اختاروا الانفصال بينما زوجان آخران لا ينفصلا في وضع مماثل؟ حتى هم لا يستطيعون شرح ذلك تماماً. انه الصندوق الأسود.

 

الذكاء الاصطناعي أكثر شفافية مقارنةً بالذكاء البشري. وعلى عكس العقل البشري، يمكن بل و ينبغي استجواب وتفسير الذكاء الاصطناعي ، مثل القدرة على تدقيق وتحسين النماذج وكشف الفجوات المعرفية في الشبكات العصبية العميقة وأدوات التصحيح التي سيتم بناءها حتماً، والقدرة المحتملة على تعزيز الذكاء البشري عن طريق واجهات الدماغ الحاسوبية، فهناك العديد من التقنيات التي قد تساعد في تفسير الذكاء الاصطناعي بطريقة لا نستطيع تفسيرها بالعقل البشري. قد نتعلم أكثر من خلال هذه العملية عن كيفية عمل الذكاء البشري نفسه.

 

   لعل المصدر الحقيقي لمخاوف النقاد هو ليس أننا لا نستطيع رؤية تفكير الذكاء الاصطناعي، لكن بما أن الذكاء الاصطناعي يحصل على قوة أكثر، يصبح العقل البشري محدوداً. وسنحتاج في المستقبل إلى الذكاء الاصطناعي لفهم الذكاء الاصطناعي. ففي الرعاية الصحية وكذلك المجالات الأخرى، هذا يعني أننا سنرى قريباً انشاء فئة من المهنيين البشريين الذين ليس عليهم اتخاذ القرارات فورية بأنفسهم، بل يديرون فريقاً من موظفي الذكاء الاصطناعي، تماماً مثل طياري الطائرات التجارية الذين يشاركون الطيار الآلي في الهبوط عند ظروف الطقس السيئة. ولن يقدم الأطباء تشخيصاً مبدئياً، بل سوف يتأكدون من أن هذا التشخيص مناسباً ومجدياً للمريض وسيشرفون على وقت وطريقة تقديم التوضيح  والسرد بشكل أكبر، فسيحتوي مكتب الطبيب في المستقبل من المحتمل جداً على مساعدي الكمبيوتر، سواءً من جانب الطبيب أو من جانب المريض، وكذلك مدخلات بيانات التي تتخطى بكثير حدود المكتب.

 

عندما يحدث ذلك، سيصبح من الواضح تسمية الصندوق الأسود للذكاء الاصطناعي بهذا الاسم ميزةً، وليس خللاً، لأنه من الممكن التقاط وشرح ماذا يجري على عكس ما هو عليه في العقل البشري. ولا يوجد شيئاَ يعزل أو يتجاهل الحاجة إلى مراقبة الذكاء الاصطناعي. وبدلاً من القلق بشأن الصندوق الأسود، علينا التركيز على هذه الفرصة ومن ثم تطوير المستقبل، إذ أن الذكاء الاصطناعي لا يعزز الذكاء والحدس البشري بحسب، بل ربما يلقي الضوء أيضاً على ما يعنيه أن يكون انساناً في المقام الأول ويعيد تعريفه.

                                              

 

فيجاي باند هو شريك عام في شركة أندريس هوريز، وهي شركة رأس المال المغامر التي تستثمر في الشركات التي تدمج علم الأحياء والحاسب، بما في ذلك شركات الذكاء الاصطناعي. وهو المدير السابق لبرنامج الفيزياء الحيوية في جامعة ستانفورد.

 

 

المصدر 

Share on Facebook
Share on Twitter
Please reload

تابعنا
ابحث بالتاق
Please reload

الارشيف
  • Black Instagram Icon
  • Black Twitter Icon

Riyadh, Saudi Arabia

  • Black Instagram Icon
  • Black Twitter Icon

الرياض، المملكة العربية السعودية